Senkung der Hemmschwelle durch den Einsatz von Künstlicher Intelligenz – Lavender und Co. sind als Kriegsverbrechen einzustufen
Positionspapier vorgestellt für die Aufklärung der Öffentlichkeit und als Grundlage für weitere Diskussionen und politische Forderungen.
29.4.2024 – Expert:innen im Bereich unbemenschter Systeme fordern, die Praxis des „Targeted Killing“ mit unterstützenden KI-Systemen als Kriegsverbrechen einzustufen. Die derzeitige Nutzung von intelligenten Systemen und Mensch-Maschine-Schnittstellen in geheimdienstlichen und militärischen Sicherheitsapparaten muss gestoppt werden.
Aktuelle Berichte über den Einsatz von KI und intelligenten Waffensystemen in der derzeitigen militärischen Eskalation in Nahost haben verschiedene Expert:innen im Bereich von Informatik und unbemenschten Waffensystemen herausgefordert, sich mit dem aktuellen Missbrauch komplexer informationsverarbeitender Systeme (KI) bei militärischer Gewaltanwendung auseinanderzusetzen.
Sie stellen nun ein Positionspapier vor, das der Aufklärung der Öffentlichkeit und als Grundlage für weitere Diskussionen und politische Forderungen dienen soll.
„Die technisch erzeugte Dehumanisierung in derzeit geführten Kriegen und Konflikten weltweit muss gestoppt werden. Ein Schutz der Zivilbevölkerung kann durch die sinkende Hemmschwelle beim Einsatz komplexer informationsverarbeitender Systeme immer weniger gewährleistet werden“, sagt Christian Heck vom Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) e. V.
Aus ihren Recherchen schließen die Expert:innen, dass eine klare Trennung von menschlicher und maschineller Handlungs- und Entscheidungsmacht schon heute in den häufigsten Fällen nicht mehr zu setzen sei. Sie beobachten, dass Kontrollmechanismen für informationstechnische Dual Use Güter und für halbautonome und autonome Waffensysteme immer schwieriger umzusetzen sind.
Kritik üben sie auch an den derzeitigen Regulierungsbestrebungen. „Wir sehen in den derzeitigen europäischen Regulierungsversuchen bei Forschung, Design und Gebrauch von KI-Technologien eine Leerstelle im militärischen und sicherheitsbehördlichen Gebrauch. Weder der AI-Act noch der aktuelle Entwurf für die KI-Konvention bieten hierfür Schutz- und Rechtsrahmen. Im Gegenteil: Sie sehen mehrere Klauseln für breite Ausnahmen bei der Entwicklung und Anwendung im Bereich der 'nationalen Sicherheit' vor“, so Rainer Rehak, Ko-Vorsitz des FIfF.
Pressekontakt
Für den AK gegen bewaffnete Drohnen:
- Susanne Grabenhorst <s (dot) grabenhorst (ät) jpberlin (dot) de>
Für das FIfF:
- Rainer Rehak <rainer (dot) rehak (ät) fiff (dot) de>
Für die IMI:
- Christoph Marischka <imi (ät) imi-online (dot) de>
Hier die Stellungnahme im Volltext als PDF:
Weitere Informationen und Materialien
Interviews
- mit Rainer Rehak: „Die Nutzung solcher KI-Systeme muss als Kriegsverbrechen eingestuft werden“, netzpolitik.org, 13.5.2024
- mit Rainer Rehak: „KI und Waffensysteme: Einstufung als Kriegsverbrechen gefordert“, Radio CORAX, 15.7.2024
- mit Christoph Marischka: „Künstliche Intelligenz beim Militär“, Radio Lora, 6.9.24
Texte
- Susanne Grabenhorst, Christian Heck, Christoph Marischka, Rainer Rehak, in: BG · berlinergazette.de, 09. Mai 2024
- Susanne Grabenhorst und Christian Heck: „Mythos ‚Targeted Killing’“, IPPNW-Forum 178/2024, Hrsg. IPPNW – internationale ärztinnen für die verhütung des atomkrieges – ärztinnen in sozialer verantwortung, Berlin: 2024
- Susanne Grabenhorst und Christian Heck: „Mythos ‚Targeted Killing’“ FriedensForum FF 5 / 2024, “Konflikte und strukturelle Gewalt im Inneren”, Hrsg. Netzwerk Friedenskooperative, Bonn: 2024
Vorträge, Workshops, Hearings und weitere Diskussionsveranstaltungen
- Vortrag im Duisburger Institut für Sprach- und Sozialforschung (DISS), Christian Heck, Duisburg, 14.5.2024
- Workshop auf der MeHuCo-Konferenz „Imaginations of Autonomy: On Humans, AI-Based Weapon Systems and Responsibility at Machine Speed“, Christoph Marischka, Paderborn,22.5.2024
- Vortrag im KI-Lab der Hochschule für Gestaltung Offenbach, Christian Heck, Offenbach, 20.6.2024
Vortrag im jfc Medienzentrum, Christian Heck, Köln, 17.7.2024 - Vortrag im Museum Dortmunder U, Christian Heck, Dortmund, 11.10.2024
- Vortrag auf der AI&Warfare-Konferenz im Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG), Christian Heck und Rainer Rehak, Berlin, 18.10.2024
- Panel-Diskussion im Rahmen des interdisziplinären Symposiums contestations.ai, Christian Heck und Rainer Rehak, Helsinki (FI), 23.10.2024
- Online Hearing mit Jürgen Altmann, Tatiana Bazzichelli, Jobst Paul, Rainer Rehak, Elke Schwarz, Jutta Weber, 22.11.2024
Über das FIfF
Das Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) e. V. ist ein deutschlandweiter Zusammenschluss von Menschen, die sich kritisch mit Auswirkungen des Einsatzes der Informatik und Informationstechnik auf die Gesellschaft auseinandersetzen. Unsere Mitglieder arbeiten überwiegend in informatiknahen Berufen, vom IT-Systemelektroniker bis hin zur Professorin für Theoretische Informatik. Das FIfF wirkt in vielen technischen und nicht technischen Bereichen der Gesellschaft auf einen gesellschaftlich reflektierten Einsatz von informationstechnischen Systemen zum Wohle der Gesellschaft hin. Zu unseren Aufgaben zählen wir Öffentlichkeitsarbeit sowie Beratung und das Erarbeiten fachlicher Studien. Zudem gibt das FIfF vierteljährlich die „FIfF-Kommunikation – Zeitschrift für Informatik und Gesellschaft“ heraus und arbeitet mit anderen Friedens- sowie Bürgerrechtsorganisationen zusammen. Hier finden sich unsere 10 Werte.
