Komplexität informationstechnischer Systeme

Umfangreiche und komplexe informationstechnische Systeme, die über lange Zeit hinweg und mit vielen Beteiligten entwickelt werden, sind fehleranfällig, oft undurchschaubar und teils nicht mehr zu beherrschen. Diese Problematik der Softwaretechnik ist seit seiner Gründung auch für das FIfF ein Grund zu Sorge und Kritik. So zeichnete das FIfF 2001 David L. Parnas mit dem unregelmäßig vergebenen Preis des FIfF – der heutigen Weizenbaum-Medaille – aus, nachdem er seine Mitarbeit am Strategic-Defense-Initiative-Programm der US-amerikanischen Regierung eingestellt hatte. Er argumentierte, dass ein System der umfassenden Militarisierung des Weltraums von seiner Komplexität her nicht testbar, nicht beherrschbar und damit nicht verantwortbar sei.

Trotz deutlich verbesserter Entwicklungsmethodik hat das Problem der mangelnden Beherrschbarkeit heute eher noch zugenommen. Viele informationstechnische Systeme sind extrem ambitioniert, ihre Vernetzung potenziert die Problematik, wobei die Vielzahl der Schnittstellen die Systeme von außen angreifbar macht. Eine neue Stufe wird bei der Anwendung Künstlicher Intelligenz und insbesondere sogenannter lernender
Systeme erreicht. Sie basieren auf Algorithmen, die mit Unmengen vorhandener Daten „trainiert“ werden und durch Anpassen von Parametern und Schwellwerten mit Hilfe von Wahrscheinlichkeiten vorgegebene Probleme zu lösen versuchen. Schlecht ausgewählte Trainingsdaten können dabei zu unerwünschten und unvorhersehbaren Effekten wie „programmiertem Rassismus“ führen – Vorurteile, die in die Trainingsdaten eingeschrieben sind, wirken sich auf die Ergebnisse aus.

„Wo sind die Grenzen des verantwortbaren Computereinsatzes?“, fragte die
FIfF-Gründungsvorsitzende Christiane Floyd 1984 in einem programmatischen Artikel. Ziel des FIfF ist bis heute, dass diese Grenzen immer wieder überprüft und niemals überschritten werden.