Bild des Monats: Träumerische Irrbilder künstlicher Intelligenz Eingereicht vom Institut für Systemsicherheit

Klimt, Hundertwasser oder wer hat dieses psychedelisch anmutende Bild erstellt? Tatsächlich stammt das Foto, auf dem im Hintergrund das BRICS-Gebäude zu erkennen ist, aus dem Institut für Systemsicherheit der TU Braunschweig. Es gibt einen spannenden Einblick in die Welt der künstlichen Intelligenz.

Was sieht eine KI in einem Foto des BRICS-Gebäudes? Bildnachweis: Erwin Quiring und Prof. Konrad Rieck/TU Braunschweig

Die Wissenschaftlerinnen und Wissenschaftler haben auf dem Foto des BRICS die Muster verstärkt, die ein künstliches neuronales Netz intern darauf „sieht“. Um das Bild beispielsweise als Gebäude, Hund oder Straßenschild zu klassifizieren, extrahiert das Netz zunächst feine Blockstrukturen, die über das gesamte Foto verstärkt wurden. Später werden diese intern zu komplexeren Mustern verarbeitet, gut erkennbar anhand der Hundeschnauzen. Dieses Beispiel zeigt visuell, wie wir künstliche neuronale Netze besser verstehen können, bevor diese beispielsweise in autonomen fahrenden Fahrzeugen eingesetzt werden.

Wie passt sich KI neuen Gefahren an?

Im Rahmen ihrer Forschung am Institut für Systemsicherheit beschäftigen sich die Wissenschaftlerinnen und Wissenschaftler mit dem Einsatz künstlicher Intelligenz in sicherheitskritischen Anwendungen. Sie untersuchen, wie intelligente Systeme anhand von Daten trainiert werden können und sich so selbst neuen Gefahren anpassen können. Auf diese Weise können die Forschenden beispielsweise neue Verfahren zur Erkennung von Computer-Schadsoftware entwickeln.

Heutige Verfahren der künstlichen Intelligenz sind jedoch selbst angreifbar. So können Angreiferinnen und Angreifer entweder den Lernprozess selbst manipulieren oder durch gezielte Manipulationen eine gewünschte Ausgabe hervorrufen. Beispielweise konnte gezeigt werden, dass durch Anbringen von Aufklebern auf Straßenschildern die Erkennung autonom fahrender Fahrzeuge gezielt manipuliert werden kann. Am Institut erforschen die Wissenschaftlerinnen und Wissenschaftler daher auch die Angriffsfläche beim Einsatz künstlicher Intelligenz.

Ein besseres Verständnis der erlernten Zusammenhänge selbst stellt hierbei ein Kernpunkt dar – ähnlich wie in einer Prüfung, in der ebenfalls herausgefunden werden soll, was die Studierenden in einer Vorlesung gelernt haben.