Studierende überlisten Künstliche Intelligenz Braunschweiger Informatikteam siegt beim InformatiCup 2019

Wie man künstliche Intelligenz überlisten kann, zeigten die beiden Informatikstudenten Lukas Pirch und Jonas Möller von der TU Braunschweig. Ihre Lösung mit in Irrbildern versteckten Verkehrszeichen autonom fahrende Fahrzeuge zu überlisten, überzeugte. Sie gewannen den diesjährigen InformatiCup der Gesellschaft für Informatik.

Das Erkennen von Verkehrszeichen ist eine der Kernaufgaben des autonomen Fahrens. Forschungsergebnisse zeigen, dass hier aber auch ein Grundproblem des autonomen Fahrens liegt: Im Gegensatz zu menschlichen Betrachtern, lassen sich künstliche neuronale Netze überlisten und erkennen in speziell konstruierten Irrbildern zum Beispiel Verkehrsschilder. Wenn ein Irrbild zum Beispiel als Aufkleber auf der Rückseite eines LKWs angebracht wird, kann dieses Bild, ohne von einem Menschen als Gefahr erkannt zu werden, zu Fehlverhalten von autonom fahrenden Fahrzeugen führen. Genau hier setzte die Aufgabe des diesjährigen InformatiCups an: Die Studierenden sollten eine Software entwickeln, die Bilder mit Verkehrszeichen generiert, um die neuronalen Netze zu überlisten. Den Informatikstudierenden Lukas Pirch und Jonas Möller gelang es am besten, den Erkennungsmechanismus von künstlicher Intelligenz auszutricksen, sie überzeugten aber auch mit ihrem ganzheitlichen Ansatz, wie ihre grafischen Oberfläche und ihre Präsentation.

v. l. Die Gewinner des ersten Preises beim InformatiCup 2019 Jonas Möller und Lukas Pirch von der TU Braunschweig. Bildnachweis: TU Braunschweig

Lehre legte Grundstein für Sieg

„Wir hatten bereits umfangreiche Vorkenntnisse im Bereich Intelligente Systemsicherheit durch die Lehrveranstaltungen von Professor Konrad Rieck vom Institut für Systemsicherheit“, berichtet Lukas Pirch. Eine methodische Herangehensweise, umfangreiche Literaturrecherchen, Umsetzung zum Stand der Technik gepaart mit eigenen Ideen, wie zum Beispiel die Irrbilder aus verschiedenen Winkeln zu berücksichtigen, brachte ihnen 4.000 Euro Preisgeld ein. Der Sieg spornt die beiden Master-Studierenden der Informatik an: „Die Richtung IT-Sicherheit gefällt uns, wir wollen weiter machen und unsere Masterarbeiten in diesem Bereich anfertigen“, verrät Jonas Möller.

Die beiden Braunschweiger setzten sich gegen 30 Teams durch. In der Endrunde, die in Wolfsburg stattfand, verwiesen sie die Teams von der Universität Duisburg-Essen, der DHBW Karlsruhe, der TH Nürnberg und der Universität Hannover auf die Plätze. Das Niveau sei hoch gewesen, betonen die beiden Sieger und lobten: „Die Lösungen der anderen haben uns beeindruckt. Viele Teams zeigten überraschende Ansätze , die uns ganz neue Aspekte des Themas eröffnet haben.“