Das Unbekannte erkennen Rückblick auf das Deep Learning Lab 2023
„Was ist auf diesem Bild zu sehen?“ Was für uns Menschen eine einfache Frage ist, ist für Maschinen eine knifflige Angelegenheit. Oft können sie Lebewesen oder Gegenstände auf Bildern nur in eine beschränkte Anzahl verschiedener Klassen einteilen. Aber was, wenn sich das, was sie beispielsweise über ihre Kameras sehen, nicht in diese Klassen einordnen lässt? Dieser Frage gingen 30 Studierende im diesjährigen Deep Learning Lab nach und entwickelten Lösungen für die sogenannte „Anomaliesegmentierung“.
Person oder Auto? Das können Maschinen, wie zum Beispiel autonome Fahrzeuge, relativ leicht unterscheiden. Die KI nimmt dabei eine Segmentierung des Bildes vor, das sie über ihre Kameras wahrnimmt. Pixel für Pixel ordnet sie dabei ihr bekannte Klassen wie „Person“ oder „Auto“ zu. Eine solche Segmentierung wird trainiert, indem dem neuronalen Netz sehr viele Beispiele von Bildern mit der zugehörigen „Ground Truth“ gezeigt werden. Die „Ground Truth“ sind von Menschen im Vorfeld in Klassen eingeteilte Bilder, die als Trainingsdaten dienen. Da das Netz mit diesen Trainingsdaten trainiert wird, kennt es nur eine bestimmte und vor allem begrenzte Anzahl an typischen oder auch „normalen“ Klassen, die in den Trainingsdaten enthalten sind. Allerdings ist die Anzahl möglicher Objektklassen in der Welt nicht beschränkt. So kommt es vor, dass das Netz Lebewesen oder Gegenstände nicht erkennt, weil sie ihm unbekannt sind. „Im Anwendungsfall ist dies ein Risiko, weil so potenzielle Gefahrensituationen nicht erkannt werden“, erklärt Jasmin Breitenstein, wissenschaftliche Mitarbeiterin am Institut für Nachrichtentechnik und Mitglied im Organisationsteam des Deep Learning Labs.
Eine Anomaliesegmentierung wie sie durch das neuronale Netz vorgenommen wird. Die Hirschkühe sind für die KI unbekannt und werden als Anomalie wahrgenommen. Bildnachweis: SegmentMeIfYouCan Dataset, IfN/TU Braunschweig
Maschinen trainieren, Unbekanntes richtig einzuordnen
Lösungen für das Erkennen unbekannter Objekte (=Anomalien) zu suchen war in diesem Jahr die Aufgabe der Studierenden in der Machine Learning Challenge des Deep Learning Labs. Die teilnehmenden Studierenden haben eine Vergleichsmethode erhalten und sollten in dreiköpfigen Teams diese verbessern oder einen eigenen Ansatz implementieren, um Anomalien zu segmentieren. Die eingereichten Methoden wurden anschließend auf einem den Teilnehmer*innen unbekannten Testdatensatz ausgewertet. In dieser Auswertung wurden Metriken gemessen, die angeben, wie gut die im Testdatensatz vorhandenen Anomalien segmentiert wurden.
Neben den Preisen für die beste Lösung wurde auch ein Umweltpreis vergeben, für das Team, das mit der geringsten Rechenzeit, dementsprechend auch mit dem geringsten Stromverbrauch, sehr gute Ergebnisse erzielt hat. Die Preise waren pro Person mit 150 Euro für Platz 1, 100 Euro für Platz 2, 50 Euro für Platz 3 und noch einmal 150 Euro für den Umweltpreis dotiert.
Das Siegerteam der Machine Learning Challenge 2023 um Emre Gezer, Emmanuel-Wilson Bauni Kamga und Amira Mahmod Darwisch (v.l.n.r.). Bildnachweis: Andreas Gudat/TU Braunschweig
Der Umweltpreis und der zweite Platz gingen in diesem Jahr an Fabian Bettels, Haljan Lugo Girao und Svenja Lamottke (v.l.n.r.). Bildnachweis: Andreas Gudat/TU Braunschweig
Gewonnen hat in diesem Jahr die Gruppe bestehend aus Amira Mahmod Darwisch, Emre Gezer und Emmanuel-Wilson Bauni Kamga. Platz 2 erreichten Fabian Bettels, Haljan Lugo Girao und Svenja Lamottke. Den 3. Platz belegten Jonas Busse, Zhengduo Song und Angelo Steinmetzer. Der Umweltpreis wurde an Fabian Bettels, Haljan Lugo Girao und Svenja Lamottke vergeben, die mit nur 411 Stunden Rechenzeit auf dem GPU-Cluster der Arbeitsgruppe sehr gute Ergebnisse erzielt haben. Sie haben damit am besten die Balance zwischen wenig Rechenzeit (also geringem Stromverbrauch) und guter Performanz der Anomaliesegmentierung erzielt.
Große Beliebtheit bei Studierenden und Sponsor*innen
Das Deep Learning Lab ist ein Machine Learning-Praktikum für Masterstudierende und findet seit 2018 statt. Bis 2019 wurde das DLL als Projekt durch das Bundesministerium für Bildung und Forschung (BMBF) gefördert. Zudem unterstützen mehrere Unternehmen das Deep Learning Lab und stiften die Preisgelder. Zur Preisverleihung gehörten für die Studierenden auch einige Networking-Angebote, die Kontakte zwischen Unternehmen und Studierenden herstellen sollten.
Wie bereits in den Vorjahren konnten die Organisator*innen wieder aus zahlreichen Bewerbungen die 30 Teilnahmeplätze des Deep Learnings Labs besetzen. Und auch auf die Unterstützung der Sponsor*innen konnten Teilnehmende und Organisator*innen in diesem Jahr wieder zählen. „Das Deep Learning Lab ist in meinen zurückliegenden 17 Jahren an der TU Braunschweig das erfolgreichste Lehrprojekt. Die enorme Breitenwirkung bei Studierenden und Sponsor*innen kann man auch daran ablesen, dass einige, die heute das Lab als Vertreter*innen der Sponsor*innen unterstützen, noch vor einigen Jahren selbst als Studierende am Deep Learning Lab teilgenommen haben,“ freut sich Prof. Tim Fingscheidt, der Initiator des Deep Learning Labs.