20. April 2017 | Magazin:

“A good algorithm is like a poem” Focus on research: "Self-aware vehicles"

(See german Version below)
Sebastian Stiller is mathematics professor, philosopher and author. He develops algorithms and explains why we shouldn’t be frightened of them. The scientist lives in Braunschweig with his wife and child (and a robotic vacuum cleaner).

The easiest question first: what is an algorithm?

Thinking in algorithms means thinking about how you think. Your try to find a simple principle that applies to a wide variety of situations or things. For example, the pen-and-paper method of addition we learned in primary school is an algorithm, and it simplifies additions tremendously. Even five-digit numbers can be added up without much effort when you follow the scheme step by step. Laws and traffic regulations are algorithms, too. They provide simple operational rules for a wide range of people and circumstances.

Professor Sebastian Stiller, Institute for Mathematical Optimization of the TU Braunschweig. Credit: Hans Scherhaufer

Professor Sebastian Stiller, Institute for Mathematical Optimization of the TU Braunschweig. Credit: Hans Scherhaufer

When did you realise how commonplace algorithms really are?

During my studies, I obviously I learned what an algorithm is, and then applied that knowledge. But I think I only truly realised it while writing my book.

Why did you write the book?

I really didn’t like how algorithms were being discussed in public, in the media and in politics. It only served to stir up unnecessary fears about how we would one day be ruled by machines. Algorithms are a powerful tool when applied in the right place and using common sense. But they are only a tool and cannot solve every problem. Algorithms expand our possibilities, but they cannot replace us.

Where can algorithms be useful?

Algorithms help us manage globalisation, allocate resources and energy, and coordinate the logistics of worldwide trade. In research, they help us gauge which experiments are likely to be successful. Algorithms can considerably speed up the search for new antibiotics and vaccines. I myself am working on algorithms that can make cars safer and space missions more reliable and cost-effective. In the future, such missions might be carried out with a fleet of spacecraft, and little to no knowledge of the conditions that await them at their destination. We will have to come up with suitable courses of action and equip the spacecraft with the appropriate algorithms.

If algorithms are so helpful, why are people so scared?

It’s partially due to misleading terminology, such as the “autonomous” car. Autonomous means “self-governing”. This may well lead to some people becoming afraid of robotic cars running wild, determining what they should do next completely on their own. That’s nonsense, of course, because scientists are the ones who determine the principles on which the cars operate. And autonomous cars do not make driving more dangerous; they make it safer. That’s why we are working on them.

What do you think of the term “artificial intelligence”?

That one is probably even worse. Scientifically speaking, it means a specific type of algorithm. But it has nothing to do with intelligence in the human sense. Human intelligence requires consciousness, a will, and the ability to assume responsibility and show remorse. Machines have none of these.

But what exactly is artificial intelligence?

Artificial intelligence algorithms are a type of artificial estimation. Today, they make it possible for machines to win complex games such as chess and Go, working just like humans, with rather half-baked rules that are influenced by their playing experience. The more often they play, the better they get. But it is still all a matter of guesswork. Or do you happen to know the principle for playing chess perfectly?

What can we do about fears that the world will soon be ruled by machines?

Above all, it is important to understand the criteria used in various algorithms. Once you do, algorithms stop being frightening. But that’s the sticking point. I have a feeling that even decision-makers in the political and economic spheres are pretty clueless in this arena. A basic understanding of algorithms should be just as much a part of everyone’s general knowledge as the topics of politics, nutrition and the climate. You don’t have to be a maths genius to understand them – any 7th grader can learn how a search engine algorithm works.

Are all critical views of algorithms unfounded?

No, you can always question an algorithm. Is it any good? And most important, how does it come to its decisions? If it is based on statistics, I would have to assess the outcome quite differently than if it was a clear, exact calculation. We should always know about an algorithm’s quality and how changing circumstances affect the result. Because of this, we take the self-awareness approach at TU Braunschweig, like for autonomous driving. The system should be able to recognise whether its capabilities are sufficient for the task at hand, or whether it would be better to play it safe and stop. A little like a person who is self-aware enough to leave their car keys with the bartender if they’ve had too much to drink.

Can you give me some examples of bad algorithms?

(Thinks for a moment.) For example, there is this app that determines whether or not a person suffers from depression by analysing their Facebook likes. It has a higher accuracy rate than the person’s friends, but that is only because friends are really bad at this. I think applications like these are irresponsible. A psychologist or psychiatrist would be a much better reference point. Of course, it is possible to correlate all kinds of things together, even Facebook likes and depression. But there’s no valid theory behind this.

(Thinks some more.) Another example: we have a talking robotic vacuum cleaner at home. The other day, it said that its brush needed cleaning. It looked pretty clean to me, but still I cleaned it again and again, until my wife and I realised that the robot could only determine whether or not the brush was rotating. And sure enough, it was only jammed. The robot makes us feel as if it knows when its brush needs cleaning, so we stop thinking for ourselves. With an older vacuum cleaner, there would just have been a little light to indicate that something was wrong, and we probably would have found the problem much sooner.

What is it like to live with a robotic vacuum cleaner?

It’s quite alright. But it is a little alarming to realise how we sometimes treat it almost like a human. The other day, my son called out, “Robbie, don’t drive into that corner! Robbie, don’t!” A little surprised, we reminded him that it can’t understand him, but then we realised that we actually often talk about the robot as if it was human.

In your book, you say that a good algorithm is like a poem. Do you also feel an emotional bond with formulas?
Well, we scientists tend to get very enthusiastic about our work. It can sometimes happen that you fall into a kind of trance. And if you actually manage – usually around four in the morning – to develop an algorithm of a certain simplicity and clarity that does exactly what you want it to do, when it all comes together and is still working right when you wake up the next morning, that is quite a thrilling feeling!

Text: Andrea Hoferichter

„Ein guter Algorithmus ist wie ein Gedicht“

Sebastian Stiller ist Mathematikprofessor, Philosoph und Buchautor. Er entwickelt Algorithmen und erklärt, warum man keine Angst vor ihnen haben muss. Der Wissenschaftler lebt mit Frau und Kind (und einem Saugroboter) in Braunschweig.

Die einfachste Frage zuerst: Was ist ein Algorithmus?

Algorithmisch zu denken bedeutet, zu überlegen, wie man sich etwas überlegt. Das heißt, man findet für Vielfalt ein möglichst einfaches Prinzip. Ein Beispiel: Die schriftliche Addition, die wir schon in der Grundschule lernen, ist ein Algorithmus und vereinfacht das Rechnen ungemein. Selbst fünfstellige Zahlen lassen sich leicht addieren, wenn man nach dem gelernten Schema Schritt für Schritt vorgeht. Auch ein Gesetz und die Straßenverkehrsordnung sind Algorithmen. Sie geben für ganz unterschiedliche Menschen und Situationen einfache Handlungsregeln.

Wann ist Ihnen bewusst geworden, wie alltäglich Algorithmen sind?

Während des Studiums habe ich durchaus schon gelernt, was ein Algorithmus ist und habe das Wissen auch angewendet. Aber wirklich bewusst geworden ist es mir erst, als ich mein Buch geschrieben habe.

Warum haben Sie das Buch geschrieben?

Mir hat es einfach missfallen, wie Algorithmen in der Öffentlichkeit, in den Medien und in der Politik, diskutiert werden. Da werden viele unnötige Ängste geschürt, zum Beispiel dass wir irgendwann von Maschinen regiert werden. Algorithmen sind ein leistungsfähiges Werkzeug, wenn sie an der richtigen Stelle und mit Verstand eingesetzt werden. Aber eben nur ein Werkzeug, dem man auch nicht zuviel zutrauen sollte. Algorithmen erweitern die Möglichkeiten des Menschen, können sie aber nicht ersetzen.

Wo sind Algorithmen denn nützlich?

Algorithmen helfen, die Globalisierung zu managen, Ressourcen und Energie zu verteilen, die Logistik für den weltweiten Handel zu steuern oder in der Forschung, beispielsweise um abzuschätzen, welche Experimente Erfolg versprechen. Algorithmen können auch die Suche nach neuen Antibiotika oder Impfstoffen stark beschleunigen. Ich selber arbeite unter anderem an Algorithmen, die das Autofahren sicherer und Raumfahrtmissionen verlässlicher und kostengünstiger machen können. In Zukunft könnten solche Missionen mit Schwärmen von Raumfahrzeugen durchgeführt werden. Und weil wir natürlich nicht wissen, was sie am Ziel erwartet, müssen wir uns geeignete Handlungsprinzipien überlegen und die Raumfahrzeuge mit den entsprechenden Algorithmen ausstatten.

Wenn Algorithmen doch so sinnvoll eingesetzt werden können, warum gibt es trotzdem diese Ängste?
Das liegt unter anderem an den etwas irreführenden Begriffen, die wir verwenden, zum Beispiel das „autonome“ Auto. Autonom bedeutet „sich selbst Gesetze gebend“. Da kann es schon passieren, dass einige Angst vor wild gewordenen Roboterautos bekommen, die komplett eigenständig entscheiden, was sie tun. Das ist natürlich Unsinn, denn wir Menschen geben ja vor, nach welchen Prinzipien die Autos funktionieren. Und mit autonomen Autos wird das Fahren eben gerade nicht gefährlicher, sondern sicherer. Deshalb forschen wir ja daran.

Und wie bewerten Sie den Ausdruck „künstliche Intelligenz“?

Das ist wahrscheinlich noch schlimmer. Wissenschaftlich ist damit eine bestimmte Art von Algorithmen gemeint. Aber mit Intelligenz im menschlichen Sinn hat es nichts zu tun. Menschliche Intelligenz setzt ein Bewusstsein voraus, zum Beispiel einen Willen, die Fähigkeit, Verantwortung zu übernehmen oder Reue zu zeigen. Maschinen haben beziehungsweise können das alles nicht.

Aber was genau ist denn dann künstliche Intelligenz?

Algorithmen der künstlichen Intelligenz sind eine Art künstliches Schätzen. Sie können heute komplexe Spiele wie Schach oder Go gewinnen und arbeiten dabei ähnlich wie der Mensch mit eher halbgaren Regeln, die sich auch aus Spielerfahrungen speisen. Je öfter sie spielen, desto besser werden sie. Es bleibt aber ein Schätzen. Oder kennen Sie das Prinzip für perfektes Schachspielen?

Was kann man gegen die Ängste tun, die Welt werde schon bald durch Maschinen beherrscht?

Wichtig ist vor allem, die Kriterien zu verstehen, die in verschiedenen Algorithmen angewendet werden. Dann sollten Algorithmen auch niemandem mehr Angst einjagen. Aber genau daran hakt es. Ich habe das Gefühl, dass selbst die Entscheider in Wirtschaft und Politik auf diesem Gebiet ziemlich ahnungslos sind. Ein Grundverständnis von Algorithmen sollte zur Allgemeinbildung gehören wie die Themen Politik, Ernährung oder Klima. Man muss auch kein Mathegenie sein, um sie zu verstehen. Jeder Schüler einer 7. Klasse kann lernen, wie ein Suchmaschinen-Algorithmus funktioniert.

Ist Kritik an Algorithmen immer unbegründet?

Nein, man darf einen Algorithmus auch hinterfragen. Taugt er was? Und vor allem: Wie kommt er zu seiner Entscheidung? Wenn zum Beispiel Statistiken dahinterstecken, muss ich das Ergebnis ganz anders bewerten als wenn es eine eindeutige exakte Berechnung ist. Wir sollten immer genau wissen, welche Qualität ein Algorithmus hat. Und auch, wie sich ändernde Umstände auf das Ergebnis auswirken. Deshalb verfolgen wir an der TU auch den Ansatz der „Self-Awareness“, zum Beispiel für das autonome Fahren. Das System soll erkennen können, ob seine Leistung gut genug ist für die aktuell gestellte Aufgabe. Oder ob es besser ist, augenblicklich auf Nummer sicher zu gehen. Ähnlich wie ein Mensch das Selbstbewusstsein hat, nach dem Barbesuch den Autoschlüssel beim Wirt zu deponieren.

Können Sie Beispiele für schlechte Algorithmen nennen?

(Überlegt) Es gibt zum Beispiel eine App, die über Facebook-Likes herausfindet, ob ein Mensch depressiv ist. Sie hat eine höhere Trefferquote als die Freunde dieses Menschen. Das liegt aber nur daran, weil Freunde darin so schlecht sind. Solche Anwendungen halte ich für unverantwortlich. Hier wäre ein Psychologe oder Psychiater sicher der bessere Ansprechpartner. Man kann natürlich alles Mögliche miteinander korrelieren, auch Facebook-Likes mit Depressionen. Aber da fehlt einfach die valide Theorie dahinter.

(Überlegt wieder) Und noch ein Beispiel: Wir haben zu Hause einen Saugroboter, der sprechen kann. Neulich hat er gesagt, die Bürste müsse gereinigt werden. Eigentlich hat sie aber ganz sauber ausgesehen. Trotzdem habe ich sie geschrubbt und geschrubbt, bis meine Frau und ich drauf gekommen sind, dass der Roboter vermutlich nur feststellen kann, ob sich die Bürste dreht oder nicht. Und tatsächlich hatte sich lediglich etwas verklemmt. Der Roboter gibt uns das Gefühl zu wissen, dass die Bürste gereinigt werden muss, so dass wir gar nicht mehr mitdenken. Bei einem alten Staubsauger hätte nur ein Lämpchen geblinkt, wenn etwas nicht Ordnung gewesen wäre. Da hätten wir den Fehler sicher viel schneller gefunden.

Wie lebt es sich denn mit einem Saugroboter?

Eigentlich gut. Aber es ist schon ein bisschen erschreckend, wie wir ihn manchmal vermenschlichen. Mein Sohn rief neulich zum Beispiel: „Robbi, nicht in die Ecke, nicht in die Ecke!“ Und wir haben gesagt: „Der kann dich doch gar nicht verstehen.“ Dann ist uns aber bewusst geworden, dass wird selbst oft über den Roboter reden, als wäre er ein Mensch.

In Ihrem Buch schreiben Sie, ein guter Algorithmus sei wie ein Gedicht. Haben Sie auch eine emotionale Beziehung zu den Formeln?

Wir Wissenschaftler begeistern uns ja in der Regel sehr für unsere Arbeit. Da sind wir tatsächlich manchmal wie im Rausch. Und wenn es einem dann gelingt, am besten um vier Uhr nachts, einen Algorithmus mit einer gewissen Einfachheit und Klarheit zu entwickeln, der dann auch noch die gewünschte Wirkung hat. Wenn sich also alles fügt, und auch am nächsten Morgen noch stimmt, dann ist das schon ein großes Glücksgefühl.

Text: Andrea Hoferichter