Die Weisheit des Nicht-Wissens

Maschinelles Lernen – Neue Perspektiven für die Wissenschaft: Der Name des Exzellenzclusters, an dem Ulrike von Luxburg und Philipp Berens in Tübingen forschen und lehren, klingt wie eine Verheißung. Doch welche Veränderungen wird Künstliche Intelligenz in den Wissenschaften bringen? Wie lernt ein Computer? Und was wird er niemals können?

Frau von Luxburg, wie denkt denn ein Computer?

Ulrike von Luxburg: Gar nicht. Gott sei Dank. Ein Computer rechnet nach Vorschriften, die man ihm macht – etwa eine Abfolge von Rechenprozessen. Oder man sagt ihm: Schau dir mal diese Daten an und such eine Erklärung, wie sie zustande kommen konnten.

Wie kommt er zu seiner Erklärung?

Philipp Berens: Es reicht jedenfalls nicht aus, einfach nur viele Daten zu haben. Es kommt immer auf den Kontext und die angewandten Techniken der Datenerhebung und -verarbeitung an. Man braucht also Kenntnis über die Disziplin und man braucht die Daten. Der Mensch bleibt, um das Ergebnis der KI zu verstehen und zu deuten, ebenfalls unverzichtbar.

Albert Einstein und Stephen Hawking gelten
als zwei der bisherigen Höhepunkte menschlicher Intelligenz. Gibt es einen KI-Einstein?

Philipp Berens: Intelligenz ist eine Zuschreibung für den Computer, die wir von außen machen. Meistens dann, wenn der Computer etwas leistet, das wir verblüffend finden. Der Computer löst eine ihm gestellte Aufgabe auf komplexe Weise, die wir ihm aber nicht vorher aufgezeigt haben. Es kommt uns intelligent vor, dass er darauf gekommen ist.

Können Sie ein Beispiel geben?

Philipp Berens: Ein Schach-Großmeister ist beeindruckt von einer guten KI, weil es auf ihn so wirkt, als wäre da ein wahnsinnig kreativer Schachspieler am Werk. Dabei geht die KI nur anders an die Aufgabe heran.

Wie denn?

Ulrike von Luxburg: Der Suchraum ist hierbei sehr wichtig. Der Schachcomputer spielt Millionen Partien gegen sich selbst. Und dreht an allen Stellschrauben, die er im Rahmen der Regeln hat, um zur größtmöglichen Siegesquote zu kommen.

Tut das nicht auch ein Mensch?

Philipp Berens: Ein Schachspieler, der spielt, seit er ein Kind ist, hat bestimmte Züge ausgetrieben bekommen, weil sie meist einen schlechten Ausgang haben. In Fällen, wo diese Züge vielleicht schlau wären, guckt er gar nicht mehr danach, weil er in diesen Suchraum keinen Blick mehr wirft. Und so wirkt es kreativ auf ihn, wenn der Computer genau das plötzlich doch tut. Weil er als Mensch nie darauf gekommen wäre.

Ist das nicht intelligent?

Ulrike von Luxburg: Ein Algorithmus kann immer nur genau eine Aufgabe erfüllen. Er kann Schach spielen oder Verkehrssituationen erkennen oder Krebszellen von gesunden Zellen unterschieden. Das Wörtchen „oder“ ist hier entscheidend: Er kann nicht alles. Er kann nicht für Aufgaben, für die er nicht trainiert wurde, wirksame Strategien entwickeln.

Ist das ein Problem?

Philipp Berens: Eine zentrale Frage unserer Arbeit ist die nach dem erkenntnistheoretischen Gewicht. Ein System stützt sich auf Millionen von Daten. Nehmen wir ein Beispiel aus der Medizin. Das System kommt auf Basis vieler Daten zu einer Diagnose. Es bleibt aber denkbar, dass der Patient, den das System anschaut, eine seltene Erkrankung hat, die genau gleich aussieht wie eine ganz andere Krankheit. Die Verlockung für den Arzt, der Maschinelles Lernen nutzt, ist groß, einfach zu sagen: In dem System steckt so viel Erfahrung und Weisheit, das wird schon stimmen.

Wie oft denken sie über solche moralischen und philosophischen Aspekte ihrer Arbeit nach?

Ulrike von Luxburg: Oft. Weniger darüber, was man als Intelligenz definiert und was nicht, aber über andere, ähnliche Fragestellungen. Etwa darüber, was ein Computer überhaupt erlernen kann. Und viel spannender: Was kann ein Computer eigentlich auf keinen Fall lernen?

Lieben lernen kann er nicht.

Ulrike von Luxburg: Im Moment jedenfalls kann er das sicher nicht, das stimmt. Die nächsten 50 Jahre wohl auch nicht. Dass er es nie kann, würde ich nicht behaupten wollen, aber falls überhaupt, dann ist das noch sehr weit in der Zukunft.

In Tübingen wird viel übers Cyber Valley diskutiert. Nervt sie das?

Philipp Berens: Nein. Es gibt ja immer Leute, die so tun, als stünde ein sich verselbstständigender Supercomputer unmittelbar vor der Tür. Diesen Leuten wollen wir nicht das Feld überlassen. Es ist unsere Aufgabe, auch mal aus dem Labor zu kommen und genau zu erklären, was wir so machen und Diskussionen zu führen.

Müssen wir uns vor dem
Überwachungs-Robocop fürchten?

Ulrike von Luxburg: Die Angst davor, der alleinigen Entscheidungsgewalt eines Computers unterworfen zu sein, ist ja durchaus berechtigt. Mit dieser Sorge müssen wir umgehen. Es gibt sicher Bereiche, in denen von Algorithmen gesteuerte Entscheidungen nicht erlaubt sein sollen. In anderen Bereichen sollte ein System zumindest immer erklären können, wie es zu seinem Schluss kommt. Und solche Systeme sollten nie unanfechtbar sein, nie die letzte Entscheidung treffen. Es geht um eine Unterstützung des Menschen, nicht um seinen Ersatz.

Philipp Berens: Ein insbesondere in meinem Arbeitsbereich, der Medizin, sehr wichtiger Aspekt ist die Unsicherheit. Wenn man einen Algorithmus zwingt, trifft er immer eine Entscheidung. Aber ein Jein darf nicht zu einem Ja werden, nur weil man gezwungen ist, eine Entscheidung zu treffen. Bei einem Grenzfall muss der Computer schlau sein können und sagen: Das weiß ich nicht.