„Dann stürze ich die Welt ins Chaos!“ – wenn Mathematik ethisch bedenklich wird

Vor acht Jahren nahm Sergey Yurkevich zum Spaß an einer Mathematik-Olympiade für Fortgeschrittene teil. Jetzt greift der junge Mathematiker nach einem Doktortitel in jenem Fach, das vielen schon seit der Schulzeit ungeheuer ist. Im Gespräch ist Sergey bemüht, die Mathematik komfortabler zu präsentieren und erklärt, warum Zahlentheoretiker*innen die Welt zerstören könnten, was den Menschen auf den Mond gebracht hat und warum der Führerschein zukünftig an Bedeutung verlieren wird.

Die Welt der Mathematik liegt für viele Menschen weit entfernt von ihrer Komfortzone. Wie erklärst du dir, dass sich das Fach im Allgemeinen nur wenig Beliebtheit erfreut?

Ich habe erst gestern ein Plakat für das Projekt Mathematik macht Freu(n)de hier auf der Uni gesehen und als Unterüberschrift steht: “Mathematik ist das Angstfach schlechthin. Warum eigentlich?” Und ich habe mich gestern oder vorgestern etwas ganz Ähnliches gefragt und ich glaube, dieses Projekt versucht genau das zu verstehen, warum Leute so viel Angst vor Mathematik haben, um es zu ändern, denn das soll überhaupt nicht so sein. Ich weiß, viele Leute haben Angst und ich glaube, wenn viele Leute das hier lesen, denken sie sich: „Dem liegt das einfach und deshalb sagt er das.“. Aber nein, ich bin überzeugt, wenn man die Mathematik richtig unterrichtet, dann wird es zwar nicht allen, aber den meisten Spaß machen und ich glaube, dass der große Grund, warum Mathe als Angstfach gilt, der Pädagoge ist. Ich hatte vor kurzem eine Frage von einer Nachhilfeschülerin, die erzählt hat: „Unsere Lehrerin hat gesagt ‚Das macht man einfach so.‘ und als wir sie gefragt haben warum, hat sie gesagt ‚Merkt euch das einfach! ‘“. Dabei war der Grund sehr einfach. Aber ja, vielleicht wissen es die Lehrer selbst nicht oder wollen nicht erklären, weil sie sich auch denken, dass es objektiv richtig ist.

Könnte man die Mathematik als eine rein objektive Wissenschaft betrachten?

Ich glaube, die Mathematik hat fast das Monopol darauf, eine Wissenschaft zu sein, die objektiv richtig ist. Also, wenn ich irgendein mathematisches Theorem lese, weiß ich, es stimmt. Es stimmt unter bestimmten Annahmen, die normalerweise sehr grundlegend sind, so wie A + B = B + A. Und wenn man diese Sachen annimmt, dann kommt man auf überraschend schwierige oder tiefgründige Resultate. Als Nebenbemerkung: Ich glaube, dass die Philosophie vielleicht eine andere Wissenschaft ist, die versucht, ähnlich objektiv zu denken, also die auf ähnlicher Weise Annahmen trifft und unter diesen Entscheidungen trifft und Schlüsse zieht. Naturwissenschaften basieren auf Annahmen, die die Welt für uns macht. Und in der Mathematik machen wir diese Annahmen selbst für uns.

Kommt es auch zu ethischen Bedenken in der Mathematik?

Ich habe das bei Antragsstellungen für Fundings selbst mitbekommen. Da gibt es immer eine Frage zu ethischen Bedenken und ich habe mir immer gedacht, diese Frage steht dort, weil die Anträge für alle Disziplinen offen sind. Bei der Medizin oder der Biologie ist es natürlich klar, dass es ethische Bedenken geben kann, bei Tierversuchen zum Beispiel. Und in der Mathematik schreibt man immer, es gibt keine ethischen Bedenken und überspringt die Frage sozusagen. Aber es kann durchaus auch anders sein. Sehr viele Systeme basieren nämlich auf der Kryptographie. Das ganze Bankenwesen, Versicherungen und jeder Messenger wie WhatsApp oder Telegram. Alles Mögliche basiert auf der Verschlüsselung von Nachrichten und die basiert auf Mathematik, genauer auf Zahlentheorie. Wenn ich dir zum Beispiel die Zahl 15 gebe, weißt du 15 ist 3 mal 5. Du hast die Faktorisierung von 15 gefunden. Das Spannende ist, bei wirklich großen Zahlen ist sie sehr schwer zu finden und man hofft, es gibt keinen leichten oder keinen Algorithmus, der so eine Faktorisierung findet, denn auf dieser Idee oder auf dieser Hoffnung basieren fast alle Kryptographie-Systeme, zumindest noch vor 10-15 Jahren. Wenn ich also als Mathematiker plötzlich in meinem Büro draufkomme: „Hey, ich habe einen Algorithmus gefunden, der solche Faktorisierungen findet“ und ihn publik mache, stürze ich die Welt ins Chaos, weil plötzlich alle Nachrichten, alle E-Mail-Accounts, alle Konten öffentlich sind. Tatsächlich gibt es so einen Algorithmus, allerdings nur für Quantencomputer. Das Problem heutzutage ist, es ist sehr schwer, Quantencomputer groß zu bauen. Und dank dieser Tatsache steht die ganze Welt noch. Also ich kann mir vorstellen, dass die Leute, die diesen Algorithmus publiziert haben oder daran forschen, große ethische Bedenken haben.

Findest du demnach, dass die Wissenschaft Grenzen hat, die sie nicht überschreiten sollte?

Nein, ich bin natürlich trotzdem der Meinung, dass Wissenschaft forschen soll so viel sie kann. Also man kann jetzt sagen: „Dann sollen wir ja alle aufhören, Zahlentheorie zu betreiben, weil dann kann niemand diesen Algorithmus finden.“. Ich persönlich sehe die Universität oder die Wissenschaft als die “good guys”. Es gibt sicher private Firmen oder zum Beispiel die NSA, die auch daran forschen und wenn jemand als Privatperson oder Firma als erstes draufkommt, dann gibt es ein Problem. Also wenn die Wissenschaft als Universität darauf kommt, dann ist es okay. Dann sagt sie: „Leute, wir sollten alle Codes wechseln“ und dann wird der Algorithmus publiziert. Daher ist es wichtig, dass die wirklich guten Mathematiker auf diesen Gebieten Universitätsprofessoren sind, weil sie hoffentlich nicht an deren eigenen Gewinnen interessiert sind oder daran, dass die Welt ins Chaos stürzt, sondern an der Tatsache, dass sie die Wissenschaft vorantreiben.

Aber glaubst du nicht, dass zum Beispiel die NSA Mathematikern einfach viel Geld anbieten würde, um an diesen Algorithmus zu kommen oder um die Informationen zu bekommen, die sie gerne hätte?

Das wird gemacht. Tatsächlich arbeiten die meistbezahlten Mathematiker in den USA bei der NSA und die NSA stellt fast nur Mathematiker ein. Die Hoffnung ist, dass gute, berühmte Mathematiker nicht zur Privatwirtschaft umsteigen, sondern in der Forschung bleiben. Das ist auch ein Grund, warum die Wissenschaft öffentlich und in Universitätshänden sein sollte.

Die Fakultät für Mathematik der Universität Wien am Oskar-Morgensternplatz ist Sergeys Uni und Arbeitsplatz zugleich. © Stefan Filipov

Du hast von Algorithmen gesprochen und Algorithmen sind ja heutzutage im Alltag mehr oder weniger überall zu finden – sobald man in Google etwas eingibt oder wenn man durch die Feeds von sozialen Medien scrollt. Wie kannst du Algorithmen erklären? Und warum sind sie so präsent?

Also für mich ist ein Algorithmus eine Abfolge von Tätigkeiten, die nach einem bestimmten Schema erfolgt: Wenn das, dann mach das und wenn nicht, dann mach das andere und das wiederhole solange – so ungefähr. Warum der Algorithmus heutzutage so präsent ist, liegt daran, dass Computer so etwas sehr gut können. Algorithmen sind Tätigkeiten, die eine Routine haben und weil Computer schnell sind, machen sie das so schnell. Also zum Beispiel, dass du ein Wort in Google eingibst und innerhalb von etwa 0,001 Sekunden spuckt es dir Millionen von Resultaten aus und sortiert nach Wichtigkeit für dich. Ist das nicht verrückt? Da sind sehr clevere Algorithmen dahinter, die aber nicht besonders lang sind, wenn man sie mit einem Gehirn vergleicht. Ein Gehirn ist viel, viel komplexer, aber so ein Algorithmus kann auch schon ganz besondere Dinge.

Apropos Gehirn: ein Thema, das in der Gesellschaft immer mehr an Stellenwert gewinnt, ist „künstliche Intelligenz“ (KI). Dem gegenüber herrscht allerdings eine gewisse Skepsis. Woran liegt das?

Zu künstlicher Intelligenz habe ich schon einige Vorlesungen gehört, selbst viel recherchiert und auch Vorträge darüber gehalten. Also ich glaube, ein wenig ist das Problem, dass die meisten Leute nicht wissen, was künstliche Intelligenz ist, denn die Definition von künstlicher Intelligenz ist viel breiter als in der Praxis zurzeit. Über Algorithmen haben wir gerade gesprochen und künstliche Intelligenz – in ihrer jetzigen Form,- ist ein nicht zu komplizierter Algorithmus, der eine Routine befolgt und im Endeffekt ein sogenanntes Maximierungsproblem zu lösen versucht, wie zum Beispiel im Schach: Finde von allen Möglichkeiten, die du für deinen nächsten Zug hast, die Beste. Derzeit sind künstliche Algorithmen nicht die Welt, auch wenn sie schon erstaunliche Sachen können – den Menschen in Schach besiegen oder Autos selbst fahren. Das ist alles „künstliche Intelligenz“. Sie kann die Aufgaben, die man ihr gibt, aber nicht mehr und auch nicht perfekt. In den 1990ern als Computer stärker wurden, hat man sehr viel auf künstliche Intelligenz gesetzt und auf sogenannten neuronalen Netzen. Man hat gesagt: „Die schauen so aus wie ein Gehirn“ – in der Theorie – „und irgendwann werden wir so starke Computer haben, dass wir ein Gehirn nachgebildet haben.“ Das hat man glaube ich schon in den 1980ern behauptet und dann nochmal in den 1990ern und auch in den 2000ern. Das wurde immer aufgeschoben. Man hat immer neue Schwierigkeiten gefunden. Die Algorithmen sind zwar gescheit, aber auch mit sehr starken Computern werden sie nicht so wie ein Gehirn funktionieren.

Also glaubst du nicht, dass künstliche Intelligenz je von allein funktionieren kann?

Doch, aber nicht mit den Algorithmen und auch nicht mit der Computerstärke, die man jetzt hat. Es ist eine Frage der Zeit. Noch sind wir aber sehr, sehr weit davon entfernt.

Das Europaparlament stimmt zurzeit über einen Rechtsrahmen für die KI ab, wobei auch ethische Aspekte berücksichtigt werden sollen. Welche Bedenken gibt es da?

Es gibt in der EU Gesetze und Verordnungen und auch wirklich gute Wissenschaftler, die sich mit der Frage beschäftigen: “Was machen wir, wenn wir so etwas haben?” und noch besser: “Wie schauen wir, dass wenn wir so etwas bauen, nicht unabsichtlich etwas bauen, das die ganze Welt zerstört?” Aber wie gesagt, noch sind wir weit davon entfernt, eine sogenannte „General KI“ zu haben, die wirklich selbst denken kann. Es ist aber nicht so, dass die künstliche Intelligenz für immer abgeschrieben wird. Ich persönlich bin überzeugt, dass die Menschheit irgendwann ein Gehirn nachbilden kann, aber in den nächsten 50, vielleicht 30 Jahren wird das nicht passieren.

Was hätte das für einen Vorteil? Warum wollen wir Menschen durch Algorithmen ersetzen?

Zuerst einmal, weil wir überhaupt Sachen machen wollen. Also rein aus der wissenschaftlichen Sicht: Schaffen wir das oder nicht? Dem Menschen hat die Frage eigentlich immer schon gereicht. Schaffen wir es, auf den Mond zu fliegen? Eigentlich Grund genug, um auf den Mond zu fliegen. Es hat aber natürlich sehr große Vorteile für die Gesellschaft. Ich überlege gerade, wo ich anfangen soll. Vielleicht in der Mathematik, weil wir mit Mathematik angefangen haben. Ein Computersystem, das mathematische Beweise selbst schreiben kann, wäre super praktisch. Ich würde meinen Job verlieren, aber es wäre ok. Das wäre es mir Wert für eine künstliche Intelligenz, die so etwas kann.

Glaubst du nicht, dass viele andere Jobs auch verloren gehen?

Ja, angefangen mit dem Taxifahrer, der durch ein selbstfahrendes Auto ersetzt werden kann – und das schon ziemlich bald. Also da braucht man jetzt keine große künstliche Intelligenz, die hat man schon und testet sie wie verrückt. Da gibt es auch ethische Bedenken natürlich, aber es ist nur eine Frage der Zeit, bis wir selbstfahrende Autos auf der Straße haben und dann ist es nur eine Frage der Zeit, bis sie Taxifahrer ersetzen. Jobs, die Algorithmen ähneln, solche Jobs werden sehr schnell ersetzt werden und das wird eine große Aufgabe für die Menschheit sein, da Ersatz zu finden. Ich habe aber sehr viel Positives dazu gelesen und glaube, die Menschheit wird schon irgendetwas anderes finden, zum Beispiel Menschen eine Möglichkeit geben, sich irgendwo zu verwirklichen, sei es in der Kunst oder bei irgendwelchen menschlicheren Tätigkeiten, solange der Computer die Routine ersetzt.

Bleibt die Frage, wo kommt dann das Geld her? Aus Sicht der Arbeitnehmer*innen hat die Arbeit ja neben der Verwirklichung in erster Linie den Geldgewinn zum Zweck.

Geld ist ja eine Entlohnung für die Arbeit.

Aber wenn die Arbeit schon erledigt ist, durch einen Algorithmus oder durch einen Computer, dann würde man ja kein Geld kriegen.

Umgekehrt, dann ist die Arbeit schon erledigt. Dann kann man das Geld einfach so weitergeben. Also was ich meine ist, in einer Gesellschaft, in der der Algorithmus oder der Computer sehr viele Jobs erledigt, ist ein gesichertes Mindesteinkommen ein Muss. Aber der Punkt ist auch, die Gesellschaft hat Ressourcen, um das zu zahlen, weil die wichtigsten Aufgaben gedeckt sind und weil den Mehrwert schon die Algorithmen machen.

Zu deiner Frage noch, was die KI als Mehrwert bringt. Ein gutes Beispiel ist zum Beispiel Google, das vor ein paar Jahren auf die Idee gekommen ist, die Kühlung in den Serverräumen von einer KI machen zu lassen, wodurch sie an die 40 Prozent Strom sparen, und natürlich auch Menschenarbeit. Aber es geht darum, dass sich Google wirklich viel Geld dadurch spart, dass ihre Server von ihren eigenen Algorithmen gekühlt werden.

Und die Menschen, die vorher diese Aufgabe hatten – weißt du, was mit denen passiert ist?

Ich weiß es nicht. In einer utopischen Welt haben sie eine Ausbildung zu Programmierern oder Informatikern gemacht und schreiben diese Algorithmen oder schauen, dass diese Algorithmen gut funktionieren und keine Fehler machen oder wenn sie Fehler machen, dann die Systeme erneuern und so weiter.

Dann wird es wohl sehr viel Ausbildung in diese Richtung brauchen…

Absolut richtig, es braucht mehr Ausbildung. Das hat die Menschheit schon einmal miterlebt in der industriellen Revolution, wo die Ausbildung sozusagen der Weg hinaus war. Also die Leute, die den Job verloren haben, die konnten ihn durch die Ausbildung zurückbekommen. Jetzt ist das Ganze schwieriger, weil eine simple Ausbildung nicht mehr reicht. Ein Auto-Führerschein wäre nach der industriellen Revolution vollkommen genug gewesen, ist es aber jetzt nicht mehr, weil das dann ein Computer macht. Es braucht eine Ausbildung, die etwas mehr bringt, als ein Computer machen kann. Und das ist schwierig. Das wird immer schwieriger. Aber ich glaube, wir finden schon Sachen, die der Mensch immer noch gut machen kann.