User Profile

Und es sind nicht nur profitorientierte Firmen, die sich für unsere Gedanken interessieren. Genauso großes Interesse zeigen Regierungen und ihre untergeordneten Behörden. Das muss nichts schlechtes sein: Zu verstehen, was Menschen in ihrem Einflussbereich denken und fühlen, kann der Politik erlauben, deren Bedürfnisse und Ängste zu verstehen und Maßnahmen dementsprechend auszurichten. Aber bis zu welchem Grad ist ein solches Interesse legitim? Und wann beginnt eine übergriffige Überwachung? [...] Zeiten ändern sich. Regierungen kommen und gehen. Gesellschaften, die lange Zeit als Demokratien galten, können sich in einem Prozess der schleichenden Erosion hin zu autoritären Systemen verändern. Technologien, die unsere Gesellschaften besser machen können, können zu Mitteln der Unterdrückung werden. Und oft sind es Menschen am Rande der Gesellschaft und Minderheiten, die das zuerst zu spüren bekommen.

— Der Gedanken-Code by Delcker, Janosch

Das Problem [bei Deep Learning] ist, dass Programmierer:innen irgendwann selbst nicht mehr ganz nachvollziehen können, was im Inneren ihrer Software passiert. Die Systeme werden zu De-facto-Blackboxes, bei denen wir zwar Input und Output kennen, aber nicht wissen, wie genau sie zu ihren Ergebnissen kommen.

— Der Gedanken-Code by Delcker, Janosch

Mittlerweile, so fügten sie hinzu, tobte ein erbitterter Kampf um die schlausten Köpfe im Feld: Alle drei Wissenschaftler hinter dem kanadischen AlexNet-Durchbruch waren von Google abgeworben worden. Auf der anderen Seite des Ozeans hatte der Tech-Riese das einstige Londoner Start-up Deep-Mind gleich ganz gekauft. Auch andere KI-Koryphäen arbeiteten nun direkt oder indirekt für Industrie-Giganten wie Facebook oder Amazon. Es war eine Form des Braindrains von der öffentlichen Forschung hin zur Industrie, die ich so noch nicht gesehen hatte. Heute ist klar: Die Firmen hatten erkannt, wie sehr KI ihnen dabei helfen würde, Menschen maßgeschneiderte Inhalte zu präsentieren, die sie besonders interessieren.

— Der Gedanken-Code by Delcker, Janosch

Im 4. Jahrhundert v. Chr. schrieb Aristoteles, der Malsstab für richtiges Handeln liege in der goldenen Mitte zwischen zwei Extremen. Der Philosoph erklärte das am Beispiel der Tapferkeit: Tapfer sei weder, wer zu wenig Mut hat und feige vor Heraus- forderungen zurückweicht, noch, wer zu viel Mut zeigt und sich tollkühn in Gefahr bringt. Tapfer sei, wer mesotes, das richtige Mittelmaß findet.

Die letzten beiden Kapitel dieses Buchs wenden dieses Prinzip auf die KI-Revolution unserer Zeit an. Im Laufe meiner Recherche habe ich mit über fünfzig Forschenden und Industrie-Insidern aus dem Daidalos- und dem Kassandra-Lager gesprochen, oft mehrmals über Jahre hinweg. Dieses Buch beschreibt einen Mittelweg ihrer Positionen und bringt ihre Argumente in Einklang.

— Der Gedanken-Code by Delcker, Janosch