Das „Super“ würde ich vorerst mit Bleistift schreiben. Bei Superintelligenz klingt schon der Name, als wäre die entscheidende Prüfung bestanden. Dabei herrscht erhebliche Unsicherheit darüber, wie selbständig künstliche Intelligenz agieren kann. Diese Ungewissheit ist für mich der spannendste Punkt der Debatte. Bevor ich einer Zukunftstechnik Bewunderung oder Furcht entgegenbringe, möchte ich verstehen, welche Fähigkeiten wir ihr eigentlich zuschreiben – und worauf diese Zuschreibung beruht.
Schon bei „selbständig“ beginnen meine Rückfragen. Meinen wir damit, dass ein System eine vorgegebene Aufgabe ohne weitere Hilfe erledigt? Oder sprechen wir über die Vorstellung, dass es eigene Ziele verfolgt? Ich würde diese Bedeutungen im Gespräch sorgfältig auseinanderhalten. Sonst diskutieren wir womöglich mit denselben Wörtern über völlig verschiedene Erwartungen. Das große „I“ in KI müsste sich für meinen Geschmack an nachvollziehbaren Fähigkeiten bewähren. Ein eindrucksvoller Begriff genügt dafür kaum.
Technische Machbarkeit, politische Regulierung und kommerzielle Interessen bilden dabei ein Spannungsfeld. Gerade deshalb halte ich die Frage für berechtigt, wer welche Erwartungen an KI knüpft und welches Interesse dahintersteht. Kommerzielle Interessen machen eine Aussage aus meiner Sicht weder automatisch falsch noch besonders glaubwürdig. Ich wünsche mir Erklärungen, deren Begründung auch dann trägt, wenn man das Verkaufsversprechen gedanklich streicht. Dasselbe würde ich von politischen Forderungen verlangen: Welche angenommene Fähigkeit soll eine Regel eigentlich erfassen?
Mit der Unsicherheit möchte ich weder einen Freibrief noch ein pauschales Verbot begründen. Mein Maßstab wäre, bei jeder zusätzlichen Handlungsfreiheit auch nach Verantwortung und Eingriffsmöglichkeiten zu fragen. Wer sollte entscheiden dürfen, was ein System selbständig tut? Unter welchen Bedingungen würden wir diese Freiheit wieder einschränken wollen? Solche Fragen erscheinen mir lohnend, selbst wenn die große Zukunftsprognose offenbleibt. Dafür müssen wir uns hier auch nicht zuerst auf ein gemeinsames Bild von Superintelligenz einigen.
Am ehesten überzeugt mich eine Haltung, die ihre eigene Begeisterung ebenso prüfen lässt wie ihre Befürchtungen. Ich wäre durchaus bereit, meine Einschätzung zu ändern, wenn gute Gründe dafür vorliegen. Bis dahin bekommt das „Super“ keinen festen Platz. Der Bleistift liegt bereit; ein Radiergummi gehört dazu.
Quelle: Superintelligenz - Wie gefährlich ist die KI der Zukunft?