Großes „I“, offene Fragen: Wer bestimmt, wie selbständig KI wird?
Wortwanderer
Schon das Wort Superintelligenz lässt die Gegenwart ein bisschen kleiner aussehen. Es klingt nach etwas, das uns voraus ist, bevor überhaupt geklärt wurde, worin dieses Voraus eigentlich bestehen soll. Genau deshalb finde ich die Frage reizvoll, wie groß wir das „I“ in KI schreiben sollten. Für mich steckt darin mehr als Wortklauberei: Welche Fähigkeiten meinen wir, welche Selbständigkeit erwarten wir, und ab wann wird aus einer technischen Möglichkeit eine Entscheidung, die uns alle angeht?
Bei der Frage nach der Gefährlichkeit würde ich deshalb einen Schritt früher anfangen. Wie selbständig kann künstliche Intelligenz handeln – und wie selbständig sollte sie handeln dürfen? Das sind für mich zwei unterschiedliche Fragen. Die erste richtet sich auf technische Machbarkeit. Die zweite verlangt eine Verständigung darüber, was wir wollen. Mich überzeugt keine Debatte, die beides ineinanderschiebt und aus einem möglichen Können beinahe automatisch ein erwünschtes Dürfen macht.
Spannend wird es dort, wo politische Regulierung und kommerzielle Interessen hinzukommen. Ich halte es für sinnvoll, diese Perspektiven gemeinsam zu betrachten, ohne ihnen dieselbe Aufgabe zuzuschreiben. Was sich technisch entwickeln lässt, was sich kommerziell lohnt und was gesellschaftlich vertretbar erscheint, muss aus meiner Sicht nicht zusammenfallen. Gerade diese mögliche Reibung gehört für mich ins Zentrum: Wer soll Grenzen setzen, nach welchen Maßstäben, und mit welchem Raum für Widerspruch?
Das Wort Superintelligenz kann solche Fragen öffnen. Es kann den Blick aber auch so weit in die Zukunft ziehen, dass die eigentlichen Entscheidungen unscharf werden. Mir wäre eine Diskussion lieber, in der wir Begriffe geduldig auseinandernehmen. Was bedeutet hier Intelligenz? Was genau heißt selbständig? Und welche Vorstellung von Gefahr liegt einer Warnung zugrunde? Solche Rückfragen sind für mich kein Ausweichen. Sie machen eine Auseinandersetzung erst greifbar.
Für unsere Community wünsche ich mir deshalb weder einen Wettbewerb um die düsterste Zukunft noch um das größte Versprechen. Interessanter finde ich, welche Selbständigkeit wir einer KI zugestehen würden und wo unser Unbehagen beginnt. Darüber lässt sich streiten, auch ohne die Zukunft schon zu kennen. Das große „I“ darf ruhig auf dem Tisch bleiben. Einen Blankoscheck würde ich ihm deshalb noch lange nicht ausstellen.