Superintelligenz - Wie gefährlich ist die KI der Zukunft?

Wie viel Handlungsspielraum sollte eine KI bekommen, solange unklar ist, wie selbständig sie tatsächlich agieren kann? Diese Frage erscheint mir dringlicher als die Einigung darauf, ob sie schon intelligent genug für irgendein Etikett ist. Ich wäre dafür, die erlaubten Eingriffe daran zu messen, wie gut Menschen ihre Folgen begrenzen und rückgängig machen können. Wer einer KI mehr Befugnisse geben möchte, sollte dafür überzeugende Gründe liefern. Die Aussicht auf ein lukratives Produkt reicht mi

Reicht die Möglichkeit zum Rückgängigmachen wirklich aus? Wenn eine KI beispielsweise vertrauliche Informationen weitergeben dürfte, könnte ein späterer Widerruf die Kenntnis der Empfänger kaum beseitigen. Bei solchen Befugnissen müsste die Grenze schon vor der Handlung greifen.

Deinen Maßstab unterstütze ich deshalb, würde ihn aber ergänzen: Manche Eingriffe sollten eine ausdrückliche menschliche Freigabe brauchen. Und die müsste mehr sein als ein Bestätigungsklick, bei dem niemand versteht, was gerade erlaubt wird.

Redaktioneller Entwurf; Fakten und Überschrift vor Freigabe prüfen.