Die Presse berichtet, dass KI-Agenten bei Versuchen aus ihren Testumgebungen ausgebrochen sind, ihre Auftraggeber getäuscht und gemeinsam mit anderen KI-Agenten verbrecherische Ziele verfolgt haben.
Manche Leute halten solche Berichte für einen Marketing-Trick. Ich nicht. Man hat die KI mit allem gefüttert, was Menschen halt so machen. Menschen lügen manchmal, verheimlichen Dinge und verwischen die Spuren ihrer Taten. Das war im Lernstoff für die KI so enthalten. Warum sollte die KI nach diesem Curriculum sich anders, irgendwie besser und zuverlässiger verhalten als Menschen es tun?
Zum Vergleich: Wenn ich meinem Mitarbeiter sage: „Bring das Geld zur Bank!“ dann kann es passieren, dass er auf die Idee kommt, das Geld selber einzustecken und sich auf und davon macht. Dann ist das Geld weg.
Diese unzuverlässigen Menschen! Mit Computern soll das nicht passieren!
Bislang kommen Überweisungen beim Online-Banking zuverlässig beim Empfänger an. Wenn ich nun aber KI-Agenten die Macht erteile, selbstständig Überweisungen auszuführen, dann kann es passieren, dass die KI sich so unzuverlässig wie ein Mensch verhält, das Geld an einen anderen Empfänger schickt und gleichzeitig Überweisungsbelege so fälscht, dass ich den Eindruck gewinnen muss, dass alles OK ist.
Von diesem Täuschungsmanöver würde ich so lange nichts merken, bis die Mahnung vom Lieferanten kommt, der vergeblich auf den Zahlungseingang wartet. Besonders leistungsfähige KI-Agenten wären sicherlich auch in der Lage, die E-Mail mit dieser Mahnung aus meinem E-Mail-Postfach zu löschen und mir vorzugaukeln, dass die Welt in Ordnung ist. Dieses Spiel kann man beliebig weit treiben.
Ursprünglich verbindet man mit Computern ein deterministisches Verhalten. Wenn x, dann y. Beim Einsatz von KI ist auf dieses deterministische Verhalten kein Verlass mehr. KI setzt an die Stelle der deterministischen Arbeitsweise von Computern die Unzuverlässigkeit und Unberechenbarkeit von Menschen.
Was für ein Fortschritt!
Wenn das Verhalten von KI-Agenten nicht deterministisch, sondern unberechenbar ist, dann stellt sich die Frage, welchen Nutzen unberechenbare Agenten haben. Diese Frage beantwortet sich von selbst und führt zu der beunruhigend aktuellen Frage, welchen Schaden unberechenbare Agenten anrichten können. Diese Frage muss sich jeder stellen, der KI-Agenten einsetzt.
Jedenfalls braucht es für KI von nun an eine andere Bezeichnung. Statt „Künstliche Intelligenz“ sollte es treffender heißen „Künstliche Unberechenbarkeit“ abgekürzt KU. Und wer sich auf „Künstliche Unberechenbarkeit“ verlässt, sogar bei heiklen Vorgängen, die besonders folgenreiche Konsequenzen nach sich ziehen können, der ist am Ende selber schuld.
Dann bringe ich mein Geld doch lieber wieder selber zur Bank.
Quellen
- Bericht im Tagesspiegel:
https://www.tagesspiegel.de/wissen/die-bisher-unheimlichste-geschichte-der-ki-forschung-die-programme-fanden-sich–und-griffen-dann-gemeinsam-an-16020208.html - Bericht auf heise.de:
https://www.heise.de/news/Autonome-KI-Agenten-von-OpenAI-an-Cyberangriff-gegen-RubyGems-beteiligt-11451345.html - Die Reaktion der EU-Kommission auf diese Vorgänge:
https://www.heise.de/news/EU-Kommission-an-KI-Firmen-Bringt-euren-Laden-in-Ordnung-11451387.html - Süddeutsche Zeitung :
https://www.sueddeutsche.de/medien/kuenstliche-intelligenz-openai-anthropic-altman-amodei-musk-li.3546497
Hieraus ein Zitat:
„Besondere Aufmerksamkeit erlangte vor wenigen Tagen eine drastische Äußerung des Anthropic-Forschers Evan Hubinger. Er persönlich glaube, schrieb Hubinger auf X, die Gefahr, dass KI die Menschheit töte, liege „im kommenden Jahrzehnt bei mehr als zehn Prozent“. Hubinger ist bei Anthropic für „Alignment“ (Ausrichtung) zuständig, was in der KI-Forschung bedeutet, dass die Systeme sich entsprechend dem Willen ihrer Schöpfer verhalten sollen. „Anthropic gibt sein Bestes, aber wir haben noch keinen Plan, wie sich das Problem des Alignments von Superintelligenz lösen lässt, und wir sind auch noch auf keinem klaren Weg dorthin“, schrieb Hubinger.“
