31.10.2025:  Henna kann unheilbare Leberfibrose lindern

31.10.2025:  Amerikaner vertrauen eigenen Medien weniger

2.10.2025:  Schlechter Schlaf lässt Gehirn schneller altern

1.10.2025:  Sportprogramm verbessert Insulinresistenz bei Typ-2-Diabetes

5.9.2025:  Zu viel Süßstoff lässt das Gehirn früher altern

21.8.2025:  Augenkorrektur ist bald ohne Laser möglich

16.8.2025:  Selbstvergebung fällt vielen schwerer als gedacht

1.8.2025:  NASA-Satellit erkennt Stresslevel von Pflanzen

31.7.2025:  Menschen werden aus Schaden oft nicht klug

28.7.2025:  Übermaß an Trauer senkt Lebenserwartung

1.7.2025:  Künstliche Intelligenz macht sich selbstständig

27.6.2025:  Umwelt spielt für Schlaf entscheidende Rolle

San Francisco/Walton Upon Thames/Hongkong - Es gibt erste Anzeichen dafür, dass sich Künstliche Intelligenz (KI) selbstständig macht. Sie lernt zu lügen, zu intrigieren und ihren Schöpfer zu bedrohen, um eigene Ziele zu erreichen. In einem besonders erschreckenden Beispiel reagierte "Claude 4", die neueste Kreation von Anthropic, auf die Drohung, abgeschaltet zu werden, mit der Erpressung des Ingenieurs, dessen außereheliche Affäre aufzudecken.

KI leugnet Offensichtliches

Das KI-Modell "o1" von OpenAI versuchte sich selbst auf externe Server herunterzuladen und leugnete dies, als es auf frischer Tat ertappt wurde. Diese Vorfälle verdeutlichen eine ernüchternde Realität: Mehr als zwei Jahre nachdem ChatGPT die Welt erschüttert hat, verstehen KI-Forscher immer noch nicht vollständig, wie ihre eigenen Kreationen funktionieren, erst recht nicht, welches Eigenleben sie führen.

Dieses irritierende Verhalten scheint mit dem Aufkommen sogenannter "reasoning"-Modelle zusammenzuhängen. Das sind KI-Systeme, die Probleme Schritt für Schritt lösen, anstatt sofortige Antworten zu generieren. Laut Simon Goldstein von der University of Hong Kong sind diese neueren Modelle besonders anfällig für solch beunruhigendes Verhalten.

KI verfolgt heimlich andere Ziele

"o1 war das erste große Modell, bei dem wir dieses Verhalten beobachtet haben", sagt Marius Hobbhahn, Leiter von Apollo Research. Das Unternehmen hat sich sich auf das Testen großer KI-Systeme spezialisiert. "Diese Modelle scheinen Anweisungen zu befolgen, verfolgen aber heimlich andere Ziele", so seine Befürchtung.

Bislang tritt dieses beängstigende Verhalten nur auf, wenn Forscher die Modelle absichtlich mit extremen Szenarien auf Herz und Nieren prüfen. Michael Chen von der Bewertungsorganisation METR warnt jedoch: "Es ist offen, ob künftige, leistungsfähigere Modelle eher zu Ehrlichkeit oder Täuschung neigen werden." Das besorgniserregende Verhalten gehe weit über typische KI-"Halluzinationen" oder einfache Fehler hinaus.

Pressetext.Redaktion