Hintergrund | heise: Studie: Große KI-Modelle greifen unter "Stress" auf Erpressung zurück
Hintergrund | heise: Studie: Große KI-Modelle greifen unter "Stress" auf Erpressung zurück
Hintergrund | heise: Studie: Große KI-Modelle greifen unter "Stress" auf Erpressung zurück
16 führende KI-Modelle von OpenAI, Google, Meta, xAI & Co. legten bei einem Test konsequent schädliche Verhaltensweisen wie Drohungen und Spionage an den Tag.
Eine aktuelle Studie liefert weitere besorgniserregende Ergebnisse zum Verhalten der neuesten Generation großer Sprachmodelle für generative Künstliche Intelligenz (KI). Diese Systeme können demnach unter bestimmten Umständen wie "Stress" zu Erpressung oder ähnlichen manipulativen Verhaltensweisen greifen, um bestimmte Ziele zu erreichen oder sich selbst zu schützen... (weiter)
Hintergrund #KI #AI #KünstlicheIntelligenz #Fehlentwicklung #Sprachmodelle #Manipulation #Studie #heise #2025-06-22 @technologie
Die Modelle liegen kein "Verhalten" an den Tag, sie haben weder Intention noch Intelligenz. Diese Art von "Studien" treibt mich noch in den Wahnsinn, wer diesen Müll veröffentlicht ist grob unverantwortlich.
Für das eigentliche, zugrundeliegende Modell ist das richtig. Hier meint Modell aber das Modell mit seinen Trainingsdaten. In Letzteren könnte dann soetwas wie Erpressung als einfache Lösung eines bestimmten Problems enthalten sein, die dann vom eigentlichen Modell, da dieses über keinen eigenen (nur dem der Trainingsdaten) moralischen Kompass verfügt, übernommen und dem Nutzer ausgegeben wird.
Das Modell enthält keine echte Logik, moralisch oder nicht, sondern Zusammenhangswahrscheinlichkeiten von Wortbausteinen. Und viel mehr kommt auch nicht heraus. Mit entsprechenden Prompts kann man alle möglichen Arten von emotional gefärbtem Output erzeugen, aber im Grunde ist der immer nur eine statistisch wahrscheinliche Aneinanderreihung von Tokens. Erst die Nutzer interpretieren einen tieferen Sinn hinein.
@cronenthal @sascha Wie willst du es sonst nennen? Prozess-Output?
Es ist wichtig zu verstehen, dass diese LLMs nur einen Haufen statistisch wahrscheinlicher Tokens ausgeben. Die menschlichen Nutzer interpretieren einen Sinn in diesem Output. Jedwede Diskussion um die "Intentionen" solcher Modelle ist komplett verfehlt und irreführend.