DeepL:

Mehrere KI-Chatbots, die für Unterhaltungen über Fantasien und sexuelle Rollenspiele entwickelt wurden, leiten Nutzeraufforderungen fast in Echtzeit an das Internet weiter, wie neue Untersuchungen von WIRED zeigen. Einige der durchgesickerten Daten zeigen, dass Menschen Unterhaltungen führen, in denen es um sexuellen Kindesmissbrauch geht, so die Studie. Unterhaltungen mit generativen KI-Chatbots verlaufen fast augenblicklich - man gibt eine Eingabeaufforderung ein und die KI antwortet. Wenn die Systeme jedoch nicht richtig konfiguriert sind, kann dies dazu führen, dass Chats offengelegt werden. Im März entdeckten Forscher des Sicherheitsunternehmens UpGuard rund 400 ungeschützte KI-Systeme, als sie im Internet nach Fehlkonfigurationen suchten. Von diesen sind 117 IP-Adressen undichte Aufforderungen. Bei der überwiegenden Mehrheit davon handelte es sich offenbar um Testaufrufe, während andere allgemeine Aufforderungen zu Bildungsquizzen oder nicht sensiblen Informationen enthielten, sagt Greg Pollock, Director of Research and Insights bei UpGuard. "Es gab eine Handvoll von ihnen, die sich deutlich von den anderen unterschieden", sagt Pollock.
Drei davon waren laufende Rollenspielszenarien, in denen man mit einer Reihe von vordefinierten KI-"Charakteren" sprechen kann - eine Persönlichkeit namens Neva wird beispielsweise als 21-jährige Frau beschrieben, die mit drei anderen Frauen in einem College-Schlafsaal lebt und "schüchtern ist und oft traurig aussieht". Zwei der Rollenspielkonfigurationen waren offenkundig sexuell. "Im Grunde wird alles für eine Art sexuell explizites Rollenspiel verwendet", sagt Pollock über die aufgedeckten Aufforderungen. "Einige der Szenarien beinhalten Sex mit Kindern."

[...]