Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant
Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant
www.computerbase.de
Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant
Interessanter Weise wären, vorausgesetzt das wird auch konsequent umgesetzt, einer der Hauptprofiteure die KI-Anbieter selbst. Selbst-Kannibalismus, das heißt das "Vergiften" der Trainingsdaten durch selbst generierte Daten, ist längst ein riesiges Problem beim Training besserer Modelle, da ein immer größerer Teil der Datensätze aus dem Internet selbst KI generiert ist. Wären diese klar gekennzeichnet, wäre es ein leichtes die aus den Datensätzen zu filtern und auf "sauberen" Daten zu trainieren.
Verbietet das Ding einfach alles als KI generiert zu kennzeichnen?
Das ist ein populäres Missverständnis. Es gibt keinen grundlegenden Unterschied zwischen Daten, die von KI oder Menschen gemacht sind. Deswegen kann es auch keine zuverlässigen KI-Detektoren geben.
Ich verstehe nicht genau was du damit sagen willst, bzw. was das Missverständnis sein soll?
Quelle
Das Problem entsteht ja schon im Grundprinzip von GANs. Die eine Hälfte wird darauf trainiert echte und generierte Daten zu unterscheiden. Wenn aber in den Referenzdaten immer mehr "falsche", also generierte Daten auftauchen, kann das Ganze schon vom Prinzip her nicht funktionieren.