1w ago

Wie ins Meer pinkeln: KI vergiften helfe nicht

www.heise.de

Der für mich interessante Teil ist am Ende des Artikels:

Es hat sich zuletzt allerdings gezeigt, dass großangelegte Kampagnen, um Trainingsdaten zu vergiften, schon Wirkung zeigen. Russland soll zahlreiche Webseiten betreiben – mit der ausschließlichen Absicht, KI-Modelle sowohl beim Training als auch in der Echtzeit-Suche mit ausgewählten Informationen zu versorgen. Die Echtzeit-Suche ist besonders anfällig für Angriffe. Informationen und Anweisungen können etwa auf Webseiten versteckt sein, so dass Menschen sie nicht sehen. Falsche Informationen können dann auch weitreichende Folgen für die gesamte Schlussfolgerung etwa auch bei Reasoning-Modellen haben.

3 comments

Nach Veröffentlichung dieser Werkzeuge gab es wahnsinniges Geschrei, dass alle Daten verseucht seien und unbrauchbar und die Nutzung von Nightshade/Glaze sei heimtückische Sachbeschädigung oder sowas. Klingt jetzt für mich nicht direkt nutzlos.
Iaso vergleicht in einem Gespräch mit 404 Media das Vergiften von Daten, die zu Trainingszwecken genutzt werden, damit, dass man als einzelne Person zwar ins Meer pinkeln könne, es aber dennoch ein Meer bleibe. Zudem kritisiert Iaso, dass dadurch gegebenenfalls Ressourcen verbraucht werden, die nicht verbraucht werden müssten.
Tatsächlich ist die Wirksamkeit von Tools wie Nightshade, bei dem Bilder mit falschen Informationen zu den Bildern versehen werden, fraglich, sofern es nur sehr wenige Künstler oder Einzelpersonen machen. Pinkeln Menschen überall auf der Welt ungefiltert ins Meer, hätte das womöglich doch einen Effekt auf die Wasserqualität.
Insofern ist das wie mit der britischen Kanalisation. Klar wenn einer ins Meer pinkelt, tut sich nicht viel. Wenn dagegen ungereinigtes Abwasser direkt ins Meer geleitet wird, sollte man im Umkreis besser nicht mer Baden gehen.
Je mehr Menschen diese Tools einsetzen, desto wirksamer wird es. Dabei muss man auch nicht das "ganze" Internet "vergiften". Wenn man gezielt vorgeht, kann man bestimmte Crawler-Ziele unbrauchbar machen.
Deshalb serviere ich ja auch das Manifest lol