Maschinelles Lernen: Nicht so brillant wie von manchen erhofft – netzpolitik.org
Maschinelles Lernen: Nicht so brillant wie von manchen erhofft – netzpolitik.org
Weil die Diskussion um ChatGPT und andere Sprachmodelle einfach nicht abebben will, beteiligen wir uns eben dran. Andernfalls drohen wir noch verrückt zu werden. Debora Weber-Wulff und Constanze Kurz schreiben sich den Frust von der Seele, präsentieren aber auch drei einfache Regeln für eine ethisch...
You're viewing a single thread.
Was mich an der ganzen Sache so stört ist diese Obsession nach Technik. Jetzt gibt es eine vermeintlich bahnbrechende Technologie, eine Lösung, deren passenden Probleme wir nun finden müssen. Lasst uns bitte anders rum handeln: Was ist das Problem? Welche Lösung passt dazu?
Ich bin weiß Gott kein Technikverweigerer, aber würden wir genau so inbrünstig auf Fehlersuche gehen, wie wir neue Technologien ausprobieren („Move fast and break things“), würden nicht Unmengen an Ressourcen (Arbeitszeit, Energie) unnötig verschwendet werden.
Jetzt gibt es eine vermeintlich bahnbrechende Technologie, eine Lösung, deren passenden Probleme wir nun finden müssen. Lasst uns bitte anders rum handeln: Was ist das Problem?
LLMs sind vielleicht keine unfehlbare Gottheit, aber trotzdem werden sie so einige Märkte ordentlich Durchrütteln. Vorallem in den Bereichen Recht, Mental Health, Spracherwerb und generell bei oberflächlichem Tutoring können sie meiner Auffassung nach glänzen.
Nur wenn sie aufhören zu halluzinieren, was aber nicht passieren wird.
Ist ganz schön blöd wenn dein Tutor dich mit Lügen trainiert oder der Richter am Ende sagt: Was ist das für ein Unsinn?
Wenn ich genug Wissen habe die Können zu erkennen brauche ich das LLM nicht mehr.
Das Schlüsselwort war oberflächlich.
Dafür leben wir leider im falschen Gesellschaftssystem. Mit Problemen lösen macht man kein Profit. In unserem System geht es nur darum immer und immer wieder neu Profit aus demselben Stein zu pressen.
Das Kapital meint, dass der Ressourceneinsatz einen positiven Erwartungswert hat. Natürlich kann es falsch liegen, aber der tracl record ist insgesamt gar nicht schlecht.
Aber tun wir das? Also Probleme für Lösungen finden? Ich glaube, Leute schmeissen das doch nur an, wenn sie etwas davon wollen und nicht einfach so?