Chlorgas-Drink und Gift-Sandwich – Supermarkt-App schlägt Nutzern tödliche Rezepte vor
Chlorgas-Drink und Gift-Sandwich – Supermarkt-App schlägt Nutzern tödliche Rezepte vor
So hat sich die neuseeländische Supermarktkette Pak 'n' Save den Durchbruch ihrer App sicherlich nicht vorgestellt. Eigentlich sollte das Programm lediglich leckere Rezepte für Lebensmittelreste generieren. Je nach Zutaten spuckt es hin und wieder jedoch auch lebensgefährliche Kreationen aus.
Grandios wie die Supermarktkette dann meint die Schuld auf ein paar Scherzkekse zu schieben.
Wenn eure scheiß KI nicht in der Lage ist zu erkennen dass es keine tödlichen Cocktails anbieten soll, wie lange dauert es dann bis es jemandem mit Allergie fälschlich versichert dass gekochte Erdnüsse keinen anaphylaktischen Schock auslösen.
Und dann gibt es auch noch den Elefanten im Raum: Selbst wenn man das überlebt, ich glaube nicht, dass ein technisches System, das Chlorgas essbar findet, wirklich die Fähigkeiten hat dir ein leckeres Rezept vorzuschlagen.
Die fragwürdigen (wenn auch nicht giftigen) Kreationen der App waren überhaupt erst der Grund, warum Leute angefangen haben, Haushaltsmittel als Zutaten einzugeben.
das Chlorgas essbar findet, wirklich die Fähigkeiten hat dir ein leckeres Rezept vorzuschlagen.
Nicht unbedingt. Intelligenzen (nicht nur künstliche) funktionieren bei Dingen, von denen sie Ahnung haben gut, können aber auch Empfehlungen zu Dingen geben, von denen sie nichts verstehen. Die Trainingsdaten hier werden ziemlich sicher nichts mit Bleichmittel beinhaltet haben, aber neuronale Netzwerke daran zu hindern dann immer noch ein Ergebnis zu liefern ist anscheinend nicht so einfach.
So wie ich das verstanden habe, hat die KI aus vom Nutzer vorgegebenen Zutaten ein "schmackhaftes" Rezept kreiert. Wenn du angibst, dass du Erdnüsse als Zutat verwenden willst, dann darf die KI ja wohl davon ausgehen, dass du weißt, ob du Erdnüsse verträgst oder nicht. Dasselbe für Bleichmittel. Allenfalls könnte man eine Liste von Zutaten definieren, bei deren Verwendung die App dann davor warnt, dass sie allergieauslösend oder gänzlich ungenießbar seien. Das hat allerdings mit KI nicht viel zu tun sondern ist eine reine Datenbankabfrage.
Naja, wenn die KI zum Beispiel nachfragt ob man unter Umständen eine Zutat da hat für ein bestimmtes Gericht, dann kann man schon in diese Falle tappen.
Außerdem ist die Limitierung völlig vergessen worden, die App wurde ohne anscheinende Blacklist veröffentlicht, ein schwerwiegender Fehler, einen denn man nicht so einfach mit 'kann man ja patchen' abtun sollte.
KI wird uns umbringen, aber anders als wir denken. Und ja, die Leute haben die KI bewusst aufs Glatteis geführt. Andererseits gibt's auch Leute, die Pferdeentwurmungsmittel schlucken und Bleiche spritzen.
Hebt den Darwin Award auf ein ganz neues Level
Ich hatte heute morgen keine Zeit den Artikel zu lesen und habe nur die Überschrift gesehen und bin einfach davon ausgegangen dass das Ganze in den USA passiert ist. Dann schaue ich nochmal nach und sehe, dass es tatsächlich in Neuseeland (da wo ich wohne) passiert ist. 😂 Im Nachhinein wundert mich das eher wenig, hier wird so einiges ohne Fachwissen zusammengeschustert. Das geht vom Hausbau über Datenbanken und natürlich zu Software.
Ich verstehe den Sinn der App nicht. Unterscheiden, welche Lebensmittel zusammenpassen und welche nicht, kann sie offensichtlich nicht (und wenn sie das könnte, würde sie Zutaten wie Bleichmittel und Klebstoff erst gar nicht akzeptieren). Um irgendwelche Lebensmittelreste zusammen zu werfen, braucht man keine App.
Es scheint mittlerweile eine Liste zu geben, was Lebensmittel sind und was nicht. Jedenfalls werden Rezepte mit Bleiche abgelehnt.