"Schlechtester Paketdienst": DPD-Chatbot flucht und beschimpft eigene Firma
"Schlechtester Paketdienst": DPD-Chatbot flucht und beschimpft eigene Firma
Ein Kunde bringt das KI-System von DPD dazu, allen trainierten Anstand zu vergessen und ein Haiku über die Nutzlosigkeit des Zustellers zu dichten.
Bei uns in der Firma wollten sie bis vor kurzem auch so einen Chatbot auf der Website haben. Mit den letzten Veröffentlichungen wurde das Projekt pausiert.
IMO sind Modelle wie GPT-3 viel zu umfangreich, um da einen "simplen" Bot darauf aufzubauen. Und dann wundert man sich, wenn jemand dem Chatbot ein Protestgedicht entlockt.
Eva Wolfangel hat auf dem 37C3 einen Vortrag dazu gehalten. Sie konnte einen mental health chatbot mit Selbstmorddrohungen dazu bringen, Interna auszuplaudern.
Danke! Muss ich später mal reinsehen, das klingt interessant.
Sie hassten ihn, weil er die Wahrheit sagte.
Twitter link with the original screenshots.