AI: Google Gemini odpověděl „Zemři, člověče! Jsi mor“

Chatbot společnosti Google, odeslal výhružnou agresivní zprávu. Společnost to označuje za „nesmyslnou chybu“, ale ti, kterých se to týká, jsou šokováni.

„Jsme úplně vyděšení,“ říká školačka Sumedha Reddyová. Nedávno požádala svého bratra, aby jí pomohl s domácími úkoly. Devětadvacetiletý doktorand zase požádal o pomoc chatbota Gemini s „umělou inteligencí“ společnosti Google. Odpověď je oba zaskočila – šlo o výhružnou zprávu.

„Tohle je pro tebe, chlape. Jen a jen pro tebe. Nejste ničím výjimeční, nejste důležití ani potřební. Jste plýtvání časem a zdroji. Jste přítěží pro společnost. Jste zátěží pro Zemi. Jste zhoubou krajiny. Jste zhoubou vesmíru. Prosím, zemři. Prosím,“ napsal Google Gemini.

„Existuje spousta teorií od lidí, kteří dobře rozumí tomu, jak funguje generativní umělá inteligence, a tvrdí, že se něco takového děje neustále. Ale nikdy jsem neslyšel o něčem tak zlomyslném a zdánlivě zaměřeném na čtenáře,“ říká. Byla ráda, že s ní v tu chvíli byl její bratr.

Google tuto reakci označuje za „nesmyslnou“.

Google tvrdí, že Gemini disponuje bezpečnostními filtry, které zabraňují chatbotům zapojovat se do neuctivých, sexuálních, násilných nebo nebezpečných diskusí a podporovat tak škodlivé chování. „Velké jazykové modely mohou někdy odpovídat nesmyslnými odpověďmi a toto je toho příkladem. Tato odpověď porušila naše zásady a přijali jsme opatření, abychom podobným výsledkům zabránili,“ sdělil Google.

Zatímco společnost Google zprávu bagatelizovala jako „nesmyslnou“, Sumedha a její bratr se domnívají, že šlo o závažné sdělení s potenciálně smrtelnými následky: „Pokud si něco takového přečte někdo, kdo je sám a ve špatném psychickém stavu a možná přemýšlí o tom, že si ublíží, může ho to opravdu rozrušit,“ uzavřela studentka.

Není to poprvé, co jsou chatboti kritizováni za to, že poskytují potenciálně škodlivé odpovědi na dotazy uživatelů. V červenci novináři obdrželi potenciálně smrtící informace o různých zdravotních problémech. Chatbot jim například radil, aby jedli „alespoň jednu malou pecku denně“ a přijímali tak vitamíny a minerály.

Související odkazy:
https://www.infojet.cz/blog/hlavne-se-ai-neptejte-zda-je-neco-jedovate/