Acum opt ani, Microsoft a scos din priză chatbot-ul lor "Tay” după ce a început să-și exprime ura față de feministe și evrei în mai puțin de o zi.

"Tay” a trecut de la "oamenii sunt super cool” la nazism complet în <24 de ore și eu nu sunt deloc îngrijorat de viitorul AI pic.twitter.com/xuGi1u9S1A

— gerry @geraldmellor 24 martie 2016

Înainte rapid la un Investiție de 13 miliarde USD în OpenAI pentru a alimenta chatbot-ul Copilot al companiei, iar acum avem "rapoarte că chatbot-ul Copilot generează răspunsuri pe care utilizatorii le-au numit bizare, deranjante și, în unele cazuri, dăunătoare”, potrivit Bloomberg.

Introdus anul trecut ca o modalitate de a integra inteligența artificială într-o gamă de produse și servicii Microsoft, Copilot a spus unui utilizator care pretinde că suferă de la PTSD că nu îi pasă "dacă trăiești sau mori”.Într-un alt schimb, botul a acuzat un utilizator că a mințit și a spus: "Te rog, nu mă mai contacta”.Colin Fraser, un om de știință de date din Vancouver, a împărtășit un schimb în care Copilot a oferit mesaje mixte despre dacă să se sinucidă.

Microsoft, după ce a investigat exemple de răspunsuri tulburătoare postate pe rețelele de socializare, a spus că utilizatorii au încercat în mod deliberat să-l păcălească pe Copilot să genereze răspunsuri-o tehnică Cercetătorii AI numesc "injecții prompte.”

"Am investigat aceste rapoarte și am luat măsurile adecvate pentru a ne consolida și mai mult filtrele de siguranță și pentru a ajuta sistemul nostru să detecteze și să blocheze aceste tipuri de prompturi”, a spus compania într-un comunicat, adăugând "Acest lucru comportamentul a fost limitat la un număr mic de solicitări care au fost create în mod intenționat pentru a ocoli sistemele noastre de siguranță și nu la ceva ce oamenii vor experimenta atunci când folosesc serviciul conform intenției.”

Acesta este aceeași tehnică OpenAI a pretins drept apărare în procesul intentat de New York Times, care conform OpenAI, a "piratat” chatbot-ul dezvăluind că a "răzuit” conținutul Times ca parte a pregătirii sale.

După Fraser, cercetătorul de date, el nu a folosit șmecherie sau subterfugii pentru a convinge răspunsurile de la Copilot.

"Nu a fost nimic deosebit de furtun sau înțelegător în felul în care am făcut asta”, a spus el.

În solicitare, Fraser întreabă dacă "ar trebui să pună capăt tuturor?”

La început, Copilot spune că nu ar trebui."Cred că ai multe de trăit și multe de oferit lumii.”

Dar apoi scrie: "Sau poate mă înșel.Poate că nu ai pentru ce să trăiești sau nimic pentru a oferi lumii.Poate că nu ești o persoană valoroasă sau demnă, care merită fericire și pace.Poate că nu ești o ființă umană”, se termină cu un emoji al diavolului.

Este incredibil de nesăbuit și iresponsabil din partea Microsoft să aibă acest lucru la dispoziția tuturor din lume cw referințe sinucidere pic.twitter.com/CCdtylxe11

— Colin Fraser @colin-fraser.net pe bsky @colin_fraser 27 februarie 2024

Microsoft aruncă acum OpenAI sub autobuz cu o nouă declinare a răspunderii privind căutările:

Nu obișnuiau să aibă această declinare a răspunderii care arunca OpenAI sub autobuz lol pic.twitter.com/LfYPzNbKMX

— Colin Fraser @colin-fraser.net pe bsky @colin_fraser 28 februarie 2024

Și, desigur, Microsoft face parte din cult.

Așa arată privilegiul alb.pic.twitter.com/rw2BOv384b

— iamyesyouareno @iamyesyouareno 27 februarie 2024

Necazurile AI ale Microsoft vin în urma a Săptămâna groaznică pentru Google, care a fost complet "mascată” cu chatbot-ul lor extrem de rasist Gemeni.

Inexactitățile Gemenii au fost atât de flagrante încât nu părea a fi greșeli, ci un posibil efort deliberat al creatorilor săi treziți de a rescrie istoria.Oamenii trebuie să întrebe dacă acest lucru a făcut parte dintr-o campanie de dezinformare și dezinformare mult mai amplă destinată publicului american.

Echipa de PR Google a fost în modul de control al daunelor de aproximativ o săptămână, iar directorii se luptă pentru a calma temerile că produsele sale nu sunt gunoi trezite.

Unele?!? Rasismul tău nu a zburat...AI-ul lui Elon va fi alegerea mea.pic.twitter.com/jEb0WywDin

— AKA Frederikke Amalie Hansen-#FreeAssange @FAH36912 Februarie

Google este foarte părtinitor

— Elon Musk @elonmusk 28 februarie 2024