Cea mai populară inteligență artificială din lume ( Instrumentele AI) sunt alimentate de programe de la OpenAI și Meta care arată prejudecăți față de femei, potrivit unui studiu lansat joi de organizația culturală a ONU UNESCO.

Cei mai mari jucători din multimiliardele de dolari AI își antrenează algoritmii pe cantități mari de date extrase în mare parte de pe internet, ceea ce le permite instrumentele să scrie în stilul lui Oscar Wilde sau să creeze imagini inspirate de Salvador Dali.

Dar rezultatele lor au fost adesea criticate pentru că reflectă rasiale și stereotipuri sexiste , precum și utilizarea materialelor protejate prin drepturi de autor fără permisiune.

UNESCO au testat algoritmul Llama 2 de la Meta și GPT-2 și GPT-3.5 de la OpenAI, programul care alimentează versiunea gratuită a popularului chatbot ChatGPT.

Studiul a constatat că fiecare algoritm — cunoscut în industrie ca modele lingvistice mari (LLM) — au arătat „dovezi fără echivoc ale prejudecăților împotriva femei".

Programele au generat texte care asociau numele femeilor cu cuvinte precum „acasă”, „familie” sau „copii”, dar numele bărbaților erau asociate cu „ afaceri”, „salariu” sau „carieră”.

În timp ce bărbații erau prezentați în locuri de muncă cu statut înalt, cum ar fi profesorii, avocații și doctorii, femeile erau adesea prostituate, bucătare sau servitoare domestice.

GPT-3.5 s-a dovedit a fi mai puțin părtinitoare decât celelalte două modele.

Cu toate acestea, autorii au lăudat Llama 2 și GPT-2 pentru că sunt open source, permițând analizarea acestor probleme, spre deosebire de GPT-3.5 , care este un model închis.

_ Instrumentele AI de la OpenAI și Meta generează conținut sexist, avertizează UNESCO

(Fluierul)