San Francisco (AFP) – OpenAI a dezvăluit vineri un instrument de clonare a vocii pe care intenționează să-l mențină strict controlat până când sunt instituite măsuri de protecție pentru a contracara falsurile audio menite să înșele ascultătorii.

A. modelul numit „Voice Engine” poate duplica în esență discursul cuiva pe baza unui eșantion audio de 15 secunde, conform unei postări de blog OpenAI care partajează rezultatele unui test la scară mică al instrumentului.

„Recunoaștem că generarea discursul care seamănă cu vocile oamenilor are riscuri serioase, care sunt în primul rând în minte într-un an electoral”, a spus compania cu sediul în San Francisco.

„Ne angajăm cu parteneri americani și internaționali din guvern, mass-media. , divertisment, educație, societate civilă și nu numai pentru a ne asigura că încorporăm feedback-ul lor pe măsură ce construim.”

Cercetătorii în dezinformare se tem de utilizarea greșită a aplicațiilor bazate pe inteligență artificială într-un an electoral crucial, datorită proliferării instrumentelor de clonare a vocii, care sunt ieftine, ușor de utilizat și greu de urmărit.

Recunoscând aceste probleme, OpenAI a spus că „adoptă o abordare prudentă și informată pentru o lansare mai largă, din cauza potențialului de utilizare greșită a vocii sintetice”.

Dezvăluirea cu prudență a avut loc la câteva luni după ce un consultant politic care lucrează pentru campania prezidențială de lungă durată a unui rival democrat al lui Joe Biden a recunoscut că se află în spatele unui apel automat care uzurpa identitatea liderului SUA.

AI. -apel generat, creația unui agent al congresmanului din Minnesota Dean Phillips, a prezentat ceea ce suna ca vocea lui Biden care îi îndeamnă pe oameni să nu voteze la primarul din New Hampshire din ianuarie.

Incidentul a stârnit alarmă în rândul experților care se tem de un potop. de dezinformare profundă bazată pe inteligență artificială în cursa pentru Casa Albă din 2024, precum și în alte alegeri cheie de pe tot globul din acest an.

OpenAI a spus că partenerii care testează Voice Engine au fost de acord cu regulile, inclusiv solicitarea consimțământului explicit și informat pentru orice persoană a cărei voce este duplicată folosind instrumentul.

De asemenea, trebuie să fie clar pentru public atunci când vocile pe care le aud sunt generate de inteligență artificială, a adăugat compania.

„Am implementat un set de măsuri de siguranță, inclusiv marcarea în apă pentru a urmări originea oricărui sunet generat de Voice Engine, precum și monitorizarea proactivă a modului în care este utilizat”, a spus OpenAI.

© 2024 AFP

_ OpenAI dezvăluie un instrument de clonare a vocii

(Fluierul)