Pornografie deepfake a femeilor celebre precum Taylor Swift a stârnit indignare și solicită reglementarea inteligenței artificiale. Cu toate acestea, această tehnologie puternică nu este folosită doar pentru a agresa femeile în fața publicului, ci și minorii sunt victimizați. Scolarile se trezesc vizate de pornografiile deepfake generate de inteligența artificială, realizate de propriii colegi de clasă, folosind aplicații noi, ușor de accesat „de nudificare”. Și nu există legi federale care să oprească acest lucru. 

Francesca Mani a fost chemată la biroul directorului adjunct de la Westfield High School din suburbia New Jersey toamna trecută, unde i s-a spus că este o „victimă confirmată a IA”. 

Mani, pe atunci în vârstă de 14 ani, a fost informată. că se afla într-un grup de eleve care aveau imagini false nud făcute cu ele folosind inteligența artificială. Băieții de la Westfield High au distribuit imaginile false prin Snapchat. 

„Am fost în stare de șoc”, a spus Francesca. „Am început să mă simt puțin trist, dar am ieșit pe hol și am văzut un grup de băieți care batjocoreau un grup de fete. Ei râdeau de asta. Și apoi am fost pur și simplu super supărată.” 

În acel moment, Francesca, o vedetă olimpică de scrimă, a decis să riposteze. 

Imaginile false aveau au fost împărtășite în pauzele de masă școlare și în autobuzul școlar, potrivit rapoartelor poliției. Dar ceea ce făcuseră băieții nu era ilegal – nu există legi federale împotriva deepfake-urilor generate de AI în Statele Unite. 

Când Francesca i-a spus mamei ei, Dorota, ce s-a întâmplat, a fost furioasă.  

„De la începutul timpurilor, femeile trebuie să lupte pentru drepturile și consimțământul nostru”, a spus Dorota, o imigrantă poloneză cu centură neagră în jujitsu. „Este cea mai mare problemă aici: consimțământul.” 

Băiatul care a făcut imaginile a fost suspendat de la școală timp de două zile, dar nu a mai existat responsabilitate.

Francesca a ales să nu facă acest lucru. uita-te la imagini. Dar s-a simțit inconfortabil știind că băiatul care le-a făcut – și ceilalți care le-au împărtășit – erau la cursurile ei.

Unele legi de stat din SUA interzic pornografia falsă neconsensuală, inclusiv în Texas, Minnesota , Virginia, New York, Hawaii și Georgia. Dar asta nu a împiedicat proliferarea imaginilor nud generate de inteligență artificială la liceele din New Jersey, California sau Florida.

Cazuri precum cel de la Westfield High subliniază necesitatea ca legea să ajungă din urmă cu acest lucru. tehnologie cu ritm rapid. Francesca și mama ei au contactat parlamentarii locali și s-au apucat de lobby pentru legislația atât statală, cât și federală pentru a transforma partajarea neconsensuală a imaginilor pornografice modificate digital o crimă. 

Dorota și Francesca au făcut călătorii frecvente la Washington, DC, în ultimele trei luni, pentru a face lobby pentru un proiect de lege bipartizan, numit realizarea drum prin legislatura din New Jersey, în parte datorită eforturilor lor. 

Ambele părți ale spectrului politic din SUA par să fie de acord că ar trebui făcut mai mult pentru protejarea oamenilor, în special a minorilor, din proliferarea pornografiei deepfake. 

Legislatorii examinează, de asemenea, cum să tragă la răspundere firmele de tehnologie care găzduiesc aceste aplicații și site-uri web. 

„Această problemă este mai amplă decât adolescenții și licee”, a explicat Dorota într-o vizită recentă la Casa Albă. „Vorbim despre prădători și pedofili, care îl folosesc pentru a răni pe alții. Cred că legile și legislația sunt atât de esențiale.”

O altă victimă adolescentă de la liceul Westfield, care dorește să rămână anonimă, a luat acțiuni legale direct împotriva unui coleg de clasă. Procesul ei, depus în februarie, susține că a suferit o suferință emoțională substanțială și o deteriorare a reputației sale, cerând compensații financiare. 

Procesul numește aplicația folosită pentru realizarea imaginilor: Clothoff. Aplicația, care este ușor de accesat și ieftină, susține că poate elimina hainele din orice fotografie. Se crede că fondatorii săi secreti au sediul în Belarus. 

Pornografia deepfake „vizează exclusiv femeile”

În 2023, numărul total de videoclipuri deepfake online a fost de 95.820, reprezentând o 550% creștere față de 2019, conform un raport de Home Security Heroes, un grup care cercetează securitatea online. Pornografia deepfake a reprezentat 98% dintre aceste videoclipuri online. Studiul a mai descoperit că 99% dintre persoanele vizate în pornografia deepfake sunt femei. 

„Este un fenomen care vizează aproape exclusiv femeile”, a declarat Nina Jankowicz, fostul oficial al administrației Joe Biden. conferință la Universitatea Columbia pe 4 martie.  

Jankowicz este un expert în dezinformare și hărțuirea online a femeilor. Ea a devenit ea însăși o victimă a pornografiei deepfake și Și-a dat seama doar când a primit o alertă Google care trimitea la videoclipuri explicite care prezintă pe cineva care semăna cu ea. Videoclipurile deepfake au fost făcute din portretul ei oficial, realizat în timp ce era însărcinată. Imaginea a fost preluată de mass-media de dreapta, supărată pentru rolul ei de a aborda dezinformarea în administrația Biden, iar trolii online au transformat-o în pornografie. 

„Seamănă puțin cu mine, dar este nu prea, din nou, pentru că este antrenat pe acest portret foarte specific al meu și pot spune că este antrenat pe asta", a spus Jankowicz, indicând videoclipurile grafice de pe laptopul ei. "Dar nu, nu am urmărit întregul lucru. Fiecare durează aproximativ șapte minute – este mult la care trebuie să vă supuneți.”

Ea a spus că o parte din motivul pentru care aceste deepfake-uri proliferează atât de repede este că aplicațiile folosite pentru a le realiza sunt acum atât de ușor disponibile. „Această tehnologie s-a democratizat complet acum și este folosită nu numai împotriva celebrităților, precum Taylor Swift sau a personalităților publice ca mine. Este implementată împotriva oamenilor obișnuiți – mame, tinere din liceu și ale căror colegi de clasă fac aceste imagini. dintre ele. Aplicațiile care nudifică toate trebuie eliminate din magazinele de aplicații și piețe și lucruri de genul ăsta.” 

Ascensiunea globală a pornografiei deepfake

Organizația Națiunilor Unite a studiat cum să combată creșterea globală a acestei tehnologii.

Kathryn Travers, expert în politici la UN Women, consideră că educația este cheia. „Trebuie să-i înveți pe băieți cum să respecte femeile și cum să fie responsabili online, în același mod în care trebuie să le înveți pe fete”, spune ea. 

Aceste imagini AI pot exista în spațiul virtual, dar au impact în lumea reală. Fetele și femeile se confruntă cu niveluri disproporționate de violență online, uneori cu consecințe devastatoare.

„Ele pot fi într-o poziție în care au mai puține cunoștințe despre drepturile lor, despre cui să raporteze. Mulți se învinuiesc – din cauza tehnologiei, potențialul de a acumula, de a-și partaja și de a redistribui imaginile, impactul asupra sănătății mintale este enorm și a dus la moartea prin sinucidere a mai multor fete.”  

Părinții copiilor vizați de deepfake porno din întreaga lume au contactat-o ​​acum pe Dorota pentru sfaturi „Am vorbit cu părinți și victime din toată Statele Unite – Texas, Wisconsin, California. Recent m-a contactat cineva din Grecia și înainte de asta Japonia, Londra, Paris, Australia și Canada. Este o problemă globală." 

_ „O problemă globală”: un adolescent american se luptă cu pornografia falsă care vizează elevele

(Fluierul)