_ Mi-a fost rău să descopăr că aș a fost transformată într-o victimă a pornografiei deepfake - creată de inteligență artificială dintr-o singură fotografie, scrie CATHY NEWMAN, radiodifuzor foarte respectat de la Channel 4

Standu-mă la laptop, am privit o femeie goală, cu fața mea, făcând sex cu penetrare grafică într-o varietate de poziţii cu un bărbat nud. Videoclipul pornografic a durat trei minute și 32 de secunde și, oricât de grotesc l-am găsit, m-am obligat să mă uit la tot. Trebuia să înțeleg exact cât de realiste sunt aceste imagini și, de asemenea, să recunosc cât de ușor le era pentru oameni să le acceseze online.

Deoarece, oricât de perfectă ar părea filmarea, nu eram deloc eu, ci fața mea. fusese impusă corpului unei alte femei folosind inteligența artificială (AI) pentru a face ceea ce este cunoscut sub numele de „pornografia deepfake.

Videoclipul a fost descoperit de Canalul 4 colegii în timp ce cercetau exponențialul și creșterea alarmantă a pornografiei deepfake pentru un reportaj special care a fost difuzat luna trecută.

Din 4.000 de celebrități pe care le-au găsit prezentate în videoclipurile porno deepfake online, 250 erau britanici – iar unul dintre ele eram eu.

Niciuna dintre celebritățile pe care le-am abordat pentru a comenta acest lucru nu ar fi făcută publică. Deși eram dezamăgitor, am înțeles – ei nu au vrut să perpetueze abuzul la care fuseseră victime atragând mai multă atenție asupra acestuia.

Dar pentru ca investigația noastră să aibă un impact maxim, știam că trebuie să vorbește.

În cei 18 ani ai mei ca jurnalist Channel 4, am văzut, din păcate, o mulțime de filmări supărătoare ale violenței sexuale. Așa că, în timp ce eram nervos să devin parte din poveste, m-am gândit că mă voi obișnui cu conținutul videoclipului în sine.

Dar de fapt m-a lăsat deranjat și bântuit. Am fost violată de un făptuitor pe care, din câte știu eu, nu l-am întâlnit niciodată și am fost victima unei crime foarte moderne, care riscă să aibă un efect coroziv asupra generațiilor viitoare de femei.

M-am simțit, de asemenea, justificat de decizia mea de a deveni public, deoarece la începutul acestei luni, guvernul a anunțat că crearea acestor deepfake sexual explicite va fi considerată o infracțiune penală în Anglia și Țara Galilor.

Înțeleg că Laura Farris, ministrul pentru victime și salvgardare, a fost motivată parțial să ia măsuri după ce a urmărit ancheta noastră. Acest lucru vine după ce partajarea acestui tip de conținut a fost interzisă în Legea privind siguranța online anul trecut.

Colegii mei cercetau deja pornografia deepfake când, în ianuarie, imagini false explicite ale cântăreței Taylor Swift au devenit virale. X/Twitter, cu o imagine vizualizată de 47 de milioane de ori înainte de a fi demontată.

Deodată, amploarea alarmantă a problemei a devenit clară. Am descoperit că cele mai populare patru site-uri porno deepfake care găzduiesc imagini manipulate și videoclipuri ale celebrităților au avut aproape 100 de milioane de vizualizări în doar trei luni, cu mai multe videoclipuri porno deepfake create în 2023 decât toți anii combinați din 2017.

Videoclipurile au fost vizionate în total de peste 4,2 miliarde de ori.

S-ar putea să credeți că este nevoie de un anumit grad de expertiză tehnică pentru a le realiza, dar este incredibil de ușor și se face în principal folosind aplicații de „nudificare” pentru smartphone – sunt mai mult de 200 disponibile. Utilizatorii trimit o imagine – o singură fotografie a feței cuiva luată de pe rețelele de socializare este tot ceea ce este necesar – și aceasta este folosită pentru a crea o imagine explicită îngrozitor de realistă.

Din cauza numărului mare de poze cu celebrități online, noi auziți despre personalități importante care devin victime cel mai des. Printre aceștia se numără congresmanul american Alexandria Ocasio-Cortez, care luna aceasta a descris trauma de a descoperi că a fost vizată în timpul unei întâlniri cu consilierii din februarie, și premierul italian Giorgia Meloni, care solicită despăgubiri după ce au fost încărcate online videoclipuri deepfake cu ea.

Dar, probabil, cele mai mari victime sunt sutele de mii de femei fără o platformă publică care să denunțe imaginile ca fiind false - femeile care ar putea participa la o întâlnire sau la un interviu de angajare și nu știu dacă oamenii din fața lor au văzut și capturat de filmările false.

Am vorbit cu o astfel de victimă, Sophie Parrish, 31 de ani, florărie și mamă a doi copii din Merseyside, al cărei videoclip porno fals a fost încărcat pe un site de către cineva apropiat familiei ei, pe care bărbații s-au fotografiat apoi masturbându-se. Era bolnavă fizic când a aflat, iar impactul asupra ei de atunci a fost profund.

O femeie frumoasă, și-a pierdut încrederea și acum nu vrea să se machieze de teamă să nu atrage atenția . Aproape că se învinovățește pe ea însăși, deși evident că nu există nicio vină. Și totuși, ea a avut curaj să facă publice în februarie anul trecut, solicitând Ministerului Justiției să interzică crearea și distribuirea de imagini explicite fără consimțământ.

De fapt, nu am fost complet surprins când colegii mei au spus despre existența videoclipului meu, având în vedere că, în calitate de femeie în ochii publicului, am fost trolată fără încetare de ani de zile.

După interviul meu cu Jordan Peterson, psihologul canadian infam pentru opiniile sale divizoare asupra corectitudinea politică, libertatea de exprimare, identitatea de gen și privilegiul rasial, au devenit virale în 2018, am primit amenințări cu moartea. Am fost numită „c***”, „b****” și „w****”, iar fiica mea cea mare, pe atunci de 13 ani, a fost tulburată să dau peste un meme pe Instagram în care mi-a fost impus capul pe o imagine pornografică.

Deci este de înțeles că colegii mei erau dornici, nu m-am simțit sub nicio presiune să urmăresc videoclipul care fusese făcut despre mine, în timp ce editorul meu era îngrijorat de impactul emoțional al acestuia. Dar am simțit că îi datorez fiecărei victime a acestei crime – în special Sophiei Parrish, pe care o intervievusem cu o zi înainte – să înțeleg singur cum am simțit să fiu vizată și să vorbesc.

Desigur. , Am acces la profesioniști care mă pot ajuta să procesez materialul, dar multe femei – și 98% dintre victimele pornografiei false sunt femei – nu. Eram îngrijorat de reacția asupra fiicelor mele, acum în vârstă de 19 și 15 ani, dar, la fel ca toți adolescenții, sunt conștienți de tipul de conținut AI care a proliferat online și erau interesați de cum putem naviga în el.

După ce au văzut reportajul, mi-au spus că sunt mândri. La fel a fost și soțul meu – deși, de înțeles, nu a vrut să se uite la videoclipul needitat cu mine și nici eu nu am vrut să o facă.

În timp ce meme-ul pornografic pe care a văzut-o fiica mea în 2018 a fost grosolan, am am descoperit că, după șase ani, terenul digital s-a schimbat și granițele dintre ceea ce este real și ceea ce nu este s-au încețoșat.

Singura grație care a salvat din videoclipul meu surprinzător de sofisticat deepfake a fost că AI nu poate – totuși – replic părul meu creț, iar bobul blond albit clar nu era al meu. Cu toate acestea, filmările cu mine făcând sex cu un bărbat care, probabil, nu și-a dat acordul nici ca imaginea lui să fie folosită, s-au simțit incredibil de invazive.

Dar am vrut să fiu și filmată în timp ce o vizionam, pentru a arăta în raportul nostru măsura impactului asupra mea.

Deși evident că fusese făcută de la distanță, de către un făptuitor ale cărui motive nu pot decât să speculez, m-am simțit violat.

Oricine mă cunoaște și-ar da seama că nu aș fi implicat în faci un videoclip porno, iar un avantaj al îmbătrânirii este că ești mai puțin tulburat de abuzul pueril. Dar existența sa subminează și dezumanizează femeile. Este o încercare deliberată de a slăbi și de a degrada. Chiar dacă știu că urmăresc porno deepfake, bărbaților par să nu le pese.

Șaptezeci la sută dintre spectatori vizitează site-uri porno deepfake prin motoarele de căutare. Când am contactat Google, un purtător de cuvânt a spus că au înțeles cât de supărătoare pot fi imaginile, că dezvoltă măsuri de protecție suplimentare pentru a ajuta oamenii să se protejeze și că victimele pot avea pagini care prezintă acest conținut eliminate din rezultatele căutării.

De la investigația noastră, două dintre cele mai mari site-uri de deepfake – inclusiv cel care găzduiește videoclipul meu – au blocat utilizatorii din Marea Britanie să acceseze conținutul lor. Însă videoclipul este încă disponibil utilizând o rețea privată virtuală – un VPN – care ascunde locația unui utilizator.

Legislația Guvernului de a interzice crearea acestor videoclipuri – ceea ce va avea ca rezultat un cazier penal, amendă și potențial pedeapsa cu închisoarea și va fi introdusă ca un amendament la Legea privind justiția penală – este inovatoare, dar experții cu care am vorbit au avertizat deja despre potențiale lacune.

Victimele vor trebui să demonstreze că videoclipul a fost realizat cu un intenția de a provoca stres, ceea ce poate fi dificil și există un semn de întrebare cu privire la faptul dacă, dacă cereți unei aplicații să creeze conținutul explicit, nu sunteți liber în ochii legii.

Un alt dezavantaj este că multe dintre aceste videoclipuri sunt realizate în afara Regatului Unit, unde legislația noastră nu se va aplica, așa că este necesară și o acțiune globală.

Apoi mai este problema timpului: Ofcom, organul de supraveghere al difuzării. , se consultă în continuare cu privire la regulile legii care au făcut ca distribuirea acestor videoclipuri să fie ilegală. Nu va intra în vigoare până la sfârșitul anului, moment în care alte sute de mii de femei vor fi devenit victime.

Reglementarea rămâne, de asemenea, cu mult în urma tehnologiei care permite această infracțiune, așa că în cele din urmă se rezumă la marile companii tehnologice care difuzează acest conținut explicit, care conduc spectatorii și agenții de publicitate către platformele sale, pentru profit.

Sunt mult mai puternice decât jurisdicția individuală și nu văd nicio dovadă. că abordează problema cu urgența pe care o necesită.

Cred că stă în puterea lor să oprească imediat circulația acestor videoclipuri, dar nu este în interesul lor să facă acest lucru.

Am fost îngrijorat de potențiala reacție de a mă face parte din această poveste, dar reacția copleșitoare a fost de susținere, fie pe rețelele sociale, pe căsuța mea de e-mail sau pe stradă.

Și o lună mai târziu, pe cât de deprimat sunt de efectul coroziv al inteligenței artificiale asupra generațiilor viitoare de femei, mă bucur că am făcut publicitatea.

(Fluierul)