_ Cercetătorii spun că mass-media are nevoie de IA generativă politici pentru a ajuta la navigarea în dezinformare și dezinformare

Noile cercetări privind imaginile AI generative arată că doar peste o treime dintre organizațiile media chestionate în momentul cercetării au în vigoare o politică AI specifică imaginii.

Studiul, condus de Universitatea RMIT în colaborare cu Universitatea de Stat din Washington și Centrul de Cercetare pentru Media Digitală QUT, a intervievat 20 de editori foto sau roluri conexe din 16 organizații media publice și comerciale de top din Europa, Australia și SUA despre percepțiile lor despre IA generativă. tehnologii în jurnalismul vizual.

„Generative Visual AI in News Organizations: Challenges, Opportunities, Perceptions, and Policies” a fost publicat în Digital Journalism.

Cercetator principal și lector principal RMIT, Dr. TJ Thomson, a spus că, în timp ce majoritatea personalului intervievat sunt îngrijorați de impactul AI generativă asupra dezinformării și dezinformarii, factorii care agravează problema, cum ar fi amploarea și viteza la care conținutul este partajat pe rețelele de socializare și prejudecățile algoritmice, au fost în afara lor. control.

„Editorii foto vor să fie transparenți cu publicul lor atunci când sunt utilizate tehnologii AI generative, dar organizațiile media nu pot controla comportamentul uman sau modul în care alte platforme afișează informații”, a spus Thomson, de la RMIT's School. de media și comunicare.

„Publicurile nu fac întotdeauna clic pentru a afla mai multe despre contextul și atribuirea unei imagini. Am văzut că acest lucru se întâmplă atunci când imaginile AI ale Papei purtând Balenciaga au devenit virale, mulți crezând că este reală, deoarece era o imagine aproape fotorealistă partajată fără context.

„Editorii foto pe care i-am intervievat au spus, de asemenea, că imaginile pe care le primesc. nu specificați întotdeauna ce fel de editare a imaginilor a fost făcut, ceea ce poate duce la site-urile de știri să partajeze imagini AI fără să știe, impactând credibilitatea acestora.”

Thomson a spus că există politici și procese care detaliază cât de generativ Inteligența artificială poate fi utilizată în diferite forme de comunicare ar putea preveni incidentele de dezinformare și dezinformare, cum ar fi imaginile modificate ale deputatului victorian Georgie Purcell.

„Mai multe organizații media trebuie să fie transparente cu politicile lor, astfel încât publicul lor poate avea încredere, de asemenea, că conținutul a fost realizat sau editat în modul în care organizația spune că este”, a spus el.

Studiul a constatat că cinci dintre punctele de vânzare intervievate au împiedicat personalul să folosească AI pentru a genera imagini și trei dintre acele puncte de vânzare interziceau doar imagini fotorealiste. Alții au permis imagini generate de inteligență artificială dacă povestea era despre inteligența artificială.

„Multe dintre politicile pe care le-am văzut de la organizațiile media despre inteligența artificială generativă sunt generale și abstracte. Dacă o instituție media creează o politică privind inteligența artificială, aceasta trebuie să ia în considerare toate formele de comunicare, inclusiv imaginile și videoclipurile, și să ofere îndrumări mai concrete”, a spus Thomson.

„Interzicerea AI generativă ar fi probabil un dezavantaj competitiv și aproape imposibil de aplicat.

„De asemenea, ar priva lucrătorii media de beneficiile tehnologiei, cum ar fi utilizarea AI pentru a recunoaște fețe sau obiecte în imagini pentru a îmbogăți metadatele și pentru a ajuta la subtitrări.”

Thomson a spus că Australia este încă la „partea din spate” când vine vorba de reglementarea AI, cu SUA și UE în frunte.

„Populația Australiei este mult mai mică, așa că resursele noastre ne limitează capacitatea de a fi flexibili și adaptabili”, a spus el a spus.

„Cu toate acestea, există, de asemenea, o atitudine de așteptare, în care urmărim ceea ce fac alte țări, astfel încât să putem îmbunătăți sau emula abordările lor.

„Cred că este bine să fii proactiv, indiferent dacă este de la guvern sau o organizație media. Dacă putem arăta că suntem proactivi pentru a face internetul un loc mai sigur, acesta dă dovadă de leadership și poate modela conversațiile despre AI.”

Studiul a constatat că jurnaliştii erau îngrijoraţi de modul în care prejudecăţile algoritmice ar putea perpetua stereotipurile legate de gen, rasă, sexualitate şi abilităţi, ceea ce duce la riscuri reputaţionale şi neîncredere în mass-media.

„Am avut o fotografie. editorul din studiul nostru introduceți o solicitare detaliată într-un generator text-to-image pentru a arăta o femeie din Asia de Sud care poartă un top și pantaloni”, a spus Thomson.

„În ciuda detalierii îmbrăcămintei femeii, generatorul a persistat cu creând o imagine a unei femei din Asia de Sud care poartă un sari."

"Problemele de acest fel provin din lipsa de diversitate a datelor de antrenament și ne face să ne întrebăm cât de reprezentative sunt datele noastre de antrenament și ce putem face să ne gândim la cine este reprezentat în știrile noastre, fotografii de stoc, dar și cinema și jocuri video, care pot fi toate folosite pentru a antrena acești algoritmi."

Dreptul de autor a fost, de asemenea, o preocupare pentru editorii foto, deoarece mulți generatori de text-to-image nu au fost transparenți cu privire la proveniența materialelor lor sursă.

Deși au existat cazuri generative de drepturi de autor AI care au ajuns în instanțe, cum ar fi procesul The New York Times împotriva OpenAI , Thomson a spus că este încă un domeniu în evoluție.

„A fi mai conservator și a folosi numai generatoare de inteligență artificială terță parte care sunt instruite pe date proprietare sau le folosiți doar pentru brainstorming sau cercetare, mai degrabă decât pentru publicare, poate reduce riscul legal. în timp ce instanțele soluționează problema drepturilor de autor”, a spus el.

„O altă opțiune este de a pregăti modele cu conținutul propriu al unei organizații și astfel au încredere că dețin drepturi de autor pentru generațiile rezultate.”

În ciuda preocupărilor legate de dezinformare și dezinformare, studiul a constatat că majoritatea editorilor de fotografii au văzut multe oportunități de a folosi AI generativă, cum ar fi brainstorming și generarea de idei.

Mulți au fost fericiți să folosească AI pentru a genera ilustrații care nu erau fotorealiste, în timp ce alții au fost bucuroși să folosească AI pentru a genera imagini atunci când nu au imagini de stoc bune existente.

„De exemplu, imaginile stoc existente de bitcoin arată toate destul de asemănătoare, așa că AI generativă poate ajuta la umplere. un decalaj în ceea ce lipsește dintr-un catalog de imagini stoc”, a spus Thomson.

În timp ce exista îngrijorare cu privire la pierderea locurilor de muncă în fotojurnalism în favoarea AI generativă, un editor intervievat a spus că și-ar putea imagina folosirea AI pentru sarcini simple de fotografie.

„Fotografii care sunt angajați vor putea face mai multe proiecte creative și mai puține sarcini, cum ar fi fotografia ceva pe un fundal alb”, a spus editorul intervievat.

„Se poate argumenta că aceste lucruri sunt de asemenea, foarte ușor și simplu și necesită mai puțin timp pentru un fotograf, dar uneori sunt și o durere de cap.”

(Fluierul)