_ Modelul AI generativ afișează știri false are un impact mai mare atunci când este lansat într-un ritm constant, fără întrerupere

Nu este deloc clar că dezinformarea a schimbat, până în prezent, alegeri care altfel ar fi mers în altă direcție. Dar există un sentiment puternic că a avut totuși un impact semnificativ.

Întrucât AI este folosită acum pentru a crea videoclipuri false extrem de credibile și pentru a răspândi dezinformarea mai eficient, avem dreptate să ne îngrijorăm că știrile false ar putea schimba cursul alegerilor într-un viitor nu prea îndepărtat.

Pentru a evalua amenințarea și pentru a răspunde în mod corespunzător, avem nevoie de o mai bună înțelegere a cât de dăunătoare ar putea fi problema. În științele fizice sau biologice, am testa o ipoteză de această natură repetând un experiment de mai multe ori.

Dar acest lucru este mult mai greu în științele sociale, deoarece adesea nu este posibil să se repete experimentele. Dacă doriți să cunoașteți impactul unei anumite strategii asupra, de exemplu, la alegerile viitoare, nu puteți relua alegerile de un milion de ori pentru a compara ce se întâmplă atunci când strategia este implementată și când nu este implementată.

Ai putea numi asta o problemă cu o singură istorie: există o singură istorie de urmat. Nu puteți relaxa ceasul pentru a studia efectele scenariilor contrafactuale.

Pentru a depăși această dificultate, un model generativ devine la îndemână deoarece poate crea multe istorii. Un model generativ este un model matematic pentru cauza principală a unui eveniment observat, împreună cu un principiu ghid care vă spune în ce mod cauza (intrarea) se transformă într-un eveniment observat (ieșire).

Prin modelare. cauza și aplicând principiul, poate genera multe istorii și, prin urmare, statistici necesare studierii diferitelor scenarii. Aceasta, la rândul său, poate fi folosită pentru a evalua efectele dezinformarii în alegeri.

În cazul unei campanii electorale, cauza principală este informația accesibilă alegătorilor (input), care se transformă în mișcări. a sondajelor de opinie care arată schimbări ale intenției alegătorului (ieșire observată). Principiul călăuzitor se referă la modul în care oamenii procesează informațiile, adică pentru a minimiza incertitudinile.

Așadar, modelând modul în care alegătorii obțin informații, putem simula evoluțiile ulterioare pe un computer. Cu alte cuvinte, putem crea o „posibilă istorie” a modului în care sondajele de opinie se schimbă de acum până în ziua alegerilor pe un computer. Dintr-o singură istorie nu învățăm practic nimic, dar acum putem rula simularea (alegerea virtuală) de un milion de ori.

Un model generativ nu prezice niciun eveniment viitor, din cauza naturii zgomotoase a informațiilor. Dar oferă statisticile diferitelor evenimente, care este ceea ce avem nevoie.

Prima dată mi-a venit ideea de a folosi un model generativ pentru a studia impactul dezinformarii în urmă cu aproximativ un deceniu, fără nicio anticipare că conceptul ar deveni, din păcate, atât de relevant pentru siguranța proceselor democratice. Modelele mele inițiale au fost concepute pentru a studia impactul dezinformarii pe piețele financiare, dar pe măsură ce știrile false au început să devină o problemă, eu și colegul meu am extins modelul pentru a studia impactul acestuia asupra alegerilor.

Modele generative. ne poate spune probabilitatea ca un anumit candidat să câștige alegerile viitoare, în funcție de datele de astăzi și de specificarea modului în care informațiile despre problemele relevante pentru alegeri sunt comunicate alegătorilor. Aceasta poate fi folosită pentru a analiza modul în care probabilitatea de câștig va fi afectată dacă candidații sau partidele politice își schimbă pozițiile politice sau strategiile de comunicare.

Putem include dezinformarea în model pentru a studia modul în care aceasta va modifica statisticile rezultatelor. Aici, dezinformarea este definită ca o componentă ascunsă a informațiilor care generează o părtinire.

Prin includerea dezinformarii în model și rularea unei simulări, rezultatul ne spune foarte puțin despre modul în care a schimbat sondajele de opinie. Dar rulând simularea de mai multe ori, putem folosi statisticile pentru a determina modificarea procentuală a probabilității ca un candidat să câștige alegerile viitoare dacă este prezentă dezinformarea de o anumită magnitudine și frecvență. Cu alte cuvinte, acum putem măsura impactul știrilor false folosind simulări pe computer.

Ar trebui să subliniez că măsurarea impactului știrilor false este diferită de a face predicții despre rezultatele alegerilor. Aceste modele nu sunt concepute pentru a face predicții. Mai degrabă, ele oferă statisticile care sunt suficiente pentru a estima impactul dezinformarii.

Un model de dezinformare pe care l-am considerat este un tip care este eliberat la un moment dat întâmplător, crește în putere pentru o perioadă scurtă, dar apoi este atenuat (de exemplu, datorită verificării faptelor). Am descoperit că o singură difuzare a unei astfel de dezinformari, cu mult înainte de ziua alegerilor, va avea un impact redus asupra rezultatului alegerilor.

Cu toate acestea, dacă difuzarea unei astfel de dezinformari se repetă în mod persistent, atunci va avea un impact . Dezinformarea care este părtinitoare față de un anumit candidat va schimba ușor sondajul în favoarea acelui candidat de fiecare dată când este lansat. Dintre toate simulările electorale pentru care candidatul respectiv a pierdut, putem identifica câte dintre ele s-au întors rezultatul, pe baza unei anumite frecvențe și amploare a dezinformarii.

Vești false în favoarea unui candidat, cu excepția unor circumstanțe rare, nu va garanta o victorie pentru acel candidat. Impacturile sale pot fi, totuși, măsurate în termeni de probabilități și statistici. Cât de mult au schimbat știrile false probabilitatea de câștig? Care este probabilitatea de a inversa rezultatul alegerilor? Și așa mai departe.

Un rezultat care a surprins este că, chiar dacă electorații nu știu dacă o anumită informație este adevărată sau falsă, dacă cunosc frecvența și părtinirea dezinformarii, atunci aceasta este suficientă pentru a elimina cea mai mare parte a impactului dezinformarii. Simpla cunoaștere a posibilității de apariție a știrilor false este deja un antidot puternic împotriva efectelor acesteia.

Modelele generative în sine nu oferă contramăsuri pentru dezinformare. Ele ne oferă doar o idee despre amploarea impactului. Verificarea faptelor poate ajuta, dar nu este extrem de eficientă (geniul este deja scos din sticlă). Dar ce se întâmplă dacă cele două sunt combinate?

Deoarece impactul dezinformarii poate fi evitat în mare măsură prin informarea oamenilor că se întâmplă, ar fi util ca verificatorii de fapte să ofere informații despre statisticile dezinformarii pe care le-au identificat. — de exemplu, „X% din revendicările negative împotriva candidatului A au fost false”. Un electorat echipat cu aceste informații va fi mai puțin afectat de dezinformare.

Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.

(Fluierul)