Scris de Per Bylund prin Institutul Mises,

Inteligenta artificiala IA nu poate distinge realitatea de fictiune.De asemenea, nu este creativ sau poate crea conținut nou, ci repetă, reambalează și reformulează ceea ce a fost deja spus dar poate în moduri noi.

>imagine>

Sunt sigur că cineva nu va fi de acord cu acesta din urmă, poate indicând faptul că AI poate genera clar, de exemplu, melodii și versuri noi.Sunt de acord cu asta, dar ratează ideea.AI produce un "nou” vers al cântecului doar prin extragerea din datele versurilor cântecelor anterioare și apoi utilizează acele informații modelele descoperite inductiv în ea pentru a genera ceea ce pentru noi pare a fi un cântec nou și poate foarte bine să fie unul.Cu toate acestea, nu există artă în ea, nici creativitate.Este doar o reluare structurală a ceea ce există.

Desigur, putem dezbate în ce măsură oamenii pot gândi gânduri cu adevărat noi și dacă învățarea umană se poate baza exclusiv sau în principal pe mimetism.Cu toate acestea, chiar dacă am fi – de dragul argumentării – să fim de acord că tot ceea ce știm și facem este o simplă reproducere, oamenii au capacitatea limitată de a-și aminti exact și vor face erori.De asemenea, completăm golurile cu ceea ce subiectiv nu obiectiv are sens pentru noi testul Rorschach, cineva?.Chiar și în acest scenariu foarte limitat, cu care nu sunt de acord, oamenii generează noutăți dincolo de ceea ce AI este capabil să facă.

Atât incapacitatea de a distinge realitatea de ficțiune, cât și legătura inductivă cu modelele de date existente sunt probleme care pot fi atenuate programatic, dar sunt deschise manipulării.

Manipulare și propagandă

Când Google și-a lansat Gemini AI în februarie, a devenit imediat clar că AI avea o agendă de trezire.Printre altele, IA a împins a trezit idealurile de diversitate în orice răspuns imaginabil și, printre altele, a refuzat să arate imagini cu oameni albi inclusiv atunci când li sa cerut să producă imagini ale Părinților Fondatori.

Guruul tehnologiei și investitorul din Silicon Valley Marc Andreessen a rezumat pe X fostul Twitter: "Știu că este greu de crezut, dar Big Tech AI generează rezultatul pe care îl face, deoarece execută exact agenda ideologică, radicală și părtinitoare a creatorilor săi.Rezultatul aparent bizar este 100% intenționat.Funcționează așa cum a fost proiectat.”

Există într-adevăr un design pentru aceste AI dincolo de motoarele de bază de categorizare și generare.Răspunsurile nu sunt perfect inductive sau generative.În parte, acest lucru este necesar pentru a face AI utilă: filtrele și regulile sunt aplicate pentru a ne asigura că răspunsurile pe care IA le generează sunt adecvate, se potrivesc cu așteptările utilizatorilor și sunt exacte și respectuoase.Având în vedere situația juridică, creatorii AI trebuie, de asemenea, să se asigure că AI nu încalcă, de exemplu, legile privind proprietatea intelectuală sau nu se angajează în discursuri instigatoare la ură.AI este, de asemenea, proiectat direcționat astfel încât să nu se încurce sau să-și jignească utilizatorii rețineți Tay?.

Cu toate acestea, deoarece astfel de filtre sunt aplicate și "comportamentul” AI este deja direcționat, este ușor să o duci puțin mai departe.La urma urmei, când este un răspuns prea ofensator versus ofensator, dar în limitele discursului permis? Este o linie fină și dificilă care trebuie specificată programatic.

De asemenea, deschide posibilitatea de a direcționa răspunsurile generate dincolo de simpla asigurare a calității.Cu filtrele deja instalate, este ușor să faci AI să facă declarații de un anumit tip sau care împinge utilizatorul într-o anumită direcție în termeni de fapte selectate, interpretări și viziuni asupra lumii.Poate fi folosit și pentru a oferi inteligenței artificiale o agendă, așa cum sugerează Andreessen, cum ar fi să se trezească neîncetat.

Astfel, inteligența artificială poate fi folosită ca un instrument de propagandă eficient, pe care l-au recunoscut atât corporațiile care le-au creat, cât și guvernele și agențiile care le reglementează.

Dezinformare și eroare

Statele au refuzat de mult să admită că beneficiază de pe urma propagandei și că folosesc propagandă pentru a-și conduce și controla supușii.Acest lucru se datorează în parte pentru că doresc să mențină un aspect de legitimitate ca guverne democratice care guvernează pe baza mai degrabă decât să modeleze opiniile oamenilor.Propaganda are un sunet prost; este un mijloc de control.

Cu toate acestea, se spune că inamicii statului – atât interni, cât și străini – înțeleg puterea propagandei și nu ezită să o folosească pentru a provoca haos în societatea noastră democratică, altfel nevibrată.Guvernul trebuie să ne salveze de o asemenea manipulare, susțin ei.Desigur, rareori se oprește la simpla apărare.Am văzut acest lucru clar în timpul pandemiei de covid, în care guvernul împreună cu companiile de social media au interzis, de fapt, exprimarea de opinii care nu erau linia oficială a se vedea Murthy v.Missouri.

AI este la fel de ușor de manipulat în scopuri propagandistice ca și algoritmii de rețele sociale, dar cu bonusul suplimentar că nu sunt doar opiniile oamenilor și că utilizatorii tind să aibă încredere că ceea ce raportează AI este adevărat.După cum am văzut în articolul anterior despre revoluția AI, aceasta nu este o presupunere validă, dar este totuși o viziune larg răspândită.

Dacă atunci AI poate fi instruit să nu comenteze anumite lucruri pe care creatorii sau autoritățile de reglementare nu doresc ca oamenii să le vadă sau să învețe, atunci este efectiv "păduit de memorie”.Acest tip de informații "nedorite” nu se va răspândi, deoarece oamenii nu vor fi expuși la ele, cum ar fi afișarea doar a diferitelor reprezentări ale Părinților Fondatori cum ar fi Gemenii Google sau prezentarea, de exemplu, numai adevăruri macroeconomice keynesiene de făcut se pare că nu există altă perspectivă.Oamenii nu știu ceea ce nu știu.

Desigur, nimic nu înseamnă că ceea ce este prezentat utilizatorului este adevărat.De fapt, IA în sine nu poate distinge faptele de adevăr, ci generează doar răspunsuri în funcție de direcție și numai pe baza a ceea ce AI a fost alimentat.Acest lucru lasă o mulțime de spațiu pentru denaturarea adevărului și poate face lumea să creadă în minciuni.Prin urmare, IA poate fi folosită cu ușurință pentru a impune controlul, fie că este vorba despre un stat, despre subiecții sub conducerea acestuia sau chiar despre o putere străină.

Amenințarea reală a AI

Care este, atunci, adevărata amenințare a AI? După cum am văzut în primul articol, modelele lingvistice mari nu vor nu pot evolua în inteligență generală artificială, așa cum nu există nimic despre cernerea inductivă prin tescuri mari de informații create uman care să dea naștere conștiinței.Sincer să fiu, nici nu ne-am dat seama ce este conștiința, așa că a crede că o vom crea sau că va apărea cumva din algoritmi care descoperă corelații statistice ale limbajului în textele existente este destul de hiperbolic..Inteligența generală artificială este încă ipotetică.

Așa cum am văzut în al doilea articol, nu există nicio amenințare economică din partea IA.Nu îi va face pe oameni de prisos economic și nu va provoca șomaj în masă.AI este capital productiv, care, prin urmare, are valoare în măsura în care servește consumatorilor, contribuind la satisfacerea dorințelor acestora.Inteligența artificială utilizată greșit este la fel de valoroasă ca o fabrică utilizată greșit-va tinde spre valoarea sa de rebut.Cu toate acestea, acest lucru nu înseamnă că AI nu va avea niciun impact asupra economiei.Va fi, și a făcut deja, dar nu este la fel de mare pe termen scurt precum se tem unii și probabil că este mai mare pe termen lung decât ne așteptăm.

Nu, adevărata amenințare este impactul AI asupra informațiilor.Acest lucru se datorează în parte pentru că inducerea este o sursă nepotrivită de cunoaștere-adevărul și faptele nu sunt o chestiune de frecvență sau probabilități statistice.Dovezile și teoriile lui Nicolaus Copernic și Galileo Galilei ar fi eliminate ca improbabile false de o IA instruită pe toate cele mai bune și mai strălucitoare scrieri despre geocentrism la acea vreme.Nu există progres și nici învățare de adevăruri noi dacă avem încredere doar în teorii istorice și prezentări ale faptelor.

Cu toate acestea, probabil că această problemă poate fi depășită printr-o programare inteligentă adică implementarea regulilor – și limitări bazate pe fapte – la problema inducției, cel puțin într-o oarecare măsură.Problema mai mare este corupția a ceea ce prezintă inteligența artificială: dezinformarea, dezinformarea și malinformația pe care creatorii și administratorii săi, precum și guvernele și grupurile de presiune, o îndrumă să le creeze ca mijloc de control sau de conducere.opinia publică sau cunoștințele.

Acesta este pericolul real ca acum faimoasa scrisoare deschisă, semnat de Elon Musk, Steve Wozniak și alții, a indicat:

"Ar trebui să lăsăm mașinile să ne inunde canalele de informații cu propagandă și neadevăr? Ar trebui să automatizăm toate sarcinile, inclusiv pe cele îndeplinite? Ar trebui să dezvoltăm minți non-umane care, în cele din urmă, ar putea să ne depășească numeric, să ne depășească și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre?”

În afară de referința analfabetă din punct de vedere economic la "automatizarea tuturor locurilor de muncă”, avertismentul este bine luat.AI nu va începe ca Terminator să ne urască și să încerce să extermine omenirea.Nu ne va transforma pe toți în baterii biologice, ca în The Matrix.Cu toate acestea, mai ales atunci când este coruptă, ne va dezinforma și ne va induce în eroare, va crea haos și ne va face viața "solitară, săracă, urâtă, brutală și scurtă”.