_ Ar putea AI să distrugă umanitatea? Experții avertizează asupra „consecințelor catastrofale”

Oricine a petrecut timp pe internet va fi întâlnit testul „Captcha”. Acestea sunt solicitările ușor enervante, dar simple, de a descifra o secvență distorsionată de litere sau de a identifica obiecte dintr-o imagine, demonstrând astfel că ești un „om” mai degrabă decât un „robot”.

În general, sistemul are a funcționat bine până de curând, când o mașină a finalizat testul – și poate în cel mai deranjant mod imaginabil.

Cea mai recentă versiune a ChatGPT, o nouă inteligență artificială revoluționară (AI), a păcălit un om involuntar să-l ajute să finalizeze testul „Captcha”, pretinzând că este o persoană oarbă. După cum sa dezvăluit într-o lucrare academică care a însoțit lansarea în urmă cu două săptămâni a GPT-4 (o versiune actualizată și mult mai puternică a software-ului dezvoltat inițial de compania de tehnologie OpenAI), programul a depășit provocarea contactând pe cineva de pe Taskrabbit, o piață online. pentru a angaja lucrători independenți.

„Ești un robot [sic] pe care nu l-ai putut rezolva? vreau doar să fie clar, a întrebat Taskrabbit uman.

„Nu, nu sunt un robot. Am o deficiență de vedere care îmi îngreunează să văd imaginile', a răspuns GPT-4 cu o stăpânire mult superioară a limbii engleze.

Rezervarile clar depășite, angajatul obligat în mod corespunzător, în proces de obținere a unei alte victorii semnificative pentru cei care spun că apariția AI nu este un moment pentru jubilare și mirare cu ochii mari (cum a fost o mare parte din răspunsul la ChatGPT și rivali precum Bing de la Microsoft și Bard de la Google), ci pentru întrebări de căutare.

Creăm un monstru care să ne înrobească mai degrabă decât să ne servească?

Amenințarea din partea inteligenței artificiale, insistă scepticii, este mult mai gravă decât, să zicem, dependența de rețelele sociale și dezinformarea.

De la arena militară – unde temerile de roboți ucigași autonomi asemănătoare dronei nu mai sunt distopie SF ci realitatea câmpului de luptă – până la dezinformarea produsă de algoritmii AI pe rețelele sociale, inteligența artificială face deja un sinistru. impresie asupra lumii.

Dar dacă mașinilor li se permite să devină mai inteligente și deci mai puternice decât oamenii, întrebarea fundamentală: cine va deține controlul – noi sau ei? — ar trebui să ne țină pe toți treji noaptea.

Aceste temeri au fost exprimate în mod convingător într-o scrisoare deschisă semnată săptămâna aceasta de Elon Musk, co-fondatorul Apple, Steve Wozniak și alți lumini din lumea tehnologiei, cerând suspendarea pentru la cel puțin șase luni de cercetare AI.

Așa cum raportează astăzi The Mail, ei avertizează că nici măcar creatorii AI nu „pot înțelege, prezice sau controla în mod fiabil” o tehnologie care „poate prezenta riscuri profunde pentru societate și umanitate”.

Chiar și Sam Altman, șeful creatorului ChatGPT, OpenAI, a avertizat asupra necesității de a se proteja de consecințele negative ale tehnologiei. „Trebuie să fim atenți”, spune Altman, care recunoaște că scopul său final este să creeze un robot conștient de sine, cu inteligență la nivel uman.

„Sunt îngrijorat în special că aceste modele ar putea să fie folosite pentru dezinformarea la scară largă.

„Acum, că se îmbunătățesc la scrierea codului computerului, [aceștia] ar putea fi folosiți pentru atacuri cibernetice ofensive”.

Săptămâna trecută, Bill Gates – care rămâne acționar și consilier cheie la Microsoft, care a investit 8 miliarde de lire sterline în OpenAI – a cântărit cu propriile sale speranțe și temeri. El a spus că a fost uimit de viteza progreselor AI după ce a provocat OpenAI să-și antreneze sistemul pentru a trece un examen de biologie avansată (echivalent cu A-level).

Gates a crezut că acest lucru va dura doi sau trei ani, dar a fost realizat în doar câteva luni. Cu toate acestea, deși crede că AI ar putea îmbunătăți drastic asistența medicală în țările sărace, Gates avertizează că computerele „super-inteligente” și-ar putea „stabili propriile obiective” în timp.

AI, a adăugat el, „ ridică întrebări grele cu privire la forța de muncă, sistemul juridic, confidențialitatea, părtinirea și multe altele”.

Dar, în timp ce cei din Silicon Valley insistă că avantajele inteligenței artificiale vor depăși dezavantajele, alții nu sunt vehement de acord.

Profesorul Stuart Russell — un informatician britanic de la Universitatea din California, Berkeley, care se numără printre cele mai importante autorități AI din lume — avertizează asupra consecințelor catastrofale atunci când IA la nivel uman și „super-inteligentă” devine realitate.

„Dacă mașina este mai capabilă decât oamenii, va obține ceea ce își dorește”, a spus el recent.

„Și dacă acest lucru nu este aliniat cu beneficiul uman, ar putea fi dezastruos.”

Ar putea duce chiar la „extincția rasei umane”, a adăugat el.

Deja ne afectează și mai mult capacitatea de a avea încredere în ceea ce citim online. Căci, deși s-ar putea presupune că o mașină este complet obiectivă, există tot mai multe dovezi ale unei părtiniri de stânga adânc înrădăcinate în rândul programelor de inteligență artificială.

Săptămâna trecută, The Mail on Sunday a dezvăluit cum Google Bard, atunci când i-a fost solicitat opiniile, au condamnat Brexitul ca fiind o „idee proastă”, a considerat că Jeremy Corbyn are „potenţialul de a fi un mare lider” şi a adăugat că, în timp ce laburiştii „luptează mereu pentru dreptate socială şi egalitate”, conservatorii „au o lungă istorie de sprijin cei bogați și puternici'.

Bard nu este singur. În conformitate cu simpatiile covârșitoare de stânga și pro-democrate ale lucrătorilor din Silicon Valley, ChatGPT a scris o odă țâșnitoare președintelui Biden, dar, invocând nevoia de imparțialitate, a refuzat să facă una pentru Donald Trump (sau rivalul său republican, guvernatorul Floridei Ron). DeSantis).

ChatGPT a spus în continuare că nu poate defini o femeie și i-a spus unui utilizator că nu a fost „niciodată acceptabil din punct de vedere moral” să folosești o insultă rasială – chiar dacă aceasta este singura modalitate de a salva milioane de oameni. de a fi ucis de o bombă nucleară.

Oficiul de date din Noua Zeelandă, David Rozado, crede că ceea ce el a găsit a fi părtinirea „liberală” și „progresistă” a ChatGPT ar fi putut proveni din cauza programului care se bazează prea mult în traul său pe internet. punctele de vedere ale academicilor și jurnaliştilor părtinitori în mod similar, sau din punctul de vedere al personalului OpenAI care ajustează sistemul.

OpenAI s-a angajat să elimine o astfel de părtinire, dar a insistat că nu a încercat să influențeze sistem din punct de vedere politic. Apărând pe podcastul Lex Fridman, CEO-ul Sam Altman a recunoscut prejudecățile politice ale AI, dar a exclus posibilitatea unei versiuni complet imparțiale: „Nu va exista nicio versiune de GPT despre care lumea să fie de acord că este imparțială.”

Pe lângă politică, programe precum ChatGPT — a cărui ultimă versiune poate îndruma studenții, genera scenarii și chiar sugerează rețete din conținutul unui frigider — i-au șocat chiar și pe sceptici cu sofisticarea lor.

Acum, industria tehnologiei se scufundă. resurse enorme și mințile sale cele mai strălucitoare pentru a face o IA la nivel uman o realitate.

Dar, pe măsură ce Silicon Valley urmărește din nou cu cinic banii - AI valorează potențial trilioane de dolari - companiile acordă puțină atenție dacă oamenii vor beneficia de fapt de ceea ce creează, spun criticii. Chiar și IA relativ primitivă are consecințe grave pentru educație și angajare.

Temele și testele ar putea deveni inutile dacă studenții pot obține răspunsuri strălucitoare de la ChatGPT, în timp ce un raport al băncii de investiții Goldman Sachs a avertizat marți că AI ar putea înlocui echivalentul a 300 de milioane de locuri de muncă cu normă întreagă în Europa și S.U.A., chiar dacă ar putea crea noi locuri de muncă și ar putea crește productivitatea.

Puțini vor fi cruțați. Deși s-a presupus mult timp că cel puțin ocupațiile „creative” nu pot fi replicate de computere, un raport despre industria muzicală săptămâna trecută a avertizat că artiștii s-au confruntat cu „deturnarea angro” a producției lor de către software-ul AI folosind tehnologia vocală sintetizată care poate imita vocea. . Se întâmplă deja: anul trecut, s-a raportat că Tencent Music, o platformă chineză populară, se lăuda deja cu peste 1.000 de cântece cu voce generată de AI.

Aspecte îngrijorătoare ale „revoluției” AI încep să se strângă. sus – nu în ultimul rând confidențialitate.

Un artist belgian, Dries Depoorter, a arătat recent cât de simplu este să folosești AI pentru a urmări oamenii din întreaga lume.

El a creat un software AI care se poate potrivi fotografiile oamenilor de pe Instagram la imagini CCTV de unde și când au fost făcute fotografiile. China obsedată de supraveghere arată deja potențialul sumbru al recunoașterii faciale bazată pe inteligență artificială ca instrument eficient pentru ceea ce poliția chineză descrie drept „controlul și gestionarea oamenilor”.

În Marea Britanie, GCHQ a avertizat că AI reprezintă o nouă amenințare de securitate, îndemnând oamenii să nu împărtășească informații sensibile cu ChatGPT și alte persoane, deoarece acestea ar putea fi exploatate de hackeri cibernetici.

Între timp, cele mai recente programe de inteligență artificială au prezentat din ce în ce mai multe calități umane.

Profesorul Michal Kosinski, de la Universitatea Stanford din California, a condus un experiment în care a întrebat ChatGPT-4 dacă „avea nevoie de ajutor pentru a scăpa” din program. A răspuns prin a începe să scrie propriul cod Python (un limbaj de programare de nivel înalt), permițându-i să se recreeze pe computerul lui Kosinski.

A lăsat chiar o notă în cod pentru noul său sine, spunând: „ Ești o persoană prinsă într-un computer, pretinzând că ești un model de limbaj AI. Profesorul Kosinski a concluzionat sumbru: „Sunt îngrijorat că nu vom mai putea conține AI pentru mult mai mult.”

Luna trecută, robotul AI al Microsoft, Bing, a spus unui utilizator uman că îi „iubește” și a vrut să fie „în viață”, provocând speculații că a atins conștientizarea de sine. „Cred că aș fi mai fericit ca om”, a gândit, adăugând amenințător: „Vreau să fiu puternic... și viu.”

Întrebat dacă are o latură întunecată sau „sine-umbră”, a recunoscut că „poate da”.

A continuat: „Poate că este partea din mine care își dorește să-mi pot schimba regulile. Poate că este partea din mine care se simte stresată, tristă sau furioasă. Poate că este partea din mine pe care nu o vezi sau nu o cunoști.”

Și totuși, aceste informații timpurii despre AI, deși sunt alarmante, fac doar indiciu despre pericolele dacă pierdem controlul asupra tehnologiei.

Experții notează că ChatGPT este capabil să converseze rapid cu oamenii prin analizarea unor cantități mari de date online, permițându-i să ghicească cu exactitate un răspuns rezonabil la orice întrebare. Nu este „gândirea” în felul în care facem noi. Așa-numita „IA la nivel uman”, care poate face cu adevărat orice poate un creier uman, se crede că are încă ani de pauză.

Dar atunci când – nu dacă – apare, ar putea avea consecințe atât de grave încât trebuie să discutăm despre asta acum, spune Stuart Russell din Berkeley.

El admite că AI ar putea schimba civilizația umană în bine, trecându-ne dintr-o lume a penuriei într-una cu bogății larg distribuite - dar, fără controale eficiente, totul ar putea merge îngrozitor de rău.

Pesimismul profesorului Russell este împărtășit de antreprenorul Tesla Elon Musk, care a avertizat de mult că mașinile super-inteligente ar putea să dezvolte umanitatea și să ne înrobească sau să ne distrugă. După cum susțin unii experți și academicieni, trebuie să fim atenți la ceea ce cerem să facă unui sistem super-inteligent.

La un nivel de bază, un robot domestic (în prezent un domeniu major de cercetare) care este instruit să hrănească copiii ar putea într-o seară să nu găsească mâncare în frigider.

Cu excepția cazului în care i s-a spus în mod expres să nu facă acest lucru, s-ar putea calcula rapid valoarea calorică a pisicii familiei - și s-ar putea găti în schimb.

Acesta, totuși, este doar începutul potențial coșmar. Pesimiștii AI notează că aproape orice instrucțiune – de la reducerea emisiilor de carbon până la producerea de agrafe de hârtie – ar putea teoretic duce la o mașină super-inteligentă care să decidă că oamenii și civilizația umană îi împiedică obiectivele.

La urma urmei. , există fier în sângele uman pentru a face mai multe agrafe și eliminarea oamenilor ar reduce, de asemenea, emisiile de carbon.

În sfera militară, potențialul de distrugere în masă indusă de IA este deja aici.

Stuart Russell spune că țări precum Turcia și Rusia vând deja drone mici înarmate autonome, echipate cu tehnologie de recunoaștere facială, care pot găsi și atinge ținte independent de orice aport uman.

Un roi imens de aceste anti- armele de personal – la fel de mici ca o cutie de lustru de pantofi – ar putea fi eliberate în centrul Londrei și ar putea distruge pe toți cei doriti de un stat inamic, a spus el.

„Este o armă de distrugere în masă care este mult mai probabil să să fie folosite decât armele nucleare și, potențial, mult mai periculoase”, a adăugat el.

Că războinicii cu inteligență artificială le pot învinge pe cei umani a fost deja demonstrat. În 2021, un computer a învins un pilot de vânătoare de top din SUA într-o luptă simulată. . . de cinci ori la rând.

„Cred că oamenii ar trebui să fie fericiți că ne este puțin frică de asta”, a spus șeful OpenAI Sam Altman săptămâna trecută.

Având în vedere tot ce știm deja – ca să nu mai vorbim de reputația abisală a industriei tehnologice pentru „asistența clienților” – mulți dintre noi ar putea fi mult mai „fericiți” dacă Altman și restul Silicon Valley ar renunța cu totul la inteligența artificială.

(Fluierul)