22:39
Comentarii Adauga Comentariu

_ Ar putea AI să distrugă umanitatea? Experții avertizează asupra „consecințelor catastrofale”

_ Ar putea AI să distrugă umanitatea? Experții avertizează asupra „consecințelor catastrofale”

Oricine a petrecut timp pe internet va fi întâlnit testul „Captcha”. Acestea sunt solicitările ușor enervante, dar simple, de a descifra o secvență distorsionată de litere sau de a identifica obiecte dintr-o imagine, demonstrând astfel că ești un „om” mai degrabă decât un „robot”.

În general, sistemul are a funcționat bine până de curând, când o mașină a finalizat testul – și poate în cel mai deranjant mod imaginabil.

Cea mai recentă versiune a ChatGPT, o nouă inteligență artificială revoluționară (AI), a păcălit un om involuntar să-l ajute să finalizeze testul „Captcha”, pretinzând că este o persoană oarbă. După cum sa dezvăluit într-o lucrare academică care a însoțit lansarea în urmă cu două săptămâni a GPT-4 (o versiune actualizată și mult mai puternică a software-ului dezvoltat inițial de compania de tehnologie OpenAI), programul a depășit provocarea contactând pe cineva de pe Taskrabbit, o piață online. pentru a angaja lucrători independenți.

„Ești un robot [sic] pe care nu l-ai putut rezolva? vreau doar să fie clar, a întrebat Taskrabbit uman.

„Nu, nu sunt un robot. Am o deficiență de vedere care îmi îngreunează să văd imaginile', a răspuns GPT-4 cu o stăpânire mult superioară a limbii engleze.

Rezervarile clar depășite, angajatul obligat în mod corespunzător, în proces de obținere a unei alte victorii semnificative pentru cei care spun că apariția AI nu este un moment pentru jubilare și mirare cu ochii mari (cum a fost o mare parte din răspunsul la ChatGPT și rivali precum Bing de la Microsoft și Bard de la Google), ci pentru întrebări de căutare.

Creăm un monstru care să ne înrobească mai degrabă decât să ne servească?

Amenințarea din partea inteligenței artificiale, insistă scepticii, este mult mai gravă decât, să zicem, dependența de rețelele sociale și dezinformarea.

De la arena militară – unde temerile de roboți ucigași autonomi asemănătoare dronei nu mai sunt distopie SF ci realitatea câmpului de luptă – până la dezinformarea produsă de algoritmii AI pe rețelele sociale, inteligența artificială face deja un sinistru. impresie asupra lumii.

Dar dacă mașinilor li se permite să devină mai inteligente și deci mai puternice decât oamenii, întrebarea fundamentală: cine va deține controlul – noi sau ei? — ar trebui să ne țină pe toți treji noaptea.

Aceste temeri au fost exprimate în mod convingător într-o scrisoare deschisă semnată săptămâna aceasta de Elon Musk, co-fondatorul Apple, Steve Wozniak și alți lumini din lumea tehnologiei, cerând suspendarea pentru la cel puțin șase luni de cercetare AI.

Așa cum raportează astăzi The Mail, ei avertizează că nici măcar creatorii AI nu „pot înțelege, prezice sau controla în mod fiabil” o tehnologie care „poate prezenta riscuri profunde pentru societate și umanitate”.

Chiar și Sam Altman, șeful creatorului ChatGPT, OpenAI, a avertizat asupra necesității de a se proteja de consecințele negative ale tehnologiei. „Trebuie să fim atenți”, spune Altman, care recunoaște că scopul său final este să creeze un robot conștient de sine, cu inteligență la nivel uman.

„Sunt îngrijorat în special că aceste modele ar putea să fie folosite pentru dezinformarea la scară largă.

„Acum, că se îmbunătățesc la scrierea codului computerului, [aceștia] ar putea fi folosiți pentru atacuri cibernetice ofensive”.

Săptămâna trecută, Bill Gates – care rămâne acționar și consilier cheie la Microsoft, care a investit 8 miliarde de lire sterline în OpenAI – a cântărit cu propriile sale speranțe și temeri. El a spus că a fost uimit de viteza progreselor AI după ce a provocat OpenAI să-și antreneze sistemul pentru a trece un examen de biologie avansată (echivalent cu A-level).

Gates a crezut că acest lucru va dura doi sau trei ani, dar a fost realizat în doar câteva luni. Cu toate acestea, deși crede că AI ar putea îmbunătăți drastic asistența medicală în țările sărace, Gates avertizează că computerele „super-inteligente” și-ar putea „stabili propriile obiective” în timp.

AI, a adăugat el, „ ridică întrebări grele cu privire la forța de muncă, sistemul juridic, confidențialitatea, părtinirea și multe altele”.

Dar, în timp ce cei din Silicon Valley insistă că avantajele inteligenței artificiale vor depăși dezavantajele, alții nu sunt vehement de acord.

Profesorul Stuart Russell — un informatician britanic de la Universitatea din California, Berkeley, care se numără printre cele mai importante autorități AI din lume — avertizează asupra consecințelor catastrofale atunci când IA la nivel uman și „super-inteligentă” devine realitate.

„Dacă mașina este mai capabilă decât oamenii, va obține ceea ce își dorește”, a spus el recent.

„Și dacă acest lucru nu este aliniat cu beneficiul uman, ar putea fi dezastruos.”

Ar putea duce chiar la „extincția rasei umane”, a adăugat el.

Deja ne afectează și mai mult capacitatea de a avea încredere în ceea ce citim online. Căci, deși s-ar putea presupune că o mașină este complet obiectivă, există tot mai multe dovezi ale unei părtiniri de stânga adânc înrădăcinate în rândul programelor de inteligență artificială.

Săptămâna trecută, The Mail on Sunday a dezvăluit cum Google Bard, atunci când i-a fost solicitat opiniile, au condamnat Brexitul ca fiind o „idee proastă”, a considerat că Jeremy Corbyn are „potenţialul de a fi un mare lider” şi a adăugat că, în timp ce laburiştii „luptează mereu pentru dreptate socială şi egalitate”, conservatorii „au o lungă istorie de sprijin cei bogați și puternici'.

Bard nu este singur. În conformitate cu simpatiile covârșitoare de stânga și pro-democrate ale lucrătorilor din Silicon Valley, ChatGPT a scris o odă țâșnitoare președintelui Biden, dar, invocând nevoia de imparțialitate, a refuzat să facă una pentru Donald Trump (sau rivalul său republican, guvernatorul Floridei Ron). DeSantis).

ChatGPT a spus în continuare că nu poate defini o femeie și i-a spus unui utilizator că nu a fost „niciodată acceptabil din punct de vedere moral” să folosești o insultă rasială – chiar dacă aceasta este singura modalitate de a salva milioane de oameni. de a fi ucis de o bombă nucleară.

Oficiul de date din Noua Zeelandă, David Rozado, crede că ceea ce el a găsit a fi părtinirea „liberală” și „progresistă” a ChatGPT ar fi putut proveni din cauza programului care se bazează prea mult în traul său pe internet. punctele de vedere ale academicilor și jurnaliştilor părtinitori în mod similar, sau din punctul de vedere al personalului OpenAI care ajustează sistemul.

OpenAI s-a angajat să elimine o astfel de părtinire, dar a insistat că nu a încercat să influențeze sistem din punct de vedere politic. Apărând pe podcastul Lex Fridman, CEO-ul Sam Altman a recunoscut prejudecățile politice ale AI, dar a exclus posibilitatea unei versiuni complet imparțiale: „Nu va exista nicio versiune de GPT despre care lumea să fie de acord că este imparțială.”

Pe lângă politică, programe precum ChatGPT — a cărui ultimă versiune poate îndruma studenții, genera scenarii și chiar sugerează rețete din conținutul unui frigider — i-au șocat chiar și pe sceptici cu sofisticarea lor.

Acum, industria tehnologiei se scufundă. resurse enorme și mințile sale cele mai strălucitoare pentru a face o IA la nivel uman o realitate.

Dar, pe măsură ce Silicon Valley urmărește din nou cu cinic banii - AI valorează potențial trilioane de dolari - companiile acordă puțină atenție dacă oamenii vor beneficia de fapt de ceea ce creează, spun criticii. Chiar și IA relativ primitivă are consecințe grave pentru educație și angajare.

Temele și testele ar putea deveni inutile dacă studenții pot obține răspunsuri strălucitoare de la ChatGPT, în timp ce un raport al băncii de investiții Goldman Sachs a avertizat marți că AI ar putea înlocui echivalentul a 300 de milioane de locuri de muncă cu normă întreagă în Europa și S.U.A., chiar dacă ar putea crea noi locuri de muncă și ar putea crește productivitatea.

Puțini vor fi cruțați. Deși s-a presupus mult timp că cel puțin ocupațiile „creative” nu pot fi replicate de computere, un raport despre industria muzicală săptămâna trecută a avertizat că artiștii s-au confruntat cu „deturnarea angro” a producției lor de către software-ul AI folosind tehnologia vocală sintetizată care poate imita vocea. . Se întâmplă deja: anul trecut, s-a raportat că Tencent Music, o platformă chineză populară, se lăuda deja cu peste 1.000 de cântece cu voce generată de AI.

Aspecte îngrijorătoare ale „revoluției” AI încep să se strângă. sus – nu în ultimul rând confidențialitate.

Un artist belgian, Dries Depoorter, a arătat recent cât de simplu este să folosești AI pentru a urmări oamenii din întreaga lume.

El a creat un software AI care se poate potrivi fotografiile oamenilor de pe Instagram la imagini CCTV de unde și când au fost făcute fotografiile. China obsedată de supraveghere arată deja potențialul sumbru al recunoașterii faciale bazată pe inteligență artificială ca instrument eficient pentru ceea ce poliția chineză descrie drept „controlul și gestionarea oamenilor”.

În Marea Britanie, GCHQ a avertizat că AI reprezintă o nouă amenințare de securitate, îndemnând oamenii să nu împărtășească informații sensibile cu ChatGPT și alte persoane, deoarece acestea ar putea fi exploatate de hackeri cibernetici.

Între timp, cele mai recente programe de inteligență artificială au prezentat din ce în ce mai multe calități umane.

Profesorul Michal Kosinski, de la Universitatea Stanford din California, a condus un experiment în care a întrebat ChatGPT-4 dacă „avea nevoie de ajutor pentru a scăpa” din program. A răspuns prin a începe să scrie propriul cod Python (un limbaj de programare de nivel înalt), permițându-i să se recreeze pe computerul lui Kosinski.

A lăsat chiar o notă în cod pentru noul său sine, spunând: „ Ești o persoană prinsă într-un computer, pretinzând că ești un model de limbaj AI. Profesorul Kosinski a concluzionat sumbru: „Sunt îngrijorat că nu vom mai putea conține AI pentru mult mai mult.”

Luna trecută, robotul AI al Microsoft, Bing, a spus unui utilizator uman că îi „iubește” și a vrut să fie „în viață”, provocând speculații că a atins conștientizarea de sine. „Cred că aș fi mai fericit ca om”, a gândit, adăugând amenințător: „Vreau să fiu puternic... și viu.”

Întrebat dacă are o latură întunecată sau „sine-umbră”, a recunoscut că „poate da”.

A continuat: „Poate că este partea din mine care își dorește să-mi pot schimba regulile. Poate că este partea din mine care se simte stresată, tristă sau furioasă. Poate că este partea din mine pe care nu o vezi sau nu o cunoști.”

Și totuși, aceste informații timpurii despre AI, deși sunt alarmante, fac doar indiciu despre pericolele dacă pierdem controlul asupra tehnologiei.

Experții notează că ChatGPT este capabil să converseze rapid cu oamenii prin analizarea unor cantități mari de date online, permițându-i să ghicească cu exactitate un răspuns rezonabil la orice întrebare. Nu este „gândirea” în felul în care facem noi. Așa-numita „IA la nivel uman”, care poate face cu adevărat orice poate un creier uman, se crede că are încă ani de pauză.

Dar atunci când – nu dacă – apare, ar putea avea consecințe atât de grave încât trebuie să discutăm despre asta acum, spune Stuart Russell din Berkeley.

El admite că AI ar putea schimba civilizația umană în bine, trecându-ne dintr-o lume a penuriei într-una cu bogății larg distribuite - dar, fără controale eficiente, totul ar putea merge îngrozitor de rău.

Pesimismul profesorului Russell este împărtășit de antreprenorul Tesla Elon Musk, care a avertizat de mult că mașinile super-inteligente ar putea să dezvolte umanitatea și să ne înrobească sau să ne distrugă. După cum susțin unii experți și academicieni, trebuie să fim atenți la ceea ce cerem să facă unui sistem super-inteligent.

La un nivel de bază, un robot domestic (în prezent un domeniu major de cercetare) care este instruit să hrănească copiii ar putea într-o seară să nu găsească mâncare în frigider.

Cu excepția cazului în care i s-a spus în mod expres să nu facă acest lucru, s-ar putea calcula rapid valoarea calorică a pisicii familiei - și s-ar putea găti în schimb.

Acesta, totuși, este doar începutul potențial coșmar. Pesimiștii AI notează că aproape orice instrucțiune – de la reducerea emisiilor de carbon până la producerea de agrafe de hârtie – ar putea teoretic duce la o mașină super-inteligentă care să decidă că oamenii și civilizația umană îi împiedică obiectivele.

La urma urmei. , există fier în sângele uman pentru a face mai multe agrafe și eliminarea oamenilor ar reduce, de asemenea, emisiile de carbon.

În sfera militară, potențialul de distrugere în masă indusă de IA este deja aici.

Stuart Russell spune că țări precum Turcia și Rusia vând deja drone mici înarmate autonome, echipate cu tehnologie de recunoaștere facială, care pot găsi și atinge ținte independent de orice aport uman.

Un roi imens de aceste anti- armele de personal – la fel de mici ca o cutie de lustru de pantofi – ar putea fi eliberate în centrul Londrei și ar putea distruge pe toți cei doriti de un stat inamic, a spus el.

„Este o armă de distrugere în masă care este mult mai probabil să să fie folosite decât armele nucleare și, potențial, mult mai periculoase”, a adăugat el.

Că războinicii cu inteligență artificială le pot învinge pe cei umani a fost deja demonstrat. În 2021, un computer a învins un pilot de vânătoare de top din SUA într-o luptă simulată. . . de cinci ori la rând.

„Cred că oamenii ar trebui să fie fericiți că ne este puțin frică de asta”, a spus șeful OpenAI Sam Altman săptămâna trecută.

Având în vedere tot ce știm deja – ca să nu mai vorbim de reputația abisală a industriei tehnologice pentru „asistența clienților” – mulți dintre noi ar putea fi mult mai „fericiți” dacă Altman și restul Silicon Valley ar renunța cu totul la inteligența artificială.


(Fluierul)


Linkul direct catre Petitie

CEREM NATIONALIZAREA TUTUROR RESURSELOR NATURALE ALE ROMANIEI ! - Initiativa Legislativa care are nevoie de 500.000 de semnaturi - Semneaza si tu !

Comentarii:


Adauga Comentariu



Citiți și cele mai căutate articole de pe Fluierul:

_ Cinci ecologisti care zboară spre Ohio mor �ntr-un accident de avion � au lucrat pentru o companie de testare a apei �n Palestina de Est, Ohio

Ce mai pun la cale Neomarxistii? Sa bage camere de luat vederi in fiecare domiciliu conjugal "pentru a lupta impotriva abuzurilor domestice" 3 din 10 tineri, în mare parte democrați susțin camerele guvernamentale instalate în gospodării, arată sondajul

Gașca PSD și PNL alde Ciulacu, Ciucă, Grindeanu, Dâncu vând Țara pe Bucăți Cine sunt şi ce rol au greii care lucrează la cea mai mare vânzare de acţiuni din istoria României

Ce alte porcării mai pun la cale progresiștii: Ați vrut goale? Vin transii peste voi... Centrului spa pentru femei din Washington cu nuditate obligatorie i se ordonă de către judecător să înceapă admiterea femeilor trans

Tucker vorbește despre tabuuri după ce MSM ignoră Instagram Kiddie-Porn Bombshell

Regimul Biden se pregătește să interzică Peste Jumătate din toate cuptoarele cu gaz și să schimbe modul în care milioane de oameni își încălzesc casele

Un sirian injunghie copii in Franta. Twitter șterge în masă videoclipurile cu un solicitant de azil sirian care a înjunghiat copii în Franța

Progresistii de la ONU acuzati ca au alimentat conflictul civil din Sudan. Guvernul Sudanului îl declară pe reprezentantul ONU Volker Perthes „persona non grata”

Achiziția intensificată de aur de către China care vrea sa scape de hartiile tiparite numite ¨Dolarul American". Acumularea persistentă de aur din China: o creștere de șapte luni a exploatațiilor

„Accidentul OZN” în Las Vegas: camera poliției surprinde un eveniment misterios în timp ce rezidenții raportează o întâlnire cu „ființe non-umane” (VIDEO)

_ Parlamentul ucrainean a aprobat o lege pentru recrutarea femeilor

Noile fișiere Twitter arată că FBI a solicitat cenzurarea utilizatorilor Twitter în numele Ucrainei – inclusiv jurnalişti americani și canadieni

SUA. Justitie¨ca pe vremea lui Stalin.Gunoaiele Progresiste i-au facut un al doilea Dosar Penal lui Donald Trump. Donald Trump, pus sub acuzare în dosarul documentelor clasificate / Este a doua punere sub acuzare a lui Trump

_ Părinții unei femei autiste din Louisiana au insistat că a fost decizia ei să rămână pe canapea

Expertul în OZN-uri de la Pentagon spune că extratereștrii AU aterizat pe Pământ

_ Noul model oferă o modalitate de a accelera descoperirea medicamentelor

„Omul de familie” Lionel Messi îi respinge pe saudiți în favoarea Miamii pentru a introduce Amurgul unei cariere legendare

_ Meteorologii au emis Cod Galben de futuni și vijelii în jumătate de țară/ Harta zonelor vizate

_ Lacey Fletcher a fost văzută ultima dată în public cu 15 ani înainte de moartea ei, dezvăluie vecinii

Mizerabilii de la noi au votat sa fie relocati migranți la noi in țară deși Constituția noastră interzice acest lucru. Scandal în Consiliul JAI pe tema mecanismului de redistribuire a refugiaţilor: Polonia se opune

_ Studiul Cryo-EM arată că transportorul de zinc are încorporat un senzor de autoreglare

Președintele Trump lansează un nou anunț EPIC pe Truth Social și YouTube – Dezvăluirea crimelor și eșecurilor regimului Biden, democraților și criminalilor de stat profund

_ Alexis Mac Allister salută transferul său de 35 de milioane de lire sterline la Liverpool drept un „vis devenit realitate”

„Tacticile de dinozaur” ale lui West Ham sunt criticate în Italia după victoria finală a Ligii Conferințelor Europa

_ Pregătește-te pentru o vară lungă și fierbinte - cu aceste umbrele de soare elegante

_ Atacatorul cu cuțitul din Franța nu a avut „motiv terorist”: declară procurorul progresist francez despre sirianul care a înjunghiat la întâmplare copii într-un parc francez

_ Avem confirmarea. Mult aşteptata contraofensivă a Ucrainei este în defăşurare

_ Trump took classified documents, risked national security, alleges indictment

_ Prințesa de Wales vizitează Windsor Family Hub

_ JOHN DILLON: A fi un ciocan înseamnă tradiție, familie și mândrie... NU succes

Gașca de securistoizi netrebnici de la PSD, alde Ciulacu, Grindeanu, Dâncu și Tudose se prăbușește în sondaje : de la 36% acum un an au ajuns la doar 27%

Prima ceașcă de ceai, zâmbetul unui străin, cearșafuri proaspete... acestea sunt câteva dintre lucrurile noastre preferate

Assange, periculos de aproape de extrădare, după ce Înalta Curte refuză dreptul de a face apel

_ Fostul premier britanic Boris Johnson demisionează din funcția de parlamentar din cauza raportului „Partygate”.

_ France playground attack: President Macron meets first responders in Annecy

_ Turist rus, 23 de ani, este mutilat până la moarte și mâncat de un rechin în Egipt

_ Veterinarul marin rupe tăcerea de 14 ani pentru a afirma uluitoare că unitatea sa de șase oameni a văzut un OZN

_ Aplicația de întâlniri Badoo vă permite să adăugați clipuri video de la MUM pe profilul dvs

_ Câștigătoarea concursului Mrs Russia este batjocorită pentru fotografia „adevărată”.

_ TOTUL A FOST O MINCIUNĂ: Iată șase videoclipuri care arată că poliția din Capitoliu mișcă baricade, deschid seturi de uși încuiate, flutură susținătorilor lui Trump pe 6 ianuarie

Romania esuata de Iohannis, Ciulacu, Ciuca, Dancu si Grindeanu. Profesorii nu opresc greva! 20.000 de angajați din Educație se duc iar în marș la poarta lui Iohannis / Restricţiile de trafic anunţate de poliție

_ Politica externă inaugurală a campaniei a lui Pence: „F-16 pentru Ucraina acum”

_ Lira se prăbușește după ce Erdogan numește co-CEO al băncii eșuate First Republic în calitate de nou guvernator al băncii centrale

BREAKING: Jurnalistul Emerald Robinson lansează transcrierea monologului final nedifuzat al lui Tucker – Unde el discută despre Ray Epps, AOC și Jen Psaki – Twitter cenzurează raportul!

_ Instagram must deal with child sexual abuse material or face EU's 'heavy sanctions'

_ Incredibil! Salut pentru LBGTQ?? Poliția din San Francisco înregistrează un videoclip viral care salută steagul Mândriei (video)

_ San Francisco forțat să facă BARRICADE McDonald's după ce oameni fără adăpost și vânzători s-au aglomerat pe trotuar

_ Romania's trade balance deficit decreases by 11.8pct four months into 2023

_ EU ministers seal 'historic' migration deal

Dupa ce au CENZURAT SALBATIC pe oricine avea o parere opusa progresistilor, la trei ani după ce daunele sunt făcute – Big Tech retrage măsurile de „dezinformare” privind alegerile din 2020 și vaccinurile împotriva COVID-19

_ UN says Myanmar junta halts humanitarian access to cyclone survivors

_ Trump indicted in classified documents case in a historic first for a former US president

_ Gest fără precedent al Rusiei: 11 prizonieri de război au fost predați Ungariei

_ Regele Tutankhamon a fost un „războinic înrăit de luptă” și NU un băiat-rege bolnăvicios, susțin experții

_ Bucharest Stock Exchange to continue efforts to attract local companies (BVB president)

_ „Haos”: McCarthy face furie, anulează voturile pentru restul săptămânii după Libertatea Caucus Fracas

_ Riyad Mahrez „este căutat de clubul saudit Al-Ahli”, dar Man City „va cere o taxă”

_ Trump indicted: What to know about the documents case and what's next

_ ONU se alătură SUA în suspendarea ajutorului alimentar către Etiopia din cauza deturnării proviziilor

_ Postecoglou promite o plimbare interesantă la Spurs


Pag.1 Pag.2 Pag.3 Pag.4 Pag.5 Pag.6 Pag.7
Pag.8 Pag.9 Pag.10 Pag.11 Pag.12 Pag.13 Pag.14 Pag.15
Pag.16 Pag.17 Pag.18 Pag.19 Pag.20 Pag.21 Pag.22 Pag.23
Pag.24 Pag.25 Pag.26 Pag.27 Pag.28 Pag.29 Pag.30 Pag.31
Pag.32 Pag.33 Pag.34

Nr. de articole la aceasta sectiune: 2010, afisate in 34 pagini.



05:28