16:48 2023-03-29
crimes - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu
_ Elon Musk cere o pauză în dezvoltarea IA „periculoasă”.
_ Elon Musk cere o pauză în dezvoltarea „ AI periculoasă
Elon Musk și alți 1.000 de lideri ai tehnologiei, inclusiv co-fondatorul Apple, Steve Wozniak, cer o pauză în „rasei periculoase” pentru dezvoltarea IA, despre care se tem că reprezintă un „risc profund pentru societate și umanitate” și ar putea avea efecte „catastrofale”.
Într-o scrisoare deschisă despre Institutul Viitorul Vieții, Musk și ceilalți au susținut că omenirea nu cunoaște încă întreaga amploare a riscului implicat în avansând tehnologia.
Ei cer tuturor laboratoarelor de inteligență artificială să înceteze să își dezvolte produsele timp de cel puțin șase luni, în timp ce se efectuează o evaluare mai mare a riscurilor.
Dacă orice laboratoare refuză, ei vor ca guvernele să „intervină”. Frica lui Musk este că tehnologia va deveni atât de avansată, încât nu va mai necesita – sau asculta – interferența umană.
Este o teamă că este larg răspândit și chiar recunoscut de CEO-ul AI - compania care a creat ChatGPT - care a declarat la începutul acestei luni că tehnologia ar putea fi dezvoltată și valorificată pentru a comite atacuri cibernetice „răspândite”.
Ei spunem că laboratoarele de inteligență artificială sunt în prezent „blocate într-o cursă scăpată de control pentru a dezvolta și implementa minți digitale tot mai puternice pe care nimeni – nici măcar creatorii lor – nu le poate înțelege, prezice sau controla în mod fiabil.”
„Sistemele AI puternice ar trebui dezvoltate numai după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionate”, se spune în scrisoare.
Nimeni de la Google sau Microsoft - care este considerat fii în fruntea dezvoltării tehnologiei - s-a înscris.
În lista semnatarilor lipsesc, de asemenea, contribuțiile șefilor rețelelor sociale sau a celor care conduc Quora sau Reddit, despre care se consideră că au cunoștințe pe această temă de asemenea.
La începutul acestei săptămâni, Musk a declarat că înțelegerea tehnologiei de către fondatorul Microsoft, Bill Gates, a fost „limitată”.
Scrisoarea a detaliat, de asemenea, riscurile potențiale ale oamenilor pentru societate și civilizație. -sisteme competitive de inteligență artificială sub formă de perturbări economice și politice și a cerut dezvoltatorilor să colaboreze cu factorii de decizie în ceea ce privește guvernanța și autoritățile de reglementare.
Scrisoarea vine în momentul în care forța de poliție a UE Europol s-a alăturat luni unui cor de etici și preocupări legale cu privire la IA avansată, cum ar fi ChatGPT, avertizând despre potențiala utilizare greșită a sistemului în tentative de phishing, dezinformare și criminalitate cibernetică.
De la lansarea sa de anul trecut, ChatGPT de la OpenAI susținut de Microsoft a determinat rivalii să lanseze produse similare, și companiilor să-l integreze sau tehnologii similare în aplicațiile și produsele lor.
Musk a încercat să oprească – sau cel puțin să împiedice – creșterea rapidă a tehnologiei AI de ani de zile.
În 2017, Musk a avertizat că omenirea „invocă demonul” în căutarea tehnologiei.
„Cu inteligența artificială, invocăm demonul”.
„Știți toate poveștile alea în care este tipul cu pentagrama și apa sfințită și spune că, da, este sigur că poate controla demonul? Nu merge”, a spus el într-un articol pentru Vanity Fair.
Musk a fost unul dintre fondatorii OpenAI - compania care a creat ChatGPT - în 2015.
Intenția lui a fost ca aceasta să funcționeze ca o organizație non-profit dedicată cercetării pericolelor pe care AI le-ar prezenta pentru societate.
S-a raportat că se temea că cercetarea rămâne în urmă Google și că Musk a vrut să cumpere compania. A fost refuzat.
Acum, CEO-ul său, Sam Altman, care nu a semnat scrisoarea lui Musk, spune că „atacă deschis” AI. ;
„În mod evident, Elon ne atacă pe unii pe Twitter chiar acum pe câțiva vectori diferiți.
„Cred că este, de înțeles, foarte stresat de siguranța AGI.” a spus el.
Altman spune că este deschis la „feedback” despre GPT și dorește să înțeleagă mai bine riscurile. Într-un interviu podcast de luni, el i-a spus lui Lex Friedman: „Va fi un rău cauzat de acest instrument.
„Va fi un rău și vor exista beneficii extraordinare.
„Uneltele fac un bine minunat și chiar rău. Și vom minimiza ce este rău și vom maximiza binele.”
Într-un interviu la începutul acestei luni, el a spus că oamenii au dreptul să fie „puțin speriați” și că și el era. ;
„Trebuie să fim atenți aici. Cred că oamenii ar trebui să fie fericiți că ne este puțin frică de acest lucru.
„Sunt deosebit de îngrijorat că aceste modele ar putea fi folosite pentru dezinformarea pe scară largă. Acum că sunt din ce în ce mai buni la scrierea codului computerului, [ei] ar putea fi folosiți pentru atacuri cibernetice ofensive”, a spus el.
Comentarii:
Adauga Comentariu