17:02 2023-01-29
crimes - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu
_ Deepfakes: Expertul cibernetic avertizează că imaginile AI prezintă un risc pentru securitatea națională
_ Deepfakes: expertul cibernetic avertizează că imaginile AI risc de securitate națională
Deepfake AI are potențialul de a submina securitatea națională, a avertizat un expert în securitate cibernetică.
Dr. Tim Stevens, directorul Grupului de Cercetare în Securitate Cibernetică de la King's College London, a declarat că IA deepfake - care poate crea imagini și videoclipuri hiperrealiste ale oamenilor - are potențialul de a submina instituțiile democratice și securitate națională.
Dr. Stevens a spus că disponibilitatea pe scară largă a acestor instrumente ar putea fi exploatată de state precum Rusia pentru a „trola” populațiile țintă într-un încercarea de a atinge obiectivele de politică externă și de a „submina” securitatea națională a țărilor.
El a adăugat: „Potențialul există pentru IA și deepfakes pentru a afecta securitatea națională.
„Nu la nivelul înalt al apărării și al războiului interstatal, ci în subminarea generală a încrederii în instituțiile democratice și mass-media.
„Ar putea fi exploatate de autocrații precum Rusia pentru a scădea nivelul de încredere în acele instituții și organizații.”
Aici, MailOnline a creat un test deepfake, precum și tot ce trebuie să știți despre deepfake. Ce sunt ei? Cum funcționează? Ce riscuri prezintă? Poți să faci diferența dintre lucrul real și inteligența artificială?
Dacă l-ai văzut pe Tom Cruise cântând la chitară pe TikTok, Barack Obama numindu-l pe Donald Trump un „prostie totală și completă” sau Mark Zuckerberg lăudându-se că deține controlul asupra „miliardelor de date furate ale oamenilor”, probabil că ați mai văzut un deepfake înainte.
O „deepfake” este o formă de inteligență artificială care folosește „deep learning” pentru a manipula audio, imagini. și video, creând conținut media hiperrealist.
Termenul „deepfake” a fost inventat în 2017, când un utilizator Reddit a postat videoclipuri porno manipulate pe forum. Videoclipurile au schimbat fețele celebrităților precum Gal Gadot, Taylor Swift și Scarlett Johansson cu staruri porno.
Un deepfake folosește un subset de inteligență artificială (AI) numită deep learning pentru a construi mass-media manipulată. Cea mai obișnuită metodă utilizează „rețele neuronale profunde”, „algoritmi de codificare”, un videoclip de bază în care doriți să introduceți chipul altcuiva și o colecție de videoclipuri ale țintei dvs.
Învățarea profundă AI studiază datele în diferite condiții și găsește caracteristici comune între ambii subiecți înainte de a mapa fața țintei pe persoana din videoclipul de bază.
Generative Adversarial Networks (GAN) este o altă modalitate de a face deepfake. GAN-urile folosesc doi algoritmi de învățare automată (ML) cu roluri duble. Primul algoritm creează falsuri, iar al doilea le detectează. Procesul se finalizează atunci când cel de-al doilea model ML nu poate găsi inconsecvențe.
Acuratețea GAN-urilor depinde de volumul de date. De aceea vezi atât de multe falsuri profunde ale politicienilor, celebrităților și vedetelor de film pentru adulți, deoarece există adesea o mulțime de mijloace media ale acelor oameni disponibile pentru a antrena algoritmul de învățare automată.
Succesele și eșecurile deepfake-urilor
Un exemplu notoriu de deepfake sau „cheapfake” a fost o uzurpare grosieră a lui
Clipul îl arată pe președintele ucrainean vorbind din pupitru, în timp ce își cheamă trupele să depună armele și să accepte forțele invadatoare ale lui Putin.
Utilizatorii de internet pricepuți au semnalat imediat discrepanțele dintre culoarea gâtului și a feței lui Zelensky, accentul ciudat și pixelarea din jurul capului său.
Mounir Ibrahim, care lucrează pentru Truepic, o companie care înlătură deepfake-urile online, a declarat pentru Daily Beast: „Faptul că este atât de prost făcut este un pic zgârietor.
„Puteți vedea clar diferență — acesta nu este cel mai bun deepfake pe care l-am văzut, nici măcar aproape.’
Unul dintre cele mai convingătoare deepfake de pe rețelele sociale în acest moment este
contul a fost creat în februarie 2021 și are peste 18,1 milioane de aprecieri și cinci milioane de urmăritori.
Postă versiuni parodiice hiperrealiste ale vedetei de la Hollywood făcând lucruri din trucuri de magie, jucand golf, amintindu-și timpul pe care l-a cunoscut. fostul președinte al Uniunii Sovietice și pozând cu modelul Paris Hilton.
Într-un clip, Cruise poate fi văzut îmbrățișând-o pe Paris Hilton în timp ce se prefac că sunt un cuplu.
El le spune lui modelul „Ești atât de frumoasă”, la care Hilton se înroșește și îi mulțumește.
În timp ce se uită în oglindă, Hilton îi spune actorului: „Arăt foarte deștept, domnule Cruise”.
Un alt videoclip distribuit în cont îl arată pe un deepfake Cruise purtând o cămașă hawaiană festivă în timp ce stă în genunchi în fața camerei.
El arată o monedă și, într-un caz, o face să dispară - ca prin magie .
„Vreau să vă arăt câteva magie', spune impostorul, ținând moneda în mână.
Deepfakes reprezintă o amenințare?
În ciuda valorii de divertisment a deepfake-urilor, unii experți au avertizat cu privire la pericolele pe care le-ar putea prezenta.
Directorul Grupului de Cercetare pentru Securitate Cibernetică de la King's College London, Dr. Tim Stevens, a avertizat despre potențialele deepfakes pe care le au în apariție. folosit pentru a răspândi știri false și a submina securitatea națională.
Dr. Stevens a spus că tehnologia ar putea fi exploatată de autocrații precum Rusia pentru a submina democrațiile, precum și pentru a consolida legitimitatea obiectivelor politicii externe, cum ar fi intrarea în război.
El a spus că deepfake-ul lui Zelensky a fost „foarte îngrijorător”, deoarece au existat oameni care „au crezut asta”, precum și oameni care „vreau să creadă asta”.
Theresa Payton, CEO al Compania de securitate cibernetică Fortalice, a spus că deepfake AI are și potențialul de a combina date reale pentru a crea „fraude sincere” care ar putea infiltra companii și fura informații.
Ea&nb sp;a spus că „epoca creșterii lucrului la distanță” a fost mediul perfect pentru ca aceste tipuri de „oameni AI” să înflorească.
Domnișoara Payton a declarat pentru Sun: „Pe măsură ce companiile își automatizează procesele de scanare a CV-urilor și desfășoară la distanță. interviurile, escrocii și escrocii vor folosi tehnologia de ultimă oră deepfake AI pentru a crea „clone” lucrători susținuți cu identități sintetice.
„Mercherea digitală în identitatea unei persoane fizice va fi aproape imposibil de descurajat, detectat și recuperat.”
Dr Stevens a adăugat: „Ce fel de societate ne dorim? Cum vrem să arate utilizarea AI? Pentru că momentan frânele sunt oprite și ne îndreptăm într-un spațiu destul de dezordonat.
‘Dacă arată rău acum, va fi mai rău în viitor. Avem nevoie de o conversație despre pentru ce sunt aceste instrumente și pentru ce ar putea fi ele, precum și despre cum va arăta societatea noastră în restul secolului 21.
„Acest lucru nu va dispărea. Sunt instrumente foarte puternice și pot fi folosite pentru bine sau pentru rău.'
Comentarii:
Adauga Comentariu