Fostul președinte al SUA, Donald Trump Pozând cu alegătorii de culoare, președintele Joe Biden descurajând oamenii să voteze prin telefon sau pe Papa într-o jachetă albă umflată: Deepfake-urile de videoclipuri, fotografii și înregistrări audio s-au răspândit pe diverse platforme de internet, ajutate de tehnologia progresele modelelor lingvistice mari, cum ar fi Midjourney, Google Gemini sau OpenAI ChatGPT.

După cum Florian Zandt de la Statista detalii de mai jos, cu reglajul rapid corect, toată lumea poate crea imagini aparent reale sau poate face ca vocile personalităților politice sau economice proeminente și ale animatorilor să spună orice dorește. În timp ce crearea unui deepfake este nu este o infracțiune în sine, multe guverne se îndreaptă totuși către o reglementare mai strictă atunci când folosesc inteligența artificială pentru a preveni vătămarea părților implicate.

În afară de calea principală a deepfake-urilor, crearea de conținut pornografic neconsensual care implică în mare parte celebrități feminine, această tehnologie poate fi folosită și pentru a comite fraude de identitate prin producerea de acte de identitate false sau uzurparea identității altor persoane prin telefon. Conform graficului Statista bazat pe cel mai recent raport anual al Furnizorul de verificare a identității Sumsub arată că cazurile de fraudă de identitate legate de deepfake au crescut vertiginos între 2022 și 2023 în multe țări din întreaga lume.

>

Veți găsi mai multe infografice la Statista

De exemplu, numărul tentativelor de fraudă în Filipine a crescut cu 4.500 la sută de la an la an, urmat de națiuni precum Vietnam, Statele Unite și Belgia. Cu capabilitățile așa-numitei inteligențe artificiale potențial în creștere și mai mult, așa cum este dovedit de produse precum generatorul video AI Sora, tentativele de fraudă deepfake s-ar putea răspândi și în alte domenii.

"Am văzut că deepfake-urile au devenit din ce în ce mai convingătoare în ultimii ani, iar acest lucru va continua și se va ramifica în noi tipuri de fraudă, așa cum se vede cu deepfake-urile vocale”, spune Pavel Goldman-Kalaydin, șeful departamentului Sumsub.Inteligența artificială și învățarea automată, în raportul menționat anterior.

"Atât consumatorii, cât și companiile trebuie să rămână extrem de vigilenți la frauda sintetică și să caute soluții antifraudă cu mai multe straturi, nu doar detectarea deepfake.”p>

Aceste evaluări sunt împărtășite de mulți experți în securitate cibernetică.De exemplu, un sondaj în rândul a 199 de lideri în domeniul securității cibernetice care au participat la reuniunea anuală privind securitatea cibernetică a Forumului Economic Mondial în 2023, a arătat 46% din respondenții fiind cel mai preocupați de "avansul capacităților adverse – phishing, dezvoltare de malware, deepfakes” în ceea ce privește riscurile pe care inteligența artificială le prezintă pentru securitatea cibernetică în viitor.