08:12 2023-05-28
science - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu
_ De la mașini cu conducere autonomă la supraveghere militară: calculul cuantic poate ajuta la asigurarea viitorului sistemelor AI
_ De la auto-conducere mașini la supravegherea militară: calculul cuantic poate ajuta la asigurarea viitorului sistemelor AI
Algoritmii de inteligență artificială devin rapid o parte din viața de zi cu zi. Multe sisteme care necesită o securitate puternică fie sunt deja susținute de învățarea automată, fie vor fi în curând. Aceste sisteme includ recunoașterea facială, operațiuni bancare, aplicații de direcționare militară și roboți și vehicule autonome, pentru a numi câteva.
Acest lucru ridică o întrebare importantă: cât de siguri sunt acești algoritmi de învățare automată. împotriva atacurilor rău intenționate?
Într-un articol publicat astăzi în Nature Machine Intelligence, eu și colegii mei de la Universitatea din Melbourne discutăm despre o posibilă soluție la vulnerabilitatea modelelor de învățare automată.
Noi propunem că integrarea calculului cuantic în aceste modele ar putea produce noi algoritmi cu rezistență puternică împotriva atacurilor adverse.
Algoritmii de învățare automată pot fi remarcabil de precisi și eficienți pentru multe sarcini. Sunt utile în special pentru clasificarea și identificarea caracteristicilor imaginii. Cu toate acestea, sunt, de asemenea, foarte vulnerabili la atacurile de manipulare a datelor, care pot prezenta riscuri serioase de securitate.
Atacurile de manipulare a datelor — care implică manipularea foarte subtilă a datelor de imagine — pot fi lansate în mai multe moduri. Un atac poate fi lansat prin amestecarea datelor corupte într-un set de date de antrenament folosit pentru antrenamentul unui algoritm, ceea ce îl conduce să învețe lucruri pe care nu ar trebui.
Datele manipulate pot fi, de asemenea, injectate în timpul fazei de testare (după antrenament). complet), în cazurile în care sistemul AI continuă să antreneze algoritmii de bază în timpul utilizării.
Oamenii pot chiar să efectueze astfel de atacuri din lumea fizică. Cineva ar putea pune un autocolant pe un semn de oprire pentru a păcăli inteligența artificială a unei mașini cu conducere autonomă pentru a o identifica ca semn de limită de viteză. Sau, pe linia frontului, trupele ar putea purta uniforme care pot păcăli dronele bazate pe inteligență artificială pentru a le identifica ca caracteristici ale peisajului.
În orice caz, consecințele atacurilor de manipulare a datelor pot fi grave. De exemplu, dacă o mașină cu conducere autonomă folosește un algoritm de învățare automată care a fost compromis, poate prezice în mod incorect că nu există oameni pe drum, atunci când există.
În articolul nostru, descriem modul de integrare. calculul cuantic cu învățarea automată ar putea da naștere la algoritmi securizat numiți modele de învățare automată cuantică.
Acești algoritmi sunt proiectați cu atenție pentru a exploata proprietăți cuantice speciale care le-ar permite să găsească modele specifice în datele de imagine care nu sunt ușor de realizat. manipulat. Rezultatul ar fi algoritmi rezistenți, care sunt siguri chiar și împotriva atacurilor puternice. De asemenea, nu ar necesita „antrenamentul adversar” costisitor folosit în prezent pentru a-i învăța pe algoritmi cum să reziste unor astfel de atacuri.
Dincolo de aceasta, învățarea cuantică automată ar putea permite o pregătire algoritmică mai rapidă și mai multă acuratețe în funcțiile de învățare.< /p>
Computerele clasice de astăzi funcționează prin stocarea și procesarea informațiilor ca „biți”, sau cifre binare, cea mai mică unitate de date pe care o poate procesa un computer. În calculatoarele clasice, care urmează legile fizicii clasice, biții sunt reprezentați ca numere binare - în special 0 și 1.
Calcul cuantic, pe de altă parte, urmează principiile utilizate în fizica cuantică. Informațiile din computerele cuantice sunt stocate și procesate ca qubiți (biți cuantici) care pot exista ca 0, 1 sau o combinație a ambelor simultan. Se spune că un sistem cuantic care există în mai multe stări simultan se află într-o stare de suprapunere. Calculatoarele cuantice pot fi folosite pentru a proiecta algoritmi inteligenți care exploatează această proprietate.
Cu toate acestea, deși există beneficii potențiale semnificative în utilizarea calculului cuantic pentru a securiza modelele de învățare automată, ar putea fi și o sabie cu două tăișuri.
Pe de o parte, modelele de învățare automată cuantică vor oferi securitate critică pentru multe aplicații sensibile. Pe de altă parte, computerele cuantice ar putea fi folosite pentru a genera atacuri adverse puternice, capabile să înșele cu ușurință chiar și modelele convenționale de învățare automată de ultimă generație.
În continuare, va trebui să luăm în considerare serios cele mai bune modalități de a ne proteja sistemele; un adversar cu acces la calculatoarele cuantice timpurii ar reprezenta o amenințare semnificativă pentru securitate.
Dovezile actuale sugerează că suntem încă câțiva ani până când învățarea automată cuantică să devină o realitate, din cauza limitărilor generației actuale de cuantice. procesoare.
Calculatoarele cuantice de astăzi sunt relativ mici (cu mai puțin de 500 de qubiți) și ratele lor de eroare sunt mari. Erorile pot apărea din mai multe motive, inclusiv fabricarea imperfectă a qubiților, erori în circuitele de control sau pierderea de informații (numită „decoerență cuantică”) prin interacțiunea cu mediul.
Cu toate acestea, am văzut enorm de multe progresul hardware și software cuantic în ultimii ani. Conform foilor de parcurs recente ale hardware-ului cuantic, se anticipează că dispozitivele cuantice fabricate în următorii ani vor avea sute până la mii de qubiți.
Aceste dispozitive ar trebui să poată rula modele puternice de învățare automată cuantică pentru a ajuta la protejarea unei game largi de industrii. care se bazează pe instrumente de învățare automată și inteligență artificială.
La nivel mondial, guvernele și sectoarele private deopotrivă își sporesc investițiile în tehnologii cuantice.
Luna aceasta, guvernul australian a lansat Strategia cuantică națională, care vizează la creșterea industriei cuantice a națiunii și la comercializarea tehnologiilor cuantice. Potrivit CSIRO, industria cuantică din Australia ar putea avea o valoare de aproximativ 2,2 miliarde USD până în 2030.
Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.
Comentarii:
Adauga Comentariu