15:37
Comentarii Adauga Comentariu

_ Eforturile Departamentului Apărării de a combate părtinirea AI nu merg suficient de departe

>
>
necunoscut, Wikimedia Commons

Această poveste a fost publicată inițial de Real Clear Wire

De Delaney Duff
> Real Clear Wire

Dificultatea Google de a atenua părtinirea din sistemele lor de inteligență artificială � chiar și după ce a depus �n mod explicit eforturi mari pentru a minimiza părtinirea � provoacă probleme pentru Departamentul Apărării.Prejudecățile poate determina ca instrumentele AI să funcționeze defectuos irevocabil și să �mpiedice dezvoltarea AI.Google a �ntrerupt recent pe Gemeni, cel mai mare și cel mai capabil model AI, de la generarea de imagini după ce a creat imagini inexacte și ofensatoare din punct de vedere istoric ale oamenilor.Google a explicat că �ncercările lor de a proiecta un instrument de generare de imagini mai puțin părtinitor și mai incluziv au determinat modelul să funcționeze defectuos.

Acest lucru este deosebit de �ngrijorător, deoarece Departamentul Apărării intenționează să să folosească AI la scară, inclusiv pentru simulări de antrenament, informații analiza, recrutarea personalului, traducerea documentelor, elaborarea politicii și chiar alimentarea armelor autonome.Dacă SUA continuă să acorde prioritate vitezei dezvoltării AI �n detrimentul siguranței, sistemele AI părtinitoare vor �ncetini �n cele din urmă rata de adoptare, ced�nd avantajul tehnic al țării Chinei.

Sistemele AI părtinitoare sunt �n cele din urmă periculoase.Ei comit greșeli sau generează evaluări inexacte care duc la luare a deciziilor slabe sau chiar la defecțiuni ale sistemului care dăunează oamenilor.Eșecurile neprevăzute ale AI ar putea cauza probleme, de la raportarea eronată a informațiilor la direcționarea incorectă.

�n Departamentul de Apărare, Biroul șef de inteligență digitală și artificială (CDAO) are sarcina de a accelera adoptarea tehnologiilor de inteligență artificială �n ecosistemul de securitate națională.Echipa responsabilă cu IA a CDAO abordează problema modelelor AI părtinitoare prin instituirea unui "bias bounty� program, care recrutează publicul pentru a identifica cazurile de părtinire �n modelele sale mari de limbă, �ncep�nd cu chat bots, �n schimb pentru un premiu �n bani.

Prin identificarea părtinirii instrumentelor AI generative, Pentagonul speră să �nțeleagă beneficiile și riscurile prezentate de aceste sisteme pentru a implementa măsuri de protecție.Atenuarea riscurilor este crucială, deoarece SUA se bazează din ce �n ce mai mult pe dezvoltarea AI pentru a oferi luptătorilor un avantaj competitiv față de adversarii săi.

Să te bazezi pe programe de participare publică rare, la scară mică pentru a identifica părtinirea AI, este inadecvat, deoarece presupune că părtinirea este ușor de detectat și nu ține cont de modul �n care rezultatele părtinitoare se transformă peste timp, chiar și după ce dezvoltatorii implementează "remedieri�.Sistemele AI părtinitoare dezavantajează �n mod disproporționat anumite grupuri, mai ales atunci c�nd datele de antrenament ale modelului AI sunt sub reprezentative pentru realitate sau reflectă deja părtiniri existente.

Și mai �ngrijorătoare sunt eșecurile �n direcționarea armelor alimentate cu inteligență artificială.Sistemele AI ar putea selecta din neatenție ținte care �ncalcă regulile de angajare, cum ar fi femeile și copiii necombatanți.Rapoarte recente acuza două sisteme de țintire a inteligenței artificiale ale IDF de creșterea numărului de victime civile �n Gaza, țintind �n mod intenționat agenții Hamas acasă și identific�nd �n mod eronat indivizi ca militanți chiar și atunci c�nd aceștia nu aveau legături sau foarte slabe cu aceste grupuri.

Determinătorii politici, oficialii militari și industria privată �ncadrează tot mai mult dezvoltarea IA ca pe o cursă a �narmărilor cu China, deoarece Beijingul speră să folosească AI pentru a-și spori puterea și pentru a obține un avantaj strategic față de SUA și aliații săi.Problemele etice substanțiale și discriminarea ca urmare a prejudecăților AI ar trebui să fie suficiente pentru a oferi parlamentarilor o pauză.

Concentrarea excesivă asupra vitezei de dezvoltare emite preocupările reale cu privire la siguranța AI.Menținerea AI la standarde etice �nalte nu este un impediment �n calea progresului.Mai degrabă, asigură un succes mai mare al sistemului, care este esențial pentru o �ncredere și adoptare largă.

�nlăturarea părtinirii necesită mai mult dec�t soluții tehnice.Pe l�ngă testarea periodică a părtinirii pentru a se asigura că modelele funcționează corect, Departamentul de Apărare ar trebui să ofere și să accelereze autorizațiile pentru oamenii de știință de date și pentru alții implicați �n formarea modelelor AI, astfel �nc�t aceștia să aibă acces la porțiuni mai mari de seturi de date.Un acces mai mare permite celor mai cunoscători despre sistemele AI să identifice cazurile �n care modelul produce rezultate părtinitoare și să corecteze greșelile mai ușor.

Operatorii acestor instrumente ar trebui să primească programe de formare mai extinse, care să includă instrucțiuni privind identificarea rezultatelor părtinitoare, care consacră practica de a nu avea �ncredere orbită �n rezultatele sistemului.Aceste instrumente nu sunt perfecte, iar operatorii trebuie să știe c�nd și cum să pună la �ndoială sau să anuleze o decizie sugerată de AI.DoD ar trebui să-și oblige dezvoltatorii să urmeze setul de instrumente AI responsabil al CDAO, care se aliniază cu principiile etice AI ale DoD și să evalueze și să actualizeze continuu cadrul pentru a ține pasul cu progresul tehnologic rapid.

�n sf�rșit, SUA ar trebui să investească o finanțare mai mare �n programele STEM pentru grupuri și comunități subreprezentate.Doar 26% dintre oamenii din informatică sunt femei, iar femeile reprezintă doar 18% dintre cercetătorii de la conferințele de AI.Reprezentarea pentru persoanele de culoare este chiar mai proastă, cu mai puțin de 7% dintre angajații companiilor lider �n tehnologie.fiind negru sau hispanic.Un acces mai mare la educația STEM creează o forță de muncă mai diversă, iar această diversitate este esențială pentru crearea unor sisteme AI mai puțin părtinitoare.Aceste noi perspective perturbă g�ndirea grupului organizațional și ecou camerele, �ncurajează rezolvarea creativă a problemelor și promovează inovația.

O concentrare miop asupra vitezei de dezvoltare a AI �n detrimentul siguranței ar putea �nsemna un dezastru pentru Departamentul de Apărare.Dacă Statele Unite speră să modeleze viitorul secolului 21, trebuie să facă din reducerea părtinirii AI o prioritate de v�rf.


>

Delaney Duff este membru al Fundației Pallas pentru Conducerea Securității Naționale, a cărei misiune este de a promova educația și dezvoltarea profesională a liderilor emergenti din grupurile subreprezentate �n mod tradițional la nivel global și național.Securitate.Este studentă la master �n programul de studii de securitate la Universitatea Georgetown.

Acest articol a fost publicat inițial de RealClearDefense și pus la dispoziție prin RealClearWire.

Postarea Eforturile Departamentului de Apărare pentru a combate AI Bias Don 't Go Far Enough a apărut prima dată pe The Gateway Pundit.


(Fluierul)


Linkul direct catre Petitie

CEREM NATIONALIZAREA TUTUROR RESURSELOR NATURALE ALE ROMANIEI ! - Initiativa Legislativa care are nevoie de 500.000 de semnaturi - Semneaza si tu !

Comentarii:


Adauga Comentariu



Citiți și cele mai căutate articole de pe Fluierul:

_ Rabana-Merquly: Cetatea de munte a fost și un sanctuar din epoca parților?

_ 'Patriarhul' a fost arestat: Ducea o viață de lux alături de familia lui din bani obținuți de pe urma traficului de persoane

_ Din lipsă de petroliere, Rusia exportă produse petroliere cu barjele fluviale, inclusiv spre Constanţa

_ Zelensky scade vârsta de recrutare în armată de la 27 la 25 de ani

_ Tîlvăr: Militarii români şi cei spanioli lucrează împreună pentru protejarea spaţiului aerian

_ Victor Wembanyama din Franța a fost desemnat începătorul anului 2024 în NBA

_ NEOCON NIKKI obține un nou loc de muncă: Haley se alătură grupului de reflecție WARHAWK | Dincolo de titluri

_ Cum să depășiți o taxă nedreptă de parcare privată, de judecătorul pensionar STEPHEN GOLD

_ Prăbușirea financiară a lui Gigi Becali! Patronul FCSB are pierderi de 7,5 milioane de euro, cel mai rău din ultimii 15 ani!

_ Sfâșierea Leviatanului

_ Claudia Winkleman, Lang Lang și Mika despre cum succesul The Piano i-a luat prin surprindere - și de ce poveștile muzicienilor amatori îl fac atât de încântător

_ Finlanda extinde măsura privind închiderea frontierei cu Rusia

_ LIVE TEXT - Război în Ucraina: Rușii au atac noaptea un cartier al orașului Herson, lovind un bloc cu cinci etaje

_ Adorabilă pisică cu ochii încrucișați devine o senzație virală cu 313.000 de fani care s-au îndrăgostit de aspectul său unic de desene animate

_ �RADICALIZAT DE DREPTĂ�: CNN se teme de �enorme de influent� Elon Musk și se teme că �veninul său coroziv� va distruge mass-media liberală

_ Procesul lui Donald Trump ÎN DIRECT: Patru jurați supleanți selectați ca potențial jurat începe să plângă în cutia juriului și fostul președinte ridică privirea când candidatul spune că s-a oferit voluntar pentru CLINTON

_ De ce a amânat Kate Middleton să lanseze fotografia de naștere a Prințesei Charlotte? Royal a reținut fotografia de marcare a celei de-a 9-a ani de naștere a fiicei sale la o săptămână după ce a făcut același lucru cu portretul prințului Louis

_ Co-gazda „The View”, Sunny Hostin, citește fără tragere de inimă „Notă juridică” în aer după ce l-a defăimat pe Matt Gaetz ca traficant sexual (VIDEO)

_ În paralel cu omagiile pentru realegerea lui Putin, presa rusă l-a 'omorât' pe regele Charles

_ The War On Froot Loops

Pieleanu "face" sondaje "la refefon"

_ Alunecare de teren în China: Bilanţul urcă la 43 de morţi

_ Cum au fost concepute studiile cu ivermectina să eșueze

_ Procurorul general DC renunță la acuzațiile penale �mpotriva tatălui Star Star care a �ntrerupt starea Uniunii a lui Biden

_ Comediantul Katt Williams la podcastul lui Joe Rogan: Transgenderismul este conectat la cultul satanic Baphomet

_ BREAKING - Start în programul Noua Casă 2024: Documente necesare și condiții de eligibilitate

_ Leo Hohmann: Raportează solicitările de limitări ale călătoriilor aeriene


Pag.1
Nr. de articole la aceasta sectiune: 27, afisate in 1 pagina.