_ Eforturile Departamentului Apărării de a combate părtinirea AI nu merg suficient de departe

15:37 2024-04-23 SUA - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu

Această poveste a fost publicată inițial de Real Clear Wire

De Delaney Duff
> Real Clear Wire

Dificultatea Google de a atenua părtinirea din sistemele lor de inteligență artificială � chiar și după ce a depus �n mod explicit eforturi mari pentru a minimiza părtinirea � provoacă probleme pentru Departamentul Apărării.Prejudecățile poate determina ca instrumentele AI să funcționeze defectuos irevocabil și să �mpiedice dezvoltarea AI.Google a �ntrerupt recent pe Gemeni, cel mai mare și cel mai capabil model AI, de la generarea de imagini după ce a creat imagini inexacte și ofensatoare din punct de vedere istoric ale oamenilor.Google a explicat că �ncercările lor de a proiecta un instrument de generare de imagini mai puțin părtinitor și mai incluziv au determinat modelul să funcționeze defectuos.

Acest lucru este deosebit de �ngrijorător, deoarece Departamentul Apărării intenționează să să folosească AI la scară, inclusiv pentru simulări de antrenament, informații analiza, recrutarea personalului, traducerea documentelor, elaborarea politicii și chiar alimentarea armelor autonome.Dacă SUA continuă să acorde prioritate vitezei dezvoltării AI �n detrimentul siguranței, sistemele AI părtinitoare vor �ncetini �n cele din urmă rata de adoptare, ced�nd avantajul tehnic al țării Chinei.

Sistemele AI părtinitoare sunt �n cele din urmă periculoase.Ei comit greșeli sau generează evaluări inexacte care duc la luare a deciziilor slabe sau chiar la defecțiuni ale sistemului care dăunează oamenilor.Eșecurile neprevăzute ale AI ar putea cauza probleme, de la raportarea eronată a informațiilor la direcționarea incorectă.

�n Departamentul de Apărare, Biroul șef de inteligență digitală și artificială (CDAO) are sarcina de a accelera adoptarea tehnologiilor de inteligență artificială �n ecosistemul de securitate națională.Echipa responsabilă cu IA a CDAO abordează problema modelelor AI părtinitoare prin instituirea unui "bias bounty� program, care recrutează publicul pentru a identifica cazurile de părtinire �n modelele sale mari de limbă, �ncep�nd cu chat bots, �n schimb pentru un premiu �n bani.

Prin identificarea părtinirii instrumentelor AI generative, Pentagonul speră să �nțeleagă beneficiile și riscurile prezentate de aceste sisteme pentru a implementa măsuri de protecție.Atenuarea riscurilor este crucială, deoarece SUA se bazează din ce �n ce mai mult pe dezvoltarea AI pentru a oferi luptătorilor un avantaj competitiv față de adversarii săi.

Să te bazezi pe programe de participare publică rare, la scară mică pentru a identifica părtinirea AI, este inadecvat, deoarece presupune că părtinirea este ușor de detectat și nu ține cont de modul �n care rezultatele părtinitoare se transformă peste timp, chiar și după ce dezvoltatorii implementează "remedieri�.Sistemele AI părtinitoare dezavantajează �n mod disproporționat anumite grupuri, mai ales atunci c�nd datele de antrenament ale modelului AI sunt sub reprezentative pentru realitate sau reflectă deja părtiniri existente.

Și mai �ngrijorătoare sunt eșecurile �n direcționarea armelor alimentate cu inteligență artificială.Sistemele AI ar putea selecta din neatenție ținte care �ncalcă regulile de angajare, cum ar fi femeile și copiii necombatanți.Rapoarte recente acuza două sisteme de țintire a inteligenței artificiale ale IDF de creșterea numărului de victime civile �n Gaza, țintind �n mod intenționat agenții Hamas acasă și identific�nd �n mod eronat indivizi ca militanți chiar și atunci c�nd aceștia nu aveau legături sau foarte slabe cu aceste grupuri.

Determinătorii politici, oficialii militari și industria privată �ncadrează tot mai mult dezvoltarea IA ca pe o cursă a �narmărilor cu China, deoarece Beijingul speră să folosească AI pentru a-și spori puterea și pentru a obține un avantaj strategic față de SUA și aliații săi.Problemele etice substanțiale și discriminarea ca urmare a prejudecăților AI ar trebui să fie suficiente pentru a oferi parlamentarilor o pauză.

Concentrarea excesivă asupra vitezei de dezvoltare emite preocupările reale cu privire la siguranța AI.Menținerea AI la standarde etice �nalte nu este un impediment �n calea progresului.Mai degrabă, asigură un succes mai mare al sistemului, care este esențial pentru o �ncredere și adoptare largă.

�nlăturarea părtinirii necesită mai mult dec�t soluții tehnice.Pe l�ngă testarea periodică a părtinirii pentru a se asigura că modelele funcționează corect, Departamentul de Apărare ar trebui să ofere și să accelereze autorizațiile pentru oamenii de știință de date și pentru alții implicați �n formarea modelelor AI, astfel �nc�t aceștia să aibă acces la porțiuni mai mari de seturi de date.Un acces mai mare permite celor mai cunoscători despre sistemele AI să identifice cazurile �n care modelul produce rezultate părtinitoare și să corecteze greșelile mai ușor.

Operatorii acestor instrumente ar trebui să primească programe de formare mai extinse, care să includă instrucțiuni privind identificarea rezultatelor părtinitoare, care consacră practica de a nu avea �ncredere orbită �n rezultatele sistemului.Aceste instrumente nu sunt perfecte, iar operatorii trebuie să știe c�nd și cum să pună la �ndoială sau să anuleze o decizie sugerată de AI.DoD ar trebui să-și oblige dezvoltatorii să urmeze setul de instrumente AI responsabil al CDAO, care se aliniază cu principiile etice AI ale DoD și să evalueze și să actualizeze continuu cadrul pentru a ține pasul cu progresul tehnologic rapid.

�n sf�rșit, SUA ar trebui să investească o finanțare mai mare �n programele STEM pentru grupuri și comunități subreprezentate.Doar 26% dintre oamenii din informatică sunt femei, iar femeile reprezintă doar 18% dintre cercetătorii de la conferințele de AI.Reprezentarea pentru persoanele de culoare este chiar mai proastă, cu mai puțin de 7% dintre angajații companiilor lider �n tehnologie.fiind negru sau hispanic.Un acces mai mare la educația STEM creează o forță de muncă mai diversă, iar această diversitate este esențială pentru crearea unor sisteme AI mai puțin părtinitoare.Aceste noi perspective perturbă g�ndirea grupului organizațional și ecou camerele, �ncurajează rezolvarea creativă a problemelor și promovează inovația.

O concentrare miop asupra vitezei de dezvoltare a AI �n detrimentul siguranței ar putea �nsemna un dezastru pentru Departamentul de Apărare.Dacă Statele Unite speră să modeleze viitorul secolului 21, trebuie să facă din reducerea părtinirii AI o prioritate de v�rf.

Delaney Duff este membru al Fundației Pallas pentru Conducerea Securității Naționale, a cărei misiune este de a promova educația și dezvoltarea profesională a liderilor emergenti din grupurile subreprezentate �n mod tradițional la nivel global și național.Securitate.Este studentă la master �n programul de studii de securitate la Universitatea Georgetown.

Acest articol a fost publicat inițial de RealClearDefense și pus la dispoziție prin RealClearWire.

Postarea Eforturile Departamentului de Apărare pentru a combate AI Bias Don 't Go Far Enough a apărut prima dată pe The Gateway Pundit.

(Fluierul)

Linkul direct catre Petitie

CEREM NATIONALIZAREA TUTUROR RESURSELOR NATURALE ALE ROMANIEI ! - Initiativa Legislativa care are nevoie de 500.000 de semnaturi - Semneaza si tu !

Citiți și cele mai căutate articole de pe Fluierul:

Romania - Numărul de Profesori la Numărul de Elevi

Securistoidul Pantazi un analfabet funcțional în domeniul economiei declara ritos că "distributivismul este baza marxismului". Mai dobitocule doctrina distributivista a fost creata de un Papă si dezvoltata de un alt Papă

Nimeni nu e mai presus de Lege. Nici măcar Curtean Constituțională

Motivarea judecatorului

Prăbușirea Apple demonstrează că a te gudura pe lângă Trump nu este o garanție a siguranței

Prăbușirea demografică a României se datorează în integralitatea partidelor sistemului care au condus România 35 de ani

Prăbușirea criptomonedelor TerraUS și LUNA s-a datorat unui grup restrâns de speculanți care au pariat "short"

Explicația pe scurt a Tarifelir vamale impuse de Trump și cât de mult ajută economia americană

Rezultatele sondajului Verifield

Donald Trump cere eliberarea lui Marine Le Pen și să fie lăsată să candideze. Nici un cuvânt despre anularea alegerilor și nici despre Călin Georgescu spre satisfacția sorosistilor și a slugilor lor care au dat Lovitura de Stat in România

SpaceX tocmai a făcut un pas mare spre reutilizarea amplificatorului Super Heavy al Starship

ActiveNewx - Bolojan și-a adus la Palat "societatea civilă" SOROS după modelul Iohannis pentru a discuta combaterea ”știrilor false” înainte de alegeri, adică perfecționarea cenzurii

Trăim în URSS. Procurorii CSM si seful PICCJ Alex Florenta cer cercetarea judecătoarei Boboc de la CA Constanta pentru hotararea prin care a stramutat dosarul lui Dan Diaconescu si a desfiintat condamnarea

Elon Musk a criticat vehement verdictul instanței franceze care a blocat candidatura lui Marine Le Pen la alegerile prezidențiale din 2027. Cazul Călin Georgescu a fost din nou Reamintit.

Ca și în cazul lui Călin Georgescu, Regimul Soroșist Macron o interzice pe Marine Le Pen. Le Pen găsită vinovată. Le Pen interzisă să candideze.

La fel ca și Călin Georgescu care avea peste 40% în turul întâi, Marine le Pen conduce detașat in sondaje pentru cursa prezidențială. E momentul ca regimul Neobolsevic Soroșist să o scoată din joc cum a făcut și la noi.

Viktor Orban: "Je suis Marine!". Gunoiul de Viktor Orban de interzicerea lui Călin Georgescu nu a spus nimic desi acesta nu era condamnat deloc. Ce înseamnă să fii lipsit de caracter

Un nou sondaj: Simion pe primul loc, Ponta pe doi. Sondaj Verifield comandat de Nicușor Dan.

Cazul Le Pen, ineligibilitate și executare provizorie: ce spune cu adevărat legea

Sorosistul Securistoid Bănescu noua Față Hidoase a Cenzurii Regimului UEist de la București

Ciutacu alias Saul Bruckner 2 in Scânteia 2 sau Cum sa înjuri in stil bolșevic românii doar pentru că votează cu cine vor ei? Tonomatul puterii pe nume Ciutacu care pupă poala Pucistului Ciolacu și a lui Gold Ponta înjură oribil votanții lui Georgescu

De ce sa înjuri votanții că votează cu cine vor ei? Tonomatul puterii pe nume Ciutacu care pupă la greu poala Pucistului Ciolacul și a lui Gold Corporation Ponta ii înjură oribil pe votanții lui Călin Georgescu.

De ce sa înjuri votanții că votează cu cine vor ei? Tonomatul puterii pe nume Ciutacu care pupă la greu poala Pucistului Ciolacul și a lui Gold Corporation Po ta ii înjură într-un mod oribil pe votanții lui Călin Georgescu.

De ce sa înjuri votanții că votează cu cine vor ei? Tonomatul puterii pe nume Ciutacu care pupă la greu poala Pucistului Ciolacul și a lui Gold Corporation Ponta ii înjură oribil pe votanții lui Georgescu

Ion Cristoiu: Votul din decembrie a fost moral Lumea s-a săturat de "politruceală" Da, inevitabil, ne despărțim de America (referindu-se la puciști)

Reacția Cristelei Georgescu după ce Puciștii care au dat Lovitura de Stat, l-au interzis pe soțul ei: „Nimic nu este pierdut atât timp cât credinţa este în picioare, cât sufletul nu abdică şi cât capul se ridică din nou.”

Adrian Onciu: Cine sunt, de fapt, extremiștii

CURS-ul lui Buble îl urca pe Crin Antonescu pe locul doi. Sondaj CURS pentru alegerile prezidențiale. 59% dintre români cred că direcția țării impregnată de Puciști este greșită

Ca în Botswana, fiecare Institut de sondare are un candidat preferat. SOCIOPOL-ul lui Palada îl urcă pe Ponta pe locul doi.

În sondajul Atlas Intel Soroșiștul Nicușor Dan, e pe locul doi

Pieleanu "face" sondaje "la refefon"

Ca și bolșevicii în 1946, Soroșiștii nu au stare până nu bagă Cenzura peste tot. Lasconi cere închiderea TikTok înaintea prezidenţialelor: "Fake news-ul să fie dat jos". Soroșiștii de la Funky Citizens decid ei de capul lor, ce e "fake news"

Ramurile Cominterniste directe sau prin alianță se susțin între ele. Celebrul Bombonel, alias Adrian Năstase, care a dat petrolul țării și multe alte bunuri naționale pe Nimic, îl susține pe Victor Ponta. Nu ai nenorocit destul țara asta Bombonele?

Subordonat rețelei soroșiste ca și Nicușor Dan, Bilderbergul Merz pune biciul pe germani. Germania se înarmează până în dinți și vrea să taie pensii, ajutoarele sociale și subvenția pentru energie

Viktor Orbán: "Nu mai puteam să stăm cu mâinile în sân şi să privim cum lanţurile de magazine jefuiesc oamenii". Vă amintiți cum au sărit Soroșiștii pe Călin Georgescu când ne-a spus că Multinaționalele ne jefuiesc? De ce AUR și Simion TAC pe această temă?

Calin Georgescu a avut dreptate când a arătat jaful multinaționalelor. Bulgaria înființează lanțuri de magazine cu adaos 10%, pentru a împiedeca multinaționalele să jefuiască populația. Puciștii de la noi sunt pe-o mână cu multinaționalele

Editorial Cornel Dinu. SMINTEALA clasei politice înaintea unor alegeri prezidențiale compromise din start

În 35 de ani de Soroșism, Familia Tradițională a fost distrusă. UE A AJUNS LA 700.000 DE DIVORȚURI Rata divorțurilor s-a triplat. Unu din doi copii se nasc in afara căsătoriei. Înțelegeți de ce Călin Georgescu a spus că Familia trebuie protejata?

Tăcerea democrației: strigătul unei națiuni pentru libertate<

Așadar dacă pacea se va încheia Nikolaev și Odessa vor rămâne în Ucraina, în sfera de influență Americană. Putin nu va revendica Odesa dacă americanii recunosc Crimeea, Donețk, Lugansk, Zaporojie și Herson ca părți ale Rusiei

Luptătorul din Arenă

Vă sună cunoscut? Am văzut în România. Primarul Istanbulului, progresistul Imamoglu, arestat Principalul adversar al lui Erdogan, Imamoglu își anunțase candidatura la președinție in 2028

Mișcarea Suveranistă e împărțită între "Turul Doi Inapoi" și "Sa mergem înainte cu Simion". Simion și Ana Maria Gavrilă trebuie sa sustina Rolul Important a lui Călin Georgescu în Statul Român dacă vor să castige

Micul Stalinist Nicușor Soros Dan ne spune că a&i lua unui om dreptul de a candida și milioanelor de români dreptul de a-l vota fără o condamnare "e o decizie corectă". Poate in URSS-ul lui Lenin, plicușor cu bani de la Soros

Așadar după mintea actualului Stat Soroșist și a cohortelor de sorosisti care aplaudă: Democrația înseamnă să anulezi alegerile, să-l interzicem, să-i facem dosar penal și să-l băgăm la zdup pe cel CARE A CÂȘTIGAT ALEGERILE PRIN VOT

România propusă de Călin Georgescu vs România puciștilor dirijați de progresista UE. Iată cum arată România Puciștilor : Șomajul în rândul tinerilor e cel mai mare din UE. La țară a ajuns peste 30%

Bilderbergul Macron: UE poate sprijini Ucraina fără aprobarea Rusiei trimițând mii de soldați din fiecare țară a UE.

Libertatea de exprimare a murit. Lasconi de la USR cere și mai multă CENZURĂ. Soroșismului Neobolsevic devine tot mai Totalitar. "cel puțin 2 televiziuni își fac de cap" "avem proiect de Lege" urlă Lasconi

Adrian Onciu - Active News : Continuă telenovela nord-coreeană de admitere sau respingere a candidaților la prezidențiale în funcție de cum dictează autorii loviturii de stat.

Fluierul Report