15:37
Comentarii Adauga Comentariu

_ Eforturile Departamentului Apărării de a combate părtinirea AI nu merg suficient de departe

>
>
necunoscut, Wikimedia Commons

Această poveste a fost publicată inițial de Real Clear Wire

De Delaney Duff
> Real Clear Wire

Dificultatea Google de a atenua părtinirea din sistemele lor de inteligență artificială � chiar și după ce a depus �n mod explicit eforturi mari pentru a minimiza părtinirea � provoacă probleme pentru Departamentul Apărării.Prejudecățile poate determina ca instrumentele AI să funcționeze defectuos irevocabil și să �mpiedice dezvoltarea AI.Google a �ntrerupt recent pe Gemeni, cel mai mare și cel mai capabil model AI, de la generarea de imagini după ce a creat imagini inexacte și ofensatoare din punct de vedere istoric ale oamenilor.Google a explicat că �ncercările lor de a proiecta un instrument de generare de imagini mai puțin părtinitor și mai incluziv au determinat modelul să funcționeze defectuos.

Acest lucru este deosebit de �ngrijorător, deoarece Departamentul Apărării intenționează să să folosească AI la scară, inclusiv pentru simulări de antrenament, informații analiza, recrutarea personalului, traducerea documentelor, elaborarea politicii și chiar alimentarea armelor autonome.Dacă SUA continuă să acorde prioritate vitezei dezvoltării AI �n detrimentul siguranței, sistemele AI părtinitoare vor �ncetini �n cele din urmă rata de adoptare, ced�nd avantajul tehnic al țării Chinei.

Sistemele AI părtinitoare sunt �n cele din urmă periculoase.Ei comit greșeli sau generează evaluări inexacte care duc la luare a deciziilor slabe sau chiar la defecțiuni ale sistemului care dăunează oamenilor.Eșecurile neprevăzute ale AI ar putea cauza probleme, de la raportarea eronată a informațiilor la direcționarea incorectă.

�n Departamentul de Apărare, Biroul șef de inteligență digitală și artificială (CDAO) are sarcina de a accelera adoptarea tehnologiilor de inteligență artificială �n ecosistemul de securitate națională.Echipa responsabilă cu IA a CDAO abordează problema modelelor AI părtinitoare prin instituirea unui "bias bounty� program, care recrutează publicul pentru a identifica cazurile de părtinire �n modelele sale mari de limbă, �ncep�nd cu chat bots, �n schimb pentru un premiu �n bani.

Prin identificarea părtinirii instrumentelor AI generative, Pentagonul speră să �nțeleagă beneficiile și riscurile prezentate de aceste sisteme pentru a implementa măsuri de protecție.Atenuarea riscurilor este crucială, deoarece SUA se bazează din ce �n ce mai mult pe dezvoltarea AI pentru a oferi luptătorilor un avantaj competitiv față de adversarii săi.

Să te bazezi pe programe de participare publică rare, la scară mică pentru a identifica părtinirea AI, este inadecvat, deoarece presupune că părtinirea este ușor de detectat și nu ține cont de modul �n care rezultatele părtinitoare se transformă peste timp, chiar și după ce dezvoltatorii implementează "remedieri�.Sistemele AI părtinitoare dezavantajează �n mod disproporționat anumite grupuri, mai ales atunci c�nd datele de antrenament ale modelului AI sunt sub reprezentative pentru realitate sau reflectă deja părtiniri existente.

Și mai �ngrijorătoare sunt eșecurile �n direcționarea armelor alimentate cu inteligență artificială.Sistemele AI ar putea selecta din neatenție ținte care �ncalcă regulile de angajare, cum ar fi femeile și copiii necombatanți.Rapoarte recente acuza două sisteme de țintire a inteligenței artificiale ale IDF de creșterea numărului de victime civile �n Gaza, țintind �n mod intenționat agenții Hamas acasă și identific�nd �n mod eronat indivizi ca militanți chiar și atunci c�nd aceștia nu aveau legături sau foarte slabe cu aceste grupuri.

Determinătorii politici, oficialii militari și industria privată �ncadrează tot mai mult dezvoltarea IA ca pe o cursă a �narmărilor cu China, deoarece Beijingul speră să folosească AI pentru a-și spori puterea și pentru a obține un avantaj strategic față de SUA și aliații săi.Problemele etice substanțiale și discriminarea ca urmare a prejudecăților AI ar trebui să fie suficiente pentru a oferi parlamentarilor o pauză.

Concentrarea excesivă asupra vitezei de dezvoltare emite preocupările reale cu privire la siguranța AI.Menținerea AI la standarde etice �nalte nu este un impediment �n calea progresului.Mai degrabă, asigură un succes mai mare al sistemului, care este esențial pentru o �ncredere și adoptare largă.

�nlăturarea părtinirii necesită mai mult dec�t soluții tehnice.Pe l�ngă testarea periodică a părtinirii pentru a se asigura că modelele funcționează corect, Departamentul de Apărare ar trebui să ofere și să accelereze autorizațiile pentru oamenii de știință de date și pentru alții implicați �n formarea modelelor AI, astfel �nc�t aceștia să aibă acces la porțiuni mai mari de seturi de date.Un acces mai mare permite celor mai cunoscători despre sistemele AI să identifice cazurile �n care modelul produce rezultate părtinitoare și să corecteze greșelile mai ușor.

Operatorii acestor instrumente ar trebui să primească programe de formare mai extinse, care să includă instrucțiuni privind identificarea rezultatelor părtinitoare, care consacră practica de a nu avea �ncredere orbită �n rezultatele sistemului.Aceste instrumente nu sunt perfecte, iar operatorii trebuie să știe c�nd și cum să pună la �ndoială sau să anuleze o decizie sugerată de AI.DoD ar trebui să-și oblige dezvoltatorii să urmeze setul de instrumente AI responsabil al CDAO, care se aliniază cu principiile etice AI ale DoD și să evalueze și să actualizeze continuu cadrul pentru a ține pasul cu progresul tehnologic rapid.

�n sf�rșit, SUA ar trebui să investească o finanțare mai mare �n programele STEM pentru grupuri și comunități subreprezentate.Doar 26% dintre oamenii din informatică sunt femei, iar femeile reprezintă doar 18% dintre cercetătorii de la conferințele de AI.Reprezentarea pentru persoanele de culoare este chiar mai proastă, cu mai puțin de 7% dintre angajații companiilor lider �n tehnologie.fiind negru sau hispanic.Un acces mai mare la educația STEM creează o forță de muncă mai diversă, iar această diversitate este esențială pentru crearea unor sisteme AI mai puțin părtinitoare.Aceste noi perspective perturbă g�ndirea grupului organizațional și ecou camerele, �ncurajează rezolvarea creativă a problemelor și promovează inovația.

O concentrare miop asupra vitezei de dezvoltare a AI �n detrimentul siguranței ar putea �nsemna un dezastru pentru Departamentul de Apărare.Dacă Statele Unite speră să modeleze viitorul secolului 21, trebuie să facă din reducerea părtinirii AI o prioritate de v�rf.


>

Delaney Duff este membru al Fundației Pallas pentru Conducerea Securității Naționale, a cărei misiune este de a promova educația și dezvoltarea profesională a liderilor emergenti din grupurile subreprezentate �n mod tradițional la nivel global și național.Securitate.Este studentă la master �n programul de studii de securitate la Universitatea Georgetown.

Acest articol a fost publicat inițial de RealClearDefense și pus la dispoziție prin RealClearWire.

Postarea Eforturile Departamentului de Apărare pentru a combate AI Bias Don 't Go Far Enough a apărut prima dată pe The Gateway Pundit.


(Fluierul)


Linkul direct catre Petitie

CEREM NATIONALIZAREA TUTUROR RESURSELOR NATURALE ALE ROMANIEI ! - Initiativa Legislativa care are nevoie de 500.000 de semnaturi - Semneaza si tu !

Comentarii:


Adauga Comentariu



Citiți și cele mai căutate articole de pe Fluierul:

Romania - Numărul de Profesori la Numărul de Elevi

_ Rep. Andy Biggs privind proiectul de lege privind ajutorul Ucrainei de 60 de miliarde de dolari: Președintele Johnson „Alcătuiește o coaliție cu democrații”, am putea rezolva criza frontierei de sud „Cu doar o fracțiune din bani”

_ Informația pe care Putin o ține la secret din 2022, făcută publică de președintele Ucrainei. Ce nu vrea liderul rus să se știe

_ Prințesa de Wales „se descurcă bine” pe fondul recuperării chirurgicale, spune Palatul Kensington – după ce Prințul William se retrage din memorial din cauza „chestiunii personale”

_ Fost militar, artizan al jocului 'Balena Albastră', convingând adolescenți să se sinucidă, dă acum școlarilor lecții de patriotism

_ Sora lui Kim Jong-un entuziasmată de un cadou primit de fratele său de la Putin

_ ​Caritatea recrutează sute de voluntari în efortul de a bloca zborurile migranților ilegali către Rwanda

_ Festivalul de Benzi Desenate de la Angouleme: Premiul pentru volumul anului, câştigat de americanul Daniel Clowes

_ Cehii extind drepturile pentru cuplurile de același sex

_ Autostrada Braşov-Bacău. Câştigător desemnat pentru finalizarea Studiului de Fezabilitate

_ Volodimir Zelenski, discuție urgentă privind apărarea aeriană cu șeful NATO, Jens Stoltenberg

_ Noul subiect care pune pe jar miniștri de Finanțe ai UE! M-am săturat de acest subiect, a izbucnit ministrul Franței

_ Cine sunt soldații de elită care pot intra oricând în România: Klaus Iohannis le-a dat undă verde/ Video

_ În Franța, dreptul la avort și interzicerea hijab-ului evidențiază un standard dublu privind drepturile femeilor

_ Elon Musk nominalizat la Premiul Nobel pentru Pace pentru apărarea libertății de exprimare

_ Un antropolog explică semnificația ascunsă a Mielului de la masa de Paște: Simbol hristic, aliment ritual!

_ Managerul miliardarului de fonduri speculative Bill Ackman spune că este deschis să voteze pentru Trump �n alegerile prezidențiale din 2024

_ Minaur Baia Mare s-a calificat în semifinalele European Cup

_ Soția lui Sir Jeffrey Donaldson, Lady Eleanor, se confruntă cu acuzații de complice în instanță, deoarece fostul lider DUP aude acuzații istorice de sex împotriva lui, inclusiv viol

_ Taiwan's strongest earthquake in 25 years kills 10 people, 50 missing

_ Zece persoane din judeţul Călăraşi sunt cercetate pentru comiterea infracţiunii de braconaj cinegetic, patru dintre suspecţi fiind reţinuţi

_ Povestea adevărată emoționantă din spatele filmului Joy de la Netflix: cum trei oameni de știință hotărâți să „vindece lipsa de copii” au ajutat la producerea primului „bebeluș eprubetă” din lume

Micul Stalinist Nicușor Soros Dan ne spune că a&i lua unui om dreptul de a candida și milioanelor de români dreptul de a-l vota fără o condamnare "e o decizie corectă". Poate in URSS-ul lui Lenin, plicușor cu bani de la Soros

_ Administratorul Biden se pregătește să escorteze încărcături de haitiani în Florida în timp ce țara din Caraibe implodește: raport

_ Traian Băsescu, replică pentru Rareș Bogdan: Tata m-a învățat să mă bat numai cu bărbați

_ Motive pentru a sărbători săptămâna aceasta – 10 lucruri pentru care să fii recunoscător!

_ Congo devine cea mai recentă națiune condusă de femei

_ Acuzaţii de "activităţi teroriste" între Rusia şi Ucraina în timpul alegerilor prezidenţiale ruseşti

_ Utilizarea „Arb” a fondului de salvare a băncilor crește (din nou) pe fondul ieșirilor de fonduri de pe piața monetară, a unei mari pierderi de RRP

_ PM Ciolacu meets Moldovan deputy PM: Romania will continue to support Chisinau in EU accession negotiation process

_ Presa internațională a pus tunul pe România: Contractul prin care cumpărăm obuziere de la Coreea de Sud e analizat de Reuters

_ Dezvăluiri incredibile făcute de comandantul trupelor ucrainene: Avantajul Rusiei ca muniție trasă e de șase la unu!

_ Ion Cristoiu: Nu, nu era a doua venire a lui Isus pe Pămînt. Era prima venire a lui Klaus Iohannis la Bucureşti

_ ‘Mai impostor ca Basescu nu e nimeni’. Călin Georgescu a stârnit un scandal uriaş. Gigi Becali şi-a ieşit din minţi

_ DEZVOLTARE: Primare prezidențiale din Michigan: Trump 64% � Nikki Haley 32% *REZULTATE LIVE*

_ ÎN DIRECT: Președintele Trump răspunde la starea Uniunii a lui Joe Biden cu o refuz de joc – „Joe strâmb își face drum în cameră... FOARTE TÂRZIU, FOARTE DISSPECTUANT”

_ Fată de 15 ani, bătută cu mânerul lopeții de propriul tată pentru că vorbea cu băieți pe internet

_ Familia primește apel pentru a găzdui migranți, �n mai puțin de o oră, au vizitatori la ușă

_ VIDEO - Rareș Bogdan și-a înmuiat discursul anti-PSD: migrația primarilor reprezintă un proces de 'maturizare' care nu poate fi oprit

_ Dosarul morții mezzosopranei din Iaşi, în pragul prescripției - Cazul retrimis la cercetare stagnează de patru ani de zile

_ Acești blugi H&M de 24,99 lire sterline arată la fel de bine ca perechea de 1.000 de lire sterline a lui Gucci, iată care sunt dupurile designerilor de denim pe care ar trebui să-i cumperi

_ Antarctica oferă lumii beneficii economice de cel puțin 276 de miliarde de dolari pe an, arată o nouă cercetare

_ Decizie CCR - Posesorii de carnet categoria B vor putea conduce motociclete

_ Hamas cere retragerea forțelor israeliene din Gaza pentru a pune capăt războiului

_ O maimuță a pătruns în casa mea - aproape că mi-a trimis banane! O femeie din Wolverhampton este surprinsă să găsească un marmoset american în seră

_ Milioane de suedezi primesc broșura „Cum să supraviețuiești războiului” de la guvern

_ Companiile farmaceutice „au mituit medicii NHS pentru a folosi produse din sânge infectate” care le-au dat pacienților HIV și hepatită C

_ Pierderea zilei: Guvernul federal pierde anual p�nă la 521 de miliarde de dolari din cauza fraudei

_ Protestatarii au aruncat bălegar în faţa casei ambasadorului Rusiei din Polonia

_ Trump declară ziua de 5 noiembrie „Ziua Vizibilității Creștine”

_ Decizia ca va zgudui guvernul de la Ierusalim: Statul european care intenționează să recunoască Palestina

_ Bustul de bebeluș al Marii Britanii scos la iveală: Rata de fertilitate scade la cel mai scăzut nivel istoric, deoarece expertul avertizează că criza de „ardere lentă” ar putea paraliza economia... deci câți copii are o femeie medie în zona DVS.?

_ O zonă considerată sigură din România s-ar putea aștepta la cutremure: Ce au descoperit cercetătorii

_ Ciolacu, întrevedere cu preşedintele BEI: Vom accelera proiectele comune

_ Geoană, profeție sumbră: 'Trebuie să ne pregătim pentru încă cel puţin câţiva ani de o relaţie tensionată cu Rusia'

_ Revoluționarea spectrometriei cu ultra-simplitate: perturbarea designurilor convenționale prin calculul de difracție nou

_ Imagini incredibile filmate de armata ucraineană: un OZN în formă de disc s-a apropiat de membrii batalionului 406 - VIDEO

_ Programul încărcat din fotbal scade calitatea meciurilor, susţine şeful PFA

_ AI ar putea ajuta la reducerea fraudei alegătorilor, dar este mult mai probabil să vă privească de drepturi, spun cercetătorii

_ Prim-ministrul Armeniei propune Azerbaidjanului un pact de neagresiune


Pag.1 Pag.2 Pag.3 Pag.4 Pag.5 Pag.6

Nr. de articole la aceasta sectiune: 354, afisate in 6 pagini.