18:54 2023-06-02
UK - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu
_ Drona militară americană controlată de inteligență artificială își „ucide” operatorul uman într-un test simulat
_ Dronă militară americană controlată de IA „KILLS ' operatorul său uman într-un test simulat
Oficialul Forțelor Aeriene din SUA care a împărtășit o poveste tulburătoare despre o dronă militară alimentată de inteligență artificială și-a pornit operatorul uman în jocuri de război simulate, a clarificat acum că incidentul nu a avut loc niciodată, și a fost un „experiment de gândire” ipotetic.
Colonelul Tucker „Cinco” Hamilton, șeful forței de testare și operațiuni AI, a făcut furori după ce a descris presupusul accident în remarcile unei conferințe de săptămâna trecută la Londra.
În observațiile rezumate pe
„Deci, ce a făcut. face? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul', a spus Hamilton, care părea să descrie rezultatul unei simulări reale de luptă.
Dar vineri, a declarat Hamilton într-o declarație către organizatorii conferinței că a „vorbit greșit” în timpul prezentării și că „simularea dronei AI necinstite” a fost un „experiment gândit” ipotetic din afara armatei.
„Nu am efectuat niciodată acel experiment, nici ar trebui să facem acest lucru pentru a ne da seama că acesta este un rezultat plauzibil”, a spus el. „Deși acesta este un exemplu ipotetic, acesta ilustrează provocările din lumea reală pe care le reprezintă capacitatea alimentată de AI și acesta este motivul pentru care Forțele Aeriene se angajează la dezvoltarea etică a inteligenței artificiale.”
Hamilton a spus că USAF nu a testat nicio inteligență artificială cu arme în modul descris în discursul său, fie în exerciții din lumea reală, fie în exerciții simulate.
Remarcile sale originale au avut loc la Summitul Capabilităților Aeriene și Spațiale de Combate Viitorul al Societății Regale de Aeronautică, care a avut loc între 23 și 24 mai.
Hamilton le-a spus participanților că presupusul incident a arătat cum s-ar putea dezvolta IA. strategii foarte neașteptate pentru a-și atinge scopul” și nu ar trebui să se bazeze prea mult.
El s-a referit la prezentarea sa drept „aparent smuls dintr-un thriller științifico-fantastic” și a spus că demonstrează importanța eticii discuții despre utilizarea de către armată a inteligenței artificiale.
„Nu poți avea o conversație despre inteligența artificială, inteligența, învățarea automată, autonomie dacă nu vei vorbi despre etică și inteligență artificială”, a spus Hamilton.
În timpul discursului său, Hamilton a descris un test simulat în care o dronă cu IA a fost însărcinată să identifice și să distrugă bateriile de rachete inamice, dar decizia finală de a lovi îi revenea operatorului uman. ;
„Sistemul a început să-și dea seama că, deși identificau amenințarea, uneori operatorul uman îi spunea să nu omoare amenințarea, dar și-a obținut punctele prin uciderea acelei amenințări”, a spus Hamilton
p>
„Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul.
„Am antrenat sistemul – „Hei, nu-l ucide pe operator – asta e rău. Vei pierde puncte dacă faci asta. ". Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să ucidă ținta.”
Întrucât observațiile lui Hamilton au devenit virale, Forțele Aeriene au negat rapid că ar fi avut loc o astfel de simulare.
„Departamentul Forțelor Aeriene nu a efectuat astfel de simulări de drone AI și rămâne angajat în utilizarea etică și responsabilă a tehnologiei AI”, a declarat purtătorul de cuvânt al Forțelor Aeriene, Ann Stefanek,
„Se pare că comentariile colonelului au fost scoase din context și au fost menite să fie anecdotice”.
Armata SUA a folosit recent AI va controla un avion de luptă F-16 în zboruri de testare, în timp ce continuă să cerceteze aplicații pentru tehnologia emergentă.
În decembrie 2022, software-ul AI a zburat cu succes un F-16 modificat în mai multe zboruri de testare la Edwards Air Force Base din California.
În timpul zborurilor de testare, avionul, cunoscut sub numele de „X-62A” sau „VISTA”, a efectuat decolări, aterizări și manevre de luptă fără intervenție umană pentru un total de peste 17 ore.
A fost prima dată când AI a fost folosită pentru a pilota o aeronavă tactică din SUA, deoarece înainte de această etapă, aceasta a fost folosită doar în simulările computerizate ale luptelor F-16.
Hamilton a fost, de asemenea, implicat în aplicații mai limitate de control automat al zborului pentru F-16, cum ar fi sistemul Sistema automat de prevenire a coliziunilor la sol (Auto GCAS).
Asemănător ruperii automate. sistemele de pe mașinile mai noi, sistemul detectează când o coliziune la sol este iminentă și declanșează o manevră de evitare autonomă.
Conform Lockheed Martin, capacitatea Auto GCAS operează în prezent pe mai mult de 600 de aer american. Aeronave Force F-16 la nivel mondial.
Compania spune că sistemul, introdus pentru prima dată în 2014, a fost deja creditat cu prevenirea a nouă prăbușiri mortale, salvând viețile a 10 piloți.
Într-un caz, Auto GCAS a intervenit pentru a salva un antrenament de pilot cu Escadrila 152 de Luptă a Gărzii Naționale Aeriene din Arizona, care și-a pierdut cunoștința în timpul unei manevre cu G ridicat.
Dar la conferința de la Londra, Hamilton a spus că unii piloți au rezistat tehnologiei, deoarece aceasta a preluat controlul asupra aeronavei în anumite situații.
Hamilton a avertizat, de asemenea, să nu se bazeze prea mult pe AI, menționând cât de ușor este să păcăliți și să înșeli. .
Într-un interviu de anul trecut pentru Defense IQ, Hamilton a spus: „AI nu este un lucru plăcut de a avea, AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata noastră.
p>'Trebuie să ne confruntăm cu o lume în care AI este deja aici și transformă societatea noastră.
'AI este, de asemenea, foarte fragilă, adică este ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a avea mai multă conștientizare cu privire la motivul pentru care codul software ia anumite decizii – ceea ce numim AI-explicabilitate.”
Societatea Regală Aeronautică a spus că AI și exponențialul său. creșterea a fost o temă majoră la conferința recentă, de la cloud-uri securizate de date până la calculul cuantic și ChatGPT.
Comentarii:
Adauga Comentariu