00:02 2024-05-18 SUA - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu

_ Aici vin roboții mincinoși cu inteligență artificială: studiul avertizează că sistemele inteligenței artificiale devin abilități în a înșela oamenii

>

>

AI face furori, chiar acum, atât beneficiile, cât și pericolele acestei tehnologii inovatoare fiind discutate până la epuizare.

Se spune că AI ne ajută să codificăm, să scriem și să sintetizăm cantități mari de date.Se pare că pot depăși oamenii la jocurile de societate, pot decoda structura proteinelor și pot ține o conversație rudimentară.

Dar acum iese la suprafață un studiu care susține că sistemele AI au crescut în sofisticare până la dezvoltarea unei capacități de înșelăciune.

Lucrarea afirmă că o serie de sisteme AI au învățat tehnici pentru a induce în mod sistematic ‘credințe false în alții pentru a obține un alt rezultat decât adevărul’.

Business Insider a raportat:

“Lucrarea sa concentrat pe două tipuri de sisteme AI: sisteme de utilizare specială, cum ar fi CICERO de Meta’s, care sunt concepute pentru a îndeplini o anumită sarcină, și sisteme de uz general, cum ar fi >OpenAI’GPT-4, care sunt instruiți pentru a îndeplini o gamă variată de sarcini.

Deși aceste sisteme sunt instruite pentru a fi sincere, ei învață adesea trucuri înșelătoare prin antrenament, deoarece pot fi mai eficiente decât să urmeze drumul principal.

‘În general, credem că înșelăciunea AI apare deoarece o strategie bazată pe înșelăciune s-a dovedit a fi cea mai bună modalitate de a avea rezultate bune la sarcina de antrenament AI’.Înșelăciunea îi ajută să-și atingă obiectivele,” primul autor al lucrării, Peter S.Park, un bursier postdoctoral în domeniul siguranței existențiale AI la MIT, a declarat într-un comunicat de presă’.”

Imaginați-vă asta, când știm că AI Justiție: Anglia și Țara Galilor autorizează judecătorii să folosească inteligența artificială pentru a produce hotărâri

CICERO de Meta’s, dezvoltat pentru a juca jocul Diplomacy.În timp ce Meta spune că l-a antrenat pe CICERO să fie "în mare măsură sincer și de ajutor pentru partenerii săi vorbitori”, "s-a dovedit a fi un mincinos expert”.

Chatbot GPT-4 s-a prefăcut că are o deficiență de vedere pentru a finaliza o sarcină: angajarea unui om pentru a rezolva un test CAPTCHA.

Corectarea modelelor înșelătoare nu este ușoară.Odată ce modelele de inteligență artificială învață trucurile înșelăciunii, este greu pentru tehnicile de antrenament de siguranță să le inverseze.

“Ei au ajuns la concluzia că nu numai că un model poate învăța să manifeste un comportament înșelător, dar, odată ce o face, tehnicile standard de instruire în materie de siguranță ar putea ‘eșua să înlăture o astfel de înșelăciune’ și ‘creați o impresie falsă de siguranță’.

Lucrul solicită factorilor de decizie să pledeze pentru o reglementare mai puternică a IA, deoarece sistemele AI înșelătoare pot prezenta riscuri semnificative pentru democrație.”

Citiți: Cue în Androids: China intenționează să avanseze rapid producția în masă de roboți umanoizi "disruptivi”

Postarea Here Come the Lying AI Robots: Study Alertele că sistemele AI devin experte în a înșela oamenii au apărut mai întâi pe The Gateway Pundit.

(Fluierul)

Inapoi