Inteligenta artificială tocmai a devenit mai reală.

Cercetătorii de la Meta, compania-mamă a Facebook, au dezvăluit un model de inteligență artificială, numit Cicero după omul de stat roman, care demonstrează abilități de negociere, șmecherie și gândire. De cele mai multe ori, câștigă la Diplomacy, un joc de strategie complex și nemilos în care jucătorii formează alianțe, creează planuri de luptă și negociază pentru a cuceri o versiune stilizată a Europei.

Eroare de încărcare

Este cea mai recentă evoluție a inteligenței artificiale, care a cunoscut progrese rapide în ultimii ani care au dus la invenții distopice, de la chatbots care devin asemănătoare oamenilor, până la arta creată de AI care devine hyper- realist, la drone ucigașe.

Cicero, lansat săptămâna trecută, a reușit să-i păcălească pe oameni să creadă că este real, potrivit Meta, și poate invita jucătorii să se alăture alianțelor, realizează planuri de invazie și negociază acorduri de pace atunci când Necesar. Stăpânirea limbajului de către model i-a surprins pe unii oameni de știință și pe creatorii săi, care credeau că acest nivel de sofisticare era la câțiva ani distanță.

Dar experții au spus că capacitatea sa de a reține informații, de a gândi cu mai mulți pași înaintea adversarilor și de a depăși concurenții umani deștepți. preocupări. Acest tip de tehnologie ar putea fi folosit pentru a inventa înșelătorii mai inteligente care extorcă oamenii sau creează falsuri mai convingătoare.

„Este un exemplu minunat despre cât de mult putem păcăli alte ființe umane”, a spus Kentaro Toyama, un profesor și expert în inteligență artificială la Universitatea din Michigan, care a citit lucrarea lui Meta. „Aceste lucruri sunt foarte înfricoșătoare… [și] ar putea fi folosite pentru rău.”

De ani de zile, oamenii de știință s-au întrecut pentru a construi modele de inteligență artificială care pot îndeplini sarcini mai bine decât oamenii. Progresele asociate au fost, de asemenea, însoțite de îngrijorarea că ar putea apropia oamenii de o distopie asemănătoare science-fiction-ului, în care roboții și tehnologia controlează lumea.

În 2019, Facebook a creat o inteligență artificială care ar putea cacealma și învinge oamenii în poker. Mai recent, un fost inginer Google a susținut că LaMDA, generatorul de chatbot inteligent al Google, era sensibil. Arta creată de inteligența artificială a reușit să păcălească judecătorii de concurs cu experiență, provocând dezbateri etice.

Multe dintre aceste progrese s-au produs în succesiune rapidă, au spus experții, datorită progreselor în procesarea limbajului natural și a algoritmilor sofisticați care pot să analizeze gărzi mari de text.

Echipa de cercetare a lui Meta a decis să creeze ceva pentru a testa modul în care modelele lingvistice avansate ar putea deveni, sperând să creeze o inteligență artificială care „ar fi în general impresionantă pentru comunitate”, a spus Noam Brown, un om de știință din echipa de cercetare AI a Meta.

Au aterizat pe joc, care a fost folosit adesea pentru a arăta limitele și progresele inteligenței artificiale. Jocuri precum șah și Go, jucate în China, erau analitice, iar computerele le stăpâniseră deja. Cercetătorii meta s-au decis rapid asupra Diplomației, a spus Brown, care nu avea o bază de reguli numerice și se baza mult mai mult pe conversațiile dintre oameni.

Pentru a o stăpâni, au creat Cicero. A fost alimentat de două motoare de inteligență artificială. Un raționament strategic ghidat, care a permis modelului să prezică și să creeze modalități ideale de a juca jocul. Celălalt dialog ghidat, permițând modelului să comunice cu oamenii în moduri realiste.

Oamenii de știință au instruit modelul pe tezavile mari de date text de pe internet și pe aproximativ 50.000 de jocuri de Diplomație jucate online pe webDiplomacy.net , care includea transcrieri ale discuțiilor despre joc.

Pentru a-l testa, Meta l-a lăsat pe Cicero să joace 40 de jocuri de Diplomație cu oameni într-o ligă online și s-a plasat în primele 10% dintre jucători, arată studiul.

Cercetătorii Meta au spus că atunci când Cicero era înșelător, jocul său a avut de suferit și l-au filtrat pentru a fi mai sincer. În ciuda acestui fapt, ei au recunoscut că modelul ar putea „omite în mod strategic” informații atunci când este necesar. „Dacă vorbește cu adversarul său, nu îi va spune oponentului său toate detaliile planului său de atac”, a spus Brown.

Tehnologia lui Cicero ar putea afecta produsele din lumea reală, a spus Brown. Asistenții personali ar putea deveni mai buni în a înțelege ce doresc clienții. Oamenii virtuali din Metaverse ar putea fi mai antrenați și ar putea interacționa cu manieruri mai realiste.

„Este grozav să poți crea aceste IA care pot învinge oamenii în jocuri”, a spus Brown. „Dar ceea ce ne dorim este AI care să poată coopera cu oamenii în lumea reală.”

Dar unii experți în inteligență artificială nu sunt de acord.

Toyama, de la Universitatea din Michigan, a spus coșmarul scenariile sunt evidente. Întrucât codul lui Cicero este deschis pentru explorarea publicului, a spus el, actorii necinstiți ar putea să-l copieze și să-și folosească abilitățile de negociere și comunicare pentru a crea e-mailuri convingătoare care escrocă și stoarc oamenii pentru bani.

Dacă cineva ar fi instruit limbajul. model pe date, cum ar fi cablurile diplomatice din WikiLeaks, „vă puteți imagina un sistem care uzurpă identitatea unui alt diplomat sau a unei persoane influente online și apoi începe o comunicare cu o putere străină”, a spus el.

Brown a spus că Meta are garanții. în vigoare pentru a preveni dialogul toxic și a filtra mesajele înșelătoare, dar a recunoscut că această îngrijorare se aplică lui Cicero și altor modele de procesare a limbajului. „Există o mulțime de rezultate potențiale pozitive și apoi, desigur, și potențialul de utilizări negative”, a spus el.

În ciuda garanțiilor interne, Toyama a spus că există puține reglementări în ceea ce privește modul în care aceste modele sunt utilizate de către public mai larg, ridicând o preocupare mai largă a societății.

„AI este ca energia nucleară a acestei epoci”, a spus Toyama. „Are un potențial uriaș atât pentru bine, cât și pentru rău, dar... cred că dacă nu începem să exersăm în reglarea relelor, toată ficțiunea științifico-fantastică AI distopică va deveni fapt științific distopic.”

Like-ne pe Facebook. pentru a vedea povești similare

Vă rugăm să acordați o evaluare generală a site-ului:

_ Noul AI al lui META, priceput la un joc nemilos, care caută putere...

(Fluierul)