Scris de Charles Hugh Smith prin blogul OfTwoMinds,

O parte din motivul pentru care chatbot-urile AI sunt atât de îngrozitoare este că știm că corporației/agenției nu îi pasă dacă problema noastră se rezolvă sau nu.

Prognozele înfricoșătoare de clic-momeală cu privire la sute de milioane de locuri de muncă pierdute din cauza AI sunt la fel de omniprezente ca și chatboții AI incompetenți. Richard Bonugli și cu mine am aruncat recent o privire mai nuanțată la Provocări și tendințe ale locurilor de muncă AI, cu scopul nu de a arunca copilul afară cu apa din baie adică de a concluziona că toată IA este știință nedorită, ci de a se concentra privind limitele AI în rezolvarea problemelor din lumea reală.

Putem rezuma aceste limite într-o singură întrebare: cine corectează erorile AI? problema intrinsecă aici este învățarea automată cu recoltarea datelor--Esența IA a modelului de limbaj mare LLM și a altor abordări de învățare automată-este iluzia preciziei: modelul selectează diagnosticul corect în 95% din timp, dar cine va corecta erorile vital 5%?

Luați în considerare faptul că sunteți un pacient cu cancer care primește un diagnostic complet/necancer de la o scanare procesată AI. Cu alte cuvinte, luați în considerare consecințele greșirii instrumentului AI în 5% din timp.În cazul diagnosticelor de cancer, un diagnostic greșit poate fi o condamnare la moarte sau poate deschide o cale către tratamente și intervenții chirurgicale inutile.

Iluzia preciziei conduce la presupuneri fatale: dacă rata de eroare AI este "doar” de 5%, dar majoritatea erorilor de 5% sunt cele mai importante , atunci întreaga idee de a baza acuratețea pe procentul de accesări corecte/> incorecte este grav defectuoasă.De fapt, AI ar putea fi precisă în 95% din cazuri, cu consecințe limitate și în mare parte inexactă în cazurile care contează cu adevărat, dar această realitate se pierde în afirmația că este 95% precisă.

Învățarea automată a culegerii de date este inutilă atunci când rezolvarea problemelor se rezumă la cazuri individuale. Luați în considerare un vehicul modern, care este, în esență, o platformă de software rulanta.Fiecare vehicul are un port de diagnosticare pe care mecanicul îl folosește pentru a detecta ce sistem/componentă a eșuat, dar acest lucru nu rezolvă automat 100% din problemele care apar la mașinile complexe.

A avea un model care prezice probabilitatea sursei problemelor mecanice neidentificate este utilă în sensul că modelul prezice de unde să înceapă investigația, dar nu identifică de fapt problema cu acest vehicul.Asta necesită o prezență fizică și o experiență dincolo de estimarea oricărui model.Cineva trebuie să scadă motorul pentru a ajunge la panoul de control defect.Că cineva îndeplinește atât sarcinile esențiale în repararea efectivă a vehiculului: corectarea erorilor și munca fizică de a efectua reparația.

Medicul care examinează rezultatele scanării AI oferă experiență din lumea reală care nu poate fi codificată în colectarea datelor.

AI este promovată în cazuri care se încadrează în mare parte în sectorul serviciilor cum ar fi serviciul pentru clienți.După cum am subliniat recent, rezultatele din lumea reală au fost abisale, pur și simplu întărind tendința de a-i determina pe clienți să facă toată munca, adică lucru în umbră. Digital Service Dumpster Fires and Shadow Work.

În lumea reală a muncii, AI nu poate repara de fapt balustrada putrezită sau instala conductele. Instrumentele AI pot oferi îndrumări potențial utile sau pot ajuta la obținerea materialelor necesare la fața locului din punct de vedere logistic, dar munca reală pe teren este realizată cel mai eficient din punct de vedere al costurilor de oameni cu experiență îndelungată.

O altă limită intrinsecă a inteligenței artificiale este diviziunea tactil înalt, atingere scăzută . Un medic cu 40 de ani de experiență mi-a spus recent că pacienții raportează că se simt mai bine după ce au fost văzuți de o asistentă sau de un medic și putem intui de ce: se simt mai bine pentru că cuiva îi pasă de ei și de sănătatea lor suficient pentru a fi prezenti fizic.Un alt medic cu experiență mi-a spus odată că a ajuns la concluzia că mulți dintre pacienții săi au căutat o întâlnire cu el doar pentru ca cineva să-i asculte.

Acestea sunt exemple de experiențe de înaltă atingere care nu pot fi înlocuite cu voci și imprimări robotice cu atingere redusă. Există multe altele.Vrei să îți taie părul de frizerul tău, care a devenit un fel de prieten, sau un robot? Îți amintești cu drag de o cină anume, deoarece personalul de așteptare a fost fermecător și atent, fără a fi suprasolicitant?

O parte din motivul pentru care chatbot-ii AI sunt atât de îngrozitori este că știm că corporației/agenției nu-i pasă dacă problema noastră se rezolvă sau nu. Mai simplu, înlocuirea interacțiunilor umane cu interacțiuni sterile AI eșuează.nivel uman.Dacă înțelegem această realitate, ne dăm seama că oamenii nu pot fi înlocuiți cu inteligența artificială decât la cel mai superficial nivel de atingere scăzut.

În situațiile din lumea reală, nu se poate spune că AI "înțelege” problemele. Este bun la identificarea statistică a celor mai probabile subseturi de soluții și la prezentarea acestor posibilități într-o formă care poate fi comparată cu rezultate reale și atribuirea unui nivel de încredere fiecăruia dintre predicțiile sale.Dar acest lucru nu înseamnă că diagnosticele sau soluțiile sunt corecte sau că sunt corecte în situațiile cele mai critice și cu consecințe.

Ceea ce este interesant este că problema cu adevărat grea pe care AI nu o poate rezolva este cum să gestioneze consecințele neintenționate ale expansiunii sale fulgerătoare în sistemul nostru socio-economic global. Sunt mai multe despre asta în cartea mea Vei fi mai bogat sau mai sărac? : Profit, Putere și I.A.într-o lume traumatizată.

>

Seria Vision: provocări și tendințe în domeniul AI 34:54 min

*  *  *

Deveniți un patron de 1 USD/lună al muncii mele prin patreon.com.

Abonați-vă gratuit la substiva mea