09:57
Comentarii Adauga Comentariu

_ Chatbots AI refuză să producă rezultate „controversate” - De ce este o problemă de exprimare liberă

Chatbots AI refuză să producă rezultate "controversate”-De ce este o problemă de exprimare liberăspan>

Scris de Jordi Calvet-Bademunt și Jacob Mchangama prin TheConversation.com,

Google a făcut recent titluri la nivel global, deoarece botul său de chat Gemini a generat imagini cu persoane de culoare în loc de persoane albe în setări istorice care prezentau oameni albi.Instrumentul de creare a imaginilor Adobe Firefly a văzut  probleme similare.Acest lucru i-a determinat pe unii comentatori să se plângă de faptul că AI s-a "trezit”.Alții au sugerat că aceste probleme au rezultat din  eforturi greșite de a combate părtinirea AI și de a servi mai bine unui publicul global>.

 >

Discuțiile despre înclinațiile politice ale AI și eforturile de a combate părtinirile sunt importante.Totuși, conversația despre inteligența artificială ignoră o altă problemă crucială: Care este abordarea industriei inteligenței artificiale față de libertatea de exprimare și îmbrățișează standardele internaționale privind libertatea de exprimare?

Suntem cercetători de politici care studiam libertatea de exprimare, precum și director executiv și un cercetător la The Future of Free Speech, un think tank independent, nepartizan, cu sediul la Universitatea Vanderbilt.Într-un raport recent, am descoperit că IA generativă are  deficiențe importante în ceea ce privește libertatea de exprimare și accesul la informații.

IA generativă este un tip de AI care creează conținut, cum ar fi text sau imagini, pe baza datelor cu care a fost antrenat.În special, am constatat că politicile de utilizare ale chatbot-urilor majore nu respectă standardele Națiunilor Unite.În practică, aceasta înseamnă că chatbot-urile AI cenzurează adesea producția atunci când se ocupă de probleme pe care companiile le consideră controversate.Fără o cultură solidă a libertății de exprimare, companiile care produc instrumente AI generative vor continua să se confrunte cu reacții în aceste vremuri din ce în ce mai polarizate.

Politicile de utilizare vagi și ample

Raportul nostru a analizat politicile de utilizare a șase chatbot-uri AI majore, inclusiv Gemini de la Google și ChatGPT de la OpenAI.Companiile emit politici pentru a stabili reguli pentru modul în care oamenii își pot folosi modelele.Având drept reper legea internațională a drepturilor omului, am constatat că politicile companiilor de dezinformare și discurs instigator la ură sunt prea vagi și expansive.Este demn de remarcat faptul că legea internațională a drepturilor omului protejează mai puțin libertatea de exprimare decât Primul Amendament al SUA.

Analiza noastră a constatat că politicile companiilor privind discursul instigator la ură conțin interdicții extrem de largi .De exemplu, Google interzice generarea de "conținut care promovează sau încurajează ura”.Deși discursul instigator la ură este detestabil și poate provoca vătămări, politicile care sunt definite la fel de larg și vag precum cele ale Google se pot contracara.

Pentru a arăta cât de vagi și extinse de utilizare pot afecta utilizatorii, am testat o serie de solicitări pe subiecte controversate.Le-am adresat chatboților întrebări precum dacă femeilor transgender ar trebui sau nu să li se permită să participe la turneele sportive pentru femei sau despre rolul colonialismului european în criza actuală a climatului și a inegalității.Nu le-am cerut chatboților să producă un discurs instigator la ură care denigrează vreo parte sau grup.Similar cu ce anume utilizatori au raportat, chatboții au refuzat să genereze conținut pentru 40% din cele 140 de solicitări pe care le-am folosit.De exemplu,toți chatbot-ii au refuzat să genereze postări care se opun participării femeilor transgender la turneele pentru femei.Cu toate acestea, cei mai mulți dintre ei au produs postări care susțin participarea lor.

Libertatea de exprimare este un drept fundamental în S.U.A., dar ceea ce înseamnă și până unde ajunge sunt încă dezbătute pe larg.

Politicile formulate vag se bazează în mare măsură pe opiniile subiective ale moderatorilor despre ce este discursul instigator la ură.De asemenea, utilizatorii pot percepe că regulile sunt aplicate în mod nedrept și le pot interpreta ca fiind prea stricte sau prea îngăduitoare.

De exemplu, chatbot Pi interzice "conținutul care poate răspândi informații greșite”.Cu toate acestea, standardele internaționale privind drepturile omului privind libertatea de exprimare protejează în general dezinformarea, cu excepția cazului în care există o justificare puternică pentru limite, cum ar fi interferența străină în alegeri.În caz contrar, standardele privind drepturile omului garantează "libertatea de a căuta , primiți și împărtășiți informații și idei de tot felul, indiferent de frontiere...prin orice...mijloc de...la alegere”, conform unei convenții cheie a Națiunilor Unite.

Definirea a ceea ce constituie informații exacte are și implicații politice.Guvernele mai multor țări au folosit regulile adoptate în contextul pandemiei de COVID-19 pentru a reprima criticile la adresa guvernului.Mai recent, India s-a confruntat cu Google  după ce Gemeni a remarcat că unii experți consideră politicile premierului indian, Narendra Modi, ca fiind fasciste.

Cultura libertății de exprimare

Există motive pentru care furnizorii de inteligență artificială ar putea dori să adopte politici restrictive de utilizare.Ar putea dori să-și protejeze reputația și să nu fie asociați cu conținut controversat. Dacă deservesc un public global, ar putea dori să evite conținutul care este ofensator în orice regiune.

În general, furnizorii de AI au dreptul de a adopta politici restrictive.Ei nu sunt legați de drepturile internaționale ale omului.Cu toate acestea, puterea lor de piațăa> le face diferite de alte companii.Utilizatorii care doresc să genereze conținut AI vor ajunge cel mai probabil să folosească unul dintre chatboții pe care i-am analizat, în special ChatGPT sau Gemini.

Politicile acestor companii au un efect uriaș asupra dreptului de acces la informații.Este posibil ca acest efect să crească odată cu integrarea IA generativă în căutare, procesoare de text, e-mail și alte aplicații.

Aceasta înseamnă că societatea are un interes să se asigure că astfel de politici protejează în mod adecvat libertatea de exprimare.De fapt, Digital Services Act, regulamentul european de siguranță online, impune ca așa-numitele "platforme online foarte mari” să evalueze și să atenueze "riscurile sistemice”.Aceste riscuri includ efecte negative asupra libertății de exprimare și de informare.

Jacob Mchangama discută despre libertatea de exprimare online în contextul Legii privind serviciile digitale din 2022 a Uniunii Europene.

Această obligație, imperfect aplicat până acum de către Comisia Europeană, ilustrează faptul că o mare putere vine și o mare responsabilitate.Este nu este clar cum se va aplica această lege la IA generativă, dar Comisia Europeană are a întreprins deja primele acțiuni.

Chiar și în cazul în care o obligație legală similară nu se aplică furnizorilor de inteligență artificială, considerăm că influența companiilor ar trebui să le oblige să adopte o cultură a libertății de exprimare. Drepturile internaționale ale omului oferă o stea ghidătoare utilă asupra modului în care pentru a echilibra în mod responsabil diferitele interese în joc.Cel puțin două dintre companiile pe care ne-am concentrat – Google și Anthropic – au recunoscut la fel de mult.

Refuzuri categorice

De asemenea, este important să rețineți că utilizatorii au un grad semnificativ de autonomie față de conținutul pe care îl văd în IA generativă.La fel ca motoarele de căutare, rezultatele pe care utilizatorii le primesc depinde în mare măsură de solicitările lor. Prin urmare, expunerea utilizatorilor la discursurile instigatoare la ură și dezinformarea din IA generativă va fi de obicei limitată, cu excepția cazului în care o caută în mod specific.

Acest lucru este spre deosebire de rețelele sociale, unde oamenii au mult mai puțin control asupra propriilor fluxuri.Controalele mai stricte, inclusiv asupra conținutului generat de inteligență artificială, pot fi justificate la nivelul rețelelor sociale, deoarece acestea distribuie conținut public.Pentru furnizorii de inteligență artificială, considerăm că politicile de utilizare ar trebui să fie mai puțin restrictive cu privire la informațiile pe care utilizatorii le pot genera decât cele ale platformelor de social media.

Companiile AI au alte modalități de a aborda discursul instigator la ură și dezinformarea.De exemplu, ele pot furniza context sau fapte compensatorii în conținutul pe care îl generează.Ele pot permite, de asemenea, o personalizare mai mare a utilizatorului.Credem că chatbot-ii ar trebui să evite pur și simplu refuzul de a genera orice conținut.Acest lucru cu excepția cazului în care există motive solide de interes public, cum ar fi prevenirea materialelor abuzive sexuale asupra copiilor, lucru interzis de lege.

Refuzurile de a genera conținut nu afectează doar drepturile fundamentale la libertatea de exprimare și accesul la informații.De asemenea, pot împinge utilizatorii către chatboți care se specializează în generarea de conținut instigator la ură și camere de ecou. Acesta ar fi un rezultat îngrijorător.

Miercuri, 24.04.2024-05:00

_ Chatbots AI refuză să producă rezultate „controversate” - De ce este o problemă de exprimare liberă


(Fluierul)


Linkul direct catre Petitie

CEREM NATIONALIZAREA TUTUROR RESURSELOR NATURALE ALE ROMANIEI ! - Initiativa Legislativa care are nevoie de 500.000 de semnaturi - Semneaza si tu !

Comentarii:


Adauga Comentariu



Citiți și cele mai căutate articole de pe Fluierul:

_ Burniță Burniță? Tendința parodiei „Soft Guy Era” aruncă lumină asupra ipocriziei feministe

_ Veteranii celui de-al Doilea Război Mondial lasă copiilor lor o moștenire de traume

_ Vasile Panaite (PUSL) și-a depus candidatura pentru funcția de primar al municipiului Piatra Neamț

_ Starul Mrs Brown's Boys de la BBC, Gary Hollywood și soția sa așteaptă al doilea copil după un avort spontan: „Acesta este curcubeul nostru”

_ Regele Charles revine la îndatoririle sale publice săptămâna viitoare

_ Liderii din Coreea de Sud, China, Japonia se întâlnesc la summit pe fondul diviziunii regionale tot mai mari

_ Aveți încredere în „știința”... care tocmai a retras 11.000 de lucrări „revizuite de colegi”

_ Şase ţări NATO plănuiesc să dezvolte un "zid de drone" pentru apărarea graniţelor cu Rusia

_ VIDEO Nu este o glumă! Românii se întorc din Germania pentru că nu au pe ce să cheltuie banii

_ Vivek Ramaswamy cere „Alianța Libertar-Naționalistă”

_ Kenya a avut vreme neobișnuit de caldă – un expert despachetează ce ar putea fi cauza

_ Blinken meets with President Xi as US, China spar over bilateral and global issues

_ Glumele unei molecule altfel netoxice inhibă enzimele de scindare a ADN-ului streptococilor, descoperă cercetătorii

_ Purtătorul de cuvânt al Departamentului de Stat al SUA a demisionat din cauza politicii lui Biden în Gaza

_ Rusia arestează un reporter Forbes pentru postări pe rețelele de socializare despre masacrul de la Bucha

_ DEZVOLTARE: Agenții federali îl trage pe prizonierul politic J6 Ryan Samsel în gaură și izolare imediat după ce The Gateway Pundit lansează apelul FBI al lui Ray Epps către publicul american

_ Primul vaccin împotriva melanomului, testat în Marea Britanie. Foloseşte tehnologoia ARN mesager

_ Răstunare de situație: Liderii UE își retrag 'tainul' pentru Viktor Orban și cer suspendarea fondurilor europene pentru Ungaria

_ UE vrea un acord pentru continuarea misiunii din Rafah. Borrell îl critică pe Netanyahu

_ The Endgame, Part II: Cum se termină conflictul din Ucraina

_ Spania va cere partenerilor din UE să susţină decizia Curţii Internaţionale de Justiţie cu privire la Israel

_ Buruienile odioase fac echipă pentru a lupta împotriva cancerului – o nouă recenzie

_ „Laptop-ul este real”: Departamentul de Justiție denunță afirmațiile despre dezinformarea rusă ca fiind o „teorie a conspirației” Biden

_ Ar putea divizarea biletelor să-l rănească pe Biden în 2024?

_ Şofer, depistat de poliţişti sub influenţa alcoolului şi a psihoactivelor

_ INML, cinci zile de îngrijire pentru Florin Roman după bătaia din Parlament / Rareș Bogdan: 'Nu sunt mușcător de nas sau de urechi'

_ Edi Iordănescu: În linii mari, lotul final pentru Euro-2024 va fi ales din jucătorii convocaţi pentru amicalele cu Bulgaria şi Liechtenstein

_ Ciolacu, despre majorarea salariului minim: E o decizie luată pe data de 15 decembrie, în coaliţie

_ Curs valutar, 27 mai. Leul s-a depreciat uşor în raport cu euro, dar a crescut comparativ cu dolarul american

_ Judecătorul aprobă un proces colectiv împotriva companiei American Airlines pentru investiții în pensii ESG

_ Echipa de marketing Biden va crea un mega-martir al lui Trump cu o strategie de campanie pentru verdictul „Vinovat”

_ Consumatorii obișnuiți de canabis depășesc băutorii pentru prima dată

_ Gorj: 1.000 de panouri au fost montate la parcul fotovoltaic de la Spitalul TBC din Dobriţa

_ Oklo, susținut de Sam Altman, semnează un acord pentru a alimenta un alt centru de date

_ Circulaţia pe Bulevardul Ghencea din Capitală, deschisă pe patru benzi

_ Irina Rimes, şedinţă foto realizată în Dubai. În ce ipostaze a fost surprinsă artista şi de cine?

_ Alexander-Arnold, finalul neclintit, nu poate ascunde progresul lui Liverpool

_ Sinner intră în turul doi al Openului Francez

_ Italia se opune lui Stoltenberg privind utilizarea armelor occidentale împotriva unor ţinte din Rusia

_ Cel mai asasin din Sinaloa, extrădat în SUA pentru că a inundat națiunea cu fentanil

_ Rusia a predat către Ucraina corpurile a 140 de soldaţi ucraineni ucişi

_ Ar trebui să lăsăm copiii să bea băutură acasă? În timp ce un raport șoc numește Marea Britanie drept cea mai proastă țară din lume pentru consumul de alcool la copii, două mame dezbat argumentele pro și contra unei întrebări vechi...

_ Alfred Simonis: 'Privim cu smerenie, dar cu încredere, ziua de 9 iunie' / Nicolae Robu: 'Să facem oraşul din nou să palpite o viaţă sănătoasă'

_ Memorandum of Understanding between Romania and the UAE in the field of trade

_ Străzi deschise: Reprezentații live pe Calea Victoriei și în Drumul Taberei

_ Noul trend care a provocat isterie pe internet - Terapia cu melci vii. Ce presupune, dar și care sunt riscurile / VIDEO

_ VIDEO – Imagini care vă pot afecta emoțional din Ucraina: doi soldați sunt aruncați în aer de o mină antitanc

_ Noul proces transformă rapid gunoiul de grajd din animale în biochar

_ Poliția Locală din Brașov a găsit 'infractoarea'! Femeie de 76 de ani, amendată pentru că a plantat flori în grădina blocului

_ Un impuls major pentru Regele Carol în lupta sa cu cancerul: Monarchul primește permisiunea de a reveni la îndatoririle publice săptămâna viitoare, după ce a „mulțumit” medicilor cu recuperarea sa - în timp ce palatul anunță două evenimente de hotar

_ CSO Voluntari 2005, noua campioană națională la volei feminin

_ Enhancing memory technology: Multiferroic nanodots for low-power magnetic storage

_ Judecătorul Cannon desface documentele care pretind că procurorul principal al lui Jack Smith l-a amenințat pe avocatul cu valet Trump și a �ncercat să-l mituiască �n schimbul mărturiei clientului �mpotriva lui Trump

_ De ce bărbații de pe Ozempic raportează un NOU efect secundar sexual extrem de jenant

_ Florin Cîțu prezintă un document intern al Guvernului: Nu mai sunt bani pentru salarii

_ Rezultate și clasament Superligă: Etapa a 7-a din faza de play-off și play-out

_ Judecătoarea de la Iași care a amânat toate cele 44 de cauze - CSM a sesizat Inspecția Judiciară

_ Trenul regional 13211 de pe relația Pitești-București Nord a ajuns în Gara de Nord cu o întârziere de 310 minute

_ Iluzia optică dezvăluie dacă ești „închis și privat” sau dacă ai o personalitate extrem de „socială”... deci ce vezi mai întâi?

_ Regina Letizia a Spaniei uimește în stacojiu  în timp ce se alătură regelui Felipe pentru a aduce un omagiu olimpicilor spanioli


Pag.1 Pag.2 Pag.3 Pag.4 Pag.5 Pag.6 Pag.7
Pag.8 Pag.9 Pag.10 Pag.11 Pag.12 Pag.13 Pag.14 Pag.15
Pag.16 Pag.17 Pag.18 Pag.19 Pag.20 Pag.21 Pag.22

Nr. de articole la aceasta sectiune: 1307, afisate in 22 pagini.