AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS
O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
-
ANAF îi ia în vizor pe românii care nu își declară veniturile
Toate veniturile trebuie declarate la ANAF. Cât vine vorba despre venituri, vorbim despre banii proveniți din dividende, ...
-
Povestea neștiută a celei mai vechi tăblițe cu cele Zece Porunci: A fost vândută pe o sumă colosală
Pea mai veche tăbliţă cunoscută, inscripţionată cu cele Zece Porunci din Vechiul Testament, a fost vândută cu 5,04 milio ...
-
Controlul statului asupra vietii private: ANAF monitorizează retragerile din bancomate. Atenție la suma pe care o scoateți
Românii care retrag sume mari de bani din bancomate intră în atenția Agenției Naționale de Administrare Fiscală (ANAF). ...
-
Oamenii de știință au descoperit o funcție neașteptată - plămânii noștri produc sânge!
Cercetările au arătat că plămânii nu ne ajută doar să respirăm - ei joacă, de asemenea, un rol-cheie în producerea sânge ...
-
Un român și-a transformat Dacia 1300 în mașină electrică. Cât a costat proiectul
Un român și-a transformat Dacia 1300 într-o mașină electrică și a obținut omologarea la RAR. Dacia modificată are un mot ...
-
Fenomenul care sfidează logica: „Timp Negativ" observat în experimente cuantice. Descoperirea controversată despre natura realității
Oamenii de știință de la Universitatea din Toronto susțin că au demonstrat existența „timpului negativ" într-un mod fizi ...
-
Oamenii de știință au descoperit un al doilea nucleu ascuns în interiorul Pământului
Miezul interior nu este doar o minge solidă de nichel și fier, ci este format din două straturi: o regiune centrală dist ...
-
Descoperirea finalului de an: Astronomii au găsit canale ascunse ce leagă sistemul nostru solar de alte colțuri ale universului
Sistemul nostru solar este situat într-o zonă specifică a spațiului cosmic, denumită Bula Fierbinte Locală, o regiune ce ...
-
Joe Biden a aprobat unul dintre ultimele sale acte și aruncă în aer relația dintre SUA și China
Preşedintele american, Joe Biden, a aprobat un ajutor militar de 571 de milioane de dolari pentru Taiwan, a anunţat vine ...
-
Elon Musk, mesaj exploziv, despre alegerile din România: "Cum să nu fie considerat un dictator?!"
Omul de afaceri Elon Musk, cel mai apropiat om al lui Donald Trump, a distribuit articolul unui jurnalist Reuters, care ...
-
Inteligența artificială a dat-o pe alcool: A învățat să deosebească tipurile de băuturi mai bine ca oamenii
Un algoritm de inteligență artificială a reușit să identifice notele dominante din fiecare băutură cu o precizie mai mar ...
-
Sprijinul Open Tribe pentru transformarea tinerilor în lideri ai viitorului
Open Tribe își propune să fie o platformă dedicată dezvoltării tinerilor, oferindu-le instrumentele și sprijinul necesar ...
-
"Tiktokizarea" planetei: cum a resetat aplicația chinezească geopolitica la nivel mondial
Platforma TikTok, aflată în vizorul Uniunii Europene şi al Statelor Unite, se confruntă cu acuzaţii de manipulare a opin ...
-
S-au prins ca suntem bogați: Eurostat a decretat că regiunea București-Ilfov are cel mai mic risc de sărăcie din UE
În ce regiuni ale UE oamenii sunt cel mai expuși riscului de sărăcie? În 2023, 16,2% din populația UE - sau aproximativ ...
-
Unde să îți pui fațete dentare? Află cum să alegi clinica
Alegerea clinicii potrivite pentru a-ți pune fațete dentare este o decizie care îți poate transforma complet zâmbetul și ...
-
„Manifest pentru România Responsabilă" - Recunoașterea excelenței și a implicării sociale
Pe 19 decembrie 2024, Uniunea Ziariștilor Profesioniști din România (UZPR) și Inițiativa Ecologistă Europeană (IEE) au o ...
-
Trump declanșează lupta în justiție contra manipulatorilor, presă și institute de sondare. Procedura ar trebui implementată și-n România din 2025!
Influenta publicație franceză LE POINT analizează în mod critic, dar subiectiv/negativ, acțiunea salutară a președintelu ...
-
Verdictul justiției pentru Călin Georgescu. Avocata sa, anunț fulger: Chemare forțată în judecată
Marina Alexandru, avocata lui Călin Georgescu, a declarat joi seară, la Realitatea Plus, că a solicitat Curții de Apel B ...
-
Cum găsești cărțile preferate într-o librărie online?
În era digitală, cumpărarea cărților dintr-o librărie online a devenit nu doar o opțiune convenabilă, ci și o experiență ...
-
Rusia șochează lumea medicală: a reușit dezvoltarea unui vaccin care reușește să trateze majoritatea tipurilor de cancer!
Rusia anunță că a dezvoltat unui vaccin care reușește să trateze majoritatea tipurilor de cancer. Acest vaccin va fi dis ...
-
Peste 140 de angajaţi Meta, diagnosticaţi cu depresie şi PTSD, după ce au fost nevoiţi să urmărească conţinut violent. Compania, chemată în instanță
Peste 140 de moderatori de conţinut Facebook angajaţi într-o unitate din Kenya au fost diagnosticaţi cu tulburare de str ...
-
Cele mai distractive activități pentru vacanța de iarnă
Mai sunt câteva zile până la vacanța de iarnă și majoritatea familiilor au pregătit deja programul de activități. Petrec ...
-
Misterul sifilisului, dezlegat după 500 de ani: Oase vechi de 9.000 de ani arată originea bolii
O descoperire științifică importantă aduce noi dovezi în controversa privind originea sifilisului, o boală care a provoc ...
-
Zelenski recunoaște: Ucraina nu mai poate elibera teritoriile ocupate de Rusia
Președintele Ucrainei recunoaște pentru Le Parisien că forțele țării sale nu mai pot recupera zonele ocupate de Rusia. E ...
-
Descoperirea cercetătorilor care ar putea rescrie cărțile de astronomie: Ce vârstă are Luna și cum s-a format
Un nou studiu publicat miercuri sugerează că Luna are o vârstă care este cu 80 de milioane până la 180 de milioane de an ...
-
Blocați în spațiu - Revenirea astronauților americani de pe ISS a fost amânată din nou
Şederea a doi astronauţi ai agenţiei spaţiale americane la bordul Staţiei Spaţiale Internaţionale (ISS) a fost prelungit ...
-
Cum a rămas Ion Cristoiu fără 20.000 de lei. „Dacă eu o luam la fugă, nu pierdeam niște bani" VIDEO
Celebrul jurnalist Ion Cristoiu a dezvăluit marţi cum a căzut victimă unei noi metode de înşelăciune şi a luat o ţeapă d ...
-
Control total: Statul pune ochii pe toți banii care circulă în piață - Reguli noi împotriva tranzacțiilor anonime la schimb valutar, monede virtuale, cazinouri
Casele de schimb valutar și operatorii de servicii de schimb între monede virtuale și monede fiduciare vor trebui să res ...