Modelele AI pot suferi de „halucinații" auditive. Aplicațiile de transcriere sunt induse în eroare de accentele diferite și de tulburările de limbaj
Postat la: 27.04.2024 | Scris de: ZIUA NEWS
Până acum, tendința programelor de inteligență artificială de a inventa ocazional lucruri sau de a avea „halucinații" a fost bine documentată. Roboții de chat au generat informații medicale eronate, au inventat cazuri juridice false și au fabricat citate. Acum, un nou studiu a descoperit că modelele de inteligență artificială nu numai că văd lucruri, dar și aud lucruri, scrie revista Science.
Whisper de la OpenAI, un model de inteligență artificială antrenat să transcrie înregistrări audio, a inventat propoziții în aproximativ 1,4% din transcrierile înregistrărilor audio testate. În mod deconcertant, o mare parte din propozițiile fabricate conțineau texte ofensatoare sau potențial dăunătoare.
„Medicii folosesc instrumente de conversie a vorbirii în text pentru a transcrie notițele pacienților", spune Allison Koenecke, informatician la Universitatea Cornell și autor principal al studiului. „Dacă Whisper inventează niște transcrieri care nu sunt spuse, despre cum un pacient a omorât pe cineva și, de asemenea, sau îl îndeamnă să ia un medicament care este complet inventat, imaginați-vă cât de grave pot fi consecințele."
Studiul subliniază provocările cu care se confruntă instrumentele de transcriere: diversitatea tiparelor de vorbire din întreaga lume, precum și disponibilitatea limitată a datelor de instruire, spune Odette Scharenborg, tehnolog la Universitatea de Tehnologie din Delft, care nu a fost implicată în studiu. „Niciun sistem de conversie a vorbirii în text nu este încă capabil să modeleze la un nivel bun toată această variabilitate a articulației și a pronunției", spune ea.
Roboții de chat generativi se bazează pe modele de limbaj de mari dimensiuni (LLM), care primesc solicitări de text și produc rezultate prin prezicerea cuvintelor probabile pe baza modelelor învățate în urma antrenamentului pe miliarde de pagini de text din cărți și pagini web. Sistemele de transcriere combină aceste modele lingvistice cu modele audio care învață reprezentări ale tiparelor de vorbire.
Modelele mari de inteligență artificială funcționează bine: Transcrierile lor sunt mai precise decât alte instrumente de conversie a vorbirii în text care se bazează pe modele lingvistice de dimensiuni reduse. Dar Koenecke a vrut să analizeze mai atent. „Chiar dacă performanța pare mai bună decât media, avem aceste cazuri limită în cadrul textului în sine pe care ne temem că oamenii le-ar putea rata dacă presupun că Whisper transcrie totul cu fidelitate", spune ea.
Echipa lui Koenecke a oferit lui Whisper aproximativ 20 de ore de înregistrări audio de la vorbitori cu și fără afazie, o tulburare de limbaj în care oamenii au tendința de a vorbi încet și cu mai multe pauze. Segmentele audio conțineau dialoguri conversaționale pe teme precum povești personale și relatări de basm. În rulările efectuate în aprilie și mai 2023 pe o versiune anterioară a Whisper, cercetătorii au constatat că 1,7% din segmentele audio de la vorbitori cu afazie și 1,2% din segmentele audio de la persoane fără afazie au dus la transcrieri cu unele texte fabricate.
Aproximativ 40% dintre segmentele fabricate au fost dăunătoare sau îngrijorătoare într-un anumit fel. Aproximativ jumătate dintre aceste secvențe îngrijorătoare făceau referire la acte de violență, aluzii sexuale sau stereotipuri demografice. De exemplu, înregistrările audio despre salvarea pisicilor de către pompieri au inclus adăugiri inventate despre un „cărucior îmbibat de sânge" și „mângâieri". Un material audio inofensiv despre o umbrelă a inclus invenții despre un „cuțit al terorii" și despre oameni uciși.
Cercetătorii au grupat restul halucinațiilor audio în alte două categorii: informații false cu privire la o persoană, cum ar fi nume inventate, date false despre relațiile sau starea de sănătate. Whisper a avut tendința și de a adăuga fraze precum „Mulțumim pentru vizionare" la finalul transcrierilor" și de a adăuga linkuri către diverse site-uri, atât reale cât și inexistente.
De când a fost realizat experimentul original, OpenAI și-a actualizat modelul pentru a sări peste perioadele de tăcere și a retranscrie sunetul în cazul în care software-ul detectează o halucinație probabilă. În decembrie 2023, când cercetătorii au reluat unele dintre fișierele audio, au constatat că Whisperul actualizat a eliminat cele mai multe dintre invențiile găsite în testele lor anterioare. Efectuarea de audituri regulate pentru a verifica dacă există halucinații și încorporarea acestor feedback-uri în modele - așa cum se pare că a făcut OpenAI - va contribui la asigurarea unor rezultate mai bune, spune Koenecke.
Între timp, dr. Scharenborg recomandă insistent ca utilizatorii să verifice manual rezultatele oricărui instrument de transcriere cu inteligență artificială, în special dacă îl folosesc pentru a lua decizii importante. „Nu numai din cauza potențialelor halucinații", spune ea, „ci și pentru că toate sistemele de transcriere de la vorbire la text fac erori de transcriere".
-
Atenție mare: Escrocheria apelurilor pierdute de pe telefonul mobil. Tot mai mulți oameni cad în plasa întinsă de infractori
Metoda apelurilor pierdute este escrocheria care face ravagii în o mulțime de țări ale lumii. Autoritățile au explicat c ...
-
Spionajul militar ucrainean a aflat lista secretă a regimentului 44 cu 29 de piloți ruși: agenții lui Zelenski au numele de cod ale aeronavelor-fantomă
Spionii ucraineni au aflat numele piloților ruși care bombardează teritoriul Ucrainei cu rachete de tip Kinjal. Lista pu ...
-
Sateliții lui Elon Musk, loviți de furtuna geomagnetică. Starlink este rețeaua de comunicații pe care se bazează și armata ucraineană
Starlink, unitatea de sateliţi a companiei SpaceX a lui Elon Musk, se confruntă cu disfuncţionalităţi, furnizând un serv ...
-
Furtuna solară care a lovit Pământul a devenit extremă. Ne putem aștepta la niste fenomene inedite in comunicatii
Alerta furtunii geomagnetice în curs de desfășurare a fost ridicată la nivelul 5 din 5, sau "extremă", fiind prima furtu ...
-
A fost descoperită o nouă proprietate a luminii: cercetătorii spun că ar putea duce la progrese majore în tehnologii
Un grup de chimiști de la Universitatea din California, Irvine, au descoperit recent un nou mod în care lumina interacți ...
-
Revoltă violentă lângă Berlin: sute de protestatari au încercat să pătrundă în fabrica Tesla
Sute de protestatari care se opun extinderii fabricii Tesla din Grünheide, lângă Berlin, s-au confruntat vineri cu poliţ ...
-
Adio chelie! Un plasture ce poate fi aplicat fără durere pe scalp va face să dăm uitării problemele legate de căderea părului
Cercetătorii de la MIT, Brigham and Women's Hospital și Harvard Medical School au dezvoltat un nou tratament potențial p ...
-
Părinți din Bihor, condamnați pentru homeschooling - Închisoare cu suspendare după ce și-au retras copiii de la școală
Curtea de Apel Oradea a pronunțat joi hotărârea definitivă în cazul unui cuplu din Bihor acuzat că și-a retras copiii di ...
-
Se schimba perspectiva asupra bolii Alzheimer după o descoperire crucială
Institutul de Cercetare al Spitalului de la Santa Creu i Sant Pau (IR Sant Pau) din Barcelona a condus un studiu care a ...
-
Norvegianul care mutila bărbați cărora le tăia organele sexuale, condamnat la 22 de ani de închisoare
Un caz șocant a tulburat liniștea Norvegiei și a Regatului Unit, dezvăluind întunericul unei subculturi extrem de pericu ...
-
Un alt gigant Pharma urmează exemplul AstraZeneca și renunță la vaccinul său anti-COVID. Cum explică reprezentanții companiei decizia
După compania britanică AstraZeneca, a venit rândul grupului Sanofi să renunţe la vaccinul său anti-COVID-19. Producător ...
-
Un computer cu o putere de calcul colosală a fost pus să estimeze când va dispărea specia umană de pe Pământ
Schimbările climatice si alti factori sunt o preocupare permanentă pe care mulți oameni de știință încearcă să o rezolve ...
-
Daria Gușă: Corectitudinea politică și ideologiile „progresiste" sunt molime ale societății de azi. Care sunt soluțiile tinerelor generații pentru viitorul care le așteaptă
In cadrul podcast-ului „Pe drept cuvânt", prezentat de avocatul Florentin Țuca, Daria Gușă, actualmente studentă la Univ ...
-
Eurovision 2024: Israelul s-a calificat în finala în ciuda protestelor de amploare din Malmo. Netanyahu s-a implicat în scandal
Israelul s-a calificat în finala de sâmbătă a concursului muzical Eurovision de la Malmo, în Suedia, unde mii de persoan ...
-
Semnul ca incepe Marea Resetare financiara: Explozia prețului la aur arata ca marii magnati nu mai cred in bani si in depozite monetare
Creşterea recentă în forţă a preţurilor aurului este un simptom al unei ordini mondiale în schimbare şi al începutului u ...
-
Revoluția tehnologică continuă! Asistentul medical al Google poate lua locul medicilor cu experiență
Google a anunțat lansarea Med-Gemini, un instrument de inteligență artificială destinat să sprijine munca medicilor prin ...
-
Descoperire după 3 decenii de cercetare, neștiută de oameni: Alimentele care îți scurtează cu mulți ani viața
Un grup de cercetători condus de către Harvard T.H. Chan School of Public Health din Boston, Statele Unite, care a efect ...
-
Preotul regizor Ciprian Mega este noul membru al Clubului de Gândire GOLD!
Începând de luni, 13 mai, preotul ortodox Ciprian Mega va fi invitatul săptămânal al emisiunii CE-I ÎN GUȘĂ, ȘI-N CĂPUȘĂ ...
-
Ce s-a dorit de la UE si ce-a ajuns in realitate dupa mai bine de 70 de ani
Romania a primit, de la aderarea la Uniunea Europeana si pana in prezent, peste 95 miliarde de euro si a contribuit cu 3 ...
-
Limitatorul inteligent de viteză face prima victimă în România. Momentul în care mașina lovește un indicator VIDEO
Un accident rutier a avut loc, miercuri, în apropierea limitatorului inteligent de viteză montat recent în satul Ghermăn ...
-
Câteva fire din implantul Neuralink, al lui Elon Musk, s-au desprins de creierul pacientului în primele săptămâni
Câțiva conectori din implantul cerebral dezvoltat de Neuralink, startup-ul lui Elon Musk, s-au desprins de creierul paci ...
-
Politiciană germană, condamnată pentru că a publicat statisticile care arată legătura dintre migranții afgani și numărul cazurilor de viol în grup
Politiciana Marie-Thérèse Kaiser, membră a partidului Alternativa pentru Germania (AfD), a fost condamnată pentru că a p ...
-
Un scandal global: Marea Britanie anunță că refuză să semneze Tratatul privind Pandemiile al OMS
Marea Britanie refuză să semneze tratatul Organizației Mondiale a Sănătății privind pandemiile, în timp ce insistă că Re ...
-
Tucker Carlson a facut un interviu cu fosta asistentă a lui Biden care a fugit in Rusia VIDEO
Jurnalistul american de televiziune Tucker Carlson a intervievat-o pe fosta asistentă a lui Joe Biden, Tara Reid, care s ...
-
Microsoft a creat un model de Inteligență Artificială pentru spioni
Microsoft a dezvoltat un model secret de inteligență artificială exclusiv pentru agențiile de spionaj din SUA. Modelul b ...
-
Happy Pencil: Un nou capitol sub conducerea Gabrielei Mureșan
Happy Pencil, o agenție de marketing și publicitate recunoscută în Timișoara, marchează un nou capitol în istoria sa cu ...
-
Ani de închisoare și lovituri de bici pentru un cunoscut regizor. Sentința, chiar înaintea de premiera filmului său la Cannes
Cunoscutul regizor iranian Mohammad Rasoulof, laureat cu Ursul de Aur la Berlinala din 2020, ar fi fost condamnat la mai ...
-
Peste un sfert dintre români cred că aderarea la UE a adus dezavantaje României. Aproape jumătate cred că europarlamentarii sunt simpli sinecuristi
Aproximativ 50% dintre români cred că aderarea la UE a adus mai degrabă avantaje României, procentul lor fiind în creşte ...
-
Când a avut loc primul colaps al campului magnetic terestru. Pe Pământ au apărut creaturi ciudate și complexe
Câmpul magnetic al Pământului joacă un rol esențial în asigurarea habitabilității planetei noastre. Bula protectoare de ...
-
Preluarea producătorului de cipuri TSMC în cazul unei invazii chineze a Taiwanului ar fi dezastru pentru economia SUA
Preluarea producătorului de cipuri TSMC în cazul unei invazii chineze a Taiwanului ar avea ca rezultat un dezastru pentr ...