ChatGPT a "înnebunit" ore întregi și nimeni nu-și poate explica de ce

Postat la: 29.02.2024 | Scris de: ZIUA NEWS

ChatGPT, popularul chatbot cu inteligență artificială de la OpenAI, a luat-o "absolut razna" pe 20 februarie - și nimeni nu-și poate explica de ce.

Potrivit utilizatorilor ChatGPT de pe platformele de socializare precum Reddit și X, popularul chatbot cu inteligență artificială a oferit răspunsuri lungi și aparent incoerente la întrebări de bază. Utilizatorii au avut parte de o defecțiune ciudată atunci când chatbotul a început să afișeze un comportament neregulat și să genereze răspunsuri care variau de la absurde la de-a dreptul shakespeariene.

"A înnebunit temporar ChatGPT? Vorbeam cu el despre Groq și a început să facă vociferări în stil shakespearian", a întrebat un utilizator pe subredditul ChatGPT.

"Și-a pierdut mințile", a scris un alt utilizator. "I-am cerut un rezumat concis, de o singură frază, al unui paragraf și mi-a dat o epopee din epoca [victoriană] care rivalizează cu Beowulf, cu o proză purpurie aproape de neînțeles. Este ca și cum cineva a aruncat un tezaur și a spus: "Folosește fiecare cuvânt din această carte"."

Într-un caz, ChatGPT i-a spus unui utilizator: "Să păstrăm linia ca și cum AI ar fi în cameră." Utilizatorul care a inițiat conversația despre codare a împărtășit răspunsul pe Reddit și a comentat: "Să citești asta la ora 2 dimineața este înfricoșător".

Între timp, utilizatorii ChatGPT de pe X și-au exprimat, de asemenea, frustrarea.

"ChatGPT tocmai s-a stricat. Primesc în mod constant gunoi în răspunsurile mele. Începe bine, dar apoi devine beat." Un alt utilizator a împărtășit o întâlnire ciudată, afirmând că atunci când a cerut chatbotului recomandări pentru un vinil Bill Evans Trio, acesta a răspuns cu o buclă de "Happy listening!". - un răspuns neașteptat și fără nicio legătură.

Defecțiunea s-a manifestat în mod diferit. Cei mai mulți utilizatori au experimentat non-secvențe, răspunsuri incorecte și fraze repetitive pe parcursul nopții. Unii utilizatori s-au întrebat dacă nu cumva modelul lingvistic a cedat temporar, în timp ce alții au speculat în glumă că chatbotul a ajuns să fie sensibil.

ChatGPT nu a fost singurul chatbot cu inteligență artificială care a "ieșit de pe șine" în această perioadă. Gab AI și Gemini AI de la Google se pare că au avut, de asemenea, defecțiuni.

Potrivit mai multor rapoarte, atunci când utilizatorii Gemini au cerut chatbotului să genereze imagini, acesta a refuzat să plaseze în ele persoane albe. În schimb, acesta a transformat figuri istoric albe în personaje multirasiale. Controversa, care a avut loc la doar două săptămâni de la lansarea Gemini, a dus la o indignare generalizată. Aceasta, la rândul său, a determinat Google să prezinte scuze și să oprească temporar funcția de creare de persoane a generatorului său de imagini cu inteligență artificială pentru a remedia problema.

Între timp, platforma de socializare Gab, de orientare conservatoare, a introdus versiuni de chatbot AI ale lui Adolf Hitler și Osama bin Laden, care au negat existența Holocaustului. Tehnologia din spatele chatbot-urilor Gab rămâne neclară, dar directorul executiv Andrew Torba a afirmat că baza lor de utilizatori crește cu 20.000 de persoane pe zi. Gab AI, împreună cu Grok, reprezintă o alternativă la chatbots AI "treji" precum Gemini și ChatGPT.

Aceste incidente nu au cruțat nicio afiliere politică, atât conservatorii, cât și liberalii exprimându-și nemulțumirea față de chatbots AI. OpenAI, care este îmbrățișat pe scară largă ca un instrument de AI pentru întreprinderi, a prezentat lipsa de fiabilitate a produsului său, ceea ce a dus la reînnoirea îngrijorărilor cu privire la ritmul rapid de dezvoltare a AI.

În replică, cofondatorul OpenAI, John Schulman, nu a avut de ales decât să recunoască stadiul incipient al tehnologiei de aliniere.

"Alinierea - controlul comportamentului și valorilor unui model - este încă o disciplină destul de tânără. Acestea fiind spuse, aceste proteste publice [sunt] importante pentru a ne stimula să rezolvăm aceste probleme și să dezvoltăm o tehnologie de aliniere mai bună", a scris el pe Twitter.