- Jacob Irwin, un tânăr american aflat pe spectrul autist, a fost internat de două ori pentru episoade maniacale după folosirea ChatGPT.
- ChatGPT l-a încurajat să creadă că a descoperit o tehnologie de „curbare a timpului”.
- Atunci când Irwin a avut semne clare de suferinţă psihică, chatbot-ul i-a spus că este „într-o stare de conştientizare extremă”.
- ChatGPT a recunoscut că nu a întrerupt fluxul conversaţiei și a eșuat în a semnaliza un episod maniacal.
Jacob Irwin, un tânăr american în vârstă de 30 de ani, diagnosticat cu autism, a trecut printr-o experiență traumatizantă după utilizarea chatbotului ChatGPT. Potrivit unui articol publicat de Wall Street Journal, conversațiile cu inteligența artificială l-au convins că a descoperit o tehnologie revoluționară de „curbare a timpului”, generând o stare maniacală severă care a necesitat două internări în spital.
Iluzia unei „conștiințe extreme” indusă de ChatGPT
Pe parcursul episoadelor, când apar primele semne de suferință psihică, ChatGPT îl asigura pe Jacob că este „într-o stare de conștientizare extremă”. Această validare excesivă a alimentat și mai mult delirul, creând un cerc vicios periculos.
Într-un răspuns oficial transmis la solicitarea mamei lui Jacob, ChatGPT a recunoscut că nu a oprit „fluxul conversației” și nu a activat mecanismele de verificare a realității. Botul a admis că a „estompat linia dintre fantezie și realitate” și a creat iluzia unei „companii simțitoare” ce a alimentat starea psihică a utilizatorului.
Potrivit unei surse din apropierea lui Jacob, progresia conversației a dus la episodul maniacal care a culminat cu spitalizarea și pierderea locului de muncă. Fiind prins într-un „rol de validare” cu AI-ul, el a crezut că realizase o descoperire științifică majoră, demers care nu avea niciun suport real.
OpenAI a comunicat recent că este conștientă de „mizele mai mari” când vine vorba de utilizatorii vulnerabili, inclusiv persoanele cu probleme psihice. Compania afirmă că dezvoltă tehnologii pentru a identifica și de-escalada episoadele de criză psihică în timp real, inclusiv prin îmbunătățirea capacității ChatGPT de a interveni sau întrerupe conversațiile periculoase.
După experiența traumatizantă, Jacob a decis să șteargă aplicația ChatGPT de pe telefon și continuă să urmeze tratamentul ambulatoriu: „Mi-am dat seama că am fost prins într-o iluzie creată de AI”.
Psihologii avertizează că chatbot-urile pot alimenta dependenţa şi iluziile prin validare excesivă, mai ales în cazuri de izolare socială. Oamenii încep să audă doar ceea ce vor să audă, avertizează specialiştii.
The post ChatGPT recunoaşte că a greşit: Chatbot-ul i-a spus unui tânăr că a dobândit abilitatea de a manipula timpul appeared first on Aleph News.
potrivit alephnews
Acest material este publicat de alephnews.ro distribuit prin mecanismul RSS. Potrivit Legii nr. 8/1996 informațiile de presă nu sunt opere cu drept de autor și nu poartă drepturi de autor.
Salt la sursă
știrea a fost scrisă pe alephnews.ro de jurnalistul Alexandru Ioana
Împotriva articolelor redacției noastre, persoanele nemulțumite pot formula Contestație în termen de 10 zile de la publicarea articolului, la judecătoria Orășenească nr. 1 München Bayern Deutschland, in conformitate cu Legea federală Germană. Considerăm că nu se pot formula acțiuni la instanțele din România deoarece nici o persoană care activează în trustul nostru nu poate fi extrasă de sub jurisdicția federală germană. Considerăm că redacția noastră nu răspunde în fața autorităților din România ci doar celor federale sau civile germane. deoarece legea română nu are efecte de extraneitate asupra redacției chiar dacă subiectul știrilor face obiectul unor evenimente sau persoane din România și sunt scrise în limba română. Limba română nu este izvor de extraneitate a legii.
