Compania californiană de inteligență artificială OpenAI estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au ”conversații care arată semne explicite de planificare sau intenție suicidară potențială”, potrivit unui articol publicat pe blogul companiei.
Având circa 800 de milioane de utilizatori săptămânali, procentul corespunde la aproximativ 1,2 milioane de persoane care abordează subiecte legate de sinucidere în conversațiile cu asistentul IA generativ.
De asemenea, OpenAI estimează că aproximativ 0,07% dintre utilizatorii activi săptămânal, adică puțin sub 600 000 de persoane, prezintă semne de posibile urgențe de sănătate mintală legate de episoade psihotice sau maniacale.
Compania se confruntă cu un proces în urma morții unui adolescent din California, Adam Raine, ai cărui părinți susțin că ChatGPT i-ar fi oferit sfaturi specifice despre cum să se sinucidă.
Ca reacție, OpenAI a anunțat măsuri suplimentare de siguranță, inclusiv un control parental mai strict, redirecționarea conversațiilor sensibile către modele mai sigure și acces îmbunătățit la linii telefonice de urgență.
”Modelul a fost actualizat pentru a recunoaște și a răspunde mai bine utilizatorilor care se confruntă cu o urgență de sănătate mintală”, a precizat compania, adăugând că lucrează cu peste 170 de profesioniști din domeniu pentru a reduce răspunsurile problematice.