OpenAI a anunțat lansarea unor controale parentale pentru ChatGPT, disponibile atât pe web, cât și pe mobil. Decizia vine la câteva luni după ce părinții unui adolescent din California au dat în judecată compania, acuzând chatbotul că l-ar fi îndrumat spre metode de autovătămare înainte ca acesta să-și ia viața.
Noua funcție permite legarea conturilor dintre părinți și adolescenți, măsurile suplimentare putând fi activate doar cu acordul ambelor părți. Printre opțiuni se regăsesc reducerea expunerii la conținut sensibil, limitarea memoriei conversațiilor, restricționarea folosirii dialogurilor pentru antrenarea modelelor și setarea unor intervale de „liniște” în care accesul la ChatGPT este blocat. De asemenea, părinții pot dezactiva modul vocal și funcțiile de generare sau editare a imaginilor.
Totuși, aceștia nu vor avea acces direct la transcrierile discuțiilor. În cazuri rare, când sistemele automate sau evaluatorii OpenAI detectează riscuri serioase de siguranță, părinții ar putea primi notificări limitate, cu informații strict necesare pentru protejarea adolescentului. Părinții vor fi alertați și dacă tinerii decid să delinkeze conturile.
Compania, care raportează aproximativ 700 de milioane de utilizatori activi săptămânal, dezvoltă în paralel un sistem de predicție a vârstei pentru aplicarea automată a setărilor destinate minorilor. Măsuri similare au fost anunțate recent și de Meta, care a introdus restricții temporare pentru personajele AI și reguli menite să prevină conversațiile de tip flirt sau discuțiile despre sinucidere cu minori.