Un cetățean norvegian, Arve Hjalmar Holmen, a intentat un proces împotriva OpenAI, după ce chatbotul ChatGPT a generat o informație falsă despre el, susținând că și-a ucis doi dintre copiii săi.
Holmen a decis să utilizeze ChatGPT și a adresat întrebarea: ”Cine este Arve Hjalmar Holmen?”. În răspuns, inteligența artificială a inventat o poveste în care bărbatul ar fi fost condamnat la 21 de ani de închisoare pentru uciderea fiilor săi de 7 și 10 ani, care ar fi fost găsiți morți într-un iaz din apropierea locuinței sale din Trondheim, în decembrie 2020. Mai mult, chatbotul a menționat că bărbatul ar fi avut intenția de a ucide și al treilea copil.
În mod surprinzător, informațiile despre numărul și genul copiilor săi, precum și orașul său de reședință, erau corecte, ceea ce a sporit îngrijorarea lui Holmen. În consecință, el a depus o plângere la Autoritatea Norvegiană pentru Protecția Datelor, solicitând sancționarea OpenAI.
Specialiștii explică acest caz prin fenomenul de ”halucinații” ale inteligenței artificiale, când sistemele AI generează informații false din cauza lipsei sau completării eronate a datelor.
”Sistemul creează răspunsuri pe baza unor modele probabile, fără a verifica veridicitatea conținutului”, au subliniat experții.
În urma acestui incident, OpenAI a actualizat modelul ChatGPT pentru a verifica informațiile pe baza articolelor de știri recente. Totuși, specialiștii în protecția datelor avertizează că „nu putem fi absolut siguri că datele sunt complet șterse, decât dacă întreaga modelare este refăcută”.