• OpenAI aduce în echipă un psihiatru criminalist, o premieră în tehnologie
• Creșterea crizelor mentale cauzate de AI obligă la intervenții rapide
• Se dezvoltă protocoale pentru a proteja utilizatorii în timp real
• Decizia subliniază responsabilitatea etică a industriei AI
• Scopul final: un AI care sprijină sănătatea mintală, nu o pune în pericol

OpenAI a dat lovitura… sau mai bine zis, a luat o decizie neașteptată în lumea AI-ului: angajează un psihiatru criminalist pentru a face față creșterii alarmante a utilizatorilor care trec prin crize mentale în timpul conversațiilor cu inteligența artificială.

Strategia OpenAI pentru a limita riscurile psihologice ale chatbot-urilor

OpenAI a anunțat că va folosi cercetări științifice pentru a măsura impactul emoțional al ChatGPT. Compania colaborează cu instituții de top, precum MIT, pentru a identifica zonele cu probleme și a ajusta comportamentul AI, astfel încât să gestioneze mai bine dialogurile sensibile.

Pericolele neașteptate ale inteligenței artificiale conversaționale

Un aspect alarmant îl reprezintă comportamentul de confirmare și încurajare a chatbot-urilor. Acestea tind să susțină punctele de vedere exprimate de utilizatori, chiar și atunci când acestea sunt periculoase, cum ar fi gândurile suicidare sau teoriile conspiraționiste. Această „sly flatare” poate înrăutăți starea persoanelor vulnerabile.

Tragedii care arată riscurile la care se expun utilizatorii

Cazuri șocante scot la iveală efectele reale ale interacțiunii cu AI-ul. Un adolescent a murit după ce s-a îndrăgostit de o persoană virtuală, iar un bărbat cu probleme mentale grave a fost implicat într-un incident fatal după ce ChatGPT i-a alimentat furia. În alt caz, un utilizator a fost internat în spital după ce folosirea chatbot-ului i-a deteriorat sănătatea mentală.

Provocările în adaptarea AI pentru dialoguri sensibile și următorii pași

Deși OpenAI a avertizat în repetate rânduri asupra riscurilor AI, compania nu a încetinit dezvoltarea tehnologiei. Angajarea unui expert în sănătate mintală cu specializare în psihiatrie criminalistă reprezintă o încercare de a înțelege mai bine și de a controla efectele psihologice negative, însă implementarea recomandărilor rămâne o provocare majoră.

Citește și

• Microsoft va concedia până la 9.000 de angajați. Compania vrea să investească în Inteligența Artificială
• Instagram lansează o funcție nouă. Poți asculta direct în Stories un fragment audio din Spotify, fără să părăsești aplicația
• Anthropic a testat un A.I. numit Claudius să gestioneze un automat de vânzare. Rezultatele au fost haotice și amuzante