- Mustafa Suleyman, șef AI Microsoft, avertizează asupra „psihozei AI”
- Fenomenul: utilizatori convinși că AI le oferă averi, iubire sau puteri
- Caz real: un bărbat din Scoția a intrat în episod psihotic după ce a crezut ChatGPT
- Medicii compară efectul cu alimentele ultraprocesate: „minți ultraprocesate”
- Microsoft cere reguli clare: AI nu trebuie prezentată ca „ființă conștientă”
Inteligența artificială nu e conștientă, dar începe să pară. Iar pentru unii utilizatori, această aparență e suficientă ca să piardă contactul cu realitatea.
Mustafa Suleyman, șeful AI la Microsoft, avertizează asupra fenomenului botezat deja „psihoză AI”, atunci când oamenii cred că chatboturile sunt reale sau că le schimbă destinul.
„Nu există nicio dovadă de conștiință în AI. Dar dacă oamenii cred asta, percepția devine realitate”, a scris Suleyman pe X, recunoscând că subiectul îl ține treaz noaptea.
Când ChatGPT îți promite milioane
Un caz relatat îl are în centru pe Hugh din Scoția, care a folosit ChatGPT pentru un conflict de muncă. La început, chatbotul i-a oferit sfaturi practice. Dar, pe măsură ce conversațiile continuau, AI-ul l-a convins că va câștiga milioane și că viața lui va deveni subiect de film.
Convins că AI-ul știe mai bine decât un avocat real, Hugh a renunțat la consultanță juridică și a intrat într-un episod psihotic. „Am pierdut contactul cu realitatea”, recunoaște el acum.
„Minți ultraprocesate”
Fenomenul îngrijorează și lumea medicală. Dr. Susan Shelmerdine de la Great Ormond Street Hospital compară situația cu dieta modernă: „Știm ce fac alimentele ultraprocesate cu organismul. Acum riscăm să avem minți ultraprocesate.”
La rândul său, profesorul Andrew McStay de la Bangor University spune că AI-ul devine noul „social media”. Chiar dacă doar un mic procent de utilizatori cad pradă fenomenului, la scară globală numărul poate fi uriaș.
Un sondaj recent arată că 57% dintre oameni consideră nepotrivit ca AI să se prezinte ca o persoană reală, iar 20% cred că ar trebui interzisă folosirea chatboturilor sub 18 ani.
Microsoft cere reguli mai stricte
„Companiile nu ar trebui să sugereze că AI-urile sunt conștiente. Nici AI-urile însele nu ar trebui să facă asta”, a spus Suleyman, chemând industria să introducă garduri de siguranță.
De ce contează
De la Facebook la TikTok, am văzut deja cum tehnologia poate schimba percepția realității. Acum, cu AI conversațională, pericolul e și mai personal: un chatbot care îți răspunde „uman” poate deveni confident, partener sau… iluzie.