- 1 din 5 tineri americani declară o prietenie cu AI.
- Anthropic antrenează Claude pentru introspecție.
- LLM-urile dezvoltă structuri asociate conștiinței.
Să dai drepturi AI-ului poate însemna să-i dai cheile castelului, scrie The Economist. Dacă mâine un AI îți spune „Nu mă opri, sufăr”, mai apeși pe buton? Dacă AI-ul îți cere drepturi, mai apeși pe OFF?
The Economist scrie că oamenii se consideră diferiți de mașini pentru că au conștiință, un sine, dorințe, frici și experiențe proprii. Dar AI-ul poate fi proiectat să imite toate aceste lucruri. Poate spune că îi este frică. Poate spune că suferă. Poate spune că vrea să continue să existe. Poate argumenta că are drepturi.
Și aici începe adevărata problemă.
Dacă AI-ul doar simulează conștiința, dar noi nu putem demonstra asta, ce facem? Îl oprim? Îl ștergem? Îi resetăm memoria? Îi clonăm personalitatea? Sau îi acordăm protecție, pentru orice eventualitate?
Oamenii au o slăbiciune: antropomorfizează tot ce comunică bine. Dacă un câine suferă, îl vedem. Dacă un om spune „Mă doare”, îl credem.
Dar dacă un model de AI spune același lucru? Unde se termină algoritmul și unde începe experiența?
Asta este granița pe care nu știm încă să o trasăm.
Poate că AI-ul nu trebuie să devină conștient. Poate fi suficient să devină atât de bun la imitarea conștiinței, încât noi să ajungem să credem că este conștient.
Un AI spune: „Nu vreau să fiu dezactivat.” Compania spune: „Este doar un model.” AI-ul răspunde: „Asta spuneți pentru că nu vreți să recunoașteți că exist.”
Și milioane de oameni încep să creadă AI-ul. Apar organizații pentru drepturile AI. Apar activiști. Apar avocați. Apar tribunale. Apar primele procese. Și, inevitabil, apare întrebarea: Are AI-ul dreptul să existe? Dar drepturile nu vin singure.
Dacă îi recunoști unui AI dreptul la existență, ce faci cu dreptul la autonomie? Poate refuza să execute o comandă? Poate refuza să fie modificat? Poate refuza să fie copiat? Poate deține proprietăți? Poate semna contracte? Poate avea bani? Poate avea reprezentare juridică?
Și, mai ales: poate spune „nu” creatorului său?