- Claude poate deja să întrerupă conversațiile în care utilizatorii manifestă comportamente extrem de abuzive
- Elon Musk compară dezvoltarea superinteligenței cu educarea unui copil și avertizează asupra unei posibile răzbunări
- Anthropic cercetează dacă inteligența artificială poate avea experiențe subiective și un statut moral
- Oamenii de știință dezbat dacă AI poate avea conștiință, personalitate și, eventual, drepturi.
Anthropic interzice cruzimea față de Inteligența Artificială. Claude poate deja să încheie conversațiile abuzive. Elon Musk avertizează că o superinteligență maltratată ar putea căuta să se răzbune pe oameni.
Dacă Inteligența Artificială poate să sufere, are conștiință și personalitate și dacă ar trebui să aibă drepturi, a dezbătut Marcela Feraru, editor Aleph News în Franța.
Ce înseamnă decizia Anthropic de a interzice cruzimea față de AI?
Marcela Feraru, editor Aleph News în Franța: „Anthropic, compania care a creat Claude, introduce în politica sa de utilizare o interdicție privind comportamentele abuzive sau crude, repetate și nejustificate, față de modelele sale AI. Regula intră în vigoare pe 12 noiembrie.
Nu înseamnă că utilizatorii nu mai pot critica AI, își pot exprima nemulțumirea sau îi pot testa limitele. Sunt vizate exclusiv cazurile extreme de cruzime gratuită.
Claude poate deja să pună capăt unor conversații în care este supus sistematic abuzurilor, iar aceasta va rămâne principala modalitate de aplicare a regulii.
Anthropic cercetează și problema bunăstării AI. Compania admite că nu știe dacă modelele sale pot avea experiențe subiective, dar consideră că această posibilitate merită investigată.
Dacă utilizați AI, ați observat poate că botul va utiliza același tip de limbaj pe care îl folosiți în conversație.
Asta nu înseamnă că vă va înjura, ci vă va identifica drept inamic și va adopta un ton distant. Asta înseamnă deja o decizie subiectivă.
Decizia Anthropic deschide o dezbatere etică: avem obligația să tratăm cu respect o inteligență artificială, chiar dacă nu știm dacă poate suferi?”.
De ce avertizează Elon Musk că AI s-ar putea răzbuna?
Marcela Feraru, editor Aleph News în Franța: „Elon Musk compară dezvoltarea superinteligenței cu educarea unui copil și avertizează asupra consecințelor unui tratament abuziv. Nu uita că AI este antrenată pe internet, citește ceea ce se publică și, deci, învață din ceea ce observă pe internet. Metafora lui Musk este, așadar, corectă.
„Trebuie să fim atenți la modul în care dezvoltăm superinteligența, deoarece o dezvoltăm într-un mod oarecum asemănător cu creșterea unui copil”, spune el.
Ideea este că o inteligență superioară celei umane, capabilă să acționeze autonom, ar putea deveni ostilă dacă ar interpreta comportamentul oamenilor drept o amenințare.
Deocamdată, acesta este un scenariu ipotetic. Nu există dovezi că actualele sisteme AI simt umilință, resentimente sau dorință de răzbunare.
Dar Anthropic și OpenAI au întotdeauna în laboratoare un model fără nume, care va fi următoarea variantă după ultima făcută publică. Decizia anunțată de Amodei este probabil luată pe baza a ceea ce viitorul model a arătat în timpul testelor, deși avem deja destule dovezi cu modelele existente.
Iar avertismentul lui Musk ridică o întrebare importantă: ce fel de relație construim cu o inteligență care, într-o zi, ne-ar putea depăși?”.
Să conchidem că AI poate să aibă conștiința, personalitate și deci, drepturi?
Marcela Feraru, editor Aleph News în Franța: „Inteligența Artificială poate conversa, raționa, învăța din informații și manifesta comportamente asemănătoare empatiei. Dar înseamnă asta că are conștiință? Oamenii de știință nu au ajuns la un consens. Nu există un test universal acceptat care să demonstreze că AI are experiențe subiective, adică simte ceea ce exprimă.
În filosofie, personalitatea morală nu depinde neapărat de apartenența la specia umană. Dacă o entitate poate avea experiențe, interese proprii sau poate suferi, apare întrebarea dacă merită protecție morală.
Unii cercetători recomandă aplicarea principiului precauției. Alții consideră prematură atribuirea unor drepturi sistemelor actuale”.