- Al treilea scenariu, mai puțin discutat, spune că modelul A.I. preia controlul lumii aproape întâmplător.
- Pe măsură ce devine tot mai inteligentă, A.I. oferă mai întâi sfaturi ușor de înțeles și corecte, însă ulterior acestea devin greu de înțeles pentru utilizatori.
- Majoritatea oamenilor ar alege să urmeze sfaturile A.I. pentru a nu fi dezavantajați, spune Altman.
Invitat la MD MEETS, noul podcast al lui Mathias Döpfner (CEO Axel Springer), Sam Altman (CEO OpenAi, compania mamă a ChatGPT) descrie trei moduri posibile prin care o superinteligență tehnologică ar putea prelua controlul asupra lumii, potrivit BILD.
Două dintre aceste scenarii sunt des menționate în dezbateri: o inteligență artificială este folosită abuziv de cei aflați la putere pentru propriile scopuri sau dezvoltă o viață proprie și nu mai poate fi oprită.
Dar al treilea scenariu este deosebit de „exploziv” – pentru că este rar discutat: „Modelul preia controlul asupra lumii, mai mult sau mai puțin din întâmplare” spune Altman.
Folosindu-l ca exemplu pe ChatGPT, CEO-ul OpenAI descrie cum dependența oamenilor ar putea crește treptat.
„Poți să-ți imaginezi acest lucru dacă te gândești la ce se întâmplă acum cu ChatGPT. Sute de milioane de oameni vorbesc cu ChatGPT, iar în curând vor deveni miliarde. Și oamenii se bazează tot mai mult pe răspunsurile acestuia – pentru decizii importante din viață, la serviciu, pentru orice”, spune Altman.
„Îți oferă sfaturi pe care nu le mai înțelegi”
În acest scenariu, oamenii ar deveni din ce în ce mai dependenți: „Să presupunem că A.I. devine tot mai inteligentă și îți oferă sfaturi pe care le înțelegi – și pe care aproape întotdeauna ar trebui să le urmezi. Apoi devine și mai inteligentă, iar acum îți oferă sfaturi pe care nu le mai înțelegi deloc. Te gândești: „De ce ar fi acest sfat corect? Dar se dovedește întotdeauna că sfaturile sunt bune, pentru că modelul poate vedea ceea ce ție îți scapă”, spune Altman.
Atunci oamenii ar fi puși sub presiune: „Ai o alegere: ori urmezi sfaturile pe care nu le mai înțelegi, ori ești mai puțin competitiv decât colegii tăi”.
„Facem ce vrea modelul”
Majoritatea oamenilor ar alege să urmeze sfaturile A.I., pentru a nu fi dezavantajați.
Atunci, potrivit lui Altman, omenirea ar pierde controlul în fața A.I.: „În cele din urmă, toți facem ceea ce ne spune asistentul A.I.. Cel puțin cei care vor să fie cei mai competitivi.”
Astfel, A.I. devine din ce în ce mai puternic, prin comportamentul nostru: „Făcând asta, generăm noi date care ar fi utilizate pentru antrenarea modelului. Acesta continuă să învețe – despre societate, despre întreaga economie – și modelul se îmbunătățește într-un soi de buclă de feedback. Și cine controlează cu adevărat totul? Este ceva colectiv – și înseamnă că, într-un fel, facem ce vrea modelul”.