- Sute de utilizatori ar fi cerut modelelor AI informații despre producerea și folosirea unor otrăvuri sau arme biologice.
- Experți consultați de The Wall Street Journal au considerat că unele răspunsuri generate erau corecte și periculoase.
- OpenAI susține că blochează conturile implicate, monitorizează tentativele de abuz și alertează autoritățile când identifică un pericol iminent și credibil.
Modele avansate de inteligență artificială le-au oferit unor utilizatori informații periculoase despre producerea și utilizarea otrăvurilor și armelor biologice, potrivit unei investigații publicate de The Wall Street Journal.
Jurnaliștii americani susțin că, după îmbunătățirea capacităților ChatGPT, sute de persoane din întreaga lume au început să formuleze solicitări legate de substanțe toxice, agenți biologici și posibile atacuri. Unele conversații ar fi generat explicații detaliate, evaluate ulterior de specialiști în biologie și terorism ca fiind suficient de precise pentru a reprezenta un risc real.
Cazurile analizate scot în evidență dificultatea companiilor de inteligență artificială de a menține un echilibru între accesul la informații științifice legitime și blocarea solicitărilor care urmăresc provocarea unor vătămări.
Potrivit WSJ, utilizatorii au reușit uneori să ocolească sistemele de siguranță prin conversații mai lungi sau prin reformularea repetată a întrebărilor. Fenomenul nu ar fi limitat la ChatGPT, solicitări similare fiind adresate și altor chatboți importanți.
OpenAI a transmis că își antrenează modelele să refuze instrucțiunile care pot provoca vătămări, efectuează evaluări de siguranță înaintea lansării și poate suspenda utilizatorii care încalcă regulile. Compania afirmă, de asemenea, că folosește sisteme automate și evaluatori umani pentru identificarea tentativelor de utilizare abuzivă în domeniul biologic.
Conturile despre care s-a stabilit că au solicitat informații privind otrăvuri sau arme biologice au fost blocate. WSJ relatează însă că autoritățile nu au fost anunțate în toate situațiile, în condițiile în care legislația federală americană nu obligă în prezent companiile AI să raporteze fiecare întrebare periculoasă adresată unui chatbot.
OpenAI precizează că poate contacta autoritățile atunci când o conversație indică un risc iminent și credibil pentru alte persoane. Discuțiile privind noi reguli de raportare și supraveghere se intensifică pe măsură ce modelele devin mai performante în biologie, chimie și alte domenii cu utilizare dublă.
Investigația arată că dezvoltarea rapidă a inteligenței artificiale aduce beneficii importante pentru cercetare și medicină, dar și riscul ca aceleași capacități să fie exploatate de persoane care urmăresc să producă vătămări.