Sam Altman și Dario Amodei avertizează ONU asupra riscurilor inteligenței artificiale: „A.I. poate deveni un pericol pentru omenire”

• Sam Altman spune că A.I. trebuie să rămână sub controlul oamenilor.
• Dario Amodei cere reguli globale pentru testarea modelelor A.I..
• Liderii OpenAI și Anthropic avertizează asupra riscurilor biologice și a pierderii controlului.

Inteligența artificială a ajuns oficial în centrul discuțiilor despre securitatea globală. Sam Altman, CEO-ul OpenAI, și Dario Amodei, CEO-ul Anthropic, au vorbit miercuri în fața Consiliului de Securitate al ONU despre riscurile și beneficiile unei tehnologii care devine tot mai puternică și mai autonomă.

Altman a susținut că lumea se află în fața unei alegeri: A.I. poate deschide o nouă perioadă de creativitate și descoperiri sau poate provoca perturbări majore dacă dezvoltarea sa scapă de sub control. Șeful OpenAI a cerut ca sistemele A.I. să rămână sub control uman și ca deciziile importante legate de tehnologie să nu fie luate doar de companiile care o dezvoltă.

Conform The Guardian, Altman a pledat pentru o „cale de mijloc” între optimismul necondiționat și scenariile catastrofale. El a spus că A.I. ar trebui să aducă beneficii oamenilor, de la medicină și educație până la creșterea productivității, dar că guvernele trebuie să participe la stabilirea regulilor.

Dario Amodei a avut un mesaj mai dur. CEO-ul Anthropic a avertizat că, dacă este gestionată prost, inteligența artificială ar putea deveni „un risc pentru omenire în ansamblu”. El a cerut inclusiv un acord internațional care să interzică utilizarea A.I. pentru dezvoltarea armelor biologice și standarde globale pentru testarea noilor modele înainte ca acestea să fie lansate.

Amodei a spus și că Anthropic este pregătită să încetinească dezvoltarea unor sisteme dacă siguranța lor nu poate fi garantată. El a avertizat că modelele devin atât de capabile încât, în viitor, oamenii ar putea avea dificultăți în a le controla.

Discuția de la ONU arată că inteligența artificială nu mai este tratată doar ca o problemă tehnologică sau economică. Riscurile legate de arme biologice, atacuri cibernetice, sisteme autonome și concentrarea puterii tehnologice au transformat A.I. într-o temă de securitate internațională.