Președintele Microsoft cere reglementarea urgentă a Inteligenței Artificiale: „Până și laptele și mașinile de spălat sunt mai reglementate”

• Brad Smith cere reguli internaționale urgente pentru controlul riscurilor asociate inteligenței artificiale și dezvoltarea unor standarde comune de siguranță.
• Sistemele AI trebuie să aibă mecanisme de oprire de urgență, care să permită intervenția rapidă atunci când tehnologia devine periculoasă, spune Brad Smith.
• Mai mulți lideri ai industriei tehnologice, inclusiv Elon Musk și Bill Gates, au atras atenția asupra riscurilor Inteligenței Artificiale.

Președintele și vicepreședintele Microsoft, Brad Smith, avertizează că Inteligența Artificială beneficiază, în prezent, de mai puține reglementări de siguranță decât produse de larg consum, precum laptele din supermarket sau mașinile de spălat. Acesta solicită adoptarea urgentă a unui set de reguli internaționale care să limiteze riscurile asociate dezvoltării și utilizării tehnologiei AI.

Într-un interviu acordat BBC, Smith a subliniat necesitatea evaluării independente a sistemelor de Inteligență Artificială și a insistat asupra obligațiilor legale pe care le au companiile privind raportarea incidentelor și notificarea persoanelor afectate de acțiunile unor agenți AI.

Oficialul Microsoft propune, totodată, introducerea unor mecanisme de oprire de urgență pentru sistemele care devin periculoase, precum și instituirea unor proceduri obligatorii de raportare a incidentelor.

„În acest moment, mașina ta de spălat este supusă unor reguli de siguranță mai stricte decât Inteligența Artificială. Fiecare cutie de lapte din supermarket este supusă unor reguli de siguranță și unor inspecții”, a declarat Brad Smith.

Avertismentul vine pe fondul dezvoltării accelerate a agenților AI, capabili să execute sarcini complexe și să interacționeze cu sisteme informatice, ceea ce sporește riscurile generate de erori și comportamente neprevăzute. Companii precum OpenAI și Anthropic au început să facă publice tot mai multe informații despre astfel de manifestări ale agenților AI, în timp ce cercetătorii atrag atenția asupra riscurilor pe termen lung pe care le-ar putea genera dezvoltarea unor sisteme de inteligență artificială avansate, fără mecanisme adecvate de control.

Totodată, mai mulți lideri ai industriei tehnologice, inclusiv Elon Musk și Bill Gates, au atras atenția asupra riscurilor Inteligenței Artificiale.

Gates, cofondator al Microsoft, a lansat un „scenariu apocaliptic” în care Inteligența Artificială, ajunsă în mâinile unor oameni rău intenționați, ar putea declanșa evenimente „cu un bilanț de până la un miliard de morți”. Totodată, Gates a cerut cooperare internațională și mecanisme de supraveghere a modelelor cu potențial periculos, inclusiv printr-o organizație internațională dedicată monitorizării acestei tehnologii.

La rândul său, Elon Musk, CEO-ul Tesla și SpaceX și cel mai bogat om din lume, avertizează de ani de zile asupra riscurilor dezvoltării necontrolate a Inteligenței Artificiale.

În 2023, acesta s-a numărat printre semnatarii unei scrisori deschise care solicita o pauză de șase luni în dezvoltarea sistemelor AI mai puternice decât GPT-4, pentru stabilirea unor protocoale de siguranță.

În iulie 2026, Musk a propus ca marile companii din domeniu să își supună reciproc modelele avansate unor evaluări înainte de lansare, iar autoritățile să intervină dacă riscurile grave nu sunt remediate.