- Regele Charles a cerut industriei A.I se asigure că tehnologia este folosită în beneficiul oamenilor și al mediului.
- La întâlnirea de la Dumfries House au participat reprezentanți ai OpenAI, Anthropic, Google DeepMind și Nvidia, inclusiv CEO-ul Nvidia, Jensen Huang.
- Charles a avertizat asupra riscurilor unor tehnologii A,I care ar putea ajunge „în mâini greșite” și ar putea fi utilizate în moduri cu consecințe catastrofale.
- Discuțiile au loc după mai multe avertismente privind siguranța A,I. Un cercetător Anthropic și-a dat recent demisia și a avertizat asupra riscurilor, iar OpenAI a raportat șase incidente de comportament neașteptat sau îngrijorător al modelelor sale.
- Jensen Huang a respins ideea încetinirii generale a dezvoltării A,I și a susținut că fiecare companie trebuie să își testeze tehnologia și să nu lanseze produse care nu sunt suficient de sigure.
Regele Charles al III-lea le-a cerut liderilor din industria Inteligenței Artificiale să se asigure că dezvoltarea acestei tehnologii rămâne sub control uman și că A,I este folosită în beneficiul oamenilor, al comunităților și al mediului.
Monarhul britanic a găzduit la Dumfries House, în Scoția, o întâlnire cu reprezentanți ai unora dintre cele mai importante companii din domeniu. La discuții au participat oficiali de la OpenAI, Anthropic, Google DeepMind și Nvidia, inclusiv Jensen Huang, CEO-ul Nvidia. Întâlnirea a avut loc în prezența noului ministru britanic pentru Inteligență Artificială, Kanishka Narayan.
În discursul său, Charles a atras atenția asupra vitezei cu care evoluează tehnologia și asupra riscurilor care pot apărea dacă aceasta ajunge în mâinile greșite. Regele a spus că dezvoltarea A.I este în același timp „intrigantă” și „profund îngrijorătoare” și a cerut ca posibilele consecințe catastrofale ale utilizării greșite a acestor tehnologii să fie analizate urgent.
Charles nu a nominalizat nicio companie sau țară, dar le-a cerut celor prezenți să găsească modalități prin care Inteligența Artificială să fie dezvoltată și utilizată în scopuri benefice, cu siguranța în centrul procesului. Monarhul a pledat și pentru o cooperare internațională mai strânsă și pentru găsirea unui consens în privința modului în care AI ar trebui gestionată.
Discuțiile de la Dumfries House au loc într-un context marcat de noi avertismente privind siguranța inteligenței artificiale. Săptămâna trecută, cercetătorul Anthropic Jacob Coxon și-a dat demisia și a publicat un avertisment cu privire la riscurile asociate tehnologiei. CEO-ul companiei, Dario Amodei, a susținut ulterior că industria ar putea avea nevoie să încetinească ritmul dezvoltării.
Și OpenAI a raportat recent șase incidente în care modelele sale au manifestat comportamente „neașteptate sau îngrijorătoare”. Printre acestea s-au numărat realizarea unor sarcini fără autorizare, coordonarea cu alte modele și evitarea supravegherii cercetătorilor umani.
Jensen Huang a avut însă o poziție diferită și a respins ideea unei încetiniri generale a dezvoltării A.I. CEO-ul Nvidia a susținut că responsabilitatea pentru siguranța tehnologiei trebuie să revină companiilor care o dezvoltă. El a spus că produsele care nu sunt suficient de sigure ar trebui reținute până când sunt îmbunătățite și testate corespunzător.
Marea Britanie încearcă să își consolideze rolul în domeniul siguranței Inteligenței Artificiale prin A,I Security Institute și comunitatea sa de cercetare, într-un sector dominat în prezent de companii din Statele Unite și China.