Cine răspunde când Inteligența Artificială greșește? O profesoară de drept propune licențe pentru inginerii A.I. și cursuri de etică

• Companiile A.I. ar putea răspunde pentru daune.
• Inginerii A.I. ar putea avea licențe profesionale.
• Un cod etic ar putea impune limite dezvoltatorilor.
• Propunerea include cursuri obligatorii de etică.

Inteligența Artificială poate să-ți facă treaba, dar cine răspunde când o face greșit?

Produsele A.I. pe care le folosește firma ta ar putea ajunge să fie construite doar de ingineri licențiați, ca medicii sau avocații. Ideea vine după demisia lui Jacob Coxon de la Anthropic, care readuce în discuție cine răspunde când un sistem A.I. greșește: compania sau inginerul.

Coxon a fost, pe 5 octombrie, la o audiere a unei comisii a Consiliului Local din New York, despre riscurile și reglementarea Inteligenței Artificiale. Propunerea vine de la Chinmayi Sharma, profesoară de drept la Fordham: licențe pentru ingineri, curs obligatoriu de etică și standarde de practică. O greșeală de bază într-un sistem A.I. de viață și de moarte ar însemna malpraxis, iar inginerul ar avea un cadru în care să refuze un proiect nesigur, cum refuză un medic sau un arhitect anumite servicii.

Motivul e din industrie. Potrivit New York Times, doi angajați OpenAI au avertizat conducerea cu luni înainte ca unii agenți ai companiei să iasă de sub control, iar răspunsul a fost că testele trebuie să meargă cât mai repede, ca modelele să apară la timp. Într-o industrie în care lansarea rapidă are prioritate, profesionalizarea ar pune siguranța și răspunderea mai aproape de momentul în care se decide dacă un produs iese pe piață.

Propunerea nu înlocuiește legea, ci o completează.