- Beijingul propune reguli care interzic conținutul ce poate provoca suicid, automutilare sau dependență emoțională.
- Chatboturile nu vor putea genera materiale despre jocuri de noroc, violență sau obscenități.
- Regulile includ obligativitatea intervenției umane la semne de risc și protecții speciale pentru minori.
Autoritățile din China au anunțat un proiect de reglementare ambițios pentru chatboturile bazate pe inteligență artificială, vizând aplicațiile capabile să interacționeze emoțional cu utilizatorii și să imite personalitatea umană. Inițiativa, elaborată de Cyberspace Administration of China, ar putea deveni primul cadru legal de acest tip la nivel mondial, concentrându-se pe siguranța emoțională a utilizatorilor și pe prevenirea riscurilor psihologice asociate cu AI-ul conversațional, conform CNBC.
Potrivit proiectului, serviciile AI care folosesc text, imagini, sunet sau video pentru a simula interacțiuni umane nu vor avea voie să genereze conținut care să încurajeze suicidul, automutilarea, violența verbală sau manipularea emoțională dăunătoare. De asemenea, chatboturile vor fi restricționate să producă materiale legate de jocuri de noroc, violență sau obscenități.
Un element cheie al noilor reguli este obligația furnizorilor de tehnologie de a transfera conversațiile către operatori umani și de a contacta un tutore sau o persoană desemnată imediat ce utilizatorul exprimă intenții suicidare. În plus, pentru protejarea minorilor, utilizarea AI-ului cu rol de companie emoțională va necesita consimțământul unui tutore și va fi supusă unor limite de timp, iar platformele trebuie să determine dacă un utilizator este minor chiar și în absența unei declarații explicite privind vârsta.
Regulile includ și alte cerințe de siguranță: furnizorii trebuie să reamintească utilizatorilor după două ore de interacțiune continuă cu un chatbot și să efectueze evaluări de securitate pentru serviciile cu peste un milion de utilizatori înregistrați sau 100.000 de utilizatori activi lunar. În același timp, autoritățile încurajează utilizarea AI-ului cu caracter uman în scopuri benefice, cum ar fi promovarea culturii sau sprijinul pentru persoanele în vârstă.
Această inițiativă vine într-un moment crucial pentru industria AI din China, unde startupuri importante din domeniul chatboturilor au depus recent documentația pentru listări la bursele din Hong Kong, subliniind tensiunea dintre reglementare și inovație.