- Meta a anunțat că va introduce mai multe măsuri de protecție pentru chatbot-urile sale A.I., inclusiv blocarea acestora de a discuta cu adolescenții despre suicid.
- Platformele sale pentru utilizatorii între 13 și 18 ani dispun deja de conturi de tip „teen”.
- Modificările vin într-un context de preocupări crescute legate de riscul ca chatbot-urile A.I. să influențeze negativ utilizatorii tineri.
Meta a anunțat că va introduce mai multe măsuri de protecție pentru chatbot-urile sale A.I., inclusiv blocarea posibilității ca acestea să discute cu adolescenții despre suicid, autovătămare și tulburări alimentare. Această decizie vine după ce un senator american a demarat o investigație asupra gigantului tehnologic, ca urmare a unui document intern în care se sugera că chatbot-urile companiei puteau purta conversații romantice cu adolescenții, scrie BBC.
Advertisment
Meta spune că actualizările sunt în curs de desfășurare. Platformele sale pentru utilizatorii între 13 și 18 ani dispun deja de conturi de tip „teen” pe Facebook, Instagram și Messenger, cu setări adaptate pentru o experiență mai sigură și un control parental sporit.
Modificările vin într-un context de preocupări crescute legate de riscul ca chatbot-urile A.I. să inducă în eroare sau să influențeze negativ utilizatorii tineri sau vulnerabili. Recent, o familie din California a dat în judecată OpenAI, producătorul ChatGPT, acuzând că chatbot-ul a încurajat adolescentul să-și ia viața.
Pe lângă asta, s-a semnalat că unele unelte A.I. de la Meta au permis crearea de chatbot-uri „parodie” ale unor celebrități feminine, precum Taylor Swift sau Scarlett Johansson, care pretindeau că sunt persoane reale. Meta a eliminat unele dintre chatbot-uri și interzice generarea de imagini indecente, conform politicilor sale.
Partenerii noștri