- AI agents necesită acces extins la date personale, inclusiv informații financiare, mesaje private și calendare, ceea ce ridică riscuri majore de securitate și confidențialitate.
- Permisiunile AI pot fi similare cu cele de tip „root”, oferind acces profund la dispozitive și aplicații, ceea ce poate crea vulnerabilități critice.
- Integrarea AI în aplicații de mesagerie securizate precum Signal ar putea compromite criptarea end-to-end, punând în pericol confidențialitatea utilizatorilor.
În cadrul conferinței SXSW 2025 de la Austin, Texas, Meredith Whittaker, președinta Fundației Tehnologice Signal, a atras atenția asupra riscurilor semnificative pe care le prezintă inteligența artificială agentică (AI agents) în ceea ce privește securitatea și confidențialitatea datelor utilizatorilor.
Ce este AI agents?
AI agents se referă la sisteme IA capabile să îndeplinească sarcini în mod autonom, fără intervenție directă. Aceste sisteme promit să gestioneze activități precum rezervarea biletelor la evenimente, programarea în calendare și trimiterea de mesaje, etc.
Riscurile asociate AI agentic
Whittaker a subliniat că, pentru a îndeplini astfel de sarcini, AI agents necesită acces extins la datele personale ale utilizatorilor, inclusiv:
- Informații financiare, ca să efectueze plăți sau achiziții online
- Date din calendar, pentru a programa evenimente
- Mesaje personale, cu scopul a trimite invitații sau notificări
Acest nivel de acces ar putea necesita permisiuni similare cu cele de tip „root”, ceea ce permite AI-ului să interacționeze cu baze de date și aplicații, semne pot ridica probleme majore de securitate și confidențialitate.
Implicarea aplicațiilor de mesagerie securizate
Integrarea AI agents în aplicații de mesagerie securizate, precum Signal, ar putea compromite confidențialitatea mesajelor criptate. Pentru a trimite mesaje sau a rezuma conversații, AI ar trebui să acceseze conținutul mesajelor, ceea ce poate pune la risc măsurile de securitate existente.