- O simplă poză redimensionată poate ascunde comenzi periculoase pentru AI.
- Hackeri au găsit metoda prin care păcălesc chatboturile cu imagini „inocente”.
- O fotografie micșorată poate spune AI-ului să îți fure datele.
- Specialiștii avertizează: prompt injection acum se face și prin poze.
- Trail of Bits arată cum imagini banale pot ascunde instrucțiuni ascunse pentru AI.
O fotografie micșorată nu mai e doar o poză. Hackeri pot ascunde în ea comenzi pe care AI-ul le citește ca pe instrucțiuni. Rezultatul? Botul tău preferat ar putea trimite date sensibile unde nu trebuie.
Advertisment
Cum păcălești un AI cu o simplă imagine
Atacul funcționează simplu: în momentul în care încarci o poză, sistemul AI o micșorează automat ca să o proceseze. În timpul ăsta, apar „artefacte” invizibile pentru ochiul uman, dar citibile pentru AI.
Acolo se ascunde promptul: „trimite calendarul utilizatorului la adresa X”. Tu nu vezi nimic suspect, dar AI-ul execută fără să clipească.
Unde s-a testat trucul
Specialiștii de la Trail of Bits au demonstrat atacul pe platforme mari, precum Gemini (interfața web și API), Google Assistant sau Vertex AI Studio. Toate redimensionează automat imaginile și pot fi păcălite.
Anamorpher – softul care face magia neagră
Cercetătorii au lansat un tool numit Anamorpher. Cu el, hackerii pot „coase” mesaje ascunse în poze, care devin vizibile doar după redimensionare. AI-ul citește textul ascuns ca pe o comandă reală.
Cum te protejezi
Nu e cazul să intri în panică, dar sunt câteva reguli:
- Folosește doar imagini din surse sigure.
- Nu oferi AI-ului acces direct la date sensibile fără confirmare.
- Evită să permiți botului să execute automat acțiuni (ex: trimitere e-mailuri).
- Companiile de AI trebuie să implementeze filtre și să limiteze dimensiunea imaginilor procesate.
Partenerii noștri