- Noile modele de AI sunt capabile să genereze documente false
- Un polonez a creat documente care au păcălit platformele online
- El spune că verificarea identității online nu e deloc sigură
- OpenAI a reprogramat ChatGPT să nu mai genereze documente false
- Chatboții performanți pot falsifica și bonuri fiscale și chitanțe
Inteligența artificială e mană cerească și pentru infractori
Advertisment
Modele de AI generativă, precum GPT-4o de la OpenAI, nu sunt doar fun and games când vine vorba de generarea imaginilor. Pe lângă distracție și creativitate, aceste modele ridică probleme serioase legate de drepturile de autor și de potențialul lor de a crea confuzii între real și fals.
Un pașaport fals în 5 minute
Un exemplu alarmant vine de la cercetătorul polonez Borys Musielak, care a demonstrat că poate genera în doar cinci minute o copie aproape perfectă a unui pașaport folosind GPT-4o. Documentul falsificat era suficient de realist încât să păcălească sistemele automate de verificare a identității (KYC), folosite de multe platforme online.
Asta a arătat slăbiciunile proceselor de verificare bazate doar pe imagini statice și selfie-uri, fără măsuri suplimentare de securitate, cum ar fi scanarea cipului pașapoartelor biometrice.
Bonuri fiscale false, create cu imperfecțiuni realiste
Deși OpenAI a reacționat rapid, ajustând ChatGPT pentru a respinge cererile de creare a documentelor false. Totuși, infracțiuni precum furtul de identitate, solicitările frauduloase de credit sau crearea de conturi false pot avea efecte devastatoare pentru sectoarele bancare și de asigurări.
Un alt fenomen îngrijorător este generarea de chitanțe și bonuri fiscale false de o calitate remarcabilă, care imită imperfecțiuni ca petele de ulei sau cutele hârtiei.
Acest lucru facilitează comiterea de fraude prin solicitarea de rambursări pentru cheltuieli inexistente, mai ales în condițiile în care multe instituții acceptă fotografii ale bonurilor în locul originalelor.
Partenerii noștri