Trendul AI care creează caricaturi colorate, bazate pe informațiile pe care un chatbot le deține despre o persoană, ridică semnale serioase de securitate, avertizează experții în cibernetică, transmite Ultimelestiri.md cu referire la stirileprotv.ro.
Utilizatorii trimit fotografii cu ei înșiși, alături de logo-uri de companie sau detalii despre funcția lor, și cer chatbotului să genereze caricaturi care reflectă identitatea și rolul lor profesional.
Experții în securitate explică pentru Euronews Next că astfel de provocări pe rețele sociale pot oferi escrocilor o adevărată „comoară” de informații. O singură imagine, combinată cu date personale, poate dezvălui mult mai mult decât își dau seama utilizatorii.
„Fără să vrei, le faci treaba infractorilor – le oferi o reprezentare vizuală a identității tale”, avertizează Bob Long, vicepreședinte la compania de autentificare a vârstei Daon.El subliniază că însăși formularea provocării ar trebui să ridice semnale de alarmă, pentru că „pare concepută de un escroc care vrea să-și facă munca mai ușoară.”
Ce se întâmplă cu imaginile odată încărcate
Când sunt trimise unui chatbot AI, imaginile sunt analizate pentru a extrage date despre emoții, mediu sau locație, explică consultantul în securitate Jake Moore. Ulterior, aceste informații pot fi păstrate pentru o perioadă necunoscută.
Long menționează că imaginile colectate pot fi folosite pentru antrenarea generatoarelor de imagini AI, ca parte a seturilor de date ale sistemelor.
O breșă de securitate la o companie precum OpenAI ar putea permite ca imagini și date personale să ajungă în mâinile infractorilor, care le-ar putea exploata pentru conturi false sau deepfake-uri realiste, avertizează Charlotte Wilson, șefa departamentului enterprise la Check Point, companie israeliană de securitate cibernetică.
„Selfie-urile permit trecerea de la escrocherii generice la impersonări personalizate, foarte convingătoare”, adaugă ea.
Setările de confidențialitate OpenAI menționează că imaginile încărcate pot fi folosite pentru îmbunătățirea și antrenarea modelului, dar ChatGPT precizează că acest lucru nu înseamnă că fiecare fotografie ajunge într-o bază de date publică.
Cum să participi în siguranță la trendurile AI fără să îți pui datele în pericol
Chatbot-ul precizează că folosește modelele generate din conținutul utilizatorilor pentru a rafina modul în care sistemul creează imagini, dar asta nu înseamnă că tot ce încarci rămâne privat.
Pentru cei care vor să urmeze tendințele AI, experții recomandă precauție maximă. Charlotte Wilson avertizează: evitați încărcarea imaginilor care dezvăluie informații de identificare. „Decupează strâns, păstrează fundalul simplu și nu include ecusoane, uniforme, șnururi de lucru sau indicii despre angajator sau locație”, spune ea.
De asemenea, instrucțiunile (prompts) nu trebuie să conțină date personale sensibile, precum titlul postului, orașul sau compania la care lucrezi.
Jake Moore recomandă să verifici înainte setările de confidențialitate, inclusiv opțiunea de a exclude datele tale din antrenamentul AI. OpenAI oferă un portal de confidențialitate unde utilizatorii pot să se dezaboneze de la antrenarea datelor AI prin „do not train on my content” („nu antrena pe baza conținutului meu”).
În plus, pentru conversațiile text cu ChatGPT, se poate dezactiva opțiunea „improve the model for everyone” („îmbunătățește modelul pentru toată lumea”).
Conform legislației UE, utilizatorii pot solicita ștergerea datelor personale colectate. Totuși, OpenAI avertizează că poate păstra anumite informații chiar și după ștergere pentru a gestiona fraude, abuzuri și probleme de securitate.
