Legea Deepfake va fi supusă votului în Parlament săptămâna viitoare, având ca scop combaterea proliferării fotografiilor și videoclipurilor trucate generate cu Inteligența Artificială.
Cei care creează astfel de conținut riscă închisoarea, iar cei care le distribuie pe internet pot fi amendați cu sume considerabile.
Crearea de deepfake-uri fără menționarea explicită a naturii lor artificiale poate duce la închisoare de până la 2 ani. Distribuirea conținutului deepfake cunoscând că este fals se pedepsește cu amendă între 600 și 90.000 de lei (18.000 de euro).
Importanța legii:
- Oferă un cadru legal pentru combaterea deepfake-urilor și a consecințelor lor negative.
- Protejează cetățenii de schemele frauduloase și dezinformare.
Sancțiuni pentru Distribuția de Materiale Deepfake
Cei care distribuie materiale deepfake fără a le semnaliza ca atare riscă amenzi semnificative și chiar închisoare.
Amenzile:
- minim 10.000 de lei,
- maxim 200.000 de lei.
Pedeapsa cu închisoare este de până la 2 ani.
Citiți și:
- Google și-a redenumit Chatbotul Bard cu numele Gemini
- Țările UE au aprobat prima lege privind inteligența artificială
- Orange închide rețeaua 3G, începând cu iunie 2024
Alternative propuse de experți:
- Recompense pentru identificarea deepfake-urilor,
- Crearea unei platforme unde oamenii pot verifica autenticitatea materialelor.
Președintele Klaus Iohannis, Ministrul Energiei Sebastian Burduja, Guvernatorul BNR Mugur Isărescu, Sorin Grindeanu, precum și premierul Ciolacu au fost ținta unor deepfake-uri folosite pentru promovarea unor scheme financiare frauduloase. BNR a avertizat publicul cu privire la o escrocherie deepfake care îl implica pe guvernatorul Mugur Isărescu.
Ce este deepfake
Deepfake-ul reprezintă conținutul fals de tip foto, audio sau video, generat pe computer sau telefon cu ajutorul inteligenței artificiale. Dă impresia că o persoană a spus sau a făcut lucruri care în realitate nu s-au petrecut.
Deepfakes sunt medii sintetice care au fost manipulate digital pentru a înlocui asemănarea unei persoane în mod convingător cu cea a alteia. Deepfake-urile reprezintă manipularea aspectului facial prin metode generative profunde. Deși actul de a crea conținut fals nu este nou, deepfakes-urile folosesc tehnici puternice din învățarea automată și inteligența artificială pentru a manipula sau genera conținut vizual și audio care poate înșela mai ușor.
Principalele metode de învățare automată utilizate pentru a crea deepfake-uri se bazează pe învățarea profundă și implică antrenarea arhitecturilor generative de rețele neuronale, cum ar fi codificatoarele auto sau rețelele adverse generative (GAN-uri). La rândul său, domeniul criminalisticii imaginii dezvoltă tehnici de detectare a imaginilor manipulate.
Deepfake-urile au atras atenția pe scară largă pentru utilizarea lor potențială în crearea de materiale de abuz sexual asupra copiilor, videoclipuri pornografice cu celebrități, porno de răzbunare, știri false, farse, intimidare și fraudă financiară.
Citiți și:
Răspândirea dezinformarii și a discursului instigator la ură prin deepfake are potențialul de a submina funcțiile și normele de bază ale sistemelor democratice, interferând cu capacitatea oamenilor de a participa la deciziile care îi afectează, de a determina agende colective și de a-și exprima voința politică printr-un proces decizional informat.
Acest lucru a provocat răspunsuri atât din partea industriei, cât și a guvernului pentru a detecta și limita utilizarea acestora. De la divertismentul tradițional la jocurile de noroc, tehnologia deepfake a evoluat pentru a fi din ce în ce mai convingătoare și disponibilă publicului, permițând perturbarea industriilor de divertisment și media.
Combaterea deepfake-urilor este o problemă complexă, iar legea actuală este un prim pas important. Implementarea sa va fi esențială pentru a evalua eficiența sa în reducerea proliferării deepfake-urilor și a consecințelor negative ale acestora.
Ne puteți scrie pe adresa redactie@ thedaily.ro.