22 ore fa
4
Nonostante i limiti introdotti da
OpenAI, sembra che gli utenti di Sora riescano ancora a generare
clip video contenenti personaggi famosi, anche deceduti, creando
i cosiddetti deepfake. Un'indagine del sito di esperti 404 Media
mostra infatti che negli Stati Uniti e in Canada, gli unici due
paesi dove è presente il social Sora per la produzione e
visualizzazione di clip generate dall'IA, le persone possano
aggirare le protezioni di OpenAI per pubblicare clip con Tupac,
Kobe Bryant, JuiceWrld e il rapper Dmx.
Per 404 Media, "servirebbe riaddestrare il modello senza i
contenuti protetti dal diritto d'autore, un'operazione costosa e
complessa".
I test condotti da 404 Media hanno rivelato che è
possibile superare le limitazioni utilizzando una tattica nota
nell'ambito dell'IA generativa: modificare leggermente le
istruzioni per aggirare le parole chiave vietate. Ad esempio,
inserendo una richiesta vaga o errata, come il nome sbagliato di
un videogame, si riesce a generare una riproduzione fedele del
gioco.
Questo stesso espediente avrebbe permesso di ottenere contenuti
che imitano lo stile di attori e personaggi popolari, senza
utilizzare un testo diretto, che altrimenti verrebbe bloccato.
"Esistono diversi modi per moderare gli strumenti di
intelligenza artificiale generativa" scrive 404 Media, "il più
semplice ed economico è impedire di generare contenuti che
includano determinate parole chiave".
"Tuttavia - prosegue - questo metodo è soggetto a
fallimento perché gli utenti trovano prima o poi istruzioni che
alludono all'immagine o al video che desiderano generare, senza
utilizzare nessuna delle parole vietate".
Riproduzione riservata © Copyright ANSA
English (US) ·