La polizia effettua il primo arresto in Giappone per false immagini sessuali scattate tramite intelligenza artificiale
La polizia di Tokyo ha effettuato il primo arresto in Giappone per aver utilizzato l'intelligenza artificiale generativa per creare e vendere false immagini sessualmente esplicite di celebrità.
Il 16 ottobre, la polizia metropolitana ha dichiarato che Hiroya Yokoi, un impiegato di 31 anni di Akita, è stato arrestato con l'accusa di aver prodotto ed esposto materiale osceno, in particolare migliaia di immagini false di oltre 260 celebrità femminili.
La polizia ha dichiarato che Yokoi ha ammesso le accuse.
"La risposta degli spettatori è stata enorme e il film è diventato così popolare che ho capito che avrei potuto fare un sacco di soldi", ha dichiarato il sospettato, secondo quanto riportato dalla polizia.
Secondo la polizia, questo è il primo caso del suo genere in Giappone.
Tra le vittime ci sono più di 260 personaggi televisivi, attori, idoli e conduttori di notiziari.
Secondo la polizia, da gennaio a giugno di quest'anno, Yokoi ha creato e pubblicato immagini esplicite raffiguranti tre celebrità femminili su un sito di comunicazione online, rendendole accessibili a chiunque.
Yokoi avrebbe dichiarato agli inquirenti di aver avviato l'operazione nell'ottobre dell'anno scorso per guadagnare soldi extra con cui coprire le spese di sostentamento e saldare i prestiti studenteschi, dopo aver visto altri guadagnare denaro nello stesso modo.
AI PORNO COME LAVORO SECONDO
La polizia sospetta che Yokoi abbia utilizzato un account social media promozionale per indirizzare gli utenti a un sito in abbonamento dove ha pubblicato circa 20.000 immagini deepfake. Gli abbonati possono richiedere immagini personalizzate a un costo aggiuntivo.
Secondo fonti investigative, almeno 50 persone si sono iscritte e negli 11 mesi trascorsi da ottobre il programma gli ha fruttato circa 1,2 milioni di yen (8.000 dollari).
Secondo alcune fonti, il sospettato avrebbe creato le immagini come "lavoro secondario".
Non aveva alcuna formazione professionale in intelligenza artificiale generativa o tecnologie dell'informazione e della comunicazione, avendo imparato da solo attraverso articoli e video online.
Il software gratuito da lui utilizzato vanta la capacità di "generare immagini di alta qualità in pochi secondi".
Secondo le fonti, Yokoi ha addestrato l'IA con foto di celebrità e ha utilizzato specifici "suggerimenti" di testo per generare la vasta libreria di immagini.
TENDENZE GLOBALI, LACUNE LEGALI
Questa facilità d'uso ha contribuito all'aumento globale dei deepfake a sfondo sessuale.
Uno studio condotto da un'azienda di sicurezza statunitense ha individuato 95.820 video deepfake online nel 2023, ovvero un aumento di 5,5 volte rispetto a quattro anni fa, il 98% dei quali era di natura sessuale.
In risposta, gli Stati Uniti, la Gran Bretagna e altri paesi hanno inasprito le loro normative.
La Corea del Sud ha inasprito le sanzioni lo scorso settembre, rendendo punibile non solo la creazione, ma anche il possesso e la visualizzazione di deepfake a sfondo sessuale.
Tuttavia, attualmente in Giappone non esiste una legge specifica che regoli i deepfake a sfondo sessuale, costringendo le autorità ad agire nel rispetto della legislazione vigente.
Le forze dell'ordine giapponesi si trovano ad affrontare il grande ostacolo di ottenere prove oggettive che dimostrino che un'immagine generata dall'intelligenza artificiale "possieda legalmente" l'identità della persona che ritrae.
L'apertura di un'indagine per diffamazione richiede una denuncia da parte della vittima, che spesso non è a conoscenza dell'esistenza di immagini deepfake. Quando si rende conto di essere stata rappresentata ingiustamente, le immagini si sono già diffuse ampiamente.
"I creatori possono farlo con noncuranza, ma le vittime subiscono danni alla reputazione e possono subire danni psicologici e finanziari", ha affermato un investigatore giapponese. "Dobbiamo tenere sotto controllo le aziende che abusano dell'intelligenza artificiale generativa".
