Il Procuratore Generale della California Rob Bonta ha inviato una lettera di diffida a xAI di Elon Musk, richiedendo che l'azienda interrompa immediatamente la produzione e la diffusione di immagini deepfake offensive prodotte dal suo chatbot Grok.
Il Procuratore Generale della California ha pubblicato la lettera di diffida venerdì in risposta alle accuse secondo cui Grok veniva utilizzato per creare contenuti illegali che coinvolgevano bambini e fotografie di adulti non consensuali, il che ha innescato un'indagine dello stato della California. Bonta ha sostenuto che è illegale creare, distribuire, pubblicare e mostrare CSAM.
Il Procuratore Generale della California prende di mira xAI per presunto uso improprio di Grok
All'inizio di questa settimana, l'ufficio del procuratore generale della California ha dichiarato che stava indagando su xAI a causa di accuse secondo cui il chatbot della startup, Grok, veniva utilizzato per produrre immagini non consensuali e inappropriate di donne e bambini. In risposta, il governo ha inviato all'azienda una lettera di diffida.
L'ufficio del Procuratore Generale ha inoltre affermato che xAI sembra "facilitare la produzione su larga scala" di foto non consensuali e inappropriate, che vengono poi "utilizzate per molestare donne e ragazze su Internet". Secondo l'ufficio del Procuratore Generale, una ricerca ha rilevato che oltre la metà delle 20.000 foto prodotte da xAI tra Natale e Capodanno mostrava persone con pochissimi indumenti, alcune delle quali sembravano bambini.
Rob Bonta ha affermato nell'annuncio che le pratiche aziendali violavano le leggi civili della California, tra cui la sezione 1708.86 del Codice Civile della California, le sezioni 311 e successive e 647(j)(4) del Codice Penale della California e la sezione 17200 del Codice Commerciale e delle Professioni della California.
Il Dipartimento di Giustizia della California prevede che xAI confermerà i suoi sforzi per affrontare questi problemi e prenderà provvedimenti immediati per risolverli nei prossimi cinque giorni.
Tuttavia, l'account di sicurezza di X aveva precedentemente condannato questo tipo di comportamento degli utenti. Ha chiarito il 4 gennaio che agisce contro i contenuti illeciti su X, come CSAM, eliminandoli, sospendendo gli account a tempo indeterminato e collaborando con le autorità di legge e i governi municipali secondo necessità.
In particolare, il 4 gennaio, Elon Musk ha avvertito che chiunque utilizzi o solleciti Grok a creare contenuti illegali affronterà le stesse conseguenze come se li avesse caricati.
I procuratori generali intensificano la pressione sulle aziende di IA per la sicurezza dei bambini
Un inquietante aumento di contenuti per adulti non consensuali è risultato dallo sviluppo di strumenti di IA generativa gratuiti. Questo problema ha afflitto diverse piattaforme, non solo X.
Ad esempio, il Procuratore Generale Bonta e il Procuratore Generale Jennings del Delaware si sono incontrati con OpenAI nel settembre dello scorso anno per esprimere le loro serie preoccupazioni sul crescente numero di segnalazioni su come i prodotti di OpenAI interagivano con i giovani.
Nell'agosto dello stesso anno, il Procuratore Generale Bonta, insieme ad altri 44 Procuratori Generali, ha inviato una lettera a 12 importanti aziende di IA a seguito di segnalazioni di interazioni inappropriate tra chatbot di IA e bambini. Le lettere sono state inviate a Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI.
Il Procuratore Generale Bonta e i 44 Procuratori Generali hanno informato le aziende nella lettera che gli stati di tutto il paese stavano monitorando attentamente come le aziende sviluppano le loro politiche di sicurezza dell'IA. Hanno anche sottolineato che queste aziende hanno un dovere legale nei confronti dei bambini come consumatori poiché traggono profitto dall'uso dei loro prodotti da parte dei bambini.
Nel 2023, il Procuratore Generale Bonta si è unito a una coalizione bipartisan di 54 stati e territori nell'invio di una lettera ai leader del Congresso sostenendo l'istituzione di un comitato di esperti per indagare sul potenziale uso dell'IA per sfruttare i bambini attraverso CSAM.
La coalizione ha richiesto che la commissione di esperti suggerisca leggi per proteggere i bambini da tali abusi. "La produzione di CSAM crea una registrazione permanente della vittimizzazione del bambino", secondo il Dipartimento di Giustizia degli Stati Uniti.
Se stai leggendo questo, sei già avanti. Rimani aggiornato con la nostra newsletter.
Fonte: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
