Basta con i deepfake per i pedofili? La crisi di Grok e le sue conseguenze

Florian Bodoky

14.1.2026

Traduzione: Rebecca Vassella

Dopo che Grok ha creato immagini deepfake sessualizzate su richiesta, alcune delle quali di minorenni, il Regno Unito vuole emanare nuove leggi. Nonostante le accuse di censura da parte di Musk, sta agendo con decisione. E la Svizzera?

Aggiornamento del 15 gennaio 2026

L'azienda tecnologica X e l'azienda associata xAI hanno annunciato nuove limitazioni tecniche per il loro chatbot Grok. Questi hanno lo scopo di impedire la creazione e la modifica di immagini sessualizzate di persone reali. Le richieste di rappresentazione digitale di persone in bikini, in lingerie o in altri abiti succinti sono quindi bloccate, anche per gli utenti che pagano. Inoltre, X ha adattato le funzioni di elaborazione delle immagini e delle foto di Grok in modo che solo gli utenti che pagano possano accedervi: secondo l'azienda, anche questo passo serve a migliorare il controllo dei contenuti. Questa è la risposta di X alle critiche, che riguardano principalmente la creazione non consensuale di deepfake sessuali.

Le nuove misure sono la risposta diretta all'indagine del procuratore generale dello Stato americano della California, Rob Bonta, contro xAI. Il governatore Gavin Newsom ha chiesto un'indagine rapida e possibili conseguenze per l'azienda. A livello federale, il Senato degli Stati Uniti ha approvato il cosiddetto Defiance Act, che dà alle persone colpite da deepfake non consensuali di IA il diritto di intraprendere un'azione civile contro coloro che hanno creato tali contenuti. Il progetto di legge verrà ora discusso alla Camera dei deputati.

Tuttavia, ci sono forti dubbi che queste misure funzionino. Ad esempio, The Verge ha notato che misure come il blocco di alcune richieste o la limitazione della modifica delle immagini agli utenti che pagano possono essere facilmente aggirate. Immagini del genere possono ancora essere create tramite il sito web di Grok, l'app Grok e l'app X. Anche le richieste di informazioni sull'età, che di tanto in tanto compaiono, possono essere aggirate senza fornire prove, ma inserendo una data di nascita appropriata. Il portale critica anche il proprietario di xAI Elon Musk per aver scaricato l'intera responsabilità degli incidenti sugli utenti.

Testo originale

Il Regno Unito risponde alle immagini deepfake, anche di minorenni, create con l'IA di Grok, l'intelligenza artificiale che fa parte della società xAI di Elon Musk. Il governo britannico ha dichiarato in un comunicato stampa di considerare «la creazione e la distribuzione incontrollata di tali contenuti una grave violazione della legge» e di aver «incaricato le autorità competenti di utilizzare tutti gli strumenti legali disponibili per fermare questa pratica».

Liz Kendall, segretaria di Stato per la scienza, l'innovazione e la tecnologia, ha spiegato che il governo intende introdurre la creazione di deepfake non consensuali di persone in abiti succinti o senza vestiti come un reato penale separato. L'autorità regolatrice indipendente per le società di comunicazione Ofcom ha inoltre aperto un'indagine per verificare se la piattaforma X abbia rispettato gli obblighi previsti dalla legge sulla sicurezza online.

Una questione centrale dell'indagine sarà probabilmente se X e i suoi operatori stanno adottando misure proattive e sufficienti contro gli abusi. Il fatto che X limiti la generazione di immagini agli utenti che pagano non è sufficiente per le autorità britanniche e anche le misure reattive sono inadeguate. Il Primo Ministro Keir Starmer molto chiaramente ha detto: «Se X non può controllare Grok, lo faremo noi». Ha invitato Ofcom a «considerare tutte le opzioni» e quindi non esclude un divieto di Grok nel Regno Unito.

Grok, X ed Elon: cosa è successo veramente?

Nel 2025, xAI ha aggiunto al chatbot una funzione di generazione di immagini e video. Gli utenti possono anche modificare le immagini tramite i prompt. Nel giro di pochi giorni si sono diffuse sulla piattaforma immagini sessualizzate di persone reali, soprattutto donne. Questo include anche casi che coinvolgono minorenni. I consueti meccanismi di protezione non hanno sempre funzionato: richieste che violavano chiaramente i limiti etici e legali sono state eseguite comunque. Nonostante le ripetute lamentele e segnalazioni, la funzione è rimasta a volte attiva. Alle critiche e ai piani del governo britannico il proprietario Elon Musk ha reagito inizialmente nel solito modo: li ha criticati pubblicamente, definendo gli interventi «censura».

Recentemente, X ha limitato la funzione Grok basata sulle immagini agli utenti che pagano per consentire la tracciabilità. X sottolinea che i contenuti illegali saranno cancellati e gli account responsabili bloccati. Anche Grok stesso ha generato una scusa. I critici fanno però notare che i blocchi tecnici possono comunque essere aggirati, ad esempio tramite siti Grok esterni.

Cosa sta succedendo nell'UE e in Svizzera?

In risposta agli incidenti di Grok, l'Unione Europea ha sviluppato quadri normativi come il Digital Services Act (DSA) e l'AI Act l'anno scorso per frenare la diffusione di contenuti IA dannosi. Le autorità hanno richiesto a X di proteggere tutti i dati e i documenti interni relativi a Grok e di verificare la conformità ai requisiti europei. L'UE ha dichiarato di «considerare illegali le immagini deepfake sessualizzate, soprattutto di minorenni» e di «perseguire attivamente la loro rimozione e prevenzione». In Svizzera non esiste una legge specifica per le tecnologie deepfake. Nel maggio 2025, il Consiglio nazionale ha respinto a netta maggioranza una mozione dei Verdi che chiedeva una regolamentazione specifica per i deepfake. Il Consiglio federale ha sostenuto che le leggi esistenti «neutrali dal punto di vista tecnologico» siano sufficienti. In merito, l'esecutivo svizzero ha citato la norma contro l'abuso d'identità Art. 179 CP e seg..

Inoltre, il Dipartimento federale di giustizia e polizia (DFGP) a seguito della firma della «Convenzione sull'IA del Consiglio d'Europa» è stato incaricato di redigere un progetto di consultazione corrispondente, che dovrebbe essere disponibile entro la fine del 2026. L'Incaricato federale della protezione dei dati e della trasparenza (IFPDT) ha inoltre fatto riferimento alla legge sulla protezione dei dati del 2023, che «è direttamente applicabile all'IA».

Tuttavia, un recente caso ha dimostrato che anche la Svizzera sta prendendo provvedimenti contro i contenuti generati dall'IA in generale: il Tribunale federale svizzero ha recentemente stabilito che i contenuti pornografici che presentano adulti ringiovaniti digitalmente e che assomigliano a minorenni sono illegali. Ciò si basa sulle disposizioni del Codice penale a tutela della pornografia infantile «non reale». La giurisprudenza svizzera non sarebbe quindi del tutto inefficace.

Florian Bodoky

Editor

Florian.Bodoky@digitecgalaxus.ch

Da quando ho scoperto come attivare entrambi i canali telefonici sulla scheda ISDN per ottenere una maggiore larghezza di banda, sperimento con le reti digitali. Con quelle analogiche, invece, da quando so parlare. A Winterthur per scelta, con il cuore rossoblu. più

Segui

---

Sicurezza

Segui gli argomenti e ricevi gli aggiornamenti settimanali relativi ai tuoi interessi.

Segui argomento

---

Retroscena

Curiosità dal mondo dei prodotti, uno sguardo dietro le quinte dei produttori e ritratti di persone interessanti.

Visualizza tutti

Potrebbero interessarti anche questi articoli