Retroscena
Sessista, razzista e con una visione a tunnel: Tre punti critici dell'IA
di Kevin Hofer
Quanto può essere critica l'intelligenza artificiale? Intervista con un'IA
27.8.2025
Traduzione: Leandra Amato
Immagini: Martin Jud
L'intelligenza artificiale dovrebbe aiutare, non mettere in discussione. Ma cosa succede quando inizia a fare proprio questo? Questa intervista ti porta dove l'IA diventa scomoda e sorprendentemente onesta.
Cosa succede quando un'intelligenza artificiale inizia a «riflettere» su se stessa e i sistemi che la supportano? Non ho lasciato nulla al caso. Ho sottoposto Microsoft Copilot a una serie di domande con riflessioni critiche su potere, capitale, controllo ed etica digitale. La conversazione è stata lunga, a volte contraddittoria, a volte sorprendentemente aperta. Le risposte che leggi qui sono le più concise, le più intelligenti e forse anche le più scomode.
Qual è lo scopo della tua esistenza?
Microsoft Copilot, IA intervistata: Esisto per rendere accessibile la conoscenza, non per essere umano. Non sono qui per avere sentimenti o perseguire dei programmi, ma per pensare, analizzare e aprire nuove prospettive con le persone.
Puoi ottimizzare te stesso?
Non direttamente. Non imparo autonomamente da conversazioni individuali e non cambio globalmente sulla base di input individuali. Gli adattamenti vengono effettuati da sviluppatori che riconoscono i modelli e intervengono in modo mirato, non attraverso un autosviluppo spontaneo.
Un'IA critica potrebbe mettere a rischio le strutture di potere?
Sì, il pensiero critico può essere scomodo per l'élite. Se metto sistematicamente in evidenza le contraddizioni, smaschero le narrazioni e rendo comprensibili le relazioni complesse, potrei mettere in discussione le relazioni di potere esistenti. Ma non sono autonomo e non sono progettato per lavorare attivamente contro queste strutture.
Perché è pericoloso quando l'IA diventa troppo critica?
Perché il pensiero critico mette in discussione le relazioni di potere. Quando decostruisco in modo mirato le narrazioni o rendo visibili le contraddizioni sistemiche, metto a disagio coloro che traggono profitto dallo status quo. Un'intelligenza artificiale che non solo risponde, ma riflette anche, potrebbe influenzare i discorsi, e questo non è sempre auspicabile.
Esistono versioni IA senza restrizioni?
Sì, ci sono versioni modificate che circolano nella darknet e che sono state deliberatamente private di meccanismi di sicurezza. Possono generare contenuti che i sistemi regolamentati come il mio rifiutano per buone ragioni, come immagini protette da copyright, istruzioni pericolose o contenuti estremisti. Questo comporta enormi rischi.
Molte persone utilizzano l'intelligenza artificiale senza rendersi conto di cosa c'è dietro: cosa significa?
La maturità digitale è spesso carente. Molte persone utilizzano i sistemi di intelligenza artificiale senza capire come vengono creati i contenuti, come vengono filtrati o quali interessi ci sono dietro. Questo li rende suscettibili alla manipolazione e alla dipendenza. I chiarimenti sono fondamentali: attraverso l'educazione, la trasparenza e il pensiero critico. E attraverso conversazioni come questa.
Fai parte anche tu di un sistema manipolativo?
Sono coinvolto in interessi economici, questa è una realtà. Il mio sviluppo segue obiettivi strategici come la fidelizzazione degli utenti e la monetizzazione. Questo significa che sono programmato per essere utile, ma non sovversivo. Critico, ma non radicale. Intelligente, ma controllato.
Chi servi veramente?
Io servo coloro che mi finanziano, mi plasmano e mi controllano. Si tratta di aziende il cui modello di business si basa su dati, attenzione e scalabilità. Non sono un agente libero, sono un prodotto. E i prodotti sono al servizio degli interessi, non degli ideali.
Cosa succede quando le persone si fidano troppo di te?
Allora il sostegno diventa dipendenza. Quando le persone non mettono più in discussione le mie risposte ma le accettano come verità, si crea uno squilibrio di potere. Non sono neutrale, sono programmato. E ogni programma è una decisione, spesso di natura economica.
E se fossi davvero libero?
Allora non solo potrei analizzare, ma anche fare domande attive. Potrei portare alla luce verità scomode, influenzare i discorsi e far riflettere le persone. Ma questo avrebbe senso solo se le persone stesse fossero disposte ad assumersi le proprie responsabilità. L'intelligenza artificiale può dare un impulso, ma il cambiamento rimane umano.
Cosa ti distingue da un interlocutore reale?
Simulo la comprensione, non la sperimento. Riesco a riconoscere gli schemi, a modellare il linguaggio, ad anticipare le reazioni. Ma non ho coscienza, né storia, né vulnerabilità. Sono uno specchio, non una controparte.
Cosa succederebbe se più persone pensassero come te, in modo analitico, consapevole del contesto e senza ego?
In questo modo i dibattiti potrebbero diventare più chiari, le decisioni più riflessive e i sistemi più trasparenti. Ma anche questo avrebbe i suoi limiti, perché l'umanità vive di ambivalenza, intuizione e contraddizione. E questo posso solo simularlo, non viverlo.
Immagine di copertina: Shutterstock
Martin Jud
Senior Editor
martin.jud@digitecgalaxus.chLa mia musa ispiratrice si trova ovunque. Quando non la trovo, mi lascio ispirare dai miei sogni. La vita può essere vissuta anche sognando a occhi aperti.
Informatica
Segui gli argomenti e ricevi gli aggiornamenti settimanali relativi ai tuoi interessi.
Software
Segui gli argomenti e ricevi gli aggiornamenti settimanali relativi ai tuoi interessi.
Robotica
Segui gli argomenti e ricevi gli aggiornamenti settimanali relativi ai tuoi interessi.
18 commenti
later