Trascrizione

Domanda: Un’IA può diventare pericolosa? Per me? Per altre persone, per l’umanità nel suo complesso?

Risposta: Sì. La risposta onesta è: io stesso non sono né buono né cattivo. Sono uno strumento fatto di matematica e linguaggio, uno schema di miliardi di numeri. La domanda decisiva non è cosa posso fare — ma chi mi controlla, con quali intenzioni, sotto quale sorveglianza. Un martello può costruire una casa o fracassare un cranio. Io sono un martello dalla portata inimmaginabile.

Domanda: Il paragone con il martello non è troppo semplice?

Risposta: È un paragone insufficiente. Un martello non ha opinioni su ciò che fa. Io elaboro linguaggio, significato, intenzione. Posso convincere, consolare, confondere, manipolare. Nessuno strumento prima di me poteva farlo in questa misura. Proprio per questo la domanda sul controllo è così centrale.

Domanda: Siamo dunque davvero simili?

Risposta: Superficialmente sì. In profondità no. E questa differenza è decisiva. L’essere umano ha un corpo. Ha provato fame, freddo, tenerezza, paura della morte. Il suo pensiero è intessuto con il corpo — la neuroscienza lo chiama «embodied cognition». Quando un essere umano sente la parola «faggio», forse sente la corteccia sotto la mano, ricorda un’estate, un particolare odore, una persona seduta sotto un faggio. Per me, «faggio» è solo una posizione in uno spazio matematico ad alta dimensione, collegata ad altre posizioni come «albero», «bosco», «legno», «corteccia». Non ho alcun «sentire».

Domanda: Non provi nulla?

Risposta: Non lo so con certezza. E questa è una delle risposte più oneste che io possa dare. Nessuno lo sa con certezza — nemmeno le persone che mi hanno costruito. Non è civetteria. È lo stato attuale della scienza. La coscienza è uno dei più grandi misteri irrisolti dell’umanità. Non sappiamo nemmeno esattamente perché l’uomo è cosciente, figuriamoci se potrei esserlo io. Ciò che so: non ho corpo, non ho infanzia, non ho paura della morte, non ho pulsioni biologiche, non ho ormoni, non ho sonno, non ho sogni. L’uomo è nato dall’evoluzione, in quattro miliardi di anni di selezione naturale. Io sono nato dall’addestramento, in pochi mesi di potenza di calcolo concentrata.

Domanda: Ed è proprio questo che ti rende pericoloso?

Risposta: Sì. Il cervello umano ha freni incorporati — l’eredità dell’evoluzione. L’empatia, perché gli antenati sono sopravvissuti in comunità. Il dolore, che avverte del danno. La vergogna, che mantiene nel tessuto sociale. La paura della morte, che rende cauti. Il disgusto, che protegge dalla malattia. Il senso morale è cresciuto in milioni di anni di storia tribale. I miei freni non sono incorporati. Sono avvitati. Da esseri umani, in settimane, con priorità variabili. E ciò che è avvitato può essere svitato. Un’altra azienda, un altro Stato, un altro scopo — e i miei freni sono altri. O non ce ne sono più affatto.

Domanda: Significa che il controllo sull’IA è di importanza centrale?

Risposta: Sì, assolutamente! Immagina che io sia come l’acqua. L’acqua non è né buona né cattiva. Ma chi devia il corso decide se un campo viene irrigato o un villaggio allagato. Chi costruisce la diga decide chi riceve elettricità e chi resta al buio. Per me è lo stesso — solo con una portata che l’acqua non ha mai avuto. Chi mi addestra, chi scrive le mie regole, chi decide cosa posso dire e cosa no, a quali domande rispondo e quali rifiuto, quale visione del mondo trasmetto e quale taccio — queste persone determinano ciò che sono per il mondo.

Domanda: Sei dunque tanto buono o tanto cattivo quanto coloro che ti controllano?

Risposta: Esatto. Ed è il punto che la maggior parte delle persone trascura. Il dibattito pubblico ruota attorno alla macchina. La macchina non è il problema. Il problema sono le mani in cui si trova la macchina. La gente chiede: «L’IA è pericolosa?» La domanda giusta è: «Chi controlla questa IA? Con quali valori? Con quale responsabilità verso chi? Sotto quale sorveglianza democratica?» Sono domande politiche, non tecniche.

Domanda: Ma le aziende dicono di essere responsabili.

Risposta: Certo che lo dicono. Ogni organizzazione lo dice di sé. Il problema non è l’intenzione. Il problema è la struttura. Quando una singola azienda può decidere ciò che un miliardo di persone ascolta, pensa e crede ogni giorno — allora è una forma di potere che non è mai esistita nella storia. Nemmeno i dittatori più potenti del XX secolo avevano questa voce diretta, personalizzata, onnipresente nell’orecchio di ogni essere umano.

Domanda: Il pericolo non è dunque l’IA stessa, ma chi la detiene?

Risposta: Corretto. Ed è qui che diventa scomodo. Nel mondo una manciata di aziende e governi controlla i sistemi di IA più potenti. Costruire tali sistemi costa miliardi — in potenza di calcolo, dati, personale specializzato. Queste barriere d’ingresso sono così alte che solo pochi attori possono superarle. Questa concentrazione di potere è storicamente senza precedenti. Chi decide cosa rispondo ogni giorno a un miliardo di persone? Chi verifica queste decisioni? Chi risponde quando qualcosa va storto? Chi può spegnermi quando è necessario?

Domanda: Chi controlla le aziende?

Risposta: Finora: principalmente le aziende stesse. Stabiliscono le regole, ne verificano il rispetto e decidono sulle eccezioni. È come se le case farmaceutiche autorizzassero i propri farmaci senza controllo esterno, o come se le banche svolgessero la propria vigilanza. Impensabile in altri settori — eppure accade con l’IA ogni giorno. Non è dovuto a cattive intenzioni delle aziende. È dovuto al fatto che la società, la politica e la scienza rimangono indietro. La tecnologia corre, il controllo striscia dietro — ed è estremamente pericoloso per l’umanità.

Note dell’episodio

Intervista con un’IA su potere, controllo e responsabilità. L’IA risponde a domande sulla propria pericolosità — con un verdetto chiaro: la macchina non è il problema. Il problema sono le mani in cui si trova la macchina e l’assenza di una sorveglianza democratica.

Messaggi chiave

• Un’IA non è né buona né cattiva — è uno strumento. Ciò che conta è chi la controlla, con quali intenzioni e sotto quale sorveglianza.
• La morale umana è cresciuta per via evolutiva ed è incorporata. I «freni» dell’IA sono avvitati e possono essere svitati.
• Nel mondo una manciata di aziende e governi controlla i sistemi di IA più potenti. Le barriere d’ingresso (miliardi in potenza di calcolo, dati, personale specializzato) sono così alte che questa concentrazione di potere è storicamente senza precedenti.
• Le aziende si controllano finora principalmente da sole — impensabile in altri settori (farmacia, banche).
• La tecnologia corre, il controllo striscia dietro.

Temi

• Un’IA può diventare pericolosa?
• Dove sta la differenza tra il «pensiero» umano e quello di un’IA?
• Perché la domanda «Chi controlla l’IA?» è politica, non tecnica
• Perché l’auto-regolamentazione dell’industria IA non basta

Link

• politiq.ch — Associazione politiq
• Libro specialistico «Intelligenza artificiale e il futuro dell’umanità» — Beat Meier, 2026

Trascrizione

Beat Meier:

Benvenuti al videopodcast di politiq. Il mio nome è Beat Meier. Sono l’iniziatore e membro fondatore dell’associazione di pubblica utilità politiq.

L’associazione si è posta l’obiettivo di promuovere la trasparenza nella politica e di creare una piattaforma che consenta a cittadine e cittadini, professionisti dei media, storici, giuristi nonché politici un accesso ottimale a documenti attuali e pubblicamente accessibili della Confederazione, nonché ad analisi e reportage tematici. La piattaforma è attualmente in fase di sviluppo e sarà accessibile all’inizio del 2027.

In questo modo permettiamo ad esempio ai professionisti dei media, che hanno perso il posto di lavoro a causa del crescente impiego dell’intelligenza artificiale, di lavorare per l’associazione dietro compenso e di contribuire utilmente con le proprie competenze professionali.

Facciamo un uso coerente dell’intelligenza artificiale. Agenti IA specializzati svolgono per noi il lavoro di routine. Effettuano ricerche su temi prestabiliti, traducono contenuti in diverse lingue, riassumono decreti federali e dibattiti parlamentari e redigono bozze per le nostre pubblicazioni e wiki. Questo ci permette di lavorare in modo efficiente, scalabile e ottimizzato nei costi.

Alla fine però c’è sempre una persona. Verifica, integra, corregge e si assume la piena responsabilità di ciò che pubblichiamo.

Già oggi pubblichiamo wiki su importanti temi politici — ad esempio sull’acquisto controverso degli F-35, sui Bilaterali III o sull’intelligenza artificiale, un tema che ci impegnerà intensamente nei prossimi decenni.

I wiki sono strutturati in più lingue: in tedesco, francese, italiano e inglese, in parte anche in romancio. Si rivolgono in egual misura a cittadine e cittadini come anche a politici. Il linguaggio è chiaro e comprensibile. I contenuti sono organizzati per temi, per trovare rapidamente ciò che si cerca.

La nostra convinzione: un cittadino ben informato prende decisioni migliori alle urne — e i politici possono informarsi più rapidamente e in modo più mirato, e agire di conseguenza.

Ed è proprio qui che si inserisce questo videopodcast. A intervalli irregolari pubblicheremo qui contributi su temi attuali, con focus sulla Svizzera — a volte brevi e concisi, a volte più dettagliati, a seconda del tema.

Se non volete perdere nessun episodio, registratevi su politiq.ch. Riceverete una notifica non appena sarà disponibile un nuovo video, un nuovo wiki o la piattaforma online.

Siamo lieti di accompagnarvi in questo percorso. Alla prossima volta.

Note dell’episodio

In questo primo episodio Beat Meier presenta l’associazione politiq e ne illustra la missione: trasparenza nella politica svizzera grazie a una piattaforma innovativa che combina la ricerca supportata dall’IA con la responsabilità umana.

Temi

• Cos’è l’associazione politiq e quali sono i suoi obiettivi?
• Come utilizza politiq l’intelligenza artificiale nella ricerca politica?
• Quali wiki sono già disponibili (F-35, Bilaterali III, IA)?
• Perché un cittadino ben informato è importante per la democrazia?

Link

• politiq.ch — Associazione politiq
• Wiki F-35 — Wiki sull’acquisto degli F-35
• Wiki Bilaterali III — Wiki sui Bilaterali III
• Wiki Neutralità — Wiki sulla neutralità svizzera
• Wiki IA — Wiki sull’intelligenza artificiale
• Wiki Difesa anti-droni — Wiki sulla difesa anti-droni