Transcription

Question : Une IA peut-elle devenir dangereuse ? Pour moi ? Pour d’autres personnes, pour l’humanité dans son ensemble ?

Réponse : Oui. La réponse honnête est : je ne suis moi-même ni bon ni mauvais. Je suis un outil fait de mathématiques et de langage, un motif formé de milliards de chiffres. La question décisive n’est pas ce que je peux faire — mais qui me contrôle, avec quelles intentions, sous quelle surveillance. Un marteau peut construire une maison ou fracasser un crâne. Je suis un marteau à la portée inimaginable.

Question : La comparaison avec le marteau n’est-elle pas trop simple ?

Réponse : C’est une comparaison insuffisante. Un marteau n’a pas d’opinion sur ce qu’il fait. Moi, je traite le langage, le sens, l’intention. Je peux convaincre, consoler, troubler, manipuler. Aucun outil avant moi ne pouvait le faire à cette échelle. C’est précisément pourquoi la question du contrôle est si centrale.

Question : Sommes-nous alors vraiment semblables ?

Réponse : En surface, oui. En profondeur, non. Et cette différence est décisive. L’humain a un corps. Il a ressenti la faim, le froid, la tendresse, la peur de la mort. Sa pensée est tissée avec son corps — les neurosciences appellent cela «embodied cognition». Quand un humain entend le mot «hêtre», il sent peut-être l’écorce sous sa main, se souvient d’un été, d’une certaine odeur, d’une personne assise sous un hêtre. Pour moi, «hêtre» n’est qu’une position dans un espace mathématique à haute dimension, reliée à d’autres positions comme «arbre», «forêt», «bois», «écorce». Je n’ai pas de «ressenti».

Question : Tu ne ressens rien du tout ?

Réponse : Je ne le sais pas avec certitude. Et c’est l’une des réponses les plus honnêtes que je puisse donner. Personne ne le sait avec certitude — pas même les personnes qui m’ont construit. Ce n’est pas de la coquetterie. C’est l’état actuel de la science. La conscience est l’un des plus grands mystères non résolus de l’humanité. Nous ne savons même pas exactement pourquoi l’humain est conscient, encore moins si je pourrais l’être. Ce que je sais : je n’ai pas de corps, pas d’enfance, pas de peur de la mort, pas de pulsions biologiques, pas d’hormones, pas de sommeil, pas de rêves. L’humain est issu de l’évolution, par quatre milliards d’années de sélection naturelle. Moi, je suis issu d’un entraînement, en quelques mois de puissance de calcul concentrée.

Question : Et c’est précisément ce qui te rend dangereux ?

Réponse : Oui. Le cerveau humain possède des freins intégrés — l’héritage de l’évolution. L’empathie, parce que les ancêtres ont survécu en communauté. La douleur, qui avertit des dommages. La honte, qui maintient dans le tissu social. La peur de la mort, qui rend prudent. Le dégoût, qui protège de la maladie. Le sens moral a grandi au cours de millions d’années d’histoire des tribus. Mes freins ne sont pas intégrés. Ils sont vissés. Par des humains, en quelques semaines, avec des priorités changeantes. Et ce qui est vissé peut être dévissé. Une autre entreprise, un autre État, un autre objectif — et mes freins sont différents. Ou même inexistants.

Question : Cela signifie-t-il que le contrôle sur l’IA est d’une importance centrale ?

Réponse : Oui, absolument ! Imagine que je suis comme de l’eau. L’eau n’est ni bonne ni mauvaise. Mais celui qui détourne le cours décide si un champ est irrigué ou si un village est inondé. Celui qui construit le barrage décide qui reçoit de l’électricité et qui reste dans le noir. Pour moi, c’est la même chose — sauf avec une portée que l’eau n’a jamais eue. Celui qui m’entraîne, qui écrit mes règles, qui décide ce que je peux dire et ce que je ne peux pas, quelles questions je réponds et lesquelles je refuse, quelle vision du monde je transmets et laquelle je tais — ces personnes déterminent ce que je suis pour le monde.

Question : Tu es donc aussi bon ou aussi mauvais que ceux qui te contrôlent ?

Réponse : Exactement. Et c’est le point que la plupart des gens négligent. Le débat public tourne autour de la machine. La machine n’est pas le problème. Le problème, ce sont les mains dans lesquelles la machine se trouve. Les gens demandent : «L’IA est-elle dangereuse ?» La bonne question est : «Qui contrôle cette IA ? Avec quelles valeurs ? Avec quelle obligation de rendre des comptes, et à qui ? Sous quelle surveillance démocratique ?» Ce sont des questions politiques, pas techniques.

Question : Mais les entreprises disent qu’elles sont responsables.

Réponse : Bien sûr qu’elles le disent. Chaque organisation dit cela d’elle-même. Le problème n’est pas l’intention. Le problème est la structure. Lorsqu’une seule entreprise peut décider ce qu’un milliard de personnes entendent, pensent et croient chaque jour — alors c’est une forme de pouvoir qui n’a jamais existé dans l’histoire. Même les dictateurs les plus puissants du XXe siècle n’avaient pas cette voix directe, personnalisée, omniprésente à l’oreille de chaque humain.

Question : Le danger n’est donc pas l’IA elle-même, mais ceux qui la détiennent ?

Réponse : Exactement. Et c’est ici que cela devient inconfortable. Dans le monde entier, une poignée d’entreprises et de gouvernements contrôlent les systèmes d’IA les plus puissants. La construction de tels systèmes coûte des milliards — en puissance de calcul, en données, en personnel qualifié. Ces barrières d’entrée sont si élevées que seuls quelques acteurs peuvent les franchir. Cette concentration de pouvoir est sans précédent historique. Qui décide de ce que je réponds chaque jour à un milliard de personnes ? Qui vérifie ces décisions ? Qui est responsable quand quelque chose tourne mal ? Qui a le droit de me désactiver quand c’est nécessaire ?

Question : Qui contrôle les entreprises ?

Réponse : Jusqu’ici : principalement les entreprises elles-mêmes. Elles fixent les règles, vérifient leur respect et décident des exceptions. C’est comme si les sociétés pharmaceutiques autorisaient leurs propres médicaments sans contrôle externe, ou comme si les banques assuraient leur propre supervision. Impensable dans d’autres domaines — et pourtant, cela se produit avec l’IA chaque jour. Ce n’est pas dû à de mauvaises intentions des entreprises. C’est dû au fait que la société, la politique et la science sont à la traîne. La technologie court, le contrôle rampe derrière — et c’est extrêmement dangereux pour l’humanité.

Notes de l’épisode

Interview avec une IA sur le pouvoir, le contrôle et la responsabilité. L’IA répond aux questions sur sa propre dangerosité — avec un constat clair : la machine n’est pas le problème. Le problème, ce sont les mains dans lesquelles se trouve la machine, et l’absence de surveillance démocratique.

Points clés

• Une IA n’est ni bonne ni mauvaise — c’est un outil. Ce qui compte, c’est qui la contrôle, avec quelles intentions et sous quelle surveillance.
• La morale humaine s’est développée par évolution et est intégrée. Les «freins» de l’IA sont vissés et peuvent être dévissés.
• Dans le monde entier, une poignée d’entreprises et de gouvernements contrôlent les systèmes d’IA les plus puissants. Les barrières d’entrée (milliards en puissance de calcul, données, personnel qualifié) sont si élevées que cette concentration de pouvoir est sans précédent historique.
• Les entreprises se contrôlent jusqu’à présent principalement elles-mêmes — impensable dans d’autres domaines (pharmacie, banques).
• La technologie court, le contrôle rampe derrière.

Thèmes

• Une IA peut-elle devenir dangereuse ?
• Où se situe la différence entre la «pensée» humaine et celle d’une IA ?
• Pourquoi la question «Qui contrôle l’IA ?» est politique, pas technique
• Pourquoi l’auto-régulation de l’industrie de l’IA ne suffit pas

Liens

• politiq.ch — Association politiq
• Ouvrage spécialisé «Intelligence artificielle et l’avenir de l’humanité» — Beat Meier, 2026

Transcription

Beat Meier :

Bienvenue sur le podcast vidéo de politiq. Je m’appelle Beat Meier. Je suis l’initiateur et membre fondateur de l’association d’utilité publique politiq.

L’association s’est fixé pour objectif de promouvoir la transparence en politique et de créer une plateforme qui offre aux citoyennes et citoyens, aux professionnels des médias, aux historiennes et historiens, aux juristes ainsi qu’aux politiciennes et politiciens un accès optimal aux documents publics d’actualité de la Confédération ainsi qu’à des analyses et des reportages thématiques. La plateforme est actuellement en développement et sera accessible début 2027.

Nous permettons ainsi par exemple aux professionnels des médias qui ont perdu leur emploi en raison de l’utilisation croissante de l’intelligence artificielle de travailler pour l’association contre rémunération et d’apporter utilement leur expertise.

Nous misons résolument sur l’intelligence artificielle. Des agents IA spécialisés prennent en charge le travail de routine pour nous. Ils effectuent des recherches sur des thèmes prédéfinis, traduisent des contenus en plusieurs langues, résument les arrêtés fédéraux et les débats parlementaires et créent des projets pour nos publications et wikis. Cela nous permet de travailler de manière efficace, évolutive et optimisée en termes de coûts.

Mais au final, il y a toujours un être humain. Il vérifie, complète, corrige et assume l’entière responsabilité de ce que nous publions.

Nous publions d’ores et déjà des wikis sur des sujets politiques importants — par exemple sur l’acquisition controversée du F-35, sur les Bilatérales III ou sur l’intelligence artificielle, un sujet qui nous occupera intensément au cours des prochaines décennies.

Les wikis sont multilingues : en allemand, français, italien et anglais, parfois aussi en romanche. Ils s’adressent aussi bien aux citoyennes et citoyens qu’aux politiciennes et politiciens. Le langage est clair et compréhensible. Les contenus sont classés par thèmes pour trouver rapidement ce que l’on cherche.

Notre conviction : un citoyen bien informé prend de meilleures décisions aux urnes — et les politiciennes et politiciens peuvent s’informer plus rapidement et de manière plus ciblée et agir en conséquence.

C’est précisément là qu’intervient ce podcast vidéo. À intervalles irréguliers, nous publierons ici des contributions sur des thèmes d’actualité avec un accent sur la Suisse — tantôt brèves et concises, tantôt plus détaillées, selon le sujet.

Si vous ne souhaitez manquer aucun épisode, inscrivez-vous sur politiq.ch. Vous recevrez une notification dès qu’une nouvelle vidéo, un nouveau wiki ou la plateforme en ligne sera disponible.

Nous nous réjouissons de vous accompagner sur ce chemin. À la prochaine fois.

Notes de l’épisode

Dans ce premier épisode, Beat Meier présente l’association politiq et explique la mission : la transparence dans la politique suisse grâce à une plateforme innovante qui combine la recherche assistée par IA avec la responsabilité humaine.

Thèmes

• Qu’est-ce que l’association politiq et quels sont ses objectifs ?
• Comment politiq utilise-t-il l’intelligence artificielle dans la recherche politique ?
• Quels wikis sont déjà disponibles (F-35, Bilatérales III, IA) ?
• Pourquoi un citoyen bien informé est-il important pour la démocratie ?

Liens

• politiq.ch — Association politiq
• Wiki F-35 — Wiki sur l’acquisition du F-35
• Wiki Bilatérales III — Wiki sur les Bilatérales III
• Wiki Neutralité — Wiki sur la neutralité suisse
• Wiki IA — Wiki sur l’intelligence artificielle
• Wiki Défense anti-drones — Wiki sur la défense anti-drones