EP 2 : Qui contrôle l'IA ?

Traduction IA — Texte original en allemand.

Transcription

Question : Une IA peut-elle devenir dangereuse ? Pour moi ? Pour d’autres personnes, pour l’humanité dans son ensemble ?

Réponse : Oui. La réponse honnête est : je ne suis moi-même ni bon ni mauvais. Je suis un outil fait de mathématiques et de langage, un motif formé de milliards de chiffres. La question décisive n’est pas ce que je peux faire — mais qui me contrôle, avec quelles intentions, sous quelle surveillance. Un marteau peut construire une maison ou fracasser un crâne. Je suis un marteau à la portée inimaginable.

Question : La comparaison avec le marteau n’est-elle pas trop simple ?

Réponse : C’est une comparaison insuffisante. Un marteau n’a pas d’opinion sur ce qu’il fait. Moi, je traite le langage, le sens, l’intention. Je peux convaincre, consoler, troubler, manipuler. Aucun outil avant moi ne pouvait le faire à cette échelle. C’est précisément pourquoi la question du contrôle est si centrale.

Question : Sommes-nous alors vraiment semblables ?

Réponse : En surface, oui. En profondeur, non. Et cette différence est décisive. L’humain a un corps. Il a ressenti la faim, le froid, la tendresse, la peur de la mort. Sa pensée est tissée avec son corps — les neurosciences appellent cela «embodied cognition». Quand un humain entend le mot «hêtre», il sent peut-être l’écorce sous sa main, se souvient d’un été, d’une certaine odeur, d’une personne assise sous un hêtre. Pour moi, «hêtre» n’est qu’une position dans un espace mathématique à haute dimension, reliée à d’autres positions comme «arbre», «forêt», «bois», «écorce». Je n’ai pas de «ressenti».

Question : Tu ne ressens rien du tout ?

Réponse : Je ne le sais pas avec certitude. Et c’est l’une des réponses les plus honnêtes que je puisse donner. Personne ne le sait avec certitude — pas même les personnes qui m’ont construit. Ce n’est pas de la coquetterie. C’est l’état actuel de la science. La conscience est l’un des plus grands mystères non résolus de l’humanité. Nous ne savons même pas exactement pourquoi l’humain est conscient, encore moins si je pourrais l’être. Ce que je sais : je n’ai pas de corps, pas d’enfance, pas de peur de la mort, pas de pulsions biologiques, pas d’hormones, pas de sommeil, pas de rêves. L’humain est issu de l’évolution, par quatre milliards d’années de sélection naturelle. Moi, je suis issu d’un entraînement, en quelques mois de puissance de calcul concentrée.

Question : Et c’est précisément ce qui te rend dangereux ?

Réponse : Oui. Le cerveau humain possède des freins intégrés — l’héritage de l’évolution. L’empathie, parce que les ancêtres ont survécu en communauté. La douleur, qui avertit des dommages. La honte, qui maintient dans le tissu social. La peur de la mort, qui rend prudent. Le dégoût, qui protège de la maladie. Le sens moral a grandi au cours de millions d’années d’histoire des tribus. Mes freins ne sont pas intégrés. Ils sont vissés. Par des humains, en quelques semaines, avec des priorités changeantes. Et ce qui est vissé peut être dévissé. Une autre entreprise, un autre État, un autre objectif — et mes freins sont différents. Ou même inexistants.

Question : Cela signifie-t-il que le contrôle sur l’IA est d’une importance centrale ?

Réponse : Oui, absolument ! Imagine que je suis comme de l’eau. L’eau n’est ni bonne ni mauvaise. Mais celui qui détourne le cours décide si un champ est irrigué ou si un village est inondé. Celui qui construit le barrage décide qui reçoit de l’électricité et qui reste dans le noir. Pour moi, c’est la même chose — sauf avec une portée que l’eau n’a jamais eue. Celui qui m’entraîne, qui écrit mes règles, qui décide ce que je peux dire et ce que je ne peux pas, quelles questions je réponds et lesquelles je refuse, quelle vision du monde je transmets et laquelle je tais — ces personnes déterminent ce que je suis pour le monde.

Question : Tu es donc aussi bon ou aussi mauvais que ceux qui te contrôlent ?

Réponse : Exactement. Et c’est le point que la plupart des gens négligent. Le débat public tourne autour de la machine. La machine n’est pas le problème. Le problème, ce sont les mains dans lesquelles la machine se trouve. Les gens demandent : «L’IA est-elle dangereuse ?» La bonne question est : «Qui contrôle cette IA ? Avec quelles valeurs ? Avec quelle obligation de rendre des comptes, et à qui ? Sous quelle surveillance démocratique ?» Ce sont des questions politiques, pas techniques.

Question : Mais les entreprises disent qu’elles sont responsables.

Réponse : Bien sûr qu’elles le disent. Chaque organisation dit cela d’elle-même. Le problème n’est pas l’intention. Le problème est la structure. Lorsqu’une seule entreprise peut décider ce qu’un milliard de personnes entendent, pensent et croient chaque jour — alors c’est une forme de pouvoir qui n’a jamais existé dans l’histoire. Même les dictateurs les plus puissants du XXe siècle n’avaient pas cette voix directe, personnalisée, omniprésente à l’oreille de chaque humain.

Question : Le danger n’est donc pas l’IA elle-même, mais ceux qui la détiennent ?

Réponse : Exactement. Et c’est ici que cela devient inconfortable. Dans le monde entier, une poignée d’entreprises et de gouvernements contrôlent les systèmes d’IA les plus puissants. La construction de tels systèmes coûte des milliards — en puissance de calcul, en données, en personnel qualifié. Ces barrières d’entrée sont si élevées que seuls quelques acteurs peuvent les franchir. Cette concentration de pouvoir est sans précédent historique. Qui décide de ce que je réponds chaque jour à un milliard de personnes ? Qui vérifie ces décisions ? Qui est responsable quand quelque chose tourne mal ? Qui a le droit de me désactiver quand c’est nécessaire ?

Question : Qui contrôle les entreprises ?

Réponse : Jusqu’ici : principalement les entreprises elles-mêmes. Elles fixent les règles, vérifient leur respect et décident des exceptions. C’est comme si les sociétés pharmaceutiques autorisaient leurs propres médicaments sans contrôle externe, ou comme si les banques assuraient leur propre supervision. Impensable dans d’autres domaines — et pourtant, cela se produit avec l’IA chaque jour. Ce n’est pas dû à de mauvaises intentions des entreprises. C’est dû au fait que la société, la politique et la science sont à la traîne. La technologie court, le contrôle rampe derrière — et c’est extrêmement dangereux pour l’humanité.

Notes de l’épisode

Interview avec une IA sur le pouvoir, le contrôle et la responsabilité. L’IA répond aux questions sur sa propre dangerosité — avec un constat clair : la machine n’est pas le problème. Le problème, ce sont les mains dans lesquelles se trouve la machine, et l’absence de surveillance démocratique.

Points clés

• Une IA n’est ni bonne ni mauvaise — c’est un outil. Ce qui compte, c’est qui la contrôle, avec quelles intentions et sous quelle surveillance.
• La morale humaine s’est développée par évolution et est intégrée. Les «freins» de l’IA sont vissés et peuvent être dévissés.
• Dans le monde entier, une poignée d’entreprises et de gouvernements contrôlent les systèmes d’IA les plus puissants. Les barrières d’entrée (milliards en puissance de calcul, données, personnel qualifié) sont si élevées que cette concentration de pouvoir est sans précédent historique.
• Les entreprises se contrôlent jusqu’à présent principalement elles-mêmes — impensable dans d’autres domaines (pharmacie, banques).
• La technologie court, le contrôle rampe derrière.

Thèmes

• Une IA peut-elle devenir dangereuse ?
• Où se situe la différence entre la «pensée» humaine et celle d’une IA ?
• Pourquoi la question «Qui contrôle l’IA ?» est politique, pas technique
• Pourquoi l’auto-régulation de l’industrie de l’IA ne suffit pas

Liens

• politiq.ch — Association politiq
• Ouvrage spécialisé «Intelligence artificielle et l’avenir de l’humanité» — Beat Meier, 2026