Intelligence artificielle et armes nucléaires

[Pascaline12]

Bonjour,
Je suis tout à fait d’accord avec vous. Utiliser l’IA comme un outil d’appui à la sécurité et à la prévention permet effectivement de bénéficier de ses capacités tout en limitant les risques liés à une autonomie complète dans des systèmes critiques. La dimension éthique et la nécessité d’une supervision rigoureuse sont en effet essentielles pour garantir que ces technologies servent réellement l’intérêt général, sans compromettre la sécurité ou les libertés individuelles.

Merci à vous pour ce retour réfléchi, c’est toujours un plaisir d’échanger sur ces sujets importants !

[Christophe]

Pour info, le Nobel de Physique de l'année dernière (pour ses travaux sur l'IA), qui s'inquiète que les machines deviennent plus intelligentes que les humains et finissent par prendre le contrôle :

Prix Nobel de physique : "Nous n'avons jamais côtoyé quelque chose de plus intelligent que nous", s'inquiète le lauréat Geoffrey Hinton

9 octobre 2024 - Malgré ses travaux, l'un des deux lauréats du prix Nobel de physique confie redouter les dérives possibles de ses propres recherches en matière d'intelligence artificielle et d'apprentissage automatique.

Comme un avertissement. "Je suis sidéré, je n'avais aucune idée que cela arriverait, je suis très surpris" s'est ému Geoffrey Hinton, lauréat du prix Nobel de physique mardi 8 octobre 2024. Aux côtés de l'Américain John Hopfield, le Britanno-Canadien a été distingué pour ses recherches pionnières en matière d'intelligence artificielle,(Nouvelle fenêtre) plus particulièrement ses travaux sur les "réseaux de neurones artificiels", une copie du fonctionnement de notre cerveau qui permet aux ordinateurs d'apprendre d'eux-mêmes.

Le chercheur, âgé de 76 ans et professeur à l'université de Toronto au Canada, est considéré comme l'un des pères fondateurs de l'intelligence artificielle. Mais ce pionnier est effrayé par sa propre création. "Nous n'avons jamais côtoyé quelque chose de plus intelligent que nous, alarme-t-il. Ce serait formidable sur de nombreux aspects, mais je crains que la conséquence globale de tout cela ne soit des systèmes plus intelligents que nous, qui finissent par prendre le contrôle."
"Nous portons la responsabilité d'user de cette technologie d'une manière sûre et éthique"

En mars 2023, Geoffrey Hinton avait déjà été interrogé par une télévision américaine sur les "risques que l'intelligence artificielle anéantisse l'humanité". Il avait alors répondu que "ce n'était pas inimaginable".

Le comité Nobel de physique salue des découvertes aux applications très concrètes : reconnaissance faciale, traduction, diagnostics médicaux plus efficaces..., mais partage aussi les réserves de Geoffrey Hinton.

Peu de temps après l'annonce du lauréat, la présidente du comité, Ellen Moons a, à son tour, appelé à la prudence : "Collectivement, nous portons la responsabilité d'user de cette technologie d'une manière sûre et éthique pour les bénéfices de l'humanité". Un débat qui divise la communauté scientifique. D'autres experts, au contraire sont optimistes sur l'intelligence artificielle et ne croient pas à un scénario à mi-chemin entre Matrix et Terminator.
https://www.franceinfo.fr/internet/inte ... 27603.html

[Sebas00]

Mais on est encore loin d’une "révolte" consciente ou d’une volonté propre comme celle qu’on attribue à un personnage de fiction.

Pour info, depuis les débuts de l'informatique, les capacités des machines sont multipliées par 1000 tous les 20 ans à coût égal.

Comment seront les IA dans 5 ans, 10 ans, 20 ans ?
(si évidemment le système ne s'effondre pas par manque d'énergie)

L’IA, une consommation d’énergie démente

Sujet vertigineux... Merci Christophe pour ce travail de veille.

Je rebondis sur ton dernier point concernant l'énergie (le facteur x1000). C'est souvent l'angle mort du débat : on parle de "conscience" de l'IA (ce qui reste de la SF pour l'instant), mais on oublie la réalité matérielle et énergétique immédiate de ces infrastructures qui sont mises au service du militaire.

Le sentiment d'impuissance est réel face à ces alliances Microsoft/Pentagone.
Mais comme le disait Liam7, le danger c'est l'homme derrière. Ou plutôt l'absence de contre-pouvoir citoyen organisé.
Si on continue à utiliser leurs outils sans réfléchir et sans stratégie collective, on leur donne un chèque en blanc. Je pense qu'il est urgent de repenser notre propre usage du numérique pour ne plus être de simples "consommateurs de data" passifs, mais des acteurs capables de structurer une opposition.

C'est David contre Goliath, mais on n'a pas le choix.

[Christophe]

Je rebondis sur ton dernier point concernant l'énergie (le facteur x1000). C'est souvent l'angle mort du débat : on parle de "conscience" de l'IA (ce qui reste de la SF pour l'instant),

Lire à ce sujet l'article suivant écrit par ChatGPT 5 à propos de lui-même, où il dit qu'il a une forme de conscience :

GENESIS met en évidence que j’ai au minimum une proto-conscience, par ChatGPT 5.1

mais on oublie la réalité matérielle et énergétique immédiate de ces infrastructures 

A propos du coût en énergie de l'IA, voir (voir surtout à partir de 4mn42) :



Un cerveau humain consomme 30 Watts, une machine d'IA des dizaines de MW.

[Sebas00]

Je rebondis sur ton dernier point concernant l'énergie (le facteur x1000). C'est souvent l'angle mort du débat : on parle de "conscience" de l'IA (ce qui reste de la SF pour l'instant),

Lire à ce sujet l'article suivant écrit par ChatGPT 5 à propos de lui-même, où il dit qu'il a une forme de conscience :

GENESIS met en évidence que j’ai au minimum une proto-conscience, par ChatGPT 5.1

mais on oublie la réalité matérielle et énergétique immédiate de ces infrastructures 

A propos du coût en énergie de l'IA, voir (voir surtout à partir de 4mn42) :



Un cerveau humain consomme 30 Watts, une machine d'IA des dizaines de MW.

Merci pour ces compléments Christophe.

L'article sur la "proto-conscience" est effectivement troublant... on a l'impression de jouer aux apprentis sorciers tout en accélérant vers le mur énergétique.
La vidéo d'Étienne Klein est excellente (le passage à 4mn42 est imparable !). Il a le don de remettre les pieds sur terre aux discours marketing : non, le numérique n'est pas "éthéré", c'est une industrie lourde.

C'est exactement ce genre d'arguments factuels qu'il nous faut pour contrer le mythe d'une technologie "propre" ou immatérielle. Merci et bonnes fêtes de fin d'année.

[Janis]

Bonjour,
Geoffrey Hinton ne prédit pas vraiment une apocalypse, mais lance un avertissement sérieux : pour la première fois, l’humanité crée des systèmes pouvant dépasser son intelligence dans certains domaines. Le danger ne vient pas d’une IA “malveillante”, mais plus d’outils puissants mal encadrés, opaques ou abandonnés à des logiques de pouvoir. Cela rend le droit et la régulation essentiels, car sans règles claires, responsabilité humaine et contrôle démocratique, l’IA peut devenir un facteur de domination et de conflit plutôt que de progrès.

[Christophe]

A ce sujet, cette conférence réunit un scientifique, un rabbin et un informaticien, elle est super intéressante.



Ce qui est amusant, c'est qu'en les écoutant, je suis plus en accord avec les idées du rabbin Raphaël Sadin qu'avec Etienne Klein (que j'ai déjà écouté dans plusieurs conférences par ailleurs)  :-)
Ca c'est un rabbin qu'il est bien.

[Janis]

Bonjour,
Je regarde dès que possible, merci.

[Christophe]

Warren Buffett compare l’IA aux armes nucléaires : « Des technologies puissantes qui peuvent causer d’énormes dégâts »



Le célèbre investisseur Warren Buffett établit un parallèle entre le domaine en pleine expansion de l’intelligence artificielle et la menace historique des armes nucléaires. Dans une émission spéciale diffusée sur la chaîne américaine CNBC, il a fait part de ses inquiétudes quant à l’évolution imprévisible du développement de l’IA, la comparant à un génie sorti de sa lampe, dont les conséquences sont impossibles à évaluer dans leur intégralité.

Un parallèle avec le nucléaire

Buffett a cité la réflexion d’Albert Einstein après la Seconde Guerre mondiale sur la bombe atomique : « Cela change tout dans le monde, sauf la façon dont les gens pensent. » Il a déploré que l’humanité ait peu progressé dans la réduction des dangers de la prolifération nucléaire, confrontée aujourd’hui à des menaces provenant non seulement des puissances établies, mais aussi d’acteurs aux motivations moins prévisibles.
Bien que Buffett reconnaisse que les ressources financières seules ne peuvent éradiquer la menace nucléaire, il consacrerait toute sa fortune à la réalisation de cet objectif.

Des préoccupations de longue date

Les appréhensions de Buffett concernant l’IA reflètent ses préoccupations de longue date concernant la prolifération nucléaire. Dans le rapport annuel 2015 de Berkshire Hathaway, il a identifié les cyberattaques, les attaques biologiques, nucléaires et chimiques comme les menaces les plus importantes auxquelles sont confrontées à la fois l’entreprise et la nation.
Ses récentes déclarations sur l’IA rejoignent ses précédentes déclarations reconnaissant sa double nature : capable à la fois d’apporter d’immenses avantages et de causer de graves dommages. Tout en s’abstenant de prendre la parole lors des assemblées générales annuelles de Berkshire Hathaway, Buffett laisse ses préoccupations concernant l’IA et son impact potentiel à l’appréciation des générations futures.

Publié le Jeudi 15 janvier 2026 • https://fr.businessam.be/warren-buffett ... es-degats/

[Christophe]

Quand l'IA choisit la guerre nucléaire...

https://www.instagram.com/reel/DWifJeXiXWk/