Pourquoi je ne signerai pas la pétition CESE (convention citoyenne sur l'IA)
La pétition Pour une Convention citoyenne sur l'Intelligence Artificielle circule pas mal en ce moment. Je ne la signerai pas.
J'aimerais vraiment beaucoup qu'il y ait une convention citoyenne sur le déploiement des IAg à marche forcée, mais la pétition telle qu'elle est me semble aborder la question sous un angle très problématique.
Je pense que le problème n'est vraiment pas le risque d'IA générale, la fameuse “superintelligence”. Et qu'agiter cet épouvantail est un bon moyen de masquer les dégâts bien réels à raz de terre, ici et maintenant. Par exemple la loi de simplification de l'état qui classe les datacenters dans les infrastructures stratégiques (et du coup on ne demande plus l'avis de personne). Data for Good a fait une bonne analyse de cette histoire : https://www.linkedin.com/posts/dataforgood_loi-simplification-de-la-vie-economique-activity-7451879853995397120-IATT
Le déploiement des datacenters en France semble juste incompatible avec la stratégie nationale bas carbone : https://www.lesechos.fr/idees-debats/cercle/explosion-de-lia-la-france-devra-arbitrer-entre-alimenter-ses-data-centers-et-decarboner-ses-transports-et-son-chauffage-2222020
Par ailleurs, faire peur sur l'IA générale et la superintelligence est une stratégie délibérée des vendeurs d'IAg. C'est très bien analysé dans le livre “Les prophètes de l'IA” de Thibaut Prévost, ou dans ses chroniques sur Arrêt sur Images/ Il dit en particulier : “Cette double Apocalypse – l'IA nous sauvera toustes/ l'IA nous détruira toustes – et ses multiples déclinaisons impliquent et entretiennent la même certitude techno-déterministe : celle de l'émergence inévitable de l'IAG, de la même manière que les récits du Paradis et de l'Enfer légitiment chacun l'existence de Dieu. En d'autres termes, tous ces types croient, dur comme fer, à la possibilité et l'imminence d'une machine pensante à la puissance divine.”
Voir aussi un texte d'il y a 3 ans, dû à Emily Bender. Il y avait eu une lettre du FutureOfLife Institute demandant une pause sur l'IA, avec des arguments du même genre que la pétition ci-dessous.
Ursula von der Leyen a eu droit récemment à une lettre de scientifiques du domaine quand elle a fait mine de croire que les machines à faire des phrases allaient atteindre le niveau de l'intelligence humaine : https://www.iccl.ie/wp-content/uploads/2025/11/20251110_Scientists-letter-to-the-President-AI-Hype.pdf
Le phénomène de “hype” est un risque politique en soi : https://www.techpolicy.press/expanding-hype-literacy-to-protect-democracy/ On y lit :
“In a historical context where tech leaders are openly embracing neo-reactionary (and intellectually shallow, ill-informed) positions such as the dark enlightenment and effective accelerationism, assessing hype is critical. Especially when the myth of Artificial General Intelligence (AGI) —a sociotechnical fiction itself, since it has been repeatedly considered unachievable through Large Language Models — has amassed the largest private capital investment round in history. The cocktail of deep pocket actors embracing both unrealistic visions and extreme political positions make hype a strategy to make imagination come true — and therefore an urgent matter of political attention.”
Bref, je pense que propager le discours sur l'avènement de la superintelligence, c'est servir les idées de gens tout à fait politiquement infréquentables (voir les explications sur la mouvance TESCREAL). Alors qu'il y a énormément de choses à dire sur le déploiement à marche forcée partout, mais avec des arguments tout à fait terre à terre. Voir par exemple le collectif “Le nuage était sous nos pieds” ou Stop Dataone.