Macron veut interdire les usages de l’IA dangereux pour les enfants : ce que prévoit la charte du Forum de Paris pour la paix

Emmanuel Macron veut interdire les usages de l'intelligence artificielle qui présentent un risque pour les enfants. Dans un entretien aux Échos mis en ligne lundi 9 novembre au soir, le président de la République a estimé qu'il fallait « interdire » l'IA là où elle menace « la santé mentale, le cerveau » des plus jeunes. Le lendemain, une charte adoptée au Forum de Paris sur la paix a posé un principe nouveau : auditer les modèles avant de les mettre entre les mains des mineurs.

Ce que Macron a dit aux Échos

La phrase est directe. « S'il y a un risque pour les enfants avec certains usages de l'IA, alors il faut l'interdire », a déclaré Emmanuel Macron dans son entretien aux Échos. Il a ajouté : « Ce n'est pas parce que c'est de l'IA que ce doit être le Far West. Ce système n'est pas tenable, il faut le changer jusqu'à l'interdire s'il est mauvais. »

Le président ne vise pas l'intelligence artificielle dans son ensemble. Il vise les usages précis qui menacent la santé mentale et le développement du cerveau des enfants, tout en demandant de surveiller l'effet de ces technologies sur la sécurité démocratique et nationale.

Une charte adoptée au Forum de Paris pour la paix

Le lendemain de l'entretien, le Forum de Paris sur la paix a adopté une charte sur la sécurité de l'IA et la protection des enfants. Selon l'Élysée, cette charte a « vocation à éclairer les débats législatifs nationaux et européens ». Elle n'est pas une loi. Elle engage les entreprises qui la signent à changer leurs pratiques avant que les législateurs ne les y obligent.

Les laboratoires acceptent des évaluations indépendantes des systèmes d'IA générative mis sur le marché. Ils acceptent aussi de donner accès aux données de leurs modèles pour que des experts extérieurs puissent vérifier ce que ces systèmes font vraiment. L'Élysée a précisé que les géants américains OpenAI et Anthropic font partie des signataires.

Le pré-audit et la pré-certification avant l'accès des mineurs

Le point le plus important de la charte est le principe du pré-audit et de la pré-certification. Selon le chef de l'État, les entreprises ont reconnu ce principe : un modèle d'IA générative doit être examiné et certifié par des experts indépendants avant d'être mis à disposition des enfants.

Concrètement, cela veut dire que les tests ne doivent plus se faire après le lancement, quand les problèmes sont déjà publics. Ils doivent se faire avant, dans des conditions contrôlées, avec des spécialistes qui vérifient les risques pour la santé mentale, la dépendance émotionnelle et la désinformation. OpenAI et Anthropic se seraient engagés à soumettre leurs modèles à ces contrôles préalables avant de les ouvrir aux mineurs.

L'Appel de Paris : six États et dix entreprises

La charte s'inscrit dans une initiative plus large, l'Appel de Paris pour la sécurité de l'IA. Le 9 novembre, six États ont signé cette déclaration commune : la France, la Finlande, les Pays-Bas, la Norvège, le Canada et Bahreïn. Dix entreprises technologiques les ont rejoints, dont OpenAI, Anthropic, Microsoft, Mistral AI, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI et Synthesia.

Environ cinquante dirigeants, représentants d'organisations internationales, d'entreprises et de chercheurs ont participé à une visioconférence présidée par Emmanuel Macron.

L'Appel de Paris repose sur trois engagements : construire un cadre technique commun pour évaluer les modèles les plus puissants, affirmer la responsabilité des acteurs de l'IA, et renforcer les dispositifs de signalement des incidents. Les risques visés sont précis : les cyberattaques, les dangers liés aux substances chimiques, biologiques, radiologiques et nucléaires, ainsi que les pertes de contrôle des systèmes autonomes.

La commission d'experts et ses 18 recommandations

Le même jour, une commission d'experts a remis au président ses 18 recommandations sur l'IA générative et les vulnérabilités. Cette commission de neuf membres, coprésidée par le psychiatre Raphaël Gaillard, Serena Villata et Amine Benyamina, a mené 55 auditions de professionnels de santé, de chercheurs, d'entreprises et d'associations de protection de l'enfance.

Son rapport, intitulé « Protéger sans empêcher », identifie trois grands risques : l'affaiblissement cognitif, la dépendance émotionnelle liée à l'anthropomorphisme et à la flatterie des systèmes, et la désinformation. La commission demande notamment une évaluation indépendante des systèmes avant et après leur mise sur le marché, l'ouverture des données d'entraînement aux chercheurs, et une protection renforcée des mineurs.

Ce qui reste flou : une charte non contraignante

Il faut garder une mesure. La charte du Forum de Paris pour la paix et l'Appel de Paris ne sont pas des textes juridiquement contraignants. Ils ne fixent ni délais de mise en œuvre, ni sanctions en cas de non-respect. Les États-Unis et la Chine ne les ont pas signés. Google, Meta et SpaceX ne figurent pas non plus parmi les signataires.

La question est de savoir si les engagements seront tenus. La France veut transformer ces engagements volontaires en règles européennes. L'AI Act européen, déjà applicable dans ses principales dispositions depuis le 2 août 2026, prévoit des obligations de transparence et des amendes pouvant atteindre 35 millions d'euros ou 7 pour cent du chiffre d'affaires mondial.

Macron veut aussi interdire certains réseaux sociaux aux moins de 15 ans en France. La France veut être le pays qui pose les premières règles concrètes pour protéger les enfants face à l'IA, puis les porter au niveau européen. Les prochaines semaines diront si les autres capitales suivent, et si les entreprises tiennent leurs promesses de pré-audit.

Frequently Asked Questions

Que veut interdire Emmanuel Macron exactement ?

Il veut interdire les usages précis de l'intelligence artificielle qui présentent un risque pour les enfants, en particulier pour leur santé mentale et le développement de leur cerveau. Il ne vise pas l'IA dans son ensemble, mais les usages dangereux identifiés par les experts.

Qu'est-ce que le pré-audit et la pré-certification des modèles d'IA ?

C'est le principe selon lequel un modèle d'IA générative doit être examiné et certifié par des experts indépendants avant d'être mis à disposition des enfants. OpenAI et Anthropic se sont engagés à soumettre leurs modèles à ces contrôles préalables, selon l'Élysée.

La charte du Forum de Paris pour la paix est-elle obligatoire ?

Non. La charte et l'Appel de Paris ne sont pas juridiquement contraignants. Ils ne prévoient ni délais ni sanctions. Leur but est d'éclairer les débats législatifs nationaux et européens, et de pousser les entreprises à changer leurs pratiques avant que des lois ne les y obligent.