La principale préoccupation de Children First Canada est, et a toujours été, la sécurité et la dignité des enfants ainsi que la protection de leurs droits.
Les récents signalements concernant l'utilisation de Grok pour générer du matériel pédopornographique mettent en lumière une réalité plus vaste et profondément inquiétante : de nombreuses plateformes en ligne et outils basés sur l'IA ne parviennent pas à protéger les enfants.
Ce problème ne se limite pas à une seule entreprise ou plateforme. Il révèle plutôt des faiblesses systémiques au sein de l'écosystème numérique, où le rythme de l'innovation a largement dépassé celui des mécanismes de protection et de responsabilisation, exposant ainsi les enfants à un risque considérable d'exploitation.
Chez Children First Canada, nous avons décidé de nous retirer de la plateforme X en raison de préoccupations croissantes concernant son orientation, sa gouvernance et sa capacité à gérer efficacement les risques pour les enfants et les jeunes. Cette décision a été prise avant les récentes révélations et reflétait notre conviction que la plateforme n'était pas conforme à nos valeurs ni à notre responsabilité de promouvoir des pratiques numériques sécuritaires.
Parallèlement, nous reconnaissons qu'aucune plateforme n'est sans risque. Metacritic, Google, TikTok, les applications de messagerie chiffrée et les outils d'IA émergents présentent tous des risques graves et bien documentés pour les enfants, allant du harcèlement et de l'exploitation à l'amplification algorithmique de contenus préjudiciables et aux abus facilités par l'IA. Les organisations caritatives comme la nôtre, ainsi que les gouvernements, les institutions publiques et les élus, utilisent actuellement un large éventail de ces outils pour communiquer avec le public.
Les préjudices associés à Grok et X sont graves et inacceptables, mais plutôt que de se renvoyer la balle entre les plateformes, ce moment souligne l'urgence d'une responsabilisation cohérente à l'échelle du système.
Les enfants n’ont pas besoin d’une gestion de crise plateforme par plateforme ; ils ont besoin de règles claires et applicables à l’ensemble de l’écosystème numérique. C’est pourquoi Enfants d’abord Canada a lancé la campagne « Le compte à rebours pour les enfants », réclamant une loi sur la sécurité en ligne solide et axée sur les enfants, assortie d’une obligation de diligence claire, d’une véritable surveillance, de transparence et de mesures de protection permettant de prévenir les préjudices. Le compte à rebours a débuté le 20 novembre 2025 et donnait au gouvernement 40 jours pour agir. Ce délai est maintenant expiré. Bien que d’importantes réformes du Code criminel aient été introduites, la législation plus large sur la sécurité en ligne dont les enfants ont besoin fait toujours défaut. Au 5 janvier 2026, 1 590 jours se sont écoulés depuis l’engagement du gouvernement d’agir, et les enfants attendent toujours.
Nous exhortons le gouvernement fédéral à :
- Prenez au sérieux les risques émergents liés à l'IA pour les enfants et agissez de manière proactive, et non réactive ;
- Réévaluer leurs propres pratiques numériques sous l’angle de la sécurité des enfants ;
- Il est urgent d'adopter des lois qui responsabilisent toutes les plateformes, quelle que soit leur taille.
popularité ou influence politique.
Les enfants ne peuvent se soustraire au monde numérique que nous, adultes, avons construit autour d'eux. Il est de la responsabilité des gouvernements, des entreprises technologiques et de la société civile de leur garantir un monde sûr.
L’organisme Children First Canada continuera de plaider en faveur de solutions qui donnent la priorité aux enfants, sur toutes les plateformes, et nous demandons instamment une action rapide pour garantir qu’aucun espace numérique ne permette les abus, l’exploitation ou les préjudices causés à nos enfants.
Citations attribuables à Sara Austin, fondatrice et PDG de Children First Canada :
« Il ne s’agit pas d’une seule plateforme, mais d’un écosystème numérique qui fait défaut aux enfants. Lorsque des outils d’IA peuvent être utilisés pour générer du matériel pédopornographique, c’est un signal d’alarme alarmant : les mesures de protection ne suivent pas le rythme des avancées technologiques. Enfants d’abord Canada s’est retiré de la plateforme X en raison de ses inquiétudes croissantes quant à la responsabilité des plateformes, mais la réalité est qu’aucune grande plateforme n’est à l’abri. Ce dont les enfants ont besoin maintenant, ce sont des règles claires, applicables et cohérentes. Une loi sur la sécurité en ligne pour les enfants canadiens n’est plus une option, c’est une nécessité urgente. »
En tant que parent et défenseur des droits de l'enfant, je trouve profondément inquiétant que les enfants puissent être victimes de l'IA et des plateformes en ligne, faute de garde-fous suffisants et sans aucune conséquence en cas de préjudice. Nous avons quitté X car cela ne correspondait plus à nos valeurs ni à notre responsabilité de promouvoir des pratiques numériques sûres. Cependant, ce problème dépasse largement le cadre d'une seule entreprise. Les enfants ne peuvent pas se soustraire au monde numérique construit par les adultes. Il est de notre devoir de le rendre sûr.
« Les gouvernements ne devraient pas être contraints de gérer les crises plateforme par plateforme à chaque fois qu’un nouveau risque apparaît. Le fait que les outils d’IA puissent être détournés pour générer du matériel pédopornographique démontre pourquoi le Canada a besoin d’urgence d’une loi complète sur la sécurité en ligne. Sans obligation de diligence claire et surveillance indépendante, les plateformes continueront d’évoluer plus vite que les protections auxquelles les enfants ont droit. »