Une nouvelle enquête publiée par le New York Times révèle une forte augmentation du nombre de vidéos générées par l'IA qui atteignent les plus jeunes utilisateurs de YouTube . L'analyse montre qu'après avoir visionné un seul contenu d'une chaîne pour enfants populaire, plus de 40 % des courtes vidéos recommandées contenaient des images de synthèse en seulement quinze minutes. Les journalistes ont mené plusieurs semaines d'observations en navigation privée, visionnant des contenus de chaînes comme CoComelon et Ms. Rachel . Ils ont ensuite analysé la section des vidéos recommandées de Shorts lors de courtes sessions répétées. Lors d'une session, après la diffusion de « Wheels on the Bus », près de la moitié des recommandations semblaient être générées par une intelligence artificielle. Certains contenus ont été signalés comme « contenus modifiés ou synthétiques ». D'autres ont nécessité l'utilisation d'outils de détection externes, car leurs graphismes rappelaient l'animation classique. Nombre d'entre eux présentaient des visages déformés, des membres supplémentaires, du texte brouillé et des enchaînements d'événements illogiques. Chaque clip durait moins de trente secondes. Les mêmes comptes et vidéos sont réapparus lors des sessions suivantes. Ce constat indique une promotion active de ce type de contenu par l'algorithme de recommandation. Les chaînes publient plusieurs vidéos par jour, privilégiant les formats courts et une rotation rapide des contenus.
Les experts cités dans l'enquête soulignent que le format ultra-court est préjudiciable au développement cognitif des jeunes enfants. Il manque de répétition et de narration cohérente, deux éléments pourtant essentiels à l'apprentissage. Les supports présentés comme éducatifs se limitent souvent à des animations chaotiques de lettres de l'alphabet ou d'animaux, sans structure ni contexte. Malgré ces réserves, les vidéos cumulent souvent des millions, voire des centaines de millions de vues. Une vidéo sur le thème d'Halloween a même dépassé les 370 millions de vues. La popularité engendre la visibilité, et la visibilité génère encore plus de vues. De nombreuses chaînes produisant du contenu d'IA pour enfants fonctionnent de manière anonyme. Les informations sur les créateurs sont indisponibles, leurs coordonnées ne sont pas publiées et il est parfois impossible d'identifier les propriétaires des comptes. Les outils utilisés pour la production vidéo sont accessibles au public. Parmi eux figurent Whisk et Runway, développés par Google . Des tutoriels et des modèles prêts à l'emploi permettent de créer des animations sans aucune expérience en montage ou en dessin. Le modèle économique repose sur la génération rapide d'un grand nombre de clips et sur l'efficacité de l'algorithme. Un format court, des couleurs vives, une musique dynamique et un titre accrocheur sont conçus pour capter l'attention dès les premières secondes.
Après que le New York Times a porté ces exemples à l'attention de la plateforme, celle-ci a suspendu cinq chaînes identifiées de son Programme Partenaire. Ces chaînes perdent ainsi la possibilité de générer des revenus publicitaires et sont bannies de l'application YouTube Kids. Plusieurs vidéos jugées non conformes aux règles de protection des enfants ont également été supprimées. Ces mesures ont été prises en réaction à la situation. YouTube exige l'étiquetage des contenus réalistes générés par l'IA, mais la réglementation ne s'applique pas aux animations destinées aux enfants. En pratique, la responsabilité du choix des contenus incombe aux parents. Certaines familles créent leurs propres listes de lecture avec des chaînes de confiance ou limitent l'accès aux applications. L'Académie américaine de pédiatrie recommande d'éviter les contenus sensationnalistes et les vidéos générées par l'intelligence artificielle. Cependant, il devient de plus en plus difficile de les identifier à mesure que les outils évoluent. (
Lire la suite)