Pierre T.
COMMON SENSE MEDIA LANCE UN SYSTÈME D’ÉVALUATION DES PRODUITS D’IA POUR LES ENFANTS
Le célèbre organisme à but non lucratif Common Sense Media, dédié à la protection de la vie privée des consommateurs, à la citoyenneté numérique et à la fourniture de notes pour les médias destinées aux parents qui souhaitent évaluer les applications, les jeux, les podcasts, les émissions de télévision, les films et les livres que leurs enfants consomment, a annoncé ce matin qu’il introduirait un nouveau type de produit dans son système d’évaluation et de notes : les produits d’intelligence artificielle (IA). L’organisation prévoit de mettre en place un nouveau système de notes qui évaluera les produits d’IA selon plusieurs critères, notamment leur utilisation de “pratiques responsables en matière d’IA” ainsi que leur adéquation pour les enfants.
Cette nouvelle évaluation des produits d’IA se concentrera particulièrement sur ceux utilisés par les enfants et les enseignants, précise Common Sense.
Cette décision d’inclure les produits d’IA dans sa gamme de services fait suite à une enquête réalisée en partenariat avec Impact Research, qui a révélé que 82 % des parents cherchaient un système de notation qui les aiderait à évaluer si les nouveaux produits d’IA, comme ChatGPT, étaient adaptés aux enfants. Plus de trois quarts des répondants (77 %) ont également déclaré être intéressés par des produits d’IA pouvant aider les enfants à apprendre, mais seulement 40 % ont déclaré connaître une ressource fiable pouvant les aider à en savoir plus sur l’adéquation des produits d’IA pour leurs enfants.
Le nouveau système sera conçu avec l’aide d’experts dans le domaine de l’intelligence artificielle et visera également à informer les futurs efforts législatifs et réglementaires en matière de sécurité en ligne des mineurs, a déclaré l’organisation.
Le système de notation et d’évaluation des médias indépendant de Common Sense, disponible sur commonsensemedia.org, fournit généralement une note d’adéquation à l’âge ainsi que des mesures de la quantité de contenu positif ou négatif que peut contenir le média, couvrant des domaines tels que les modèles et messages positifs et la représentation diversifiée, ou, à l’inverse, la violence, la vulgarité, l’aspect effrayant, la consommation de drogues, etc. Il n’est pas précisé comment Common Sense prévoit de noter les produits d’IA dans le nouveau système.
Cependant, dans un document de position publié en avril 2023, Common Sense avait déjà mis en garde contre plusieurs problèmes actuels liés à l’IA, notamment leur manque de “garde-fous significatifs” qui peuvent les rendre dangereux pour les enfants. En outre, l’organisation avait averti que les technologies d’IA générative, telles que ChatGPT d’OpenAI, pourraient être sujettes à des biais dans leurs données d’entraînement, qui comprennent de vastes ensembles de données provenant de sites Web, de livres et d’articles, voire de contenu extrait d’Internet.
Common Sense n’a pas communiqué de délai pour le lancement de son nouveau système de notation et d’évaluation des produits d’IA, mais a souligné l’urgence de créer une telle ressource.
“Nous devons agir dès maintenant pour nous assurer que les parents, les enseignants et les jeunes sont informés des dangers et des possibilités de l’IA et des produits comme ChatGPT”, a déclaré James P. Steyer, fondateur et PDG de Common Sense Media, dans un communiqué. “Il est essentiel qu’il existe un système de notation tiers fiable et indépendant pour informer le public et les décideurs politiques sur l’incroyable impact de l’IA. Ces dernières années, un certain nombre de sociétés technologiques ont mis les profits avant le bien-être des enfants et des familles. Nous avons déjà vu ce film, avec l’apparition des médias sociaux et l’absence de réglementation de ces plateformes, et malheureusement, nous savons comment se termine cette histoire. En toute simplicité, nous ne devons pas commettre les mêmes erreurs avec l’IA, qui aura des conséquences encore plus graves pour les enfants et la société”, a-t-il ajouté.
En plus de ses évaluations des médias, la société affiliée à but lucratif de l’organisation, Common Sense Networks, s’est inspirée de ses recommandations adaptées aux enfants avec le lancement d’un service de streaming appelé Sensical en 2921. Le service propose des vidéos adaptées à l’âge des enfants de 2 à 10 ans.
Sources :
– Common Sense Media : [site web](https://www.commonsensemedia.org/)
– Impact Research : [site web](https://impactresearch.com/)
– Document de position de Common Sense : [PDF](https://www.commonsensemedia.org/sites/default/files/featured-content/final-ai-and-our-kids-final-for-web.pdf)
– Common Sense Networks : [site web](http://www.commonsensenetworks.com/)
– Sensical : [site web](https://www.sensicaltv.com/)
– ChatGPT : [article](https://techcrunch.com/2023/07/13/chatgpt-everything-you-need-to-know-about-the-open-ai-powered-chatbot/)
