Pierre T.
# INSTAGRAM TRAVAILLE SUR L’IDENTIFICATION DE CONTENU GÉNÉRÉ PAR IA
Instagram semble être en train de développer de nouvelles notifications qui permettraient d’identifier quand une intelligence artificielle a participé à la création de contenu sur sa plateforme.
L’expert en applications Alessandro Paluzzi, qui découvre fréquemment de nouvelles fonctionnalités Instagram avant leur annonce officielle, a récemment publié une capture d’écran d’une page de l’application Instagram mentionnant que “le créateur ou Meta a déclaré que ce contenu a été créé ou édité avec l’IA”. Cette notification spécifique précise qu’il s’agit dans ce cas d’une image “générée par Meta AI”, et donne une brève description de ce qu’est l’IA générative et comment identifier les publications utilisant l’IA.
Cette découverte intervient peu de temps après que Meta, ainsi que d’autres acteurs majeurs de l’IA tels que Google, Microsoft et OpenAI, se sont engagés auprès de la Maison Blanche pour un développement responsable de l’IA. Parmi les engagements pris figure le développement d’un système de filigrane pour informer les utilisateurs lorsque le contenu est généré par IA.
Il n’est pas encore clair dans quelle mesure le système d’étiquetage automatique d’Instagram sera utilisé, ni dans quelle mesure il sera basé sur les utilisateurs déclarant avoir utilisé l’IA pour créer ou éditer une image. Cependant, le fait que la notification contienne les mots “Meta a dit” suggère que, dans au moins certains cas, l’entreprise technologique appliquera activement cette notification plutôt que de compter sur l’honnêteté des utilisateurs eux-mêmes. Un porte-parole de Meta a refusé de commenter cette notification à Engadget, et l’entreprise n’a pas immédiatement répondu à la demande de commentaire de The Verge.
Bien que cette fonctionnalité en soit encore à ses débuts, nous avons déjà eu un aperçu de ce à quoi pourraient ressembler les fausses informations générées par l’IA lorsque l’image d’un pape en veste rembourrée à la mode est devenue virale sur les réseaux sociaux plus tôt cette année. Dans ce cas, l’image relativement inoffensive a finalement été démystifiée, mais elle était perçue comme un avertissement indiquant que des outils simples existent désormais pour propager des désinformations dangereuses lorsqu’ils sont appliqués à des images satellites ou de la photographie politique.
Meta a récemment rendu sa grande modèle de langage LLaMA 2 open-source, mais il n’a pas encore largement diffusé les fonctionnalités génératives basées sur l’IA pour ses produits tels qu’Instagram. Cependant, nous avons quelques indications sur les types de fonctionnalités qu’elle développe. Lors d’une réunion de l’entreprise, le PDG Mark Zuckerberg a déclaré que Meta travaillait sur des fonctionnalités telles que l’utilisation de des indications textuelles pour modifier les photos des Instagram Stories, selon Axios. Alessandro Paluzzi, chercheur d’applications, a également repéré des signes d’une fonction “pinceau IA” pour Instagram qui pourrait “ajouter ou remplacer des parties spécifiques” des images. Récemment, The Financial Times a rapporté que Meta pourrait intégrer une fonction de chatbot IA “personas” dans ses produits dès le mois prochain.
En dehors de Meta, Google a déjà annoncé un nouvel outil qui devrait faciliter la détermination si une image a été générée par IA. Sa fonction “À propos de cette image” sera lancée cet été et vise à mettre en évidence le premier indexage d’une image par le géant de la recherche, offrant des indices précieux sur ses origines.
Sources:
– Alessandro Paluzzi (https://twitter.com/alex193a/status/1685620855416467456?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1685620855416467456%7Ctwgr%5E67d9a89bb338c2de34e03aa9cf713408cb2cc21e%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.engadget.com%2Finstagram-seems-to-be-working-on-labels-for-posts-generated-by-meta-ai-173427549.html)
– The Verge (https://www.theverge.com/2023/7/21/23802274/artificial-intelligence-meta-google-openai-white-house-security-safety)
– Engadget (https://www.engadget.com/instagram-seems-to-be-working-on-labels-for-posts-generated-by-meta-ai-173427549.html)
– Axios (https://www.axios.com/2023/06/08/meta-ai-zuckerberg-announcement-generative)
– The Financial Times (https://www.theverge.com/2023/8/1/23815287/meta-ai-persona-generative-llama-instagram-facebook)
– Google (https://www.theverge.com/2023/5/10/23718616/google-image-search-verification-about-this-metadata-io)
