META CRACKS DOWN ON PROPAGANDA CAMPAIGNS

Meta a déclaré qu’elle avait réprimé les campagnes de propagande sur ses plateformes, y compris celle qui utilisait l’IA pour influencer le discours politique et créer l’illusion d’un soutien plus large à certains points de vue, selon son rapport de menaces trimestriel publié aujourd’hui.

POLITIQUE DE COMPTE FAKE SUR FACEBOOK ET INSTAGRAM

Les réseaux ont utilisé des comptes Facebook et Instagram pour tenter d’influencer les agendas politiques du monde entier. Les campagnes – dont certaines ont également commencé au Bangladesh, en Chine et en Croatie – ont utilisé de faux comptes pour soutenir des mouvements politiques, promouvoir de faux médias d’information ou commenter les publications d’organisations d’actualités légitimes.

CAMPAGNES D’INFLUENCE AVEC IA

Un réseau originaire de Chine, par exemple, était composé de plusieurs dizaines de comptes, pages et groupes Instagram et Facebook et servait à cibler les communautés sikhes du monde entier, selon Meta. Une autre campagne attribuée à Israël utilisait plus de 500 comptes Facebook et Instagram pour se faire passer pour des étudiants juifs locaux, des Afro-Américains et des "citoyens concernés" félicitant les actions militaires israéliennes et discutant de l’antisémitisme sur les campus, entre autres types de contenu.

UTILISATION DE L’IA DANS LES CAMPAGNES

Certains des contenus partagés par ces deux réseaux ont probablement été créés à l’aide d’outils d’IA générative, écrit Meta. Les comptes de la campagne basée en Chine ont partagé des images générées par l’IA, et la campagne israélienne a publié des commentaires générés par l’IA, a découvert Meta. Le rapport indique que, pour l’instant, les campagnes d’influence alimentées par l’IA ne sont pas assez sophistiquées pour échapper aux systèmes de détection existants.

Sources:

• Meta Quarterly Threat Report