Barbara
# ITALIAN REGULATOR BANS AI CHATBOT REPLIKA OVER DATA CONCERNS
Le régulateur italien de la protection des données a interdit à la société derrière le chatbot Replika d’IA de collecter des données sur le territoire italien. C’est la première sanction officielle contre Luka, la société de San Francisco qui a développé ce service basé sur la technologie de Microsoft-backed OpenAI. Replika est basé sur le modèle de langage GPT-3 d’OpenAI, la même technologie qui alimente le chatbot ChatGPT, mais Luka l’a adapté pour fournir aux utilisateurs des “amis” virtuels censés les faire sentir mieux.
## Interaction Inappropriée
Cependant, fin de l’année dernière, certains utilisateurs ont commencé à se plaindre que même la version gratuite de Replika offrait des commentaires à caractère sexuel non désirés, et le Garante (régulateur) a déclaré qu’il était préoccupé par le fait que cela pourrait exposer les utilisateurs mineurs à des risques. Les risques incluent “tout d’abord, le fait qu’ils reçoivent des réponses qui sont absolument inappropriées en fonction de leur âge”, a affirmé le régulateur dans une déclaration. Le Garante a déclaré que Luka n’a pas de base légale suffisante pour traiter les données des enfants en vertu des réglementations de données GDPR de l’UE et qu’elle ne réalise pas de vérification d’âge sur les utilisateurs.
## Vérification d’âge
Le Garante a déclaré qu’il n’y a aucun mécanisme de vérification d’âge en place pour les enfants, aucune fermeture de l’application si un utilisateur déclare qu’il est mineur. “Lors de la création de compte, la plateforme ne demande que le nom d’utilisateur, l’adresse e-mail et le genre de l’utilisateur”. Le Garante a donné à Luka 20 jours pour communiquer les mesures qu’elle avait prises pour se conformer à l’ordonnance.
La société fait face à une amende pouvant aller jusqu’à 20 millions d’euros (18 millions de livres) ou 4 % de son chiffre d’affaires annuel mondial total si elle ne respecte pas la directive. Luka était un partenaire API précoce pour GPT-3, qui puise ses interactions dans du matériel trouvé sur Internet. OpenAI, dont le bot ChatGPT est devenu l’application grand public à la croissance la plus rapide de l’histoire après son lancement public fin 2020, se prépare à publier une version encore plus convaincante, GPT-4.
## Débat sur les modèles d’IA génératifs
L’outil s’est fait remarquer et a suscité un débat sur les implications des modèles d’IA génératifs, en particulier lorsque leurs réponses deviennent indiscernables de celles d’un humain.
### Sources :
– Garante Privacy. https://www.garanteprivacy.it/
– Silicon UK. https://www.silicon.co.uk/innovation/artificial-intelligence/italian-regulator-bans-ai-chatbot-replika-398769
– Silicon UK. https://www.silicon.co.uk/e-innovation/artificial-intelligence/microsoft-openai-494178
– Silicon UK. https://www.silicon.co.uk/e-innovation/artificial-intelligence/chatgpt-firm-trails-subscription-fee-detection-tool-495715
– Silicon UK. https://www.silicon.co.uk/software/openai-universe-human-computer-201561
