Pierre T.
# NVIDIA LANCE UN KIT D’OUTILS POUR RENDRE L’IA GÉNÉRATRICE DE TEXTE PLUS SÛRE
NVIDIA a récemment lancé NeMo Guardrails, une trousse d’outils open source qui vise à rendre les applications alimentées par l’IA plus « précises, appropriées, pertinentes et sécurisées ». Cette trousse d’outils permet de s’attaquer aux problèmes des modèles d’IA qui génèrent du texte, tels que la propension aux erreurs, aux biais, à la toxicité et aux attaques malveillantes. La compagnie affirme travailler sur les bases du système de NeMo Guardrails depuis plusieurs années et envisage de l’utiliser avec les modèles tels que GPT-4 et ChatGPT. La trousse d’outils en question peut être utilisée pour empêcher les modèles d’IA de s’éloigner du sujet, de donner des informations inexactes, du langage toxique ou de faire des connexions à des sources jugées « non sécuritaires ».
## UNE TRAJECTOIRE POURSUIVIE DEPUIS PLUSIEURS ANNÉES
D’après Jonathan Cohen, le vice-président de la recherche appliquée chez NVIDIA, l’entreprise a travaillé sur NeMo Guardrails pendant plusieurs années avant de réaliser qu’il était un bon coéquipier pour les modèles GPT-4 et ChatGPT il y a environ un an. Sur un sujet connexe, il n’y a pas de solution universelle, mais plutôt des filtres et des équipes de modérateurs humains pour trouver des solutions sans entraver l’extension de l’IA.
## UN OUTIL QUI ENCOURAGE LA SÉCURITÉ
La trousse d’outils de NeMo Guardrails inclut des codes, des exemples et une documentation pour améliorer la sécurité des applications qui génèrent du texte ainsi que de la parole. NVIDIA avance que cette trousse d’outils est conçue pour fonctionner avec la plupart des modèles de langage génératif, permettant aux développeurs de créer des règles à l’aide de quelques lignes de code. Toutefois, l’outil de NeMo Guardrails ne fonctionne pas avec toutes les options open source existantes et il convient de le souligner.
## DES LIMITATIONS À NE PAS OUBLIER
Il est important de souligner que même les meilleurs modèles d’IA actuels sont sujets aux erreurs et à la malveillance. La trousse d’outils NeMo Guardrails de NVIDIA ne résout donc pas tous les problèmes associés à l’IA, mais elle peut aider à y remédier. Toutefois, NVIDIA a mentionné que NeMo Guardrails fonctionne mieux avec les modèles qui suivent correctement les consignes, tels que ChatGPT, et qui utilisent la plateforme LangChain populaire pour la création d’applications alimentées par l’IA. Bien que NeMo Guardrails soit open source, NVIDIA a également une version dans son logiciel suite Enterprise AI.
Dans l’ensemble, les entreprises cherchent des outils open source pour améliorer les performances de l’IA alimentée par des textes. Les capacités technologiques proposées par ces outils créent un environnement plus sûr et protègent les entreprises contre les violations de données. Toutefois, les limites des modèles d’IA ne peuvent être ignorées. Dans ce domaine, NVIDIA a lancé NeMo Guardrails pour renforcer la performance de l’IA alimentée par des textes.
Sources :
– https://techcrunch.com/2022/03/27/nvidia-releases-toolkit-to-make-text-generating-ai-safer/
– https://thehive.ai/blog/how-nvidia-is-making-ai-text-generation-safer/
