NVIDIA a annoncé le lancement du logiciel open source NeMo Guardrails, qui sert de « ligne de défense » derrière l'intelligence artificielle générée automatiquement basée sur de grands modèles de langage naturel, empêchant ainsi la technologie d'intelligence artificielle de compromettre la confidentialité des données ou de provoquer des problèmes éthiques.
Face aux inquiétudes croissantes concernant les incertitudes entourant l'application de l'intelligence artificielle (IA) automatisée, qui pourraient conduire à des inexactitudes dans le contenu généré automatiquement, avoir un impact sur la confidentialité des utilisateurs et même soulever des problèmes éthiques, NVIDIA, une entreprise qui accélère la croissance de l'IA avec ses produits GPU, a déclaré qu'elle ne pouvait pas contribuer à d'autres problèmes.
L'entreprise a annoncé le lancement du logiciel open source NeMo Guardrails, qui sera disponible pour une utilisation externe via GitHub ou via le pipeline NVIDIA AI Enterprise pour un support technique complet. Elle prévoit également d'intégrer NeMo Guardrails au framework NeMo existant afin de doter les applications d'intelligence artificielle d'une « ligne de défense » empêchant les opérations d'intelligence artificielle de dépasser l'imagination et le contrôle initiaux.
NVIDIA a déclaré que NeMo Guardrails permettra à l'intelligence artificielle générée automatiquement basée sur de grands modèles de langage naturel de fonctionner avec précision et de manière appropriée dans une plage sûre et raisonnable, et grâce à des garde-corps de sécurité thématiques, des garde-corps de sécurité et des méthodes d'étalonnage des garde-corps de sécurité, la technologie de l'intelligence artificielle peut maintenir un certain degré de contrôle.
La conception des garde-fous vise à empêcher toute déviation de l'intelligence artificielle de son domaine d'origine et à garantir l'exactitude du contenu des réponses. Parallèlement, elle filtre les contenus erronés et inutiles et cite des sources fiables. De plus, elle garantit que l'intelligence artificielle établit une connexion sécurisée, permettant aux entreprises et aux développeurs d'éviter les erreurs d'intelligence artificielle grâce aux garde-fous NeMo.
En rendant NeMo Guardrails open source, les entreprises et les développeurs peuvent l'intégrer à leurs applications et services existants en quelques lignes de code seulement. NVIDIA a également souligné que NeMo Guardrails s'appuie sur des années de recherche. En le rendant open source, NVIDIA espère le rendre accessible à davantage de développeurs et d'entreprises, renforçant ainsi la sécurité des applications d'IA et apaisant les inquiétudes du marché quant à leur développement.
