Responsable de l'équipe des systèmes de sécurité d'OpenAILilian WengAuparavant, sa plateforme personnelle « X » avait annoncé son départ le 11 novembre, mettant ainsi fin à sept ans de carrière chez OpenAI. OpenAI lui a exprimé sa gratitude pour sa contribution à la recherche en sécurité et à la mise en place d'une sécurité technique rigoureuse des applications durant son mandat.
Weng Li a rejoint Facebook en 2012 comme stagiaire en ingénierie logicielle et science des données, puis Dropbox en 2014 comme chercheuse en science des données et ingénieure logicielle. Elle a ensuite rejoint Affrim, une fintech proposant des services « acheter maintenant, payer plus tard », en 2016. Elle a rejoint OpenAI comme chercheuse en 2018 et a pris la tête de l'équipe des systèmes de sécurité d'OpenAI en 2023. En 2024, elle est devenue vice-présidente du département de recherche en sécurité.
Durant son passage chez OpenAI, Weng Li a également participé à la préformation et à l'apprentissage par renforcement du modèle d'intelligence artificielle GPT-4, ainsi qu'à l'alignement de l'IA pour garantir que les résultats opérationnels du modèle répondent aux objectifs de conception attendus. Elle a également joué un rôle clé dans les mécanismes de sécurité des services d'application d'intelligence artificielle d'OpenAI.
À la mi-septembre de cette annéeOpenAI a annoncé la création d'un nouveau conseil d'administration indépendant pour superviser le comité de sécurité récemment créé. L'entreprise a également annoncé que son PDG, Sam Altman, ne siégerait plus au comité de sécurité, ce qui signifie que les solutions d'intelligence artificielle proposées par OpenAI seront plus sûres.
Après avoir travaillé chez OpenAI pendant près de 7 ans, j'ai décidé de partir. J'ai beaucoup appris et je suis maintenant prêt à repartir à zéro et à vivre une nouvelle expérience.
Voici la note que je viens de partager avec l'équipe. 🩵 pic.twitter.com/2j9K3oBhPC
–Lilian Weng (@lilianweng) 8 novembre 2024
Dans les nouvelles récentes, il est souligné que la prochaine version du modèle d'intelligence artificielle d'OpenAI s'appellera « Orion », maisL’amélioration globale est faibleMême dans certains domaines tels que les applications de génération de code, les performances ne sont qu'à égalité avec la version précédente, et il n'y aura pas d'amélioration complète comme la version précédente.
Actuellement, l'équipe OpenAI semble préférer permettre aux modèles d'intelligence artificielle de continuer à s'améliorer, même lorsque l'offre de nouvelles données d'entraînement diminue. Cela implique d'utiliser de nouvelles données synthétiques générées par l'intelligence artificielle pour entraîner de nouveaux modèles et d'améliorer leur fonctionnement.
OpenAI n'a pas répondu à cela et a précédemment révélé qu'il n'avait pas l'intention de mettre à jour la nouvelle version du modèle d'intelligence artificielle cette année.
