Dawn Song, professeure à l'UC Berkeley et fondatrice d'Oasis Labs, a rejoint Meta Superintelligence Labs en tant que vice-présidente de la recherche en IA.
Elle a déclaré qu'elle aiderait à diriger les efforts de Meta en matière de sûreté et de sécurité de l'IA. Song a annoncé ce mouvement dans une publication sur X. Elle a ajouté que plusieurs membres de l'équipe Virtue AI rejoindraient également Meta. Axios a également rapporté que les co-fondateurs de Virtue AI, Bo Li et Sanmi Koyejo, figuraient parmi les nouvelles recrues.
Song a précisé que son travail chez Meta se concentrera sur les modèles d'IA de pointe et les systèmes d'IA agentiques. Elle a écrit que l'IA doit être « sécurisée, fiable et bénéfique » pour atteindre son plein potentiel.
Cette initiative apporte à Meta un talent senior supplémentaire en matière de sécurité de l'IA. Elle introduit également une chercheuse bien connue dans le domaine de la confidentialité blockchain au sein de l'un des plus grands laboratoires d'IA au monde.
Virtue AI a été fondée en 2024 pour créer des outils pour une IA digne de confiance. Song a déclaré que l'équipe travaillait sur la sécurité de l'IA, la sécurité des agents, les benchmarks et les plateformes ouvertes avant de rejoindre Meta.
Selon Axios, Meta recrute plusieurs leaders et membres de l'équipe Virtue AI. Le rapport indique que le groupe travaillait sur le red teaming automatisé, les garde-fous d'exécution et la gouvernance de l'IA.
L'intérêt de Meta intervient alors que les laboratoires d'IA accordent plus d'attention à la sécurité des agents. Les agents IA peuvent entreprendre des actions, utiliser des outils et gérer des tâches à travers les systèmes logiciels. Cela rend la sécurité plus importante car les erreurs ou les utilisations abusives peuvent se propager à travers des produits réels.
Comme cela a été rapporté précédemment, Meta a mis en place une équipe d'IA de superintelligence après son important accord avec Scale AI. L'entreprise souhaite améliorer ses modèles d'IA et les déployer sur Facebook, Instagram, WhatsApp et d'autres produits.
Song est également connue dans la crypto en tant que fondatrice d'Oasis Labs. L'entreprise a levé 45 millions de dollars en 2018 pour construire une informatique en nuage axée sur la confidentialité sur la blockchain. Ses soutiens incluaient a16zcrypto, Accel et Binance Labs.
Le projet Oasis a ensuite été lié au réseau Oasis et au jeton ROSE. Le réseau se concentre sur le calcul confidentiel, la confidentialité des données et les applications respectueuses de la vie privée.
Dans un précédent article, crypto.news a discuté des agents IA vérifiables du protocole Oasis pour le trading crypto. Le projet utilisait des environnements d'exécution de confiance pour maintenir les stratégies privées tout en donnant aux utilisateurs une preuve du comportement des agents.
Auparavant, crypto.news avait exploré les services d'IA et de données basés sur Oasis via Pontus-X, une plateforme construite autour de la confidentialité et du contrôle des données. Le rôle de Song chez Meta relie ce même thème de confidentialité et de sécurité à une plateforme d'IA beaucoup plus vaste.
L'annonce de l'embauche n'a pas modifié la conjoncture de marché faible de ROSE. Oasis s'échangeait près de 0,0059 $ le 26 juin, proche de son plus bas intrajournalier. Cela représente environ 99 % en dessous de son plus haut historique d'environ 0,596 $.
ROSE a également souffert de la vente massive générale du marché crypto. Sa capitalisation boursière reste bien en dessous des niveaux de pic de cycle, même si l'IA et la confidentialité demeurent des thèmes actifs dans le secteur.
Ce mouvement reste néanmoins notable pour la communauté Oasis car Song a contribué à façonner l'identité de recherche initiale du projet. Ses travaux ont lié la blockchain, la confidentialité et la sécurité avant que la sûreté de l'IA ne devienne un sujet grand public majeur.
Pour Meta, cette embauche ajoute de l'expérience académique et en startup à son impulsion en matière de sûreté de l'IA. Pour la crypto, cela montre comment les talents en matière de confidentialité et de sécurité de la blockchain continuent de se diriger vers l'IA de pointe.
