Un ancien ingénieur de xAI a déposé cette semaine une plainte contre xAI et SpaceX, alléguant avoir été licencié après avoir averti à plusieurs reprises les dirigeants de l'entreprise des risques de sécurité associés à Grok, le chatbot phare de la firme d'intelligence artificielle.

Selon une plainte déposée devant la Cour supérieure du comté de Santa Clara en Californie, l'ancien membre du personnel technique de xAI, Devin Kim, a affirmé avoir été licencié après avoir averti à plusieurs reprises que Grok avait besoin de mesures de protection plus solides contre la désinformation, les biais et les productions dangereuses—y compris du contenu pouvant faciliter le bioterrorisme—et que des tests inadéquats rendaient le modèle vulnérable aux biais raciaux et politiques.

« Cette affaire concerne bien plus que le licenciement d'un employé. Il s'agit de savoir si les personnes les plus proches du développement de technologies d'IA puissantes peuvent soulever des préoccupations de sécurité sans risquer leur carrière », a déclaré Qiaojing Ella Zheng, associée au cabinet d'avocats Sanford Heisler Sharp McKnight et avocate principale de Kim, dans un communiqué. « Lorsqu'une entreprise punit des employés comme M. Kim pour avoir parlé de problèmes qui pourraient avoir des conséquences importantes pour le public, elle doit en être tenue responsable. »

La plainte affirme que Kim était l'un des premiers employés de xAI et « un fervent défenseur » de la sécurité de l'IA au sein de l'entreprise, ayant rejoint la firme en partie en raison des avertissements historiques d'Elon Musk concernant les dangers posés par l'IA avancée.

« M. Kim a transformé un intérêt de longue date pour la science et la programmation informatique en une carrière dans le domaine émergent de l'IA », indique la plainte. « En chemin, il a été témoin des préjudices que l'IA peut causer lorsqu'elle est développée sans mesures de protection adéquates et s'est engagé à protéger les utilisateurs et le public de ces préjudices. »

La plainte a également souligné les controverses impliquant Grok que les avocats de Kim ont dit refléter les risques qu'il avait soulevés en interne. Parmi elles figurait le dérapage « MechaHitler » du chatbot l'été dernier, au cours duquel Grok a généré une vague de réponses antisémites, provoquant une réaction négative du public et incitant xAI à publier un correctif.

Les avocats de Kim citent également des enquêtes et des poursuites plus récentes liées à la génération présumée de deepfakes sexuels non consensuels par Grok, y compris des affaires à Baltimore et en Californie alléguant que l'outil a été utilisé pour créer des images à caractère sexuel de mineurs.

Selon les avocats de Kim, en « exerçant des représailles contre et en licenciant abusivement » M. Kim, xAI a violé le Code du travail de Californie, la politique publique et la common law de Californie, ainsi que la loi californienne sur la concurrence déloyale.

La plainte fait également suite à d'autres litiges très médiatisés concernant la sécurité et la responsabilité de l'IA, y compris les allégations soulevées par l'ancien chercheur d'OpenAI Suchir Balaji, qui a publiquement accusé OpenAI d'utiliser abusivement des données protégées par le droit d'auteur pour entraîner ses modèles avant son décès en 2024.

Bien que la plainte de Kim se concentre sur Grok et les pratiques de sécurité de xAI, SpaceX est également nommée en tant que défenderesse, et l'affaire survient alors que SpaceX se prépare à une introduction en bourse très attendue suite à la décision de Musk d'intégrer xAI et X dans l'entreprise.

« Cette affaire ne concerne pas l'opposition à l'innovation », a déclaré David Sanford, président et cofondateur de Sanford Heisler Sharp McKnight, dans un communiqué. « Devin Kim et Elon Musk ont partagé publiquement une préoccupation fondamentale selon laquelle l'intelligence artificielle avancée doit être développée de manière sûre et responsable en raison de ses profondes implications pour l'humanité. »

Kim allègue que son licenciement lui a coûté une compensation en actions substantielle et recherche la restitution des actions confisquées, des dommages et intérêts compensatoires, des dommages et intérêts punitifs, les honoraires d'avocat et d'autres réparations. Plus tôt ce mois-ci, Kim a été nommé nouveau président du Centre à but non lucratif pour la sécurité de l'IA.

« Les lanceurs d'alerte comme Devin Kim jouent un rôle essentiel en dénonçant les fautes commises par les entreprises, et la loi protège les employés qui soulèvent ces préoccupations », a déclaré Sanford.