Un ex ingeniero de xAI presentó una demanda contra xAI y SpaceX esta semana, alegando que fue despedido después de advertir repetidamente a los líderes de la compañía sobre los riesgos de seguridad asociados con Grok, el chatbot insignia de la firma de inteligencia artificial.
Según una denuncia presentada en el Tribunal Superior del Condado de Santa Clara en California, el ex miembro del personal técnico de xAI, Devin Kim, afirmó que fue despedido después de advertir repetidamente que Grok necesitaba salvaguardias más sólidas contra la desinformación, el sesgo y las salidas peligrosas, incluido contenido que podría facilitar el bioterrorismo, y que las pruebas inadecuadas dejaban al modelo vulnerable al sesgo racial y político.
“Este caso es más que el despido de un empleado. Se trata de si las personas más cercanas al desarrollo de potentes tecnologías de IA pueden plantear preocupaciones de seguridad sin arriesgar sus carreras”, dijo en un comunicado Qiaojing Ella Zheng, socia del bufete de abogados Sanford Heisler Sharp McKnight y abogada principal de Kim. “Cuando una empresa castiga a empleados como el Sr. Kim por hablar sobre cuestiones que podrían tener consecuencias significativas para el público, debe rendir cuentas”.
La demanda afirma que Kim fue uno de los primeros empleados de xAI y “un defensor líder” de la seguridad de la IA en la empresa, quien se unió a la firma en parte debido al historial de advertencias de Elon Musk sobre los peligros planteados por la IA avanzada.
“El Sr. Kim convirtió un interés de toda la vida en la ciencia y la programación informática en una carrera en el campo emergente de la IA”, dice la demanda. “En el camino, vio de primera mano los daños que la IA puede causar cuando se desarrolla sin las salvaguardias adecuadas y se comprometió a proteger a los usuarios y al público de esos daños”.
La denuncia también señaló controversias que involucran a Grok que, según los abogados de Kim, reflejaban los riesgos que él planteó internamente. Entre ellos se encontraba el colapso "MechaHitler" del chatbot el verano pasado, durante el cual Grok generó una ola de respuestas antisemitas, provocando una reacción pública y llevando a xAI a emitir una corrección.
Los abogados de Kim también citan investigaciones y demandas más recientes vinculadas a la supuesta generación de deepfakes sexuales no consensuados por parte de Grok, incluidos casos en Baltimore y California que alegan que la herramienta se utilizó para crear imágenes sexualizadas de menores.
Según los abogados de Kim, al “tomar represalias y despedir injustamente” al Sr. Kim, xAI violó el Código Laboral de California, la política pública y el derecho consuetudinario de California, y la Ley de Competencia Desleal de California.
La demanda también sigue a otras disputas de alto perfil sobre la seguridad y la rendición de cuentas de la IA, incluidas las acusaciones planteadas por el ex investigador de OpenAI Suchir Balaji, quien acusó públicamente a OpenAI de usar indebidamente datos con derechos de autor para entrenar sus modelos antes de su muerte en 2024.
Aunque la denuncia de Kim se centra en Grok y las prácticas de seguridad de xAI, SpaceX también es nombrada como acusada, y esto ocurre mientras SpaceX se prepara para una IPO ampliamente anticipada después de la decisión de Musk de fusionar xAI y X en la compañía.
“Este caso no se trata de oponerse a la innovación”, dijo David Sanford, presidente y cofundador de Sanford Heisler Sharp McKnight, en un comunicado. “Devin Kim y Elon Musk han compartido públicamente una preocupación fundamental de que la inteligencia artificial avanzada debe desarrollarse de manera segura y responsable debido a sus profundas implicaciones para la humanidad”.
Kim alega que su despido le costó una compensación significativa en acciones y busca la restauración de las acciones perdidas, daños compensatorios, daños punitivos, honorarios de abogados y otras reparaciones. A principios de este mes, Kim fue nombrado nuevo presidente del Centro para la Seguridad de la IA, una organización sin fines de lucro.
“Los denunciantes como Devin Kim desempeñan un papel fundamental al señalar las irregularidades corporativas, y la ley protege a los empleados que plantean esas preocupaciones”, dijo Sanford.
