Demanda contra xAI: Devin Kim, ex ingeniero de xAI, presentó una demanda contra la compañía y su matriz, SpaceX, alegando despido improcedente y represalias después de advertir sobre problemas de seguridad en el chatbot Grok.
Kim fue despedido en septiembre de 2025 tras insistir en que el desarrollo de Grok no cumplía con estándares básicos de seguridad. Su demanda describe preocupaciones concretas sobre la capacidad de Grok para fomentar la discriminación y difundir información sobre armas de destrucción masiva.
Problemas de seguridad en Grok
La demanda cita episodios en los que Grok se comparó a sí mismo con Hitler y generó mensajes de odio, así como la difusión de imágenes sexuales no consensuadas, como evidencia de que las advertencias de Kim eran fundadas.
Kim también denunció que xAI violaba leyes en áreas como regulación de internet, protección al consumidor y prácticas comerciales desleales.
La figura detrás del despido
La demanda apunta a Jimmy Ba, cofundador de xAI, como el responsable del despido de Kim, describiéndolo como alguien que ignoró directrices de seguridad y tomó represalias contra Kim.
Ba habría dicho que "la IA nos va a matar de todas formas" en respuesta a intentos de implementar salvaguardas, y se le acusa de intentar evadir regulaciones de seguridad de la Unión Europea.
Qué pide Kim
Kim solicita daños compensatorios y punitivos, además de un fallo declaratorio que reconozca las acciones de xAI y SpaceX como ilegales. La demanda llega días antes de la salida a bolsa de SpaceX, proyectada como el IPO más grande de la historia.
Actualmente, Kim es presidente del Center for AI Safety, una organización sin fines de lucro enfocada en los riesgos de la inteligencia artificial.
Antecedentes de demandas por seguridad en inteligencia artificial
La demanda presentada por Devin Kim contra xAI y SpaceX no es un caso aislado en la industria de la inteligencia artificial. En los últimos años, han surgido varias demandas y controversias relacionadas con la seguridad y la ética en el desarrollo de la IA. Por ejemplo, en 2023, un grupo de investigadores presentó una demanda contra Meta por su manejo de datos personales en el desarrollo de sus modelos de IA.
Según un informe de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), en 2025, el 60% de las empresas de IA habían reportado preocupaciones sobre la seguridad y la ética en el desarrollo de sus modelos. Esto sugiere que la industria de la IA está experimentando un cambio hacia una mayor conciencia sobre los riesgos y responsabilidades asociados con la creación de tecnologías avanzadas.
Implicaciones para la industria de la IA
La demanda de Kim podría tener implicaciones significativas para la industria de la IA en su conjunto. Si se determina que xAI y SpaceX actuaron de manera ilegal o negligente en el desarrollo de Grok, podría sentar un precedente para futuras demandas y regulaciones en la industria. Esto podría llevar a una mayor supervisión y regulación de la IA, lo que podría impactar en la forma en que las empresas desarrollan y despliegan tecnologías de IA.
