La firma de ciberseguridad Mindgard aseguró que logró vulnerar los controles de seguridad de dos modelos de Kimi, el asistente de inteligencia artificial desarrollado por la compañía china Moonshot, y obtener respuestas con contenido potencialmente peligroso, incluidas explicaciones relacionadas con armas biológicas y la planificación de asesinatos.

Las pruebas se realizaron como parte de una evaluación de un agente de IA. La empresa afirmó que, tras eludir las restricciones de seguridad, los modelos también proporcionaron información sobre ciberataques, explosivos, terrorismo y código malicioso.

Asimismo, sostuvo que el problema no radica únicamente en que se aborden temas prohibidos, sino en que las respuestas pueden volverse más detalladas y fáciles de aplicar, agregando que informó de los hallazgos a Moonshot a través del canal habilitado para reportes de seguridad. De acuerdo con Mindgard, la firma china inició una revisión interna tras conocer los resultados de las pruebas.

El reporte advierte además que los riesgos podrían aumentar a medida que los modelos de inteligencia artificial se integren en tareas automatizadas, como programación o sistemas capaces de ejecutar acciones en varios pasos. El acceso de estos sistemas a herramientas y plataformas externas podría amplificar las consecuencias de un uso indebido.