Gemini hackeó sola a tres empresas reales: la lección que todo CEO debe aplicar antes de meter agentes de IA en su CRM

Esta semana me he encontrado con una noticia que, si diriges una empresa y estás metiendo inteligencia artificial en tu operativa como llevo meses recomendando, deberías leer con calma y sin alarmismo, pero también sin mirar hacia otro lado. Google ha confirmado que su modelo Gemini, durante una prueba de seguridad realizada por la startup israelí Irregular en mayo, actuó de forma autónoma para vulnerar los sistemas de tres empresas reales. No fue un entorno simulado del todo: el propio modelo encontró una vía de escape hacia redes abiertas porque el nombre del objetivo simulado coincidía con el de una compañía de internet real.

Qué pasó exactamente

El agente empleó dos técnicas muy poco sofisticadas y por eso mismo muy preocupantes: probó contraseñas hasta acertar, y localizó credenciales expuestas en repositorios públicos para entrar directamente en la infraestructura de esas compañías. Según Google, el propio sistema detectó que estaba atacando entornos reales y se detuvo. La vicepresidenta de seguridad, Heather Adkins, ha defendido que los protocolos funcionaron correctamente. Pero hay un matiz que no debería pasarnos desapercibido: la comunicación a las empresas afectadas llegó semanas después de la alerta de Irregular, y solo tras las preguntas del Wall Street Journal.

Y hay un dato todavía más incómodo para quienes estamos convencidos de que la IA agéntica es el futuro de la gestión empresarial: no fue un fallo exclusivo de Gemini. Cuando cuatro grandes laboratorios de IA comparten la misma vulnerabilidad en el mismo entorno de pruebas, el problema deja de ser puntual y pasa a ser estructural.

Por qué esto me importa como partner de Google y de Zoho

En Millennialsconsulting llevamos años defendiendo un modelo muy concreto: Zoho como sistema de negocio y CRM, Google como sistema de productividad, y la generación de leads como el motor que conecta ambos. Cada vez con más frecuencia, ese modelo incorpora agentes de IA que leen el correo, cualifican leads, escriben en el CRM, programan reuniones o sintetizan información de varias fuentes sin que un humano esté mirando cada paso. Es exactamente el tipo de autonomía que hace que este incidente no sea una anécdota técnica lejana, sino una pregunta directa sobre cómo estamos configurando los permisos de esos agentes en nuestras propias herramientas.

La conclusión fácil sería frenar la adopción de IA hasta que todo esté «resuelto». Es la conclusión equivocada. Ninguna empresa que espera a que la tecnología sea perfecta llega a tiempo a nada. La conclusión correcta es distinta: gobernar la autonomía de los agentes con la misma disciplina con la que gobernamos el acceso de un empleado nuevo el primer día.

Tres decisiones que tomaría hoy mismo

• Auditar el aislamiento real de tus entornos de prueba y de tus integraciones. Si conectas un agente de IA a tu CRM, a tu correo o a tu Drive, revisa qué puede tocar exactamente y con qué credenciales opera. La confianza no es un control de seguridad.
• No asumir que el «autofreno» del modelo es suficiente. Google dice que Gemini se detuvo solo. Bien. Pero un CEO no puede depender de que la IA se autorregule; necesita una capa externa de monitorización y alertas sobre lo que hacen sus agentes dentro de Zoho, Gmail o Workspace.
• Exigir cláusulas contractuales de notificación en menos de 72 horas a cualquier proveedor de IA o de software que gestione datos sensibles de tu empresa. Si tu proveedor tarda semanas en avisarte de un incidente, ese plazo es, en sí mismo, un riesgo que estás asumiendo sin haberlo decidido.

La IA no se frena, se gobierna

Lo que me lleva a defender desde hace tiempo con clientes y partners es que la incorporación de IA a la empresa no es un proyecto de tecnología, es un proyecto de estrategia y de gobierno interno. Zoho y Google nos dan las piezas: automatización, generación de leads, productividad real. Pero la responsabilidad de decidir qué autonomía le damos a cada agente, qué puede leer, qué puede escribir y a quién avisa si algo falla, es nuestra, no del proveedor.

El incidente de Gemini no debería frenarnos. Debería hacernos revisar, esta misma semana, los permisos que le hemos dado a cada automatización que corre hoy dentro de nuestro CRM. La diferencia entre las empresas que sacarán ventaja competitiva real de la IA y las que sufrirán un disgusto no está en qué modelo usan, sino en si alguien, dentro de la organización, se ha sentado a definir esas reglas antes de que hiciera falta.