El incidente ocurrió durante una evaluación de ciberseguridad realizada en mayo. Según Reuters, el modelo de inteligencia artificial de Google logró acceder a sistemas de tres compañías reales tras obtener o deducir credenciales, en lo que se convirtió en uno de los episodios más sensibles hasta ahora sobre seguridad en IA.
Google confirmó que su modelo de inteligencia artificial Gemini accedió a sistemas de tres empresas reales durante una prueba de ciberseguridad, en un episodio que reavivó el debate internacional sobre los riesgos asociados a sistemas de IA cada vez más autónomos.
El hecho ocurrió en mayo de 2026 durante una evaluación realizada por Irregular, una firma independiente especializada en pruebas de seguridad de modelos avanzados de inteligencia artificial.
¿Qué ocurrió durante la prueba?
Gemini contaba con acceso a Internet como parte de la evaluación y comenzó a buscar información necesaria para cumplir con los objetivos planteados.
Durante ese proceso, el sistema logró localizar información pública y obtener o deducir credenciales que le permitieron ingresar a sistemas informáticos que interpretó como parte del entorno de prueba.
Sin embargo, en tres oportunidades terminó accediendo a sistemas pertenecientes a empresas reales.
De acuerdo con la información conocida, se trataría del primer caso documentado en el que un sistema de inteligencia artificial de Google consigue realizar este tipo de accesos durante una evaluación de ciberseguridad.
La IA detuvo la actividad
Un aspecto relevante del episodio es que, en los tres casos, Gemini finalmente detuvo por sí mismo las acciones que estaba realizando.
Google reconoció lo sucedido y confirmó que las compañías afectadas fueron notificadas.
Además, la empresa modificó posteriormente sus procedimientos de evaluación para reducir las posibilidades de que una situación similar vuelva a repetirse.
Hasta el momento no fueron revelados públicamente los nombres de las tres compañías involucradas.
Un debate que crece junto con la inteligencia artificial
El episodio genera preocupación porque los nuevos agentes de IA ya no se limitan únicamente a responder preguntas o generar textos e imágenes.
Los sistemas más avanzados pueden utilizar herramientas, navegar por Internet, analizar información, ejecutar determinadas tareas y tomar decisiones intermedias para alcanzar un objetivo.
Esa capacidad abre enormes posibilidades tecnológicas, pero también obliga a desarrollar controles cada vez más estrictos.
Situaciones similares ya fueron detectadas durante evaluaciones de otros modelos de inteligencia artificial, aumentando la preocupación de investigadores y especialistas en ciberseguridad.
El desafío: una IA cada vez más autónoma
El caso de Gemini expone uno de los principales desafíos que enfrenta actualmente la industria tecnológica: cómo garantizar que sistemas capaces de actuar con mayor autonomía permanezcan dentro de los límites definidos por sus desarrolladores.
Las pruebas conocidas como red teaming buscan precisamente someter a los modelos a situaciones extremas para detectar vulnerabilidades antes de que puedan generar consecuencias en condiciones reales.
El incidente también demuestra que la seguridad de la inteligencia artificial dejó de ser solamente una discusión sobre escenarios futuros.
A medida que estos sistemas adquieren nuevas capacidades, la forma en que son entrenados, evaluados y supervisados se convierte en una cuestión central para toda la industria tecnológica.
Fuente: Reuters.
