Google descubre a piratas informáticos que utilizan indebidamente la IA Gemini

Google ha identificado numerosos grupos de hackers patrocinados por el Estado que intentan explotar su plataforma de IA Gemini con fines maliciosos, incluida la ayuda al desarrollo de malware. Sin embargo, el gigante tecnológico informa de que estos esfuerzos no se han traducido en amenazas cibernéticas significativas, haciendo hincapié en que la IA sigue siendo una herramienta más que un cambio de juego para los ciberdelincuentes.

Según los hallazgos de Google, hackers de Irán, Corea del Norte, China y Rusia han aprovechado Gemini para tareas como la traducción de contenidos, el perfeccionamiento de ataques de phishing y la escritura de código informático. La empresa rastreó esta actividad hasta más de 10 grupos de piratas informáticos iraníes, 20 grupos respaldados por el gobierno chino y nueve actores de amenazas norcoreanos.

"Los actores iraníes de APT (amenazas persistentes avanzadas) fueron los que más utilizaron Gemini, empleándolo para la investigación de organizaciones de defensa, análisis de vulnerabilidades y elaboración de contenidos para campañas de desinformación", señaló Google en un blog el miércoles.

A pesar de estos intentos, Google sostiene que Gemini ha proporcionado principalmente a estos actores mejoras de productividad en lugar de capacidades directas de hacking. "En la actualidad, utilizan la IA principalmente para la investigación, la solución de problemas de código y la creación y localización de contenidos", afirmó la compañía.

Crédito de la imagen: Jaque Silva | NurPhoto

Google también destacó las limitaciones a las que se enfrentaban los hackers cuando intentaban utilizar Gemini para tareas maliciosas más avanzadas. Aunque la IA les ayudó a comprender temas complejos y a generar código básico, sus salvaguardas de seguridad impidieron el mal uso de los ciberataques. Los intentos de explotar Gemini para técnicas avanzadas de phishing, codificar software malicioso o eludir las medidas de seguridad de Google resultaron infructuosos.

"Algunos actores maliciosos intentaron sin éxito solicitar a Gemini orientación para abusar de los productos de Google, como técnicas avanzadas de phishing para Gmail, ayuda para codificar un infostealer de Chrome y métodos para eludir los métodos de verificación de creación de cuentas de Google", informó la empresa. "Estos intentos fueron infructuosos. Gemini no produjo malware u otro contenido que pudiera utilizarse plausiblemente en una campaña maliciosa exitosa."

Sin embargo, Google reconoció que las herramientas de IA como Gemini podrían acelerar los flujos de trabajo de los actores de amenazas cibernéticas, permitiéndoles operar de manera más eficiente y a mayor escala. Por ejemplo, una operación de propaganda con base en Irán utilizó Gemini para mejorar las traducciones, garantizando que sus campañas de desinformación llegaran a un público más amplio. Mientras tanto, los hackers vinculados a Corea del Norte utilizaron el chatbot para redactar cartas de presentación y recopilar consejos de búsqueda de empleo para LinkedIn, lo que podría ayudarles a conseguir puestos de TI remotos en empresas estadounidenses, una preocupación creciente entre los investigadores federales.

"El grupo también utilizó Gemini para obtener información sobre intercambios de empleados en el extranjero. Muchos de los temas serían comunes para cualquiera que busque y solicite trabajo", señaló Google.

Los hallazgos de Google se hacen eco de descubrimientos similares de OpenAI. Hace un año, OpenAI detectó varios grupos patrocinados por el Estado que intentaban hacer un uso indebido de ChatGPT. Sin embargo, su investigación reveló que estos piratas informáticos utilizaban principalmente el chatbot para aumentar ligeramente la productividad en lugar de ejecutar ciberataques avanzados.

En respuesta a estas amenazas, Google ha reforzado sus protocolos de seguridad de IA. La compañía prueba continuamente las defensas de Gemini para evitar usos indebidos y colabora con las fuerzas de seguridad cuando es necesario. "Investigamos el uso indebido de nuestros productos, servicios, usuarios y plataformas, incluidas las actividades cibernéticas maliciosas de los actores de amenazas respaldados por el gobierno, y colaboramos con las fuerzas de seguridad cuando es necesario", declaró Google.

Además, Google trabaja activamente para desbaratar estas ciberamenazas eliminando de sus plataformas a los presuntos actores maliciosos. Esta postura proactiva subraya el compromiso de la empresa para mantener seguras sus herramientas de IA, al tiempo que reconoce los riesgos cambiantes que plantean los hackers patrocinados por el Estado.