Estudiantes del Technion, la universidad tecnológica del norte de Israel, descubrieron graves fallas en Gemini, el chatbot de inteligencia artificial de Google (rival de ChatGPT), y fue invitado a una conferencia internacional para presentar sus conclusiones.
En el mundo de la informática es común que jóvenes estudiantes se propongan descubrir vulnerabilidades en sistemas de computación de acceso global. En general, luego elevan sus hallazgos a las empresas responsables para que actúen en consecuencia.
También le puede interesar: Fue un superespía de Estados Unidos, ahora trabaja en la tecnología israelí
Según informaron voceros del Technion, que tiene su sede principal en Haifa, el estudiante de doctorado Stav Cohen, de la Facultad de Ingeniería Civil y Ambiental, en colaboración con el doctor Ben Nassi, desarrolló un novedoso, y letal, método para atacar al chatbot.
Se trata de un sistema denominado Targeted Promptware Attacks (Ataques de promptware dirigidos) que permite a un hacker tomar el control del Gemini de la víctima mediante el envío de una invitación, un correo electrónico o un documento compartido de Google Calendar.
De esa forma, Cohen pudo ejecutar comandos maliciosos que perjudicaron al usuario final, como tomar fotos a través de la aplicación Zoom, controlar dispositivos domésticos inteligentes (por ejemplo, abrir ventanas y puertas) y descargar archivos sin permiso.
También fue capaz de localizar al usuario, acceder y filtrar información confidencial y lanzar acciones de phishing, indicó el reporte de la universidad israelí.
Casi todos los teléfonos celulares en peligro
Las implicaciones son especialmente graves, advirtieron desde el Technion, ya que Gemini ya está integrado en el sistema operativo de los nuevos dispositivos Android, lo que significa que casi todos los teléfonos que no son de Apple podrían ser vulnerables.
La universidad dijo que Cohen informó de sus hallazgos a Google y que el coloso norteamericano de la informática «los publicó recientemente tras corregir la vulnerabilidad».
Cohen y Nassi, junto con Or Yair, de SafeBreach, fueron invitados a presentar su descubrimiento en las prestigiosas conferencias de ciberseguridad Black Hat USA, DEFCON y SecTor.
Otra vulnerabilidad detectada desde Haifa
Además del hallazgo en el sistema de Gemini, otro equipo de investigadores del Technion detectó fallas en A2A, el nuevo protocolo de comunicación de Google para agentes de inteligencia artificial, lanzado hace apenas un mes.
Los estudiantes Shaked Adi, Dvir Elshich y Adar Peleg fueron invitados a presentar la vulnerabilidad durante el SecTor 2025. SecTor, una importante conferencia internacional que se celebra en Canadá como parte de Black Hat.
Supervisados por Cohen y otros colegas del laboratorio ATLAS AI de la Facultad de Informática, los estudiantes hallaron una vulnerabilidad que permite a un usuario externo robar datos, implantar código malicioso y tomar el control de los agentes de inteligencia artificial.
Para seguir leyendo: Israel se consolida como potencia global en ciberseguridad
«Este es un ejemplo vivo de los riesgos inherentes a los sistemas de IA y del papel crucial del mundo académico en el establecimiento de Israel como una potencia mundial en este campo», afirmaron los estudiantes, citados en un comunicado de la universidad.
También en este caso, se informó a Google sobre la falla y se advirtió que «esta no es la única vulnerabilidad del sistema, por lo que continuarán con la investigación».
