OpenAI cierra cuentas vinculadas a una supuesta herramienta de vigilancia china

OpenAI ha bloqueado varias cuentas que supuestamente utilizaban ChatGPT para crear una herramienta de seguimiento de redes sociales destinada a informar de protestas contra China en Estados Unidos y otros países occidentales. La empresa afirma que es probable que la red estuviera vinculada a China.

OpenAI está reforzando su control sobre el uso indebido de la inteligencia artificial y ha cerrado varias cuentas que supuestamente utilizaban ChatGPT para crear una herramienta de vigilancia de las redes sociales. Según un informe de OpenAI, las cuentas estaban supuestamente vinculadas a una operación respaldada por China cuyo objetivo era recopilar datos en tiempo real sobre protestas antichinas en Estados Unidos, Reino Unido y otros países occidentales.

El denominado "Qianyue Overseas Public Opinion AI Assistant" se describía en los materiales de marketing como un software diseñado para rastrear e informar directamente a las autoridades chinas, agencias de inteligencia y embajadas de los debates en línea sobre protestas por los derechos humanos. OpenAI no pudo verificar de forma independiente la existencia de la herramienta, pero tuvo acceso a material promocional en el que se detallaban sus capacidades, principalmente el escaneo de plataformas como X, Facebook e Instagram en busca de conversaciones relevantes.

Ben Nimmo, investigador principal de OpenAI, calificó el caso de preocupante ejemplo de un "régimen autoritario que intenta explotar la IA estadounidense con fines antidemocráticos". Los hallazgos se producen mientras crecen las tensiones sobre el uso de tecnología occidental por parte de China, con OpenAI advirtiendo activamente a los responsables políticos estadounidenses sobre los riesgos para la seguridad nacional de la IA china.

Las cuentas bloqueadas también hacían referencia al uso de otros modelos de inteligencia artificial, como Llama, de código abierto, de Meta. Meta reconoció la posibilidad, pero señaló que los delincuentes tienen acceso a muchas herramientas de IA, incluidas las desarrolladas en China.

No es la primera vez que OpenAI toma medidas contra actividades dudosas. La empresa también ha vetado cuentas vinculadas a operaciones de influencia iraní, estafas laborales relacionadas con Corea del Norte y otra red afiliada a China que generaba contenidos en español críticos con el Gobierno estadounidense.

Con el auge de empresas chinas de IA como DeepSeek, OpenAI está considerando la posibilidad de abrir algunos de sus propios modelos para competir. Mientras tanto, los responsables políticos estadounidenses se debaten entre la innovación en IA y la seguridad nacional.