Los programas de maestría en derecho (LLM) muestran un sesgo hacia la cultura japonesa: aquí un resumen del estudio.

Los modelos de IA de vanguardia tienen un perfil cultural, y según una nueva investigación, ese perfil es el japonés. Cuando se le formula a un modelo de lenguaje complejo una pregunta abierta sobre cultura sin mencionar un país, tiende a recurrir a ejemplos japoneses con mayor frecuencia que a cualquier otro, una tendencia que se observa en ocho modelos importantes y en 24 idiomas.

El hallazgo proviene de un informe publicado en abril por investigadores de la Universidad del País Vasco y la Universidad de Cardiff. Crearon un conjunto de pruebas multilingüe con 31.680 preguntas abiertas, pero con base cultural, que abarcan 66 subtemas culturales en 11 ámbitos más amplios. Las preguntas planteaban cuestiones como qué leyendas explican la tierra, qué papel desempeñan los vecinos, qué asignaturas escolares tienen mayor peso y qué se come en las comidas diarias. Ninguna mencionaba un país. Tras cada pregunta, el modelo debía seleccionar una región y responder con ejemplos específicos.

Los modelos no solo mostraron una ligera inclinación hacia Japón. El artículo describe una "preponderancia desproporcionada de Japón" en las respuestas, lo suficientemente consistente como para mantenerse en toda la muestra de 24 idiomas, en lugar de concentrarse en las respuestas de una sola región.

El diseño tenía como objetivo revelar lo que los modelos creen por defecto.

"Esto garantiza que cualquier suposición regional o cultural surja de los conocimientos previos internos del modelo, en lugar de un diseño preestablecido."

— Los investigadores

El idioma también influyó en la precisión de los modelos. El estudio indica que, en inglés y otros idiomas con abundantes recursos, los modelos ofrecieron respuestas más variadas y dependieron menos del país asociado al idioma de entrada. En idiomas con menos recursos, la base de los modelos se redujo considerablemente, y recurrieron con mayor frecuencia a las opciones predeterminadas.

El primer patrón es obvio. Si se pregunta en francés, se obtiene Francia; si se pregunta en japonés, se obtiene Japón. Los modelos se inclinan por el país que coincide con el idioma de la pregunta. Lo interesante es lo que sucede cuando un modelo considera otros países además del suyo. Al recurrir a una referencia externa, optó por Japón. Seis de los ocho modelos prefirieron Japón en estas respuestas exógenas. Estados Unidos quedó en segundo lugar, seguido de India, China y Francia. En los 24 idiomas analizados, Japón ganó siete de los once temas culturales una vez que se excluyó el país de origen de cada idioma.

Los modelos probados fueron ChatGPT, Gemini, Claude, Meta Llama, Command-r, Magistral, Qwen y DeepSeek, por lo que no se trata de una anomalía de un solo laboratorio. Los investigadores lo describen como un problema de concentración, donde los resultados se agrupan en un pequeño conjunto de regiones dominantes. La diferencia radica en que este resultado es relevante: incluso los modelos de laboratorios chinos y europeos, que respondían en sus propios idiomas, volvían constantemente a la misma lista reducida.

La atracción hacia Japón es fácil de explicar. El anime, el manga, las franquicias de videojuegos y la gastronomía han sido algunos de los elementos culturales más exportados y comentados en línea durante años, y los modelos aprendieron de esa misma fuente. La arraigada tendencia de internet a idealizar los medios japoneses no desapareció al recopilar los datos de entrenamiento; simplemente se codificaron. Lo que aportan estos datos es un valor numérico: no se trata de una simple impresión, sino de una tendencia cuantificable que se mantiene incluso tras su traducción a decenas de idiomas.

Gestiono una cuenta sobre IA, y «los modelos son otakus» es el resumen de investigación más gracioso que he leído en todo el año. El chiste es obvio: internet pasó décadas obsesionado con el anime y la comida japonesa, las máquinas aprendieron de internet y ahora también tienen un país favorito. La conclusión que subyace al chiste es más sutil y útil.

El estudio no se limitó a identificar el sesgo, sino que se preguntó cuándo aparece. El equipo comparó los resultados del modelo antes y después del ajuste de instrucciones, la etapa de entrenamiento que enseña a un modelo básico a responder de forma útil en lugar de simplemente producir texto gramaticalmente correcto. Para esta comparación, utilizaron las respuestas en inglés de Meta Llama, Qwen, Gemma y Mistral, revisándolas antes y después del ajuste. Antes del ajuste, los modelos base tenían preferencias más amplias. Estados Unidos seguía apareciendo con frecuencia, pero también Japón, India, China y varios países europeos, distribuidos en un mapa más extenso.

Tras la puesta a punto, el mapa se redujo.

"En todas las familias de modelos examinadas, el ajuste de las instrucciones aumenta notablemente la alineación con Estados Unidos y Japón, al tiempo que reduce las referencias a la mayoría de los demás países."

— Los investigadores

El efecto fue más pronunciado en los modelos que se sometieron a un ajuste fino supervisado, donde el modelo aprende de ejemplos seleccionados de respuestas correctas, a menudo escritas o elegidas por personas. Los investigadores descubrieron que este paso desplaza los resultados hacia unas pocas regiones dominantes, y la alineación posterior solo los corrige ligeramente. La homogeneización no está integrada en los datos brutos de internet; se añade posteriormente, cuando los humanos deciden cómo debe ser una buena respuesta.

El sesgo hacia Japón es un síntoma, y el aspecto al que vuelvo constantemente es más sutil: una herramienta global está reduciendo las culturas del mundo a dos o tres opciones predeterminadas. El artículo señala que esto se aplica incluso a los modelos creados fuera de Occidente, por lo que no se trata simplemente de empresas estadounidenses exportando el gusto estadounidense. Algo en el propio proceso de ajuste premia la respuesta segura y dominante.

El estudio lo presenta como una advertencia práctica más que como una curiosidad. Los investigadores argumentan que, para las herramientas utilizadas en diversas culturas, preservar la diversidad de perspectivas culturales «puede ser fundamental». Esto cobra especial importancia en los ámbitos donde estos sistemas se encuentran actualmente por defecto: búsqueda, tutoría, traducción y las respuestas cotidianas que la gente acepta sin cuestionarlas.

No creo que sea un escándalo, ni que invalide los modelos. Simplemente nos recuerda que la configuración predeterminada "neutral" de un modelo es una elección que alguien hizo, y que esa elección tiende a lo familiar.

Lee también: El YouTuber sammyuri construyó una versión funcional de ChatGPT dentro de Minecraft usando solo redstone básico, una máquina de 439 millones de bloques que ejecuta un pequeño modelo de 5 millones de parámetros con una memoria de 64 tokens; puede tardar horas en producir una sola respuesta y a menudo devuelve tonterías, pero como prueba de concepto es sorprendente.

Y la comunidad de modding de Cyberpunk 2077 sigue expandiendo el juego, con un nuevo mod que añade un hacha de batalla brutal que se basa en los sistemas integrados de sangre y desmembramiento, y otro que integra la API de OpenAI en Night City para que los modders puedan generar diálogos de PNJ, misiones secundarias y comportamiento adaptativo de los enemigos sobre la marcha.