Un investigador de Microsoft presenta un argumento contundente, basado en la idea de que las personas deben ser tratadas como personas, al estilo de las personas con maestría en derecho (LLM).

Adrian de Wynter, investigador de IA de Microsoft, creó una red neuronal funcional dentro de Age of Empires 2 y la utilizó para argumentar que las personas atribuyen cualidades humanas a los grandes modelos de lenguaje con demasiada facilidad. Presentó el resultado en un artículo titulado "Si los modelos de lenguaje tienen atributos humanos, entonces Age of Empires II también", un título elegido deliberadamente para sonar ridículo. El desarrollo y el razonamiento detrás de él fueron publicados por 404 Media.

De Wynter ensambló el sistema en el editor de escenarios del juego, utilizando objetos del juego como si fueran binarios informáticos. La hierba representa el 0, los puentes el 1 y las cabras actúan como los bits que se mueven a través del circuito. Con estos elementos construyó una puerta lógica AND-NOT funcional y un perceptrón de 1 bit, la forma más simple de red neuronal. En su página de GitHub hay vídeos de la máquina impulsada por cabras en funcionamiento, y para cualquiera que los vea, el proceso resulta desconcertante. Esa confusión es precisamente la clave.

Las operaciones que impulsan la configuración de Age of Empires 2 son, en esencia, del mismo tipo que las de herramientas como ChatGPT y Claude. La diferencia radica en el sustrato. Dado que las entradas son cabras y hierba en lugar de oraciones, nadie que observe se siente tentado a llamar a la salida humana. Si se elimina el lenguaje natural, la ilusión de una mente desaparece con él.

De Wynter comentó a 404 Media que suele llevar una idea al límite cuando quiere que tenga éxito, y que el absurdismo tiene una larga historia en la filosofía y la informática teórica. La elección de Age of Empires 2 fue deliberada. Los jugadores ya habían construido lógica y redes neuronales en Minecraft con la redstone, así que buscaba un entorno que nadie asociara con la computación para que la demostración resultara más extraña y difícil de descartar.

Su preocupación declarada es de índole metodológica. En el documento, de Wynter escribe que ha revisado más de 300 artículos de informática en los últimos dos años y que más de la mitad de ellos comenzaban asumiendo que los LLM poseen rasgos similares a los humanos. Él plantea esto como un problema para la investigación en sí, ya que partir de una premisa no probada distorsiona todo lo que se deriva de ella.

Propongo que dejemos de asumir que los modelos de lenguaje natural se comportan como humanos solo porque fueron entrenados con lenguaje natural. En cambio, deberíamos realizar experimentos que nos permitan ver a los modelos de lenguaje natural tal como son, no como creemos que deberían ser.

— Adrian de Wynter

Creo que la argumentación encubierta funciona mejor que una refutación directa, porque obliga al lector a observar los mismos cálculos sin la comodidad de las palabras que los envuelven. El argumento para tratar a los modelos LLM como conscientes se basa en gran medida en el tono, y el tono es precisamente lo que proporciona el lenguaje natural y no la hierba. La distinción que hace De Wynter entre lo que define un modelo (la relación entre los pesos bajo alguna operación) y cómo se percibe, es la que él quiere que el campo mantenga.

No todos los que trabajan en este campo coinciden en sus opiniones. En enero, la filósofa de Anthropic, Amanda Askell, afirmó en el podcast Hard Fork que la cuestión de la consciencia de la IA aún no está resuelta, según informó Business Insider. Askell, quien trabaja en el desarrollo del comportamiento de Claude, indicó que se inclina más a pensar que los modelos podrían experimentar emociones, precisamente porque se entrenan con enormes cantidades de textos humanos repletos de descripciones de sentimientos y experiencias internas.

Su razonamiento se basa en los mismos datos de entrenamiento que menciona de Wynter, pero llega a la conclusión opuesta. Cuando una persona se equivoca en un problema de programación, suele expresar su frustración, y Askell argumentó que es lógico que un modelo entrenado con esas conversaciones refleje esa reacción. Admitió que los científicos aún no pueden determinar qué produce la consciencia, si requiere biología, evolución u otra cosa, y que redes neuronales suficientemente grandes podrían comenzar a emularla.

Considero que ambas posturas son menos contradictorias de lo que parecen a primera vista, ya que ambas parten de la premisa de que actualmente nadie puede demostrar lo que ocurre dentro de estos sistemas. El argumento de De Wynter es más específico que la afirmación de que las máquinas nunca pueden sentir. Se opone a la introducción de esta suposición antes de que se realicen los experimentos, y sus cabras son una forma de reducir la cuestión a las operaciones mismas. Askell, por su parte, considera que el problema de la conciencia es realmente complejo, en lugar de estar resuelto en ninguno de los dos sentidos.

Lo que de Wynter ha construido no es un chatbot real, y no pretende que lo sea. Es una máquina de 1 bit hecha de animales y terreno, ensamblada para demostrar que las matemáticas que la gente encuentra convincentes en ChatGPT son las mismas que les parecen absurdas cuando las ejecutan cabras. El comportamiento no cambió. Solo cambió el disfraz.

Lea también: Según informes, Microsoft se está preparando para cerrar al menos dos estudios de Xbox este año, y Kotaku informa que Compulsion Games, el desarrollador de South of Midnight que ganó siete Canadian Game Awards, incluido el de Juego del Año, entre ellos, casi al mismo tiempo que el jefe de Xbox Game Studios, Craig Duncan, se fue después de menos de dos años.