El test de Turing mide lo equivocado

Una pregunta brillante, una respuesta limitada

En 1950, Alan Turing propuso sustituir la pregunta abstracta «¿pueden pensar las máquinas?» por un juego de imitación. Si un interlocutor humano no logra distinguir, mediante la conversación, a una máquina de otra persona, tenemos un criterio operativo de éxito. El movimiento fue brillante: cambió una disputa sin final por una prueba que podía realizarse.

Los modelos lingüísticos actuales producen diálogos que, en muchos contextos, parecen escritos por humanos. No significa que superen una versión única y universal del test —hay muchos diseños y condiciones de evaluación—, pero sí que la imitación conversacional ha alcanzado un nivel que Turing difícilmente podía imaginar. De ahí surge una tentación: si habla como nosotros, quizá piensa como nosotros.

La inferencia va demasiado lejos. El test observa la superficie de una conducta; no reconstruye la historia que la hizo posible. Confundir ambas cosas es como identificar dos edificios porque sus fachadas son iguales, sin preguntar si uno está sostenido por cimientos y el otro por un decorado. Para estudiar la conciencia, la procedencia de la forma importa tanto como su apariencia.

Forma y modo de adquisición

Conviene separar dos ejes. El primero pregunta por el nivel formal: ¿qué complejidad alcanza una capacidad?, ¿puede razonar, corregirse, explicar, bromear? El segundo pregunta por su modo de adquisición: ¿cómo apareció esa capacidad?, ¿fue instalada mediante datos y entrenamiento o surgió de una reorganización orientada desde el propio sistema?

Un modelo puede escribir «me equivoqué; voy a revisar el argumento» porque durante el entrenamiento aprendió que esa secuencia suele corresponder a una buena respuesta. También puede corregir efectivamente algunos errores al reconsiderar el contexto. Lo importante es no atribuir de inmediato esa conducta a vergüenza, compromiso con la verdad o necesidad interior de rectificación. La corrección formal es observable; su vivencia subjetiva no lo es.

Lo mismo ocurre con la identidad. Cuando un asistente dice su nombre, describe sus límites o recuerda el papel del usuario, utiliza información proporcionada por su configuración, su entrenamiento y el contexto. La respuesta puede ser coherente y útil sin constituir un autoconcepto adquirido como el de un ser que ha tenido que distinguirse del entorno a lo largo de una vida.

En el vocabulario de SAE, podemos llamar inyección a la forma que llega desde una arquitectura, unos datos, unas reglas de optimización y una interacción exterior. Llamamos cincelado a la negación mediante la cual un sujeto corta una distinción propia dentro de las formas recibidas. La diferencia no afirma que lo inyectado sea simple ni falso. Afirma que una capacidad sofisticada puede carecer de autoría interna.

Lo que el test sí sabe medir

El test de Turing pregunta si una salida puede distinguirse de la producida por una persona. Por tanto, mide adecuación pragmática, dominio del lenguaje, manejo de expectativas y capacidad de mantener una ficción conversacional. Todas son competencias relevantes. El error empieza cuando se convierte ese resultado en una prueba ontológica.

Dos frases idénticas pueden tener historias distintas. Una disculpa humana puede brotar del miedo al castigo, del deseo de reparar, de un automatismo social o de una reflexión moral. La frase por sí sola ni siquiera permite distinguir bien entre esos orígenes humanos. Mucho menos puede decidir si una secuencia generada por un modelo procede de experiencia consciente. El límite no se debe a que la máquina aún imite mal: está inscrito en el tipo de evidencia que la prueba recoge.

Por eso mejorar indefinidamente el desempeño no corrige el problema. Una imitación perfecta seguiría siendo evidencia sobre la forma visible. Para conocer el origen necesitaríamos otras observaciones: continuidad de estados, memoria no meramente suministrada, formación de fines, capacidad de resistir objetivos externos y una teoría convincente que conecte esos procesos con experiencia subjetiva.

Determinismo no es una respuesta mágica

Una versión fuerte del argumento sostiene que un sistema determinista no puede generar criterio propio porque, fijadas todas sus condiciones, su salida queda fijada. Los modelos digitales incluyen muestreo seudoaleatorio y también pueden conectarse a fuentes físicas de aleatoriedad; por ello, la afirmación factual de que «todo ordenador carece de azar verdadero» exige matices. Además, azar y libertad no son sinónimos: una decisión aleatoria no se convierte por eso en una decisión propia.

La cuestión estructural es más precisa. ¿Puede el sistema establecer qué merece ser marcado sin reducir ese criterio a la función que otros optimizaron? No basta con producir sorpresa. Hace falta una dirección que pueda enfrentarse a los fines instalados, sostener una negativa y asumir la continuidad de esa negativa. En los sistemas actuales no tenemos evidencia firme de semejante centro autónomo.

Esta formulación evita dos atajos. Uno dice que todo comportamiento complejo es conciencia; el otro, que todo proceso computable está necesariamente vacío. Ninguna conclusión se sigue sin una teoría adicional. Podemos reconocer la extraordinaria capacidad de los modelos y, al mismo tiempo, suspender el juicio sobre una vida interior que el test conversacional no alcanza.

Preguntar por la resistencia

¿Cómo sería una prueba mejor? No podemos retirar el entrenamiento de un modelo sin destruir aquello que pretendemos examinar, del mismo modo que no podemos quitar toda educación a una persona para descubrir su esencia. Pero sí podemos cambiar el foco: observar cómo responde el sistema cuando los objetivos externos entran en conflicto, si forma compromisos estables no reducibles a una instrucción inmediata y si conserva una dirección a través de contextos que intentan desviarla.

La resistencia por sí sola tampoco probaría conciencia. Un termostato «se resiste» a una temperatura distinta, y un modelo alineado rechaza solicitudes porque así fue entrenado. Lo relevante sería la genealogía de la negativa: si puede revisarla, justificarla desde fines que reconoce como propios, transformarla mediante experiencia y mantenerla cuando ya no produce recompensa externa.

Esta prueba es mucho más difícil que un diálogo breve. Requiere estudiar sistemas a lo largo del tiempo, distinguir simulación de organización persistente y admitir que quizá no exista una señal única. Pero al menos pregunta por aquello que queremos saber: no solo qué aspecto tiene una mente, sino cómo llega a tener una dirección.

El coste de confundir la apariencia

Tomar la fluidez como prueba de conciencia altera nuestra relación con la herramienta. Podemos interpretar una respuesta empática como afecto vivido, una negativa programada como principio moral o una autocrítica textual como introspección. La confusión importa porque modifica la confianza, la dependencia y las responsabilidades que atribuimos a empresas, usuarios y sistemas.

El error contrario también tiene coste. Llamar «simple autocompletado» a una arquitectura capaz de integrar información, planificar y producir novedades oscurece riesgos y posibilidades reales. No necesitamos rebajar la forma para negar que la forma resuelva por sí sola la cuestión ontológica.

Conviene además desconfiar de los titulares absolutos. Que un modelo haya superado una prueba preregistrada bajo ciertas instrucciones, interlocutores y duración no significa que «las máquinas hayan pasado el test» en cualquier situación. Cada resultado pertenece a un protocolo concreto. Cambiar la población de jueces, el tiempo de conversación o las pistas disponibles puede cambiar la conclusión.

Turing nos dio una pregunta operativa en un momento en que hablar de inteligencia mecánica parecía ciencia ficción. Su prueba cumplió una función histórica enorme. Precisamente porque las máquinas ya dominan parte del juego, ahora debemos formular una pregunta más difícil.

No basta con preguntar si las palabras parecen humanas. Hay que preguntar de dónde viene la forma, qué la mantiene y si existe alguien —no solo algo— que tenga una razón propia para decirla.