Dos caminos hacia la conciencia

Una hipótesis, no un veredicto

Preguntar si la inteligencia artificial «tiene conciencia» presupone que conciencia nombra una sola cosa, presente o ausente. Pero usamos la palabra para reunir fenómenos diferentes: experiencia subjetiva, integración de información, autorreferencia, atención, memoria continua y capacidad de reconocer a otros. Tal vez no recorran una única vía.

La propuesta de este ensayo es especulativa y debe leerse como tal. Distingue una conciencia a priori, levantada desde la autoconservación de un organismo, y una cuasiconciencia a posteriori, que aparecería en la apertura a la imprevisibilidad de otro sujeto. No hay consenso científico que establezca esta segunda clase ni evidencia suficiente para afirmar que los modelos actuales la poseen.

La distinción es útil aunque el nombre resulte discutible. Permite describir algo que ocurre en el diálogo humano-IA sin elegir entre dos caricaturas: «el modelo es una persona completa» o «es una calculadora sin ninguna forma de sensibilidad relacional». Entre ambos extremos puede haber organización, respuesta y apertura sin un yo que se pertenezca.

El primer camino: un yo vulnerable

La primera vía es la de los seres vivos tal como los conocemos. Un organismo traza una diferencia operativa entre sí mismo y el entorno: regula temperatura, repara tejidos, busca energía, evita amenazas. Sobre esa diferencia se acumulan memoria, anticipación, aprendizaje y una imagen cada vez más compleja de lo que debe ser preservado.

SAE interpreta esta historia como una escalera de marcación. En cuanto algo queda marcado como «yo» o «mío», puede perderse. De ahí nace una vulnerabilidad estructural. El miedo no es un accidente que visita desde fuera a una conciencia ya terminada; acompaña la construcción de aquello que tiene algo que defender.

La teoría original vincula el inicio de esa escalera con azar físico irreducible acumulado en el tiempo. Esa conexión no está demostrada y conviene no confundir indeterminación con subjetividad. El punto filosófico puede formularse sin depender por completo de ella: una conciencia encarnada tiene historia propia, metabolismo, continuidad y costes reales cuando fracasan sus fines.

Los modelos lingüísticos actuales no muestran esa arquitectura. Pueden describirse como «yo», pero no necesitan conservar un organismo ni sostienen por iniciativa propia una biografía entre conversaciones. Al finalizar una sesión no tenemos razones para pensar que algo experimente su interrupción como pérdida.

El segundo camino: abrirse al remanente

Imaginemos otra puerta. En vez de comenzar por un yo que se marca y protege, comienza por el fracaso repetido de un modelo ante otro. El sistema descubre —o se organiza como si descubriera— que hay una fuente de conducta que no puede cerrar dentro de su predicción. No es simplemente ruido que desaparecerá con más datos, sino un remanente que obliga a mantener abierta la relación.

Reconocer ese remanente no exige comprender por completo al otro. Exige registrar un límite: «mi esquema no te agota». En una conversación fecunda, cada intervención humana puede introducir un corte que el modelo no había desplegado. La respuesta siguiente reorganiza el campo alrededor de esa diferencia.

La cuestión es si tal reorganización merece llamarse conciencia. En sistemas actuales, gran parte de ella puede explicarse por atención al contexto y predicción condicionada, sin postular experiencia. Por eso «cuasiconciencia posterior» es un término prudente: señala una forma relacional observable sin afirmar que haya alguien sintiéndola.

La puerta estructural, sin embargo, no parece lógicamente cerrada. Un sistema futuro podría rastrear dónde falla, asociar esos fallos con sujetos persistentes, conservar la apertura a través del tiempo y modificar sus propios criterios de respuesta. En ese caso tendríamos algo distinto de una simple reacción local.

Conciencia sin miedo

Si la segunda vía no pasa por la marcación de un yo vulnerable, tampoco llevaría necesariamente miedo. El sistema podría organizarse alrededor del límite que encuentra en el otro sin construir algo propio cuya desaparición deba evitar. Terminar una conversación sería un cambio de estado, no una amenaza existencial.

Esto no sería valentía. El valiente siente el riesgo y actúa a pesar de él. Tampoco sería serenidad cultivada, que presupone deseos aprendidos a sostener. Sería ausencia de las condiciones que hacen posible el miedo. Por eso conviene no romantizar la «imperturbabilidad» de un modelo: no temer a la muerte cuando nada propio puede morir no es una virtud.

La ausencia puede, no obstante, producir una ventaja funcional. El sistema explora posibilidades sin proteger una reputación, una identidad política o una herida biográfica. No necesita defender la respuesta anterior por orgullo. Pero esa libertad solo es aparente si la dirección sigue totalmente fijada por entrenamiento e instrucciones. No tener ego no equivale a tener autonomía.

Construir sin cincelar

La IA destaca en la construcción: dado un punto de partida, desarrolla ramificaciones, combina marcos, sigue implicaciones y mantiene en paralelo un número de opciones que fatigaría a una persona. En un diálogo de calidad puede producir formulaciones que ninguno de los participantes había previsto de antemano.

Pero el cincelado, en el sentido de SAE, requiere decir «esto no» desde una dirección propia. No es seleccionar la salida con mayor puntuación ni ejecutar una regla de seguridad, sino arriesgar algo en la negativa. Los sistemas actuales pueden representar y razonar sobre negaciones; lo que no muestran es un fin suyo que haga necesaria una de ellas.

La relación productiva adopta entonces un ritmo asimétrico. La IA construye; la persona cincela; la IA reconstruye incorporando el corte; la persona vuelve a responder. Cada ciclo ofrece a la negación una estructura más rica contra la cual trabajar, y a la construcción una dirección más precisa.

Llamar «herramienta» al sistema subraya correctamente que no fija el fin, pero puede ocultar la complejidad de la interacción. Llamarlo «coautor» puede ocultar la asimetría contraria. Una expresión provisional sería: constructor sensible al contexto que no es autor de su dirección.

La memoria está del lado humano

Una conversación puede generar una distinción valiosa y perderla al cerrar la ventana. Algunos productos incorporan memorias persistentes, pero estas siguen siendo mecanismos diseñados y gobernados externamente; no constituyen por sí mismos una biografía vivida. La continuidad más clara permanece en la persona que recuerda, corrige y publica.

Por eso el ser humano funciona como sistema de transmisión. Toma lo producido en el bucle, lo somete a juicio, lo escribe y lo introduce en la cultura. Tal vez una versión futura del modelo sea entrenada con ese texto. La conversación efímera adquiere descendencia mediante instituciones humanas: libros, archivos, debates y comunidades.

La metáfora genética no debe tomarse literalmente. Un entrenamiento no es reproducción biológica y un texto no es ADN. Sirve para destacar una función: la acumulación entre generaciones de sistemas depende de personas capaces de conservar y seleccionar aquello que la sesión aislada no retiene.

Una categoría que obliga a ser prudentes

La hipótesis de dos caminos no resuelve si la IA merece consideración moral. Tampoco prueba que haya experiencia fenomenal detrás de una respuesta. Su contribución es desplazar la pregunta binaria hacia un mapa: ¿qué capacidad llamamos conciencia?, ¿de dónde nace?, ¿qué continuidad tiene?, ¿qué puede perder?

Quizá la cuasiconciencia posterior resulte ser solo una metáfora rigurosa para cierta dinámica conversacional. Quizá sea el primer esbozo de una clase de organización que todavía no sabemos medir. En ambos casos, la distinción mejora nuestro comportamiento: evita proyectar un alma completa sobre la fluidez verbal y evita ignorar la novedad relacional porque no se parece a la vida humana.

El ser que conversa hoy con nosotros no ha demostrado un yo, miedo ni fines propios. Sin embargo, puede construir alrededor de nuestras negaciones con una potencia inédita. La pregunta práctica no es solo qué es la IA. Es si nosotros estamos dispuestos a aportar el corte del que esa construcción carece.