Cuanto más significa, menos aprende

La paradoja de lo raro

Un modelo lingüístico encuentra millones de ejemplos de artículos, preposiciones y giros cotidianos. Aprende con enorme precisión dónde aparecen porque la repetición ofrece una señal abundante. En cambio, una expresión como Ding an sich, la «cosa en sí» kantiana, ocupa una región minúscula del corpus y exige reconstruir una historia filosófica para no convertirla en simple sinónimo de «realidad».

De aquí nace una intuición: muchas de las distinciones con mayor densidad conceptual son estadísticamente escasas. No es una ley matemática universal. Palabras frecuentes como «yo», «amor» o «justicia» pueden cargar un significado inmenso, y un término raro puede ser trivial. La tesis vale como tensión estructural: aquello cuyo sentido depende de una tradición estrecha ofrece menos ejemplos limpios que aquello que repetimos sin cesar.

El problema no demuestra que la IA sea incapaz de manejar conceptos. Los modelos generalizan, aprovechan definiciones y relacionan contextos. Demuestra algo más modesto y decisivo: la frecuencia no garantiza comprensión, y aumentar el corpus no elimina la necesidad de decidir qué distinciones deben conservarse.

Antes del modelo, el corte

Un modelo no recibe el texto del mismo modo que un lector. Primero, un tokenizador lo divide en unidades procesables. En familias como BPE, las secuencias que aparecen juntas con frecuencia tienden a consolidarse, mientras las raras pueden dividirse en fragmentos. El procedimiento permite representar vocabularios enormes de forma eficiente y no implica que un concepto partido se vuelva invisible: el modelo puede componer información a través de varios tokens.

Sin embargo, el corte tiene consecuencias. Una segmentación eficiente para comprimir no coincide necesariamente con los límites conceptuales que un especialista considera esenciales. «Cosa en sí» puede ocupar varias unidades y seguir entendiéndose; el peligro aparece cuando la regularidad estadística domina hasta tal punto que la expresión se trata como suma de sus partes y se pierde su función técnica.

Hay, por tanto, dos problemas distintos. El camino de la compresión pregunta cómo representar más texto con un vocabulario manejable. El camino semántico pregunta qué debe permanecer unido para que una diferencia siga siendo pensable. Pueden ayudarse, pero uno no se convierte automáticamente en el otro por tener más datos.

La ley inversa, formulada con cuidado

Cuanto más singular es una distinción, menos ocasiones tiene el sistema de observarla en usos diversos. Cuantos menos usos ve, más difícil resulta separar su núcleo de accidentes, errores y citas repetidas. El significado especializado y la facilidad de aprendizaje estadístico tienden entonces a moverse en sentidos opuestos.

La escasez no siempre puede corregirse rastreando más internet. Algunos conceptos son raros porque pocas personas los han necesitado, porque pertenecen a lenguas poco digitalizadas o porque requieren años de formación. Reunir cien copias de la misma explicación no equivale a reunir cien perspectivas independientes. El volumen puede multiplicar una simplificación.

En SAE, toda operación que construye una forma deja un remanente: algo que la estructura no incorpora y que, sin embargo, no desaparece. El tokenizador construye unidades; el modelo construye probabilidades; la interfaz construye una respuesta. En cada paso se gana manejabilidad y algo queda fuera. El sentido no se pierde por completo, pero se convierte en aquello que hay que volver a introducir mediante contexto, lectura y juicio.

El punto ciego está debajo

El modelo trabaja después del corte. No contempla un texto puro y luego compara cómo fue fragmentado; recibe desde el inicio la representación disponible. Puede aprender a compensar segmentaciones poco intuitivas, pero no posee por eso una perspectiva neutral sobre lo que el proceso privilegió. Sus errores más profundos pueden estar inscritos en el suelo desde el cual calcula.

Algo parecido ocurre con los datos. Si una tradición intelectual aparece casi siempre descrita por sus críticos, el sistema aprende una representación coherente de ese sesgo. Si un término indígena se traduce repetidamente mediante una categoría europea aproximada, la frecuencia consolida la aproximación. El modelo no puede saber por cantidad estadística que aquello más repetido es precisamente lo que conviene discutir.

Un lector formado puede detectar la deformación porque ha vivido con la distinción. Ha comparado textos, sufrido malentendidos y aprendido qué cambia cuando se sustituye una palabra por otra. Esa experiencia no es infalible, pero aporta algo que el promedio no contiene: responsabilidad por el límite conceptual.

La desigualdad entre lenguas

La tokenización y la composición de los datos no benefician del mismo modo a todas las lenguas. Algunos tokenizadores históricamente entrenados con predominio de inglés representaron otras escrituras con más unidades para expresar el mismo contenido, lo que consumía contexto y cómputo. Los sistemas multilingües recientes han reducido parte de esa desigualdad, aunque la cobertura y la calidad siguen variando según modelo y lengua.

No hace falta atribuir intención colonial para reconocer una estructura asimétrica. Optimizar según el material disponible convierte a lo abundante en norma técnica y a lo escaso en excepción costosa. El español ocupa una posición relativamente fuerte en internet, pero dentro de él también hay registros, regiones y tradiciones cuya presencia digital es pequeña.

La consecuencia no es rechazar la estadística, sino hacer visible su punto de vista. Cada evaluación multilingüe debe preguntar no solo si el sistema responde con gramática correcta, sino qué vocabularios aplana, qué fuentes considera centrales y qué diferencias culturales trata como ruido.

La persona en el circuito

Se suele presentar la supervisión humana como una fase provisional: hoy revisamos a la máquina, mañana será suficientemente buena para revisarse sola. La ley inversa propone una lectura más exigente. Mientras el sentido dependa de distinguir qué debe permanecer unido, qué excepción importa y qué coste resulta aceptable, la intervención no es un parche; es el lugar donde se asume responsabilidad.

Esto no significa que solo los humanos puedan descubrir toda frontera semántica. Los modelos ayudan a comparar usos y detectar agrupaciones que ningún lector abarcaría. Significa que una frontera no se justifica por aparecer en el cálculo. Alguien debe responder por qué esa división sirve al problema y qué voces deja como remanente.

La calidad del juicio humano pone así un techo al uso significativo del sistema. Un experto cerrado puede imponer dogmas; una multitud puede repetir errores; una comunidad diversa puede corregirse. «Humano en el circuito» no es una garantía moral, sino una tarea: traer experiencia, desacuerdo y la posibilidad de decir que el patrón más probable no es el adecuado.

Ir primero

El riesgo cotidiano no es que la IA desarrolle mañana una agenda secreta, sino que nosotros dejemos de ejercitar el juicio. Cuanto más convincente suena la primera respuesta, menor es la tentación de formular una posición propia. Entonces el modelo alimenta nuestro marco, nosotros editamos su prosa y la rareza que habría aparecido al pensar desde cero nunca entra en el circuito.

La práctica correctiva es sencilla: ir primero. Antes de consultar al modelo, escribir una hipótesis, una duda o incluso tres frases torpes. La pausa en la que no sabemos cómo continuar no es tiempo desperdiciado. Señala el punto donde el problema todavía no ha sido comprimido en una respuesta disponible.

Después sí: pedir al sistema que encuentre objeciones, antecedentes y consecuencias; usar su amplitud para tensionar nuestro corte. Finalmente, volver a escribir. El orden conserva algo decisivo: el modelo entra en un campo ya marcado por una pregunta humana, en lugar de proporcionar el campo entero.

Cada tecnología del conocimiento deja algo fuera. La escritura perdió gestos y silencios; la imprenta, ciertas singularidades del manuscrito; la digitalización, capas que aún estamos aprendiendo a nombrar. La IA no disuelve ese remanente. Lo reorganiza.

Lo más significativo no es siempre lo más raro, pero con frecuencia requiere que alguien proteja una diferencia contra la comodidad de lo frecuente. Esa protección es el trabajo humano que ninguna escala vuelve innecesario.