Leer el ensayo
Non Dubito

Trabajar con IA · Ensayo 02 · Antes de la instrucción

Saber pedir no es saber juzgar

Una instrucción mejor puede mejorar la respuesta. No te dice, sin embargo, qué respuesta merece orientar la acción en esta situación concreta.

Han Qin ·

Aprender a escribir instrucciones para una IA produce una satisfacción inmediata. Una pregunta vaga va ganando precisión: asignas un papel, explicas a quién se dirige, añades ejemplos, pides objeciones, comparas propuestas. La respuesta mejora de forma visible. De ahí es fácil pasar a una ilusión: la ingeniería de prompts sería la nueva manera de pensar de nuestra época.

No lo es. Escribir buenas instrucciones es una forma muy potente de buscar y organizar. El juicio empieza allí donde la búsqueda ya no puede decidir por ti qué importa.

Una buena instrucción trabaja con el problema que ya has nombrado

Piensa en alguien que se plantea dejar su empleo. Una mala instrucción pregunta solamente: «¿Debería dimitir?». Una buena explica los ingresos, los ahorros, las responsabilidades familiares, las oportunidades del sector, la salud y la tolerancia al riesgo. En vez de exigir un veredicto, pide escenarios y la objeción más fuerte contra cada opción.

La segunda es mejor, sin duda. Expone supuestos y deja entrar más realidad. Pero hereda una decisión anterior: qué cosas forman parte del problema. Quizá has indicado el salario y la probabilidad de ascender, pero no esas pequeñas humillaciones que llevas dos años soportando. Quizá has anotado los gastos familiares, pero no la promesa que te hiciste después del último agotamiento. Lo que no entra en el encuadre, el modelo no puede sopesarlo.

Ni siquiera la presencia de todos los hechos produce por sí sola sus pesos relativos. ¿Seis meses de incertidumbre económica son necesariamente peores que tres años más en un empleo que te está cambiando? Ninguna instrucción neutral puede fijar el tipo de cambio entre ambas cosas. La respuesta procede de una vida, no solo de un conjunto de datos.

Tus instrucciones pueden traer una ley que no es la tuya

Muchas instrucciones parecen peticiones propias, pero introducen una definición ajena del éxito: «Reescribe esta carta para que el cliente no pueda rebatirla». «Haz que el equipo rinda más». «Optimiza la imagen de mi hijo para solicitar plaza en la universidad». Son peticiones prácticas. También pueden reducir a otra persona a una imagen que hay que gestionar.

El modelo suele colaborar fielmente con el objetivo que le das. Esa es una de sus capacidades. La pausa tiene que venir de otra parte. ¿Por qué el cliente no habría de poder objetar? ¿Qué produce exactamente el equipo y quién paga el coste? ¿El hijo cuya imagen estamos optimizando todavía reconoce ahí su propia vida?

Estas preguntas no vuelven inútiles las instrucciones. Las vuelven más honestas. A veces no hay que cambiar la redacción, sino la tarea: «Enumera las objeciones razonables que podría plantear el cliente». «¿Qué mejoras de eficiencia se limitan a trasladar costes al equipo?». «Ayúdame a abrir una conversación en la que mi hijo pueda no estar de acuerdo conmigo».

Antes de optimizar lo que le pides, pregunta si merece la pena conservar ese objetivo.

No pidas solo buenos resultados: deja que haya fricción

Muchas técnicas avanzadas añaden estructura para reducir errores, y eso tiene valor. Pero también podemos escribir instrucciones que conserven el desacuerdo. Pide a la IA que señale qué quedaría sin resolver incluso con la mejor respuesta; a quién deja fuera el planteamiento; qué nueva prueba obligaría a invertir la recomendación; si caben dos explicaciones incompatibles de lo mismo que, aun así, tengan ambas fundamento.

Esa fricción importa porque la IA suele responder con una voz unificada y fluida. Una decisión discutible puede parecer así una conclusión puramente técnica. Pedirle que muestre las costuras impide que «esto tiene sentido» se haga pasar por «no puede ser de otra manera».

Ninguna instrucción sobre cómo escribir instrucciones permite, sin embargo, escapar indefinidamente. Puedes pedir al modelo que critique sus supuestos, que critique después esa crítica y que simule una mesa de opositores. Al final alguien tendrá que decidir que se ha investigado bastante y hace falta actuar. Elegir dónde detenerse ya es juzgar.

Un buen juicio puede rechazar una respuesta excelente

Una responsable pide a la IA un reparto justo de turnos. El modelo combina preferencias, antigüedad, cargas de trabajo y restricciones legales. La propuesta es, de hecho, más razonable que la anterior. Entonces una empleada explica que la nueva «rotación justa» le ha asignado precisamente la única noche en que puede cuidar a su padre.

Eso no demuestra que el modelo haya fracasado. Ha optimizado muy bien las condiciones que recibió. Juzgar significa permitir que una persona real vuelva a abrir esas condiciones. Significa tratar la respuesta como una propuesta cuya legitimidad puede ponerse en cuestión, no como un resultado inevitable cuando por fin se dispone de información suficiente.

Cuanto más potente sea la respuesta, más importa distinguirlo. Un error evidente del modelo nos mantiene alerta. Cuando acierta de una forma admirable, es más fácil creer que ya hemos terminado de juzgar. A menudo, el juicio apenas empieza a tomar forma.

La instrucción abre una puerta; no es el destino

Usa los buenos métodos: aporta contexto, separa hechos y supuestos, pide que se explique la incertidumbre, solicita objeciones, vuelve a corregir. Pero deja una pregunta fuera de las instrucciones: ¿qué no estoy dispuesto a dejar que este procedimiento decida por mí?

La respuesta puede ser pequeña. Quizá no quieres que una puntuación determine quién merece una entrevista; que una predicción de la reacción ajena decida si pedirás disculpas; o que una estrategia brillante sustituya una conversación con la persona que tendrá que vivir bajo ella.

Las instrucciones pueden ampliar la habitación en la que piensas. Juzgar significa seguir dentro de ella, sobre todo cuando la máquina ha hecho que salir resulte facilísimo.

Fuente y nota de lectura

Este ensayo es una aplicación independiente del marco Self-as-an-End para lectores no especialistas. La versión española se ha escrito directamente a partir del ensayo chino completo. El enlace teórico común de los ocho ensayos es Colaboración entre humanos e IA: no son ocho traducciones ni resúmenes de ocho artículos distintos. Las propuestas de esta serie son normativas; no describen funciones garantizadas de un producto ni pretenden enunciar el derecho vigente. Las observaciones sobre un intercambio concreto con IA no resuelven de antemano qué podrán ser todos los sistemas futuros.

Artículo teórico de referencia ↗