La empresa · 09
¿Puede de verdad detenerlo quien firma?
Una persona en el proceso no garantiza que el juicio esté en sus manos. Deben darse juntas información, tiempo, facultades y condiciones para que modificar no la perjudique.
Imaginemos que un analista abre cada día los borradores de calificación del sistema, los comprueba y firma. La empresa dice que el tiempo ahorrado por la automatización servirá para pensar. A la vez, duplica el volumen a su cargo y registra cada cambio como inconsistencia en su evaluación. La firma permanece; el espacio para juzgar puede menguar.
La cuestión no es que aparezca intervención humana, sino qué puede hacer realmente esa persona. ¿Tiene tiempo para obtener y entender los materiales? ¿Puede cambiar el resultado? ¿Una revisión seria perjudica su evaluación? Sin esas condiciones, llamar revisión al último paso puede reducirse a pulsar aprobar.
El original dirige primero la exigencia a la empresa que despliega el sistema: si confía el juicio a una persona, debe darle un lugar real para ejercerlo. No exige que todos se transformen en encargados de juzgar ni considera atrasado a quien quiera seguir con un trabajo manual especializado. Organizar el trabajo y decidir el propio rumbo son cosas distintas.
Un accidente real da más peso a la distinción. En 2018, un vehículo de pruebas autónomo de Uber atropelló mortalmente a una peatona en Tempe. La investigación de la NTSB señaló la distracción de la operadora de seguridad como causa probable y, entre los factores contribuyentes, deficiencias empresariales de evaluación de riesgos, supervisión y respuesta a la relajación de la atención ante la automatización. Era una investigación de seguridad, no una resolución de todas las responsabilidades jurídicas.
Los fallos de los procesos empresariales no borran los actos de la operadora. Pero verla sentada allí tampoco prueba que la empresa aportara todas las condiciones para juzgar. Ambas cosas pueden ser ciertas con sus fundamentos propios. Un accidente grave y unas métricas de oficina tienen consecuencias distintas: la comparación se limita a facultades del puesto y condiciones reales.
Dar un lugar real exige primero poder juzgar. Hay acceso a la información necesaria, comprensión, formación, apoyo y tiempo suficiente. Supervisar un sistema que casi siempre acierta también exige afrontar las dificultades de atención prolongada. «Debe estar atento» no puede ser todo el diseño.
Después, poder cambiar el resultado. Dentro de sus funciones, la persona puede modificar, suspender o activar una vía de escalamiento con autoridad real. No hace falta que cada puesto pueda cerrar toda la empresa. Pero la tarea que tiene delante no debe seguir automáticamente aunque sepa que hay un problema.
Tercero, ejercer esa facultad no debe perjudicarla por hacerlo. Una comprobación fundada no debe bajar la nota solo por tardar más o discrepar del sistema. Eso atiende tanto a represalias personales como al diseño de indicadores. Aunque nadie quiera castigar, la evaluación puede castigar sistemáticamente a quien juzga con cuidado.
Si había fundamento se juzga según la información accesible, las facultades y las condiciones de entonces, no retrocediendo desde el resultado final. Proteger el juicio tampoco exime de engaño o abuso de autoridad. Eso requiere fundamentos independientes; la garantía no declara que el operador ya nunca pueda equivocarse.
Ni todas las condiciones juntas certifican que cada vez se juzgue de verdad. Uno acepta el sistema después de comprobar; otro lo rechaza por oposición mecánica. Hay que mirar qué materiales examinó, a quién escuchó y qué razones dejó, no usar el porcentaje de aceptación o rechazo como examen del interior y la capacidad.
Imaginemos un taller de cerámica que permite modificar o detener la curva de cocción y no descuenta directamente del salario las pérdidas de material. Parece completo, pero junto al sistema siguen figurando los registros del lote anterior. La materia prima nueva es distinta y la curva falla. Tener facultades no significa tener toda la información para juzgar.
El caso contrasta con el de las calificaciones iniciales: uno carece de datos; el otro quizá está constreñido por la evaluación. No puede fundirse carecer de condiciones con no usarlas en una sola acusación de incumplimiento del empleado. Si la empresa exige juicio al puesto, la formación y el tiempo necesarios son condiciones del deber, no prestaciones opcionales.
Veamos la atribución de responsabilidad. En la resolución Moffatt contra Air Canada, de 2024, el chatbot del sitio oficial dio información errónea sobre la solicitud de una tarifa por duelo. El Tribunal de Resolución Civil de Columbia Británica concluyó que Air Canada no había ejercido un cuidado razonable para asegurar respuestas exactas y no podía tratar al chatbot como entidad independiente responsable de sus actos. Es la resolución de ese caso, no un precedente que resuelva automáticamente la atribución en todos los sistemas.
Ilumina una exigencia del original: decir «Lo dijo la IA» no retira de las cuentas de la empresa un canal informativo que desplegó. La salida del sistema debe seguirse hasta quienes lo configuraron, desplegaron, adoptaron y supervisaron. El algoritmo no es un sustituto que vaya a asumir todas las consecuencias.
Tampoco significa trasladar directamente toda responsabilidad empresarial a las personas. Si quien firma al final carece de control y de condiciones reales para juzgar, la firma sola no debe cargarle toda la decisión. Su responsabilidad adicional necesita fundamento independiente. El nombre de la empresa tampoco oculta los actos independientes de quien opera.
La investigación no puede detenerse, por tanto, en quien está más cerca del resultado. Quién fijó el volumen de revisión, diseñó la tasa de coincidencia, aprobó la publicación o conocía la laguna de datos forma parte de la cadena. Cada posición debe explicar y corregir su parte real. «Fue un problema de proceso» no significa que nadie responda.
Volumen, velocidad y coincidencia no son acusaciones por sí mismos. Pueden ser señales útiles para descubrir problemas. Importa cómo entran en la organización: si desplazan el tiempo de revisión, perjudican una discrepancia fundada o impiden de hecho parar a comprobar.
Una coincidencia alta puede significar un buen modelo o que nadie puede cambiarlo. Una baja, un juicio activo o un sistema deficiente. Las cifras necesitan hechos propios. Certificar que las personas siguen juzgando con una proporción entrega otra vez el juicio a una señal automática.
Al delegar la ejecución en el sistema, los puestos pueden cambiar de verdad. Quien vigilaba de noche puede aprender tareas nuevas o no querer ese camino. La empresa puede reorganizar el trabajo con facultades fundadas y arreglos revisables, no convertir también el rumbo de desarrollo personal en una orden.
Querer seguir con una habilidad es elección de la persona; conservar cada puesto anterior es cuestión de organización común. Ninguna responde por la otra. No se promete que todos los puestos de ejecución duren para siempre. Tampoco el progreso técnico exime automáticamente de explicar razones, costes y salida del cambio.
Si la automatización ya ahorra costes a la empresa, menos aún puede limitarse a llamar transición al cambio para presentarlo como una dificultad que todos deban repartir. Que haya dificultad real requiere datos. El ajuste sigue debiendo proteger subsistencia, salida y otros rumbos. El ahorro empresarial no justifica por sí solo desplazar todos los costes al empleado.
La formación puede ofrecer condiciones; el apoyo básico necesario para el puesto no puede rebajarse a la categoría de favor. La ayuda adicional tampoco puede exigir que el empleado haga del futuro elegido por la empresa su propio deseo. Aceptar un nuevo trabajo, rechazarlo o marcharse deja asuntos comunes concretos por aclarar. Una consigna de crecimiento no responde por él.
La vigilancia debe delimitarse por necesidades laborales, no por capacidad técnica. Imaginemos una cámara instalada para observar el color del fuego que también capta el rincón de descanso. Cambiar el ángulo puede ser un gesto pequeño que reconoce una diferencia importante: querer saber cómo arde el horno no justifica saber cómo vive el empleado cada minuto.
El usuario que delega tareas en un producto tiene el mismo límite. Preocuparse menos y dejar que una herramienta elija puede ser su propio juicio. No hay que obligarlo a hacer personalmente cada detalle. Importa que el alcance de la autorización sea claro y que no se decida de paso lo no delegado.
La empresa debe explicar cómo interpreta y ejecuta el sistema la autorización y asumir la responsabilidad correspondiente por la información que da al usuario. Tiene que haber una vía activable de verdad para detener encargos futuros. Tras autorizar con un clic, retirar la autorización no puede convertirse en obstáculos sin entrada localizable ni destinatario claro.
Lo ya realizado o en curso requiere otro examen. Revocar una autorización no borra derechos de terceros ni anula automáticamente todas las operaciones concluidas. Detener y corregir siguen el permiso original y los acuerdos relacionados, conservando una vía hacia la revisión.
¿Solo existe esa empresa en la imaginación? El original admite que hacerlo todo perfectamente siempre es una orientación, no una promesa de realización inevitable. Pero hoy se puede comprobar si un puesto tiene información, puede parar y pierde puntos al modificar. No hace falta esperar a la empresa ideal.
La última hoja todavía necesita una firma. La pregunta no es si hay un nombre en el papel, sino si antes de firmar esa persona tuvo de verdad ocasión de ver, detenerse y cambiar. Si la empresa quiere que responda por su juicio, debe darle un trabajo que sea algo más que dejar un nombre humano al pie del sistema.
Fuente y alcance de la lectura
Versión española a partir de los ensayos chinos. Las protecciones básicas no desaparecen si la empresa cambia de orientación. Las fábricas, plataformas, talleres de cerámica y contratos sin fuente histórica indicada son imaginados. Los casos reales llevan sus fuentes: se distinguen relatos empresariales, conclusiones regulatorias, sentencias y acuerdos, según las fechas y el alcance de cada documento. No se ofrece asesoramiento jurídico vigente ni de inversión. Se separan las cuentas de la organización, los deberes del cargo y las responsabilidades personales con fundamento independiente. Los detalles legales, el diálogo completo con la historia de las ideas y los umbrales sin respuesta uniforme quedan en los artículos originales.
Informe de la NTSB sobre el accidente del vehículo autónomo de pruebas en Tempe ↗
Moffatt contra Air Canada: texto original de la resolución, copia del PDF ↗