학문 분야 · 10
질문은 받아야 하지만 판단을 빼앗아서는 안 된다
기준에 시작할 수 있는 질문의 통로를 남기고, 질문하는 자리에도 경계를 두자. 누구도 그 때문에 영원히 문을 닫을 권한을 얻지는 않는다.
신청자가 대출 거절 통지를 들고 창구에 묻는다고 하자. 점수 계산이 틀렸다는 말이 아니라 왜 선을 여기 그었는지 알고 싶다고. 대출기관은 규정을 가리키고 모형 개발자는 점수만 제공한다고 하며 감독자는 모형이 검증되었다고 한다. 세 곳 모두 사람이 있고 맡은 일을 마쳤을 수도 있다. 그래도 그가 묻는 일은 아무도 받지 않았다.
하나의 예시일 뿐 특정 대출기관을 빗대지 않는다. 앞에서 언급한 FHFA 발표의 후속 사례도 아니다. 연작의 마지막 질문을 남긴다. 규범적 선택에 모형 검증으로 대신 답할 수 없다면, 무엇이 있어야 물을 곳이 있다고 할 수 있는가? 그러면서 모든 사람 대신 결정하는 총괄기관을 다시 만들지 않을 수 있는가?
원논문은 여기서 근거를 바꾼다고 공개적으로 밝힌다. 앞의 구분과 사실 확인은 서로 다른 가치 입장의 독자도 검토할 수 있다. 이 글이 제도는 어떻게 마련되어야 하는지 제안할 때는 명확한 전제가 있다. 사람은 규칙이 돌아가는 재료로만 취급될 수 없으며 그 자체로 목적이라는 것이다.
저자가 맡는 규범적 입장이다. 측정이나 모든 분류에는 담지 못한 것이 있다는 서술에서 자동으로 나오는 정리가 아니다. 이 전제에 동의하지 않는 사람은 제도적 주장을 거부하면서도 앞의 권한과 증거, 실제 결과에 관한 구분을 쓸 수 있다.
이 주장들은 기준을 만들고 문턱으로 쓰는 조직 구조를 향한다. 모든 개인에게 끊임없이 질문하고 남의 질문을 영원히 맡아야 한다는 도덕적 과제를 더하지 않는다. 개인은 참여하지 않을 수 있다. 그러나 기관은 그가 지금 참여하지 않았다고 입구가 필요 없다는 증거로 삼을 수 없다.
첫째는 배치 전에 입구를 이용할 수 있게 하는 일이다. 피해가 난 뒤에만 임시로 민원을 받는 것이 아니다. 사람에게 작용할 선택을 구조에 쓸 때부터 왜 그렇게 골랐는지 찾을 수 있는 논의의 자리에 들어가야 한다.
제출할 수 있다는 것만으로는 부족하다. 원문은 통로가 질문받는 쪽에서 독립적이고 관련 관계 안의 사람이 실제로 시작할 수 있으며 그 때문에 보복받지 않을 것을 요구한다. 누구나 편지를 보낼 수 있다는 종이 위 약속은 올 수 있다는 증거도, 누군가 이어받을 권한이 있다는 증거도 아니다.
누구에게 입구가 있는지는 나누어 봐야 한다. 해당 구조가 직접 다루는 사람은 먼저 달리 갈 길이 없음을 증명할 필요가 없다. 분류되는 사람도 이번에 무사히 선을 넘었다고 질문할 자격을 잃지 않는다. 규칙은 여전히 그를 다룬다. 거절된 사람만 관계자가 되는 것은 아니다.
다른 갈래는 그 조직이 다루는 관계에 직접 있지는 않지만 행위의 영향을 받고 이탈로 피할 수도 없는 사람이다. 조금 영향을 받았다는 사실만으로 모든 기관에 똑같은 내부 지위를 얻지는 않는다. 이 갈래에서는 이탈할 수 없다는 조건을 실제로 확인해야 한다.
신청자가 대출기관과 직접 관계가 있다고 모형 개발자에게도 완전히 같은 관계라고 바로 선언할 수는 없다. 어느 조직의 어떤 구조에 어느 갈래로 들어가는지 각각 밝혀야 한다. 통로는 무한히 번지는 관할권이 아니다.
그 이유는 질문할 자리가 없으면 변화가 절대 불가능해서도 아니다. 조직은 물론 스스로 규칙을 바꿀 수 있다. 이유는 사람에게 작용하는 선택에 물을 수 있고 응답을 요구할 수 있는 곳이 있어야 한다는 데 있다. 우연히 스스로 고치고 싶어 하는 데만 기댈 수는 없다.
그곳은 질문을 받아 낼 수 있어야 한다. 임무에 문제의 전제가 포함되어야 하고 공개 응답을 요구할 수 있어야 한다. 유효한 재검토와 효력 상실 검증, 대안 심사를 시작할 수 있어야 한다. 그 전제가 영원히 옳다는 것이 자기 자격과 존속, 평가의 필수 조건이어서는 안 된다.
기능의 요구이지 철학자나 특정 전문가가 반드시 맡아야 한다는 규정이 아니다. 외부 위원과 임기 순환, 응답 기한과 공개 기록은 원문이 제시한 설계 제안이다. 다른 방식도 가능하다. 핵심은 여전히 실제 능력이 있는가다.
하지만 질문하는 자리에 실질적인 권한을 준다고 새 지배자로 만들어서는 안 된다. 전제를 명시하도록 요구하고 응답이 질문에 닿았는지 살피며 관련 대안을 빠뜨리지 않았는지 물을 수 있다. 사실과 결과가 관련되면 출처와 공개된 증거 심사와의 일치를 확인한다. 실증적 판단 전체를 직접 다시 하는 것은 아니다.
자기 가치 순위만으로 해당 분야나 공공 결정자가 권한을 받아 하는 선택을 대신할 수는 없다. 모든 분야가 특정 철학 원리에서만 규범을 끌어내야 한다고 정할 필요도 없다. 지켜야 할 것은 설명과 응답이다. 질문받는 쪽에 유일한 정답을 미리 써 주는 것이 아니다.
자신이 가치 중립적이라는 선언은 아니다. 명료함을 요구하고 무엇이 관련되는지 판단하는 데도 관점이 담긴다. 제약은 입장이 없는 척하는 데 있지 않고 권한에 있다. 어떤 설명을 요구할 수 있고 누구의 어떤 결정을 대신할 수 없는가. 이 경계도 다른 사람이 물을 수 있는 곳에 놓아야 한다.
대출 예시에서 신청자는 그 선이 자신에게 영향을 준다는 것만 알고 새 모형을 만들 줄 모를 수 있다. 그래도 왜 여기인지 물을 수 있다. 먼저 기술적으로 완성된 대체 체계를 제출해야 한다면 영향을 받는 사람은 기관만 가진 자원이 없어서 첫 질문조차 넣지 못한다.
그다음 대안 평가와 기술 시험, 공식 착수에는 더 구체적인 매개변수와 방안을 요구할 수 있다. 다음 작업의 조건이다. 거꾸로 일반적인 질문이 응답받기 위한 전제 조건이 되어서는 안 된다. 왜 다음 단계를 시작하지 않는지도 설명을 요구할 수 있다.
물었지만 답하지 않은 것은 기록에 남아야 한다. 기관이 침묵했다고 사라져서는 안 된다. 모든 미답 항목 때문에 채택이 자동으로 위법해지고 즉시 사용을 멈춰야 한다는 뜻은 아니다. 기록했으니 계속해도 된다는 뜻도 아니다. 채택과 중단, 재검토는 해당 권한과 조건에 따라 결정해야 한다.
표시의 정확성과 질문에 대한 응답도 다른 일이다. 정말 증거 심사를 통과했다면 그대로 표시할 수 있다. 하지만 그 참된 표시가 문턱의 이유에 답했다는 증거는 아니다. 규범적인 질문에 충분히 답했더라도 그 선택이 순수한 사실로 바뀌지는 않는다.
제대로 답하는 것과 받아들이는 것은 다르다. 채택자는 왜 대안을 고르지 않았는지 진지하게 설명하고도 원래 선을 유지할 수 있다. 질문자는 계속 동의하지 않을 수 있다. 하지만 원하는 결과로 바뀌지 않았다는 이유만으로 응답하지 않은 것으로 기록할 수는 없다.
응답의 질을 다시 묻지 못하게 하는 것은 아니다. 설명이 원래 질문에 닿았는지, 관련 대안을 정말 고려했는지, 질문하는 자리는 무슨 근거로 답했다고 판단했는지 다시 검토할 수 있다. 다만 검토 가능성을 누구나 같은 사건을 영원히 무제한으로 다시 열 권한으로 써서는 안 된다.
분업은 잘 보이지 않는 위험도 줄인다. 심사 자리가 직접 새 기준을 설계하고 명성을 얻으면, 훗날 새 기준을 묻는 것이 자기 평판을 묻는 일이 될 수 있다. 확인하되 대신 정하지 않는 방식은 이런 얽힘을 줄일 수 있지만 완전히 없애지는 못한다.
개정을 지지했던 것, 관련 논증으로 이름을 얻은 것, 그 개정을 부정하지 않는 것이 재직 자격의 조건인 것은 강도가 다르다. 앞의 둘은 살필 관계이지 곧바로 부정직함으로 진단할 일이 아니다. 마지막은 해당 전제에 대한 독립을 이미 무너뜨린다. 임무가 바뀔 때도 다시 확인해야 한다.
질문하는 자리도 경계를 나누고 빠뜨린다. 남에게 묻는 역할이라고 영구히 질문받지 않을 지위를 얻을 수는 없다. 구체적인 사안은 답하고 종결할 수 있다. 하지만 어떤 자리도 모든 질문이 마지막에는 여기서만 멈춰야 한다고 자신을 설정할 수는 없다.
그러므로 담지 못한 것을 모두 없애는 최종 대심사는 없다. 기관에는 일을 끝낼 수 있는 절차와 한 자리에서 영원히 닫지 못하는 시정 통로가 함께 필요하다. 무한한 이의 제기로 판단을 무너뜨릴 수도 없고, 종결을 이유로 이후의 제도 질문을 취소할 수도 없다.
마지막으로 통로와 심사 모두 이번 적용의 판단을 대신하지 않는다. 기관은 이미 통과시켰다는 것을 이번 선택과 책임을 다른 곳에서 끝냈다는 뜻으로 기록할 수 없다. 기준도 근거이고 심사도 근거다. 눈앞의 사람과 결과에 적용하는 것은 여전히 현실의 결정이다.
논문은 이를 연구의 저자 표기에 연결한다. Elsevier의 현재 학술지 정책은 정확성과 완전성, 최종 원고에 대한 책임을 이유로 AI 도구를 저자로 올리지 않는다. 도구는 지원할 수 있어도 인간 저자가 여전히 책임진다. 출판기관의 현행 규칙이지 미래의 모든 AI 능력에 대한 최종 판결은 아니다.
이 연작이 진단을 어떻게 나누고 통계 문턱을 얼마로 정하며 누가 그 자리에 앉을지 결정한 것은 아니다. 동물과 생태, 아직 태어나지 않은 사람을 어떻게 포함하고 질문 자리 자체가 담지 못한 것을 어디에 둘지도 남은 문제다. 경계를 밝힌다고 이미 누군가 이 문제들을 받았다고 약속하는 것은 아니다.
그 신청자는 원하는 답을 받지 못할 수 있고 대출도 보장되지 않는다. 여기서 확보하려는 것은 작고 구체적인 다른 일이다. 모형의 계산이 틀린 척해야만 선의 근거를 물을 수 있어서는 안 된다. 질문을 받는 자리는 설명을 요구할 수 있어야 한다. 그러면서 자기 답을 영원히 다시 물을 수 없는 다음 문으로 만들어서도 안 된다.
원논문과 읽기 안내
별도 출처가 없는 창구, 점수, 회의와 절차 인계의 인물과 장면은 가상이다. 실제 문헌과 연구, 규칙은 출처와 자료의 날짜, 증명할 수 있는 범위를 밝힌다. 모든 구분에는 담지 못한 것이 있고 사람은 도구만이 아니라는 말은 원작이 공개적으로 맡는 철학적·규범적 출발점이지 경험 법칙이 아니다. 증거 심사 자체도 가치를 다룰 수 있으며 전문 범위, 제한된 권한, 심사 뒤의 유지는 그 자체로 직무 실패가 아니다. 찾지 못한 완전한 사례를 입증된 사실로 채우지 않고, 확인하지 못한 권한을 없다고 쓰거나 사례를 못 찾았다는 이유로 빈도를 판단하지 않는다. 진단과 신용 문턱, 의료 처치를 결정하지 않으며 법률이나 전문 업무 지침을 제공하지 않는다. 한국어판은 중국어 산문을 바탕으로 한다.