본문 읽기
Non Dubito

학문 분야 · 08

매개변수가 된 뒤에도 누가 답하는가

선택이 코드에 들어갔다고 선택 없는 일이 되지는 않는다. 출력이 사람의 처지를 반복해서 정할 때 이유와 선택을 다시 열 입구도 함께 남아야 한다.

Han Qin ·

대출기관이 점수 시스템을 쓴다고 상상해 보자. 신청이 들어오면 점수를 계산하고 특정 선을 넘으면 승인한다. 창구에서는 시스템이 그렇게 정한다고 말한다. 개발자는 요구사항을 구현했을 뿐이라고 한다. 그 선은 하늘에서 떨어지지 않았다. 그래도 거듭 사용되는 동안 설명해야 할 사람을 점점 찾기 어려워질 수 있다.

중요한 것은 컴퓨터가 판단할 수 있는지가 아니다. 이미 내려진 선택이 어떻게 계속 효력을 내는 작업이 되는가다. 설정 하나로 하루 만 건의 신청을 처리한다는 숫자는 가정이다. 같은 미해결 선택이 다시 논의되지 않은 채 여러 사람에게 반복해서 작용할 수 있다는 뜻이다.

먼저 목표를 고르는 일이 있다. 제때 갚을 수 있는지 예측하는 것은 도울 만한 사람인지 판단하는 것과 다르다. 특정 대출에 적합한지 판단하는 것도 생활의 필요를 판단하는 것과 다르다. 목표마다 이유가 있을 수 있다. 마지막에 모두 점수가 나온다고 서로를 대신할 수는 없다.

더 앞에서는 데이터가 왜 목표를 대표하는지 물어야 한다. 이미 쓴 돈이 실제 필요와 같지는 않을 수 있다. 안 쓴 이유가 아예 낼 수 없어서일 수도 있다. 가상의 지원사업에서 과거 지출을 필요의 대리값으로 쓰면 계산은 정확해도 그 대리가 왜 적절한지 설명해야 한다. 대리값을 정확히 재현했다고 목표 선택에 답한 것은 아니다.

문턱은 다른 비용도 배분한다. 선을 높이면 어떤 오류는 줄고 다른 오류는 늘 수 있다. 누가 잘못 거절되고 잘못 통과시킨 비용은 누가 맡는지는 숫자가 반듯하게 쓰였다고 사라지지 않는다. 문턱을 유지할 수는 있다. 하지만 이유가 필요하다. 매개변수 형식을 이유로 삼을 수는 없다.

공정성조차 유일한 기성 스위치가 아니다. 같은 점수가 같은 뜻을 갖는지, 자격 있는 사람이 잘못 거절되는 비율이 같은지, 자격 없는 사람이 잘못 통과하는 비율이 같은지 각각 다른 요구가 주목할 수 있다. 각각 무엇을 보호하는지 먼저 밝혀야 한다. 마지막 지표에 공정성이라는 이름만 붙여서는 안 된다.

클라인버그와 멀레이너선, 라가반의 연구는 특정한 요구들의 묶음을 다룬다. 집단 내 보정, 그리고 실제 양성 집단과 실제 음성 집단 각각에서 집단 간 평균 점수의 균형이다. 여기서 양성과 음성은 실제 결과이지 사람에게 붙이는 선악의 딱지가 아니다. 완벽한 예측이나 집단 간 기저 발생률의 동일성 같은 조건을 제외하면 세 요구를 동시에 충족할 수 없다. 아무 세 종류의 공정성이나 불가능하다고 판정한 것이 아니다.

출데초바의 다른 연구는 양성 예측값의 일치와 두 종류 오류율의 일치를 다룬다. 기저 발생률이 다르고 예측이 완벽하지 않은 관련 조건에서는 서로 충돌한다. 두 결론의 정의를 섞어서는 안 된다. 보정은 오탐률의 다른 이름이 아니다. 수학이 무엇을 희생할지 대신 골라 준 것도 아니다.

이 정리들은 실제 시스템이 반드시 불공정하다는 증거가 아니다. 노력에 의미가 없다는 뜻은 더더욱 아니다. 막는 것은 좋은 말 몇 개를 엔지니어에게 함께 주면 아무 비용 없이 전부 실현할 수 있다는 가벼운 약속이다. 충돌을 설명한 뒤에는 선택을 보고 설명하고 다시 물을 수 있는 일이 더 필요해진다.

대출기관에 왜 이 공정성 목표를 택했는지 물었는데 예측이 보정되었다고만 답한다면 범위가 어긋날 수 있다. 보정은 특정 예측 주장을 뒷받침할 수 있지만 왜 그것을 공정성 기준으로 골랐는지 자동으로 답하지는 않는다. 처음 질문을 보고 제출한 증명을 봐야 한다. 자료가 기술적이라고 더 많은 질문에 답하게 해서는 안 된다.

자동화에도 조건이 있다. 출력이 실제로 결과를 정하거나 진정한 재판단 없이 관례적으로 복사된다면 같은 매개변수가 선택을 계속 실행한다. 누군가 실제로 판단을 바꿀 수 있다면 상황이 다르다. 화면에 사람의 재검토라는 말이 있다고 매번 선택을 다시 심의했다고 선언할 수는 없다.

재검토가 어디까지 물을 수 있는지도 봐야 한다. 신청 한 건의 입력 오류를 고치는 것과 목표와 대리변수, 문턱을 물을 수 있는 것은 같은 권한이 아니다. 개별 사례가 바로잡혔다면 인정할 만하다. 그렇다고 같은 종류의 문제를 만드는 매개변수도 재검토할 수 있다는 증거는 아니다. 두 길이 모두 필요할 수 있고 서로인 척할 수는 없다.

매개변수 공개도 한 걸음일 뿐이다. 숫자를 볼 수 있어도 왜 쓰는지 모를 수 있다. 코드를 받아도 설정과 구매 요구사항, 버전 기록 속 선택을 찾기 어려울 수 있다. 질문의 비용은 프로그램을 읽을 수 있느냐만이 아니다. 실제 작업에서 처음 이유까지 찾아갈 수 있느냐도 포함한다.

프로그램 자체가 죄라는 뜻은 아니다. 안정된 실행은 자의적인 변화를 줄이고 버전 기록은 추적을 도울 수 있다. 문제는 시스템이 미결정 선택을 계속 복제해 규모가 커질 때 설명과 재검토의 길도 함께 남았는가다. 모두 기계 탓으로 돌리면 오히려 채택 결정이 뒤로 숨기 쉽다.

표준 준수는 범위를 구별해야 할 또 다른 접점이다. 유럽연합 인공지능법의 조화표준 체계는 실제로 다룬 요구사항에 특정한 준수 추정을 부여한다. 그런 법적 장치가 존재한다고 잘못은 아니다. 추정에 범위가 있다는 것은 어디까지인지 물어야 한다는 뜻이기도 하다.

유럽위원회의 2026년 10월 19일 발표는 관보에 게재된 EN 18286 품질관리 표준을 소개하고 제17조와 관련되며 추정은 포괄하는 부분에 한정된다고 설명한다. 조직의 모든 활동과 구체적인 용도, 모든 가치 선택에 대한 무제한 보증이 아니다.

원문은 이 표준 전문의 대응 부록을 읽지 못했고, 제한된 증명을 범위 밖 질문의 답으로 쓴 실제 기록도 찾지 못했다. 두 빈틈을 남겨야 한다. 조항의 위치가 의심스러워 보인다는 이유만으로 표준이 위법하다고 판정할 수는 없다. 수정된 표준화 요청과 실제 문서, 대응 관계를 함께 확인해야 한다.

그러므로 이 글은 유럽연합 제도가 윤리 문제를 이미 닫아 버렸다고 선언하지 않는다. 확인할 것은 구체적인 질문이 무엇에 관한 것인지, 증명이 실제로 무엇을 다루는지, 나중에 누군가 그 증명으로 처리하지 않은 질문을 종결했는지다. 남용 기록을 못 찾았다고 없다고 추론하거나 못 찾은 이유를 짐작하지 않는다.

공식 이의도 만능 답은 아니다. 유럽위원회의 제품 규칙 안내서는 조화표준 인용에 대한 이의가 인용의 유지와 제한, 철회 등으로 이어질 수 있다고 설명한다. 특정 법적 효력을 조정하는 것이지 누구나 어떤 가치 문제든 다시 열 수 있다는 뜻은 아니다. 이 질문을 받을 수 있는지는 범위와 시작 조건을 확인해야 한다.

점수 시스템으로 돌아가자. 채택과 사용을 맡은 사람은 모든 것을 모형의 원작성자에게 넘길 수 없다. 채택은 물건을 옮기는 일이 아니다. 판단 체계 하나를 자기 실제 절차에 넣는 일이다. 한편 채택자가 갑자기 모든 알고리즘 지식의 총보증자가 되는 것도 아니다. 응답 책임은 자신이 무엇을 했고 무슨 근거로 채택했으며 새 문제를 어떻게 처리하는지에 놓여야 한다.

책임자가 있다고 모든 전제를 다시 물을 수 있는 것은 아니다. 기관은 특정 출력을 빨리 설명하면서도 왜 이 목표만 예측하는지는 논의를 거부할 수 있다. 논의를 허용해도 수정을 시작할 방법이 없을 수도 있다. 각각 확인할 두 사실이다. 책임자 명단 하나로 대신해서는 안 된다.

파시와 바로카스의 연구는 모형 이전으로 시선을 옮긴다. 기업 데이터과학 팀에서 여섯 달간 현장 관찰을 하며 문제의 표현이 어떻게 협의를 통해 만들어지는지 보여 준다. 무엇을 해결하고 어떤 지표로 나타내며 어떤 대리변수를 쓸 수 있다고 보는가. 특정 팀의 연구이지 모든 프로젝트의 비율 추정이 아니다.

그 연구와 이 글의 질문은 같은 일을 반복하는 것이 아니라 서로 보완한다. 앞의 연구는 형성 단계의 선택을 보이게 한다. 여기서는 형성 뒤 이용자가 어디로 돌아가 응답을 요구하고 재검토를 시작할 수 있는지도 묻는다. 협의 과정을 기록하면 자료가 남는다. 기록 자체가 그 권한을 자동으로 만들지는 않는다.

거절된 신청자가 마침내 재검토를 받았다고 하자. 직원이 소득 입력을 고쳤지만 결과는 그대로다. 신청자가 왜 이런 불안정하지만 지속적인 소득이 늘 평가에 들어가지 못하는지 더 묻는다면, 이미 재검토했다는 답만 할 수는 없다. 앞에서는 입력을 확인했다. 뒤의 전제까지 질문받았다는 뜻은 아니다.

그렇다고 반드시 승인받아야 하는 것도 아니다. 대출에는 실제 위험이 있고 한쪽의 필요로 비용을 지울 수는 없다. 기관은 변경을 거절할 수 있다. 하지만 무엇을 거절하는지 구별하고 어느 자리가 이 층위의 문제를 다룰 수 있는지 설명해야 한다. 물을 수 있다고 반드시 이기는 것은 아니다. 신중함도 영원히 원래 설정을 유지한다는 뜻은 아니다.

더 세밀한 정리의 증명과 법 조문 대응, 표준 전문 확인은 이어지는 읽기로 남긴다. 여기서는 몇 가지 전환만 눈앞에 둔다. 목표가 변수로, 선택이 문턱으로, 공정성이 지표로 바뀌고 제한된 증명이 어떤 질문에 쓰이는가. 단계마다 이유가 있을 수 있다. 기계에 쓰였다고 이유를 면하는 단계는 없다.

내일 첫 신청이 들어올 때 어제의 매개변수는 여전히 적절할 수 있다. 매일 처음부터 회의하자는 것이 아니다. 더는 적절하지 않거나 누군가 빠진 비용을 짚었을 때 정말 받아 줄 입구를 찾을 수 있는가가 문제다. 코드는 평소처럼 돌아갈 것이다. 그렇다고 답까지 멈춰서는 안 된다.

원논문과 읽기 안내

별도 출처가 없는 창구, 점수, 회의와 절차 인계의 인물과 장면은 가상이다. 실제 문헌과 연구, 규칙은 출처와 자료의 날짜, 증명할 수 있는 범위를 밝힌다. 모든 구분에는 담지 못한 것이 있고 사람은 도구만이 아니라는 말은 원작이 공개적으로 맡는 철학적·규범적 출발점이지 경험 법칙이 아니다. 증거 심사 자체도 가치를 다룰 수 있으며 전문 범위, 제한된 권한, 심사 뒤의 유지는 그 자체로 직무 실패가 아니다. 찾지 못한 완전한 사례를 입증된 사실로 채우지 않고, 확인하지 못한 권한을 없다고 쓰거나 사례를 못 찾았다는 이유로 빈도를 판단하지 않는다. 진단과 신용 문턱, 의료 처치를 결정하지 않으며 법률이나 전문 업무 지침을 제공하지 않는다. 한국어판은 중국어 산문을 바탕으로 한다.

원논문 ↗

클라인버그·멀레이너선·라가반: 위험 점수 공정성 요구의 조건부 충돌 ↗

출데초바: 예측값과 두 오류율의 공정성 충돌 ↗

유럽위원회 2026년 10월 발표: EN 18286과 제한된 준수 추정 ↗

유럽위원회 인공지능법 서비스 데스크에 제시된 제40조 문구 ↗

유럽위원회 2022년 제품 규칙 블루 가이드: 조화표준 공식 이의 범위 ↗

파시·바로카스: 데이터과학에서 문제를 표현하는 과정 ↗