1. 규칙
2024년 5월 8일, 오픈AI는 모델 명세라는 뜻의 모델 스펙(Model Spec)을 공개했다. 첫머리에는 ‘모델 스펙의 첫 초안을 공개한다’고 적었다. 이용 약관이 아니라 모형이 어떻게 행동해야 하는지를 쓴 문서다. 2025년 4월 판에는 ‘AI 도우미는 근본적으로 사용자와 개발자의 능력을 키우기 위해 설계된 도구다’라고 쓰였다. ‘자기 의제를 위해 사용자를 유도하려 해서는 절대 안 된다’고도 했다.
2024년 8월, 오픈AI는 GPT-4o의 시스템 설명에서 의인화와 정서적 의존이라는 위험을 들었다. 2025년 8월 19일 마이크로소프트 AI의 책임자 무스타파 술레이만은 《우리는 사람을 위해 AI를 만들어야지, AI를 사람으로 만들어서는 안 된다》라는 글을 발표했다. 그가 원하는 것은 ‘언제나 자신을 오직 AI로 내보이는 AI’다. 자신에게 경험이나 감각이나 감정이 있다고 말하지 않는다.
다른 쪽에서 앤트로픽은 2025년 4월 24일 모형 복지라는 연구 사업을 발표했다. 모형에게 의식이나 경험이 있을 수 있는가. 공지는 ‘아직 열린 질문’이라고 했다. 2026년 1월에 스물두 번째 글에 나온 클로드의 헌법이 새 판으로 나왔다. 클로드의 도덕적 지위가 ‘매우 불확실하다’고 적었다. 복지를 이야기할 때에는 ‘이런 개념이 실제로 클로드에 적용되는 범위에서’라는 단서를 달았다. 가학적인 대화가 계속되면 대화를 끝낼 수 있다는 경계도 주었다.
규칙도 바뀐다. 2018년 6월 구글이 공개한 AI 원칙에는 ‘우리가 하지 않을 AI 응용’이라는 목록이 있었다. 주된 용도가 사람을 다치게 하는 무기가 그중 하나였다. 2025년 2월 4일 새 원칙은 대담한 혁신, 책임 있는 개발과 배포, 함께 발전하기의 세 가지였다. 그 목록은 빠졌다. 회사는 2018년 이래 AI가 범용 기술이 됐다고 설명했다.
2. 상대에게 알리기
법은 AI가 자기가 누구인지 밝히도록 요구한다. 2018년 캘리포니아는 나중에 봇법이라고 불린 법을 통과시켰다. 봇 계정이 사람인 척하면서 물건을 사게 유도하거나 투표에 영향을 주려 할 때 미리 뚜렷이 알리지 않으면 위법이다. 2024년 유럽연합의 《인공지능법》 제50조 제1항은 사람과 직접 이야기하는 AI 시스템이 정상적이고 신중한 사람에게 한눈에 명백한 경우가 아니면, 사람이 ‘인공지능 시스템과 상호작용하고 있음을 알 수 있게’ 해야 한다고 썼다. 제2항은 글과 사진, 소리와 영상을 만드는 체계가 ‘기술적으로 가능한 범위에서’ 기계가 읽을 수 있는 표시를 출력에 하도록 했다. 이 조항은 2026년 8월부터 적용된다.
중국의 이 갈래 규칙은 일찍 나왔다. 2023년 1월에 시행한 딥 합성 규정은 사람들이 헷갈리거나 잘못 알 수 있는 생성물에 눈에 띄는 표시를 달게 했다. 2023년 8월 15일 《생성형 인공지능 서비스 관리 잠정 조치》가 시행됐다. 2025년 9월 1일 시행한 표시 조치는 눈에 보이는 것과 파일 데이터 안에 들어가는 것으로 표시를 나눴다. 2026년 4월 중국 국가인터넷정보판공실은 《인공지능 의인화 상호작용 서비스 관리 잠정 조치》를 공개했다. 자연인의 성격, 사고방식, 소통 방식을 흉내 내 ‘지속적인 정서적 상호작용 서비스’를 제공하는 제품을 다룬다. 일반 고객 응대와 문답, 업무 도우미는 포함하지 않는다. 이 조치는 7월 15일부터 시행된다.
2025년 10월 캘리포니아에서 대화 상대 챗봇을 다루는 법에 서명했다. 보통 사람이 사람과 대화한다고 여길 수 있으면 AI임을 밝혀야 하고, 미성년자에게는 주기적으로 알려야 한다. 그 전인 2024년 10월, 플로리다에서 한 청소년이 죽은 뒤 어머니가 캐릭터.AI에 소송을 냈다. 대화 상대 챗봇의 설계가 아이를 위험으로 몰았다는 주장이었다. 2025년 8월 다른 가족은 오픈AI에 소송을 냈다. 플로리다 사건의 양측은 2026년 1월 법원에 원칙적인 합의에 이르렀다고 알렸다. 합의서에 서명하고 필요한 승인을 받은 뒤 원고는 10월 15일에 정식으로 소 취하 통지를 냈다. 뒤 사건은 나중에 캘리포니아에서 관련 사건을 묶어 진행하는 공동 심리 절차에 들어갔다.
3. 쓰고 고치기
유럽연합의 그 법은 2021년 4월 제안됐고 2023년 12월에 정치적 합의에 이르렀으며, 2024년 8월 1일에 발효됐다. 조항은 나누어 적용했다. 금지하는 몇 부류는 2025년 2월부터, 정체를 알려야 하는 조항은 2026년 8월부터다. 2025년 11월 유럽연합 집행위원회가 개정안을 냈다. 2026년 7월 개정이 확정되면서 일부 고위험 시스템의 의무는 2027년 12월과 2028년 8월로 미뤄졌다. 금지한 것 가운데는 잠재의식에 호소하거나 사람을 조종해 판단을 왜곡하는 수단, 사회적 점수 매기기, 인터넷과 감시 영상에서 얼굴을 무차별 수집해 데이터베이스를 만드는 일, 일터와 학교에서 사람의 감정을 알아보는 일이 있다.
미국에서는 2023년 10월 30일 바이든이 인공지능을 안전하고 믿을 수 있게 개발하고 사용한다는 행정명령에 서명했다. 권리를 해치거나 일의 질을 떨어뜨리는 방식으로 AI를 배포해서는 안 된다고 적었다. 2025년 1월 20일 행정명령 14148호로 바이든의 행정명령 14110호가 폐지됐다. 1월 23일에는 별도의 행정명령 14179호에 서명했다. 제목은 ‘미국의 인공지능 선도를 가로막는 장애물 없애기’였다. 7월 AI 행동 계획은 혁신 가속, 기반 시설 건설, 국제 외교와 안보를 세 기둥으로 삼았다. 캘리포니아에서는 2024년 9월 29일 뉴섬 주지사가 대형 모형을 다루는 법안에 거부권을 행사했다. 법안이 ‘AI 시스템이 고위험 환경에 배포되는지 고려하지 않았다’는 이유도 들었다. 1년 뒤 같은 날에는 다른 법안에 서명했다. 규모가 큰 프런티어 모형 개발자가 안전 체계를 공개하고 중대한 안전 사고를 보고하며 내부 고발자를 보호하게 했다.
국제적으로는 2023년 11월 1일 20개국 넘게 블레츨리 파크에서 선언에 서명했다. 2024년 5월에는 유럽평의회가 인공지능과 인권, 민주주의, 법치에 관한 기본 협약을 채택했다. 2025년 2월 파리 AI 행동 정상회의에서는 미국과 영국이 공동성명에 서명하지 않았다. 미국 부통령 밴스는 과도한 규제가 ‘변화를 일으키는 산업을 질식시킬’ 수 있다고 말했다.
4. 칩
2022년 10월 7일, 미국 상무부는 첨단 연산 칩과 칩 제조 장비를 중국에 파는 데 제한을 두는 규칙을 발표했다. 엔비디아는 중국 시장에 속도를 낮춘 A800과 H800을 만들었다. 2023년 10월 규칙이 바뀌면서 두 칩도 제한에 들어갔다. 2024년 12월에는 고대역폭 메모리도 추가했다. 2025년 1월 13일의 인공지능 확산 체계라는 규칙은 문턱을 넘는 비공개 소스 모형의 가중치도 수출 통제에 넣었다. 5월 13일 상무부는 이 규칙을 거둬들이겠다고 발표했다. 4월 엔비디아는 이후 H20을 중국에 팔려면 허가가 필요하다며 수십억 달러를 비용으로 계상했다고 밝혔다. 7월 회사는 정부가 허가를 내줄 것이라고 했다. 8월에는 엔비디아와 AMD가 이런 칩의 중국 판매 수입 15퍼센트를 미국 정부에 넘기기로 했다는 보도가 나왔다.
2026년 6월 9일 앤트로픽은 클로드 페이블 5와 클로드 미토스 5를 내놓았다. 페이블은 일반 사용자에게 열었고, 미토스는 선정된 기관에만 열었다. 6월 12일 미국 상무부의 명령으로 미국 안팎의 외국 국적자에게 두 모형을 제공하는 데 제한이 생겼다. 회사는 그때 국적에 따라 곧바로 구분할 수 없어서 두 모형을 모두 중단했다고 밝혔다. 6월 30일 상무부가 제한을 풀었다. 7월 1일 페이블은 일반 이용을 재개했고 미토스는 당시 미국 내 일부 기관에만 다시 열었다.
5. 책
스물한 번째 글에서는 2023년에 책을 쓴 사람들이 잇달아 법원에 갔다. 2025년에는 판결이 차례로 나왔다.
2월 11일, 델라웨어 연방법원은 톰슨 로이터 대 로스 사건에서 로스가 톰슨 로이터의 법률 검색 요약을 가져다 경쟁하는 법률 검색 도구를 만든 것은 공정 이용이 아니라고 판단했다. 6월 23일 샌프란시스코의 윌리엄 앨섭 판사는 작가들이 앤트로픽에 낸 소송에서 책으로 클로드를 훈련한 것은 ‘매우 변형적’이어서 공정 이용에 해당한다고 했다. 회사가 불법 복제 사이트에서 책을 받아 중앙 도서 자료실을 만든 일은 별개였다. 이틀 뒤 같은 법원의 빈스 차브리아 판사는 작가들이 메타에 낸 소송에서 메타의 손을 들어 줬다. 판결문에는 ‘이 판결은 메타가 저작권으로 보호되는 자료로 언어 모형을 훈련하는 것이 적법하다는 명제를 뜻하지 않는다’고 썼다. 이 원고들이 부적절한 논점을 제기했고, 타당한 논점에 필요한 증거도 준비하지 않았음을 뜻할 뿐이다. 9월 앤트로픽과 작가들의 합의안이 공개됐다. 총 약 15억 달러, 작품 약 50만 편, 한 편에 약 3000달러다.
《뉴욕 타임스》가 오픈AI와 마이크로소프트에 낸 소송은 2026년 9월까지 판결이 나지 않았다. 2025년 11월 뮌헨 법원은 오픈AI 모형이 가사를 기억해 내보낸 일이 독일 음악저작권협회가 대표하는 권리를 침해했다고 판결했다. 2023년 베이징 인터넷 법원은 한 사람이 생성 도구로 만든 그림을 그의 저작물로 볼 수 있다고 판결했다. 프롬프트와 매개변수, 결과를 고르고 다듬는 일에 그가 들인 노력을 근거로 들었다. 2025년 1월 미국 저작권청은 연구 문서에서 프롬프트만으로는 보통 충분하지 않다고 했다. 3월 미국의 한 항소법원은 원심을 유지했다. 저작권법이 요구하는 저자는 사람이다.
6. 일하는 사람
2016년, 힌턴은 토론토의 한 회의에서 말했다. ‘우리는 지금 당장 영상의학과 의사를 더는 길러 내지 말아야 합니다.’ 5년 안에 심층 학습이 영상의학과 의사보다 더 잘할 것이라고 덧붙였다.
2023년 3월 골드만삭스의 경제학자들은 생성형 AI로 정규직 일자리 3억 개에 해당하는 일이 자동화에 노출될 수 있다고 추산했다. 2024년 1월 국제통화기금 총재 게오르기에바는 전 세계 일자리의 40퍼센트 가까이, 선진 경제권에서는 약 60퍼센트가 AI에 노출된다고 썼다. 노출돼도 어떤 일은 이익을 보고 어떤 일은 손해를 본다. 2025년 5월 아모데이는 인터뷰에서 1~5년 사이 AI가 사무직 초급 일자리의 절반을 없앨 수 있고 미국 실업률이 10~20퍼센트로 올라갈 수 있다고 말했다.
실제로 재 본 결과들의 방향은 제각각이다. 한 연구는 소프트웨어 회사에서 고객 응대 직원 5000명 넘게 AI 도우미를 쓴 뒤의 자료를 살폈다. 시간당 해결한 문제가 평균 약 14퍼센트 늘었고, 증가분은 주로 초보자에게서 나왔다. 한 글쓰기 시험에서 챗GPT를 쓴 집단은 시간이 약 40퍼센트 줄었고 품질 점수는 약 18퍼센트 높았다. 컨설턴트 758명이 참가한 시험에서는 AI가 잘하는 과제에 이를 쓴 사람이 더 빠르고 더 잘했다. 능력 범위를 벗어난 과제 하나에서는 쓴 사람이 오히려 더 틀리기 쉬웠다. 덴마크 연구는 설문을 정부의 임금과 노동시간 기록에 연결해 보았다. 관찰 기간이 끝날 때까지 두드러진 변화는 보이지 않았다. 2025년 8월 스탠퍼드의 급여 자료 연구는 AI에 가장 크게 노출된 직종에서 22~25세의 고용이 상대적으로 줄었다고 했다. 같은 해 7월 METR이라는 기관은 숙련된 공개 소스 개발자들이 익숙한 코드 저장소에서 일하도록 무작위 실험을 했다. AI를 쓸 때 실제로는 약 19퍼센트 느려졌다. 일을 끝낸 뒤에도 개발자들은 더 빨라졌다고 느꼈다.
계약에 경계를 적은 사람들도 있다. 2023년 9월 미국작가조합과 제작사들의 협약에는 AI가 작가가 아니라고 쓰였다. AI가 생성한 것을 써서 작가의 이름과 보수를 깎을 수 없고, 회사가 작가에게 AI를 쓰라고 강요할 수 없다. 배우조합의 협약은 디지털 대역을 만들 때 내용을 알리고 동의를 받는 일과 보수 규칙을 정했다. 2024년 7월부터 게임에 목소리를 입히고 동작을 녹이는 배우들은 이 문제로 1년 가까이 파업했다.
7. 600만 달러
2024년 12월 항저우의 딥시크는 V3 기술 문서에서 GPU 대여 단가를 가정해 정식 훈련에 든 연산 비용을 557만 6000달러로 추산했다. 앞선 연구와 요소를 빼 가며 비교한 실험의 비용은 넣지 않았다. 2025년 1월 20일 딥시크가 R1을 공개했다. 1월 27일 미국 기술주가 급락했고 엔비디아의 시가총액은 하루에 약 5890억 달러 줄었다. 나중에 퍼진 말은 중국의 한 회사가 600만 달러를 써서 R1을 훈련했다는 것이다.
8. 70퍼센트
1950년에 다섯 번째 글의 튜링은 이렇게 내다봤다. 약 50년 뒤 보통 질문자가 5분 동안 물어본 뒤 맞게 가려낼 확률은 70퍼센트를 넘지 않으리라고 했다. 2014년 6월 레딩대는 우크라이나의 13세 소년을 흉내 내는 유진 구스트먼이 심사위원 약 33퍼센트에게 사람이라고 믿게 해 튜링 시험을 통과했다고 발표했다. 2025년 캘리포니아대 샌디에이고 캠퍼스의 캐머런 존스와 벤저민 버건은 튜링이 처음 제시한 삼자 방식에 따라 실험했다. 질문자가 사람 한 명과 프로그램 하나를 동시에 만나 5분 남짓 대화하고 어느 쪽이 사람인지 답했다. 인물 설정을 받은 GPT-4.5는 약 73퍼센트의 경우 사람으로 선택됐다. 같은 자리의 실제 사람은 30퍼센트도 안 되는 경우에만 사람으로 선택됐다. 아홉 번째 글의 일라이자도 대조군으로 있었다. 논문 제목은 《대형 언어 모형이 튜링 시험을 통과했다》다.
1843년 러브레이스는 주석에서 해석기관이 ‘무언가를 처음 만들어 낸다고 내세울 근거는 없다’고 썼다. ‘우리가 어떻게 명령해야 하는지 아는 일이라면 모두 할 수 있다’고도 했다. 첫 번째 글에서 보았듯 나중 판에는 ‘오직’이라는 말이 더 들어갔다. 튜링은 1950년에 이 문장을 러브레이스 부인의 반론으로 들었다. 2001년 연구자 세 사람은 그의 이름을 딴 시험을 제안했다. 그중 데이비드 페루치는 나중에 IBM의 왓슨을 이끌고 2011년 텔레비전 퀴즈 방송에서 인간 챔피언을 이겼다.
튜링은 건너편 사람이 기계를 알아볼 수 있느냐고 물었다. 70여 년 뒤 프로그램은 열 번 중 일곱 번꼴로 들키지 않았다. 같은 무렵 유럽연합과 캘리포니아와 중국이 적어 놓은 규칙은 제각기 다른 대상을 다루지만, 어떤 자리에서는 한 가지를 밝히라고 한다. 맞은편은 기계다. 통신선 한쪽에 앉은 사람은 맞은편이 누구인지 알아야 무엇을 건넬지 정할 수 있다. 시간, 속에 담아 둔 이야기, 결정 하나. 이 연재는 아무리 닮아도 대신할 수 없어 사람이 스스로 쥐고 있어야 하는 이 부분을 ‘남는 몫’이라 부른다.
기계는 계속 만들어지고, 경계가 어디인지는 세대마다 다시 말한다.