鑿構周期律・AIシリーズ · 25

AIは自分が人間ではないと伝えなくてはならない

秦漢 · 読了の目安:約11分 · 公開日

一、規則

2024年5月8日、OpenAIはModel Spec、モデル仕様という文書を公表した。「Model Specの最初の草稿を公開する」と始まる。利用規約ではなく、モデルがどう振る舞うかを書いたものだ。2025年4月の版には「AIアシスタントは根本的に、利用者と開発者の能力を高めるために設計された道具である」とある。また、「決して自らの目的のためにユーザーを誘導しようとしてはならない」。

2024年8月、OpenAIのGPT-4oのシステム文書は、擬人化と感情的依存をリスクの一つに挙げた。2025年8月19日、マイクロソフトのAI部門を率いるムスタファ・スレイマンが「AIは人のために作るべきで、人に仕立てるべきではない」と題する論考を出した。求めるのは「常にAIとしてだけ自分を示すAI」で、体験や感覚や感情があるとは言わない。

一方2025年4月24日、Anthropicはモデルの福祉という研究プロジェクトを発表した。モデルに意識や体験がありうるか。「これは未解決の問いだ」と発表にはある。2026年1月、第二十二篇のClaudeの憲法に新版が出た。Claudeの道徳的地位は「きわめて不確か」とし、福祉を語るときも「これらの概念が実際にClaudeに当てはまる範囲で」と添えた。境界線も一つ与えた。虐待的な対話が続くときは、対話を終えてよい。

規則も変わる。2018年6月、グーグルはAI原則を公表した。「取り組まないAIの用途」という一覧に、人を傷つけることを主な目的とする兵器があった。2025年2月4日の改訂版は三つに分かれた。大胆に革新する、責任を持って開発して運用する、共に前進する。あの一覧はなくなった。同社の説明では、2018年以来、AIは汎用技術になった。

二、相手に伝える

法律は、自分が何者かを明かすよう求める。2018年、カリフォルニア州は後にボット法と呼ばれる法律を可決した。ボットのアカウントで人を装い、商品を買わせたり投票に影響を与えたりしようとして、前もって明確に知らせないのは違法だ。2024年のEUのAI法第50条第1項は、人と直接やり取りするAIシステムでは、人が「人工知能システムとやり取りしていると知らされる」よう求める。ただし、通常の注意を払う人に見て明らかな場合は別だ。第2項では文章、画像、音声、映像を生成するシステムに、「技術的に可能な範囲で」機械が読める印を生成物に付けるよう求める。この条文は2026年8月から適用される。

中国では早くから規則ができた。2023年1月施行の深度合成の規定は、混同や誤認を招きうる生成内容に、目立つ表示を求めた。2023年8月15日には「生成AIサービス管理暫定弁法」が施行された。2025年9月1日施行の表示規則は、見える印とファイルのデータに埋め込む印とを分けた。2026年4月、国家インターネット情報弁公室は「AI擬人化対話サービス管理暫定弁法」を公布した。自然人の人格の特徴、思考の仕方、話し方をまねて、「継続的な感情面のやり取りを提供するサービス」が対象だ。通常の顧客対応、質問への回答、仕事のアシスタントは含まれない。この規則は7月15日から施行された。

2025年10月、カリフォルニア州で対話相手となるチャットボットを規制する法案に署名がなされた。普通の人が人間と話していると思いうるとき、AIだと明かさなくてはならない。未成年には定期的に知らせる。その前の2024年10月、フロリダ州の少年の母親が、子の死後にCharacter.AIを訴えた。対話相手になるプログラムの設計が子を危険に追いやったと主張した。2025年8月には別の家族がOpenAIを訴えた。フロリダの事件では、2026年1月に当事者双方が基本的な和解に達したと裁判所に通知した。合意書への署名と必要な承認を経て、原告は10月15日に正式に訴えの取り下げを届け出た。もう一つの訴訟は、後にカリフォルニア州での調整審理の手続きに組み込まれた。

三、書いては改める

EUの法律は2021年4月に提案され、2023年12月に政治合意に達し、2024年8月1日に発効した。条項は段階的に適用される。禁止対象は2025年2月から、AIだと知らせる条文は2026年8月から。2025年11月、欧州委員会が改正を提案し、2026年7月に改正が成立した。一部の高リスクシステムの義務は2027年12月と2028年8月に延期された。禁止には、潜在意識に働きかける手段や操作的な手段で人の決定をゆがめること、社会的評価を点数化すること、ウェブや監視映像から無差別に顔画像を集めてデータベースを作ること、職場や学校で感情を識別することが含まれる。

米国では2023年10月30日、バイデンが、安全で安心でき、信頼できるAIの開発と利用に関する大統領令に署名した。権利を損ね、仕事の質を悪くするような形でAIを導入するべきではないと記した。2025年1月20日に別の大統領令でこれを撤回した。1月23日には「米国がAIで主導するための障壁を取り除く」という別の大統領令が出た。7月のAI行動計画は三本柱、革新の加速、インフラの整備、国際外交と安全保障だ。カリフォルニア州では2024年9月29日、ニューサム知事が大規模モデルを規制する法案に拒否権を行使した。「AIシステムが高リスクの環境で用いられるかどうかを考慮していない」ことが理由の一つだった。1年後の同じ日、知事は別の法案に署名した。大規模な最先端モデルの開発者に、安全枠組みの公表と重大な安全上の事故の報告、内部告発者の保護を求めるものだ。

国際的には、2023年11月1日、20を超える国がブレッチリー・パークで宣言に署名した。2024年5月、欧州評議会はAIと人権、民主主義、法の支配に関する枠組み条約を採択した。2025年2月、パリのAIアクションサミットで米国と英国は共同声明に署名せず、米国のヴァンス副大統領は、過剰な規制は「変革をもたらす産業を窒息させる」おそれがあると述べた。

四、半導体

2022年10月7日、米国商務省は先端計算用の半導体と半導体製造装置の中国向け販売を制限する規則を出した。エヌビディアは中国市場向けに性能を抑えたA800とH800を作った。2023年10月、規則が変わり、この二つも制限に入った。2024年12月には高帯域幅メモリーも加わった。2025年1月13日の「AI拡散枠組み」は、基準を超える非公開モデルの重みにも輸出規制をかけた。5月13日、商務省は撤回を発表した。4月にエヌビディアは、中国向けH20の販売に許可が必要になり、数十億ドルの費用を計上したと開示した。7月には政府が許可を出すと同社が述べた。8月には、エヌビディアとAMDがこうした半導体の中国売上高の15%を米国政府に納めると報じられた。

2026年6月9日、AnthropicはClaude Fable 5とClaude Mythos 5を発表した。Fableは一般ユーザーに、Mythosは選ばれた組織だけに公開された。6月12日、米国商務省の命令は、米国内外の外国籍の人々への両モデルの提供を制限した。同社はその場で国籍別に分けられないとして、両方を止めた。6月30日に商務省がこの制限を解除した。7月1日、Fableは一般利用が再開され、Mythosは当時、米国の一部の組織だけで再開された。

五、本

第二十一篇では2023年に作家たちが相次いで法廷へ行った。2025年、判決が次々と出た。

2月11日、デラウェア州の連邦裁判所はトムソン・ロイター対Rossの事件で、Rossがトムソン・ロイターの法律検索用の要約を使って競合する法律検索ツールを作ったのはフェアユースではないと判断した。6月23日、サンフランシスコのウィリアム・アルサップ判事は作家対Anthropicの事件で、本でClaudeを訓練することは「きわめて変容的」で、フェアユースにあたるとした。海賊版のサイトから本をダウンロードして中央の書庫を作ったことは別の問題だ。2日後、同じ裁判所のヴィンス・チャブリア判事は作家対Metaの事件でMeta側の勝訴とした。「この判断がそのような命題を意味するわけではない」とある。つまり、Metaが著作権で保護された資料で言語モデルを訓練することが合法だ、という命題だ。原告たちは主張の立て方を誤り、ふさわしい主張に必要な証拠も用意していなかった、ということに限られる。9月、Anthropicと作家たちの和解案が公表された。約15億ドル、約50万作品、一作品あたり約3,000ドル。

『ニューヨーク・タイムズ』がOpenAIとマイクロソフトを訴えた事件には、2026年9月時点で判決が出ていなかった。2025年11月、ミュンヘンの裁判所は、OpenAIのモデルが歌詞を記憶して出力したことが、ドイツの音楽著作権団体が代表する権利を侵害したと判断した。2023年、北京インターネット裁判所は、生成ツールで作った画像でも、指示文やパラメーター、選択、修正に本人の働きがあるため、その人の著作物と認められると判断した。2025年1月、米国著作権局の研究文書によれば、指示文だけでは通常足りない。3月、米国の控訴裁判所は原判決を維持した。著作権法上、著作者は人間でなければならない。

六、働く人

2016年、ヒントンはトロントの会議で「放射線科医を育てるのは今すぐやめるべきだ」と語った。続けて、5年以内に深層学習が放射線科医よりうまくやる、と述べた。

2023年3月、ゴールドマン・サックスのエコノミストは、生成AIにより常勤3億人分に相当する仕事が自動化の影響を受けうると推計した。2024年1月、国際通貨基金のゲオルギエワ専務理事は世界の雇用の約4割、先進経済圏で約6割がAIにさらされると書いた。さらされるとは、恩恵を受けるものも、損失を受けるものもあるということだ。2025年5月、アモデイは取材で、1年から5年でAIが初級ホワイトカラー職の半分をなくし、米国の失業率が10%から20%に上がるかもしれないと話した。

測った結果は一つの方向を向いていない。ある研究は、ソフトウェア会社の顧客対応担当者5,000人以上がAIアシスタントを使った後のデータを見た。1時間あたりに解決する問題は平均で約14%増え、増加は主に経験の浅い人に現れた。文章を書く実験では、ChatGPTを使った組は時間が約4割短く、質の評価は約18%高かった。コンサルタント758人の実験では、AIが得意な課題では、AIを使った人は速く、出来もよかった。能力の外にある一問では、かえって間違いやすかった。デンマークの研究はアンケートと政府の賃金・労働時間の記録をつないで検討し、観察期間の末まで目立つ変化を見つけなかった。2025年8月、スタンフォードの給与台帳データの研究では、AIの影響を最も受ける職種で22歳から25歳の雇用が相対的に減っていた。同年7月、METRという機関は経験豊富なオープンソースのプログラマーに、使い慣れたコードベースで無作為化実験をしてもらった。AIを使ったときは実際には約19%遅く、作業の後も本人たちは速くなったと思っていた。

境界線を契約に書いた人もいる。2023年9月の米国脚本家組合と制作側の合意では、AIは脚本家ではない。生成物を理由に脚本家のクレジットや報酬を引き下げられない。会社は脚本家にAIの利用を強制できない。俳優組合の合意はデジタル複製について、説明を受けたうえでの同意と報酬の規則を定めた。2024年7月から、ゲームの声やモーションキャプチャーを担当する俳優が、この問題をめぐって1年近くストライキをした。

七、600万

2024年12月、杭州のDeepSeekがV3の技術文書を出した。V3の本番の訓練に使った計算量を、仮定したGPUのレンタル単価で換算し、557万6,000ドルと見積もった。この数字には、先行する研究や要素を取り除いて調べる実験の費用は含まれない。2025年1月20日、同社はR1を発表した。1月27日、米国のテクノロジー株が大幅に下がり、エヌビディアの時価総額は一日で約5,890億ドル減った。後に広まったのは、中国の一社が600万ドルでR1を訓練した、という話だ。

八、7割

1950年、第五篇のチューリングは、およそ50年後には、平均的な質問者が5分質問して正しく見分ける確率は7割を超えないだろうと推測した。2014年6月、レディング大学は、ウクライナの13歳の少年を演じるプログラム、ユージン・グーストマンが審査員の約33%に人だと思わせ、チューリングテストに合格したと発表した。2025年、カリフォルニア大学サンディエゴ校のキャメロン・ジョーンズとベンジャミン・バーゲンは、チューリングの元の三者の設定で実験した。質問者は人間一人とプログラム一つの両方と約5分話し、どちらが人かを答える。人物像を与えられたGPT-4.5は約73%で人に選ばれ、同じ場の人間が人と認められたのは3割未満だった。第九篇のELIZAも比較のために参加した。論文題は「大規模言語モデルはチューリングテストに合格した」。

1843年、ラヴレースは注記で、解析機関は「何かを創始するなどと少しも主張しない」、「どう命じれば実行するかを私たちが知っていることなら、何でもできる」と書いた。第一篇で見たように、後に広まった版には「しか」が加わった。チューリングは1950年にこれをラヴレース夫人の反論として挙げた。2001年、三人の研究者が彼女の名にちなんだテストを提案した。一人はデイヴィッド・フェルッチ。のちにIBMのワトソンを率い、2011年にテレビのクイズ番組で人間のチャンピオンに勝った。

チューリングが問うたのは、向こうの人が機械を見分けられるかだった。70年余りを経て、あるプログラムは7割の場面で見分けられなかった。同じ時期、EU、カリフォルニア、中国が書いた規則は対象が違う。それでも、ある場面では一つのことを明かすよう求める。相手は機械だ。回線のこちら側に座るのは人だ。相手が誰かわかって、初めて何を渡すかを決められる。時間か、心のうちか、一つの決定か。このシリーズでは、どれほど似ていても代われず、人が自分で持っているしかないこの分を余項と呼ぶ。

機械は今も造られつづける。境界線がどこにあるかは、世代ごとに語り直される。