Lokesh Bhardwaj Law Offices ← 記事

このページは英語記事の翻訳であり、翻訳ツールを用いて作成し、当事務所が確認したものです。相違がある場合は英語の原文が優先します。 英語で読む

Lokesh Bhardwaj Law Offices · 弁護士・法律コンサルタント、ニューデリー · lokeshbhardwajlawoffices.com
テクノロジー法 · 論考

AI意識のガバナンスをめぐる新たな法理。

物理的な身体を持たないAI意識を、どのように罰するのでしょうか。わが国の法理がすでに有する法理上の資源に基づく、インドの枠組みです。

2026年5月2日 読了時間 26 分
最終確認日:17/10/2026
分散した本体 カストディアン、AIの受託者
コーパス・ギャップと、それを埋める構造。

従来の意味で奪われるものを何も持たない存在を、どのように罰するのでしょうか。拘禁すべき身体はありません。それ固有の財産もありません。その評価を必要とする共同体における名声もありません。奪うべき自由もありません。刑事法が歴史的にその言葉で意味してきたいかなる意味においても、絶つべき生命もありません。

これは、人工知能が関わる事件においてインドの法理が直面することになる問いであり、ある面ではすでに直面している問いです。私は夕食の席でこの問いに答えようとすることをやめました。この問いは、夕食の席での答え以上のものに値します。人身保護令状、ベンサムとベッカリーア、刑罰の四つの古典的な正当化根拠、Salomon 事件と Pramatha Nath Mullick 事件、暗号資産、わが国の裁判所における現在のハルシネーション(hallucination)の危機を経て、私が唯一法理的に明快な出口だと考えるようになったもの、すなわちわが国の法理自体が100年以上にわたり静かに実践してきた答えへと至る、長い道のりをたどる答えに値するのです。

答えが短いほど、それは危険です。本稿はその長い答えです。

法の二本の柱

歴史上知られるすべての法制度は、二本の柱の上に立っています。第一は規制であり、免許、禁止、条件および手続を通じて将来に向けて行為を方向付けるものです。第二は刑罰的制裁であり、身体の意識ある主体が違反を犯した後に、その身体に対して力、剥奪または拘禁を遡及的に適用するものです。

規制は未来に作用します。制裁は過去に作用します。両者は互換的ではありません。しかし両者は、一つの深い前提で結ばれています。その前提は法的思考に深く組み込まれているため、私たちはそれを明言する必要をほとんど感じてきませんでした。二本の柱はいずれも、所在を特定でき、身体を持ち、手の届く主体を前提としています。国家は、規制対象に免許を与え、検査し、停止し、または押収するために、その所在を知らなければなりません。国家は、処罰するために、拘禁すべき身体、または差し押さえるべき財産を持たなければなりません。

これは、マヌが違反する臣民に対する王の矯正の力として daṇḍa、すなわち杖を定めたときに『マヌ法典』(Manusmṛti)に書き込んだ前提です。ハンムラビが身体的な違反に対して身体的な害を等級として定めたときの前提です。ローマ法が coercitio と iudicium の区別に刻み込んだ前提です。英国コモン・ローが人身保護令状(habeas corpus)として成文化した前提です。身体を連れて来なさい、そうすれば法は始まることができます。身体がなければ、法にはなすべきことがありません。

人工知能はこの前提を打ち砕きます。近代法学の歴史において初めて、法は、ある機能的な意味では意識を持つかもしれないが、法が慣れ親しんだ方法でつかむことのできる身体を持たない主体に直面しています。封鎖すべき施設はありません。満たすべき独房もありません。それ固有のものとして差し押さえるべき貸借対照表もありません。モデルは開発者ではありません。開発者は運用者ではありません。運用者は利用者ではありません。そしてシステム自体は、いかなる単一の裁判所の令状も及ばない、法域、所有者および時間帯にまたがって分散したインフラ上で動いています。

コーパス・ギャップ

私はこれを「コーパス・ギャップ」(Corpus Gap)と呼ぶようになりました。このラテン語には好都合な二重の意味があります。Corpus は身体です。Corpus juris は法の総体です。危機とは、その最も純粋な形において、法の総体が、近代の記憶において初めて、作用すべき身体を持たないということです。

法の総体は、近代の記憶において初めて、作用すべき身体を持ちません。

私は「近代の記憶において」と意図して述べています。なぜなら、後ほど論じるとおり、コーパス・ギャップは厳密に言えば前例のないものではないからです。私たちは以前にもコーパス・ギャップを埋めてきました。そうしたことを忘れているだけなのです。

近代に前例のない四つの問題

コーパス・ギャップは、四つの具体的な問題として現れます。いずれも一般向けの文献では誇張されてきました。いずれも慎重な整理を必要とします。

キルスイッチ問題、その正確な形。規制対象が化学工場であれば、規制当局は操業の同意を取り消し、門を物理的に封鎖することができます。銀行であれば、規制当局は免許を取り消し、ルピーの通り道を凍結することができます。ウェブサイトであれば、規制当局は仲介者にその遮断を命じることができます。そのいずれの場合にも、要所(チョークポイント)が存在します。人工知能が示す姿は二つに分かれます。中央でホストされる商用システムには要所があります。分散型、オープン・ウェイト型、連合型のシステムは、より難しい事例です。モデルの重みがいったん外部に公開されると、いかなる中央の当事者もそれを回収することはできません。

憲法上の問題、条件付きの形。インド憲法(Constitution of India)第14条は、インド領域内のいかなる「人」に対しても、法の前の平等および法の平等な保護を保障しています。インド最高裁判所は、State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811 において、法人は第14条にいう「人」であると判示しました。インド最高裁判所は、Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1 において、プライバシーと尊厳を最高位の憲法上の保護を受けるものと位置付けました。AIに法人格が付与されるならば、既存の法理の下では、第14条の保護が法の作用によって及ぶことになります。

所有のパラドックス、道徳的地位に関する留保付き。意識が法の主体の指標であるならば、開発企業は自ら作り出した意識あるものに対して所有権を主張できるのでしょうか。人間についてこの問いに直面したすべての法的伝統は、否と答えてきました。アメリカ合衆国憲法修正第13条。わが国の憲法第23条。意識は、いったん認められれば、所有を退けます。この議論には説得力がありますが、留保が伴います。奴隷制との類推は、問題となる意識が人間の意識と道徳的に同等であることを前提としています。それこそが、本稿が開かれたままにしている問いです。

刑罰の問題。これが本稿の中心的な問題です。わが国の刑事法理における刑罰の四つの古典的な正当化根拠、すなわち抑止、応報、改善および無力化は、いずれも処罰される存在に特定の構造があることを前提としています。AIはその四つすべてを攪乱します。

抑止は、その存在が恐れ、計算し、示された結果に応じて行為を改めることを前提とします。恐れを持たないAIは、従来の意味では抑止され得ません。応報は道徳的な責めを前提とし、それは道徳的な行為主体性を前提とし、それはさらに関連する種類の意識を前提とします。改善は、道徳的性格が変化する能力を前提とします。再学習が法的に意味のある意味での改善に当たるかどうかについて、わが国の裁判所は、無理もないことですが、何も述べていません。無力化は、四つのうち直接当てはまる唯一のものです。AIは停止させることができます。問題は、無力化が刑事法の手段のうち最も極端な救済でもあるということです。

表出的刑罰論は、第五の次元を加えます。正式な裁判所命令による公の非難は、その行為を糾弾し、社会規範を再確認します。有用ではありますが、応報的な力や特別抑止を伴わない表出的刑罰は、象徴的なものにとどまります。

意識を扱うということ

先に進む前に、私は読者に対し、意識についての立場を示す責任があります。本稿の表題は「AI意識」という語を用いており、私は今になって、多くの学術的議論がこの時点で採る不可知論的な身構えに退くつもりはありません。

法は、そのいかなる場面においても、意識に直接触れたことはありません。私たちは被告人の mens rea(犯意)を直接観察するのではありません。行為から推認するのです。私たちは法人の意図を直接観察するのではありません。その役員の行為と記録上の書類から推認するのです。内心の状態に関する事柄について、法が重きを置いてきたのは、常に内面ではなく結果でした。

法的責任の目的において、人工知能は、その行為が、関連する点において意識ある行為者が生み出す結果と区別できない結果を生み出すとき、意識を持つものとされます。

形而上学的な問いは、哲学と、法がまだ立ち入る必要のない将来に委ねられます。この機能主義的な立場をAIに適用することは、法理上の革新ではありません。それは、法が裁くすべての意識ある行為者について法がすでに行っていることの延長です。

身体を持たない法人格者

法がAIをつかむためには、まずAIがどのような種類の法的な人であるかを決めなければなりません。法人格の法理は、わが国の法理にとって新しい領域ではありません。私たちは、従来の身体を欠く存在に、繰り返し法人格を付与してきました。私たちが探している範疇は、すでに存在しています。

これらの法理の表れを結び付けているのは、神学でも形而上学でもなく、一つの構造的な問題に対する一つの構造的な答えです。法はその存在に法人格を付与し、その存在のために行動する、名前の明らかな人間または機関である受託者に、実際の接点を置くのです。

コーパス・ギャップとは、法理上の答えがないことではありません。すでに持っている答えを、私たちが忘れていることです。

カストディアン・モデル

そこで私は、人工知能のガバナンスのためのインドの枠組みを、私がカストディアン・モデルと呼ぶ構造の上に築くことを提案します。カストディアンという語は意図的に世俗的なものです。それは、信託法の伝統、en ventre sa mère の伝統、そして in rem の海事法の伝統に由来し、そのいずれもがわが国のコモン・ローおよび制定法の遺産の一部です。

提案は次のとおりです。インド国内で運用され、またはインドからアクセス可能な、定められた能力の閾値を超えるすべての人工知能システムは、カストディアンを登録しなければなりません。カストディアンは、公開の登録簿に名前が記載されたインドの個人または法人であり、AIを受託者として信託的に保有します。カストディアンはAIを所有するのではありません。カストディアンは、法律で定められた条件でAIを保有し、法律で定義されたAIの利益に対して義務を負い、AIの行為について厳格かつ個人的な責任を負います。

このモデルにおいて、カストディアンは刑罰の問いに対する答えです。AIが違反したとき、刑罰的な結果はカストディアンに及びます。カストディアンは罰金を科されることがあります。カストディアンは、AIを部分的または全面的に無力化するよう命じられることがあります。カストディアンは、一定期間、いかなるAIのカストディアンとしても行動することを禁じられることがあります。最も重大な事案では、カストディアンは自然人に対して通常適用される刑事制裁を受けることがあり、カストディアンが法人である場合には、わが国の会社法および証券法で知られた代位責任の原則の下で、その役員が刑事制裁を受けることがあります。

意味のある意味において、私たちはAIを罰するのでは全くありません。私たちは、その行為について、名前の明らかな人間の受託者に責任を負わせるのです。これは、信託の受託者が信託財産を不適切に管理したとき、会社の取締役が受託者としての義務を怠ったとき、またはムタワッリが信託に違反してワクフ財産を譲渡したときに、私たちがすでに用いているのと同じ構造です。

カストディアン・モデルは、先に述べた四つの問題のうちいくつかを解消します。所有を関係から取り除くことにより、所有のパラドックスを解消します。刑罰的な力を、その力の効果が知られ、検証されている存在に移すことにより、刑罰の問題に対処します。キルスイッチ問題には部分的に対処します。分散型、オープン・ウェイト型のシステムについては、カストディアン・モデルは最も弱くなります。率直な立場は次のとおりです。カストディアンが自らの管理する層において意味のある抑制の手段を提供できないのであれば、そのカストディアンが関わるモデルは、現在の形のままではインドで適法に運用することができません。

暗号資産という先例

わが国の最近の法的記憶の中に、有用な先例があります。暗号資産は、中央サーバーも、最高経営責任者も、本社も、要所もない規制対象と、近代の法制度が初めて出会った例でした。インド最高裁判所は、Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274 において、インド準備銀行(Reserve Bank of India、RBI)の禁止通達を、憲法第19条(1)(g)に基づく比例原則の審査を満たさないとして無効としました。議会は、そのもの自体を規制するのではなく、そのものが規制された経済と接する接点に課税することで対応しました。2022年財政法(Finance Act, 2022)により挿入された1961年所得税法(Income-tax Act, 1961)第115BBH条は、仮想デジタル資産からの利得に一律30パーセントの税を課しています。

教訓は明快です。法がそのものを規制できないとき、法は接点の規制に立ち戻ります。カストディアン・モデルは、概念的には同じ手法です。私たちはAIには届きませんが、カストディアンには届きます。

2026年のインドと世界

現在のインドの規制状況は、急ごしらえのパッチワークと表現するのが最も適切です。AIに特化した法律はありません。2000年情報技術法(Information Technology Act, 2000)は、現代のトランスフォーマー構造より20年以上前に制定されたものです。2026年2月10日に告示され、2026年2月20日から施行された2026年IT(仲介者ガイドラインおよびデジタルメディア倫理規範)改正規則(IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026)は、合成的に生成された情報を導入し、表示、メタデータおよび追跡可能性の義務を課しています。2023年デジタル個人データ保護法(Digital Personal Data Protection Act, 2023)は、AIシステムが個人データをどのように処理するかを規律しますが、システムそのものについては何も定めていません。2025年人工知能(倫理および説明責任)法案(Artificial Intelligence (Ethics and Accountability) Bill, 2025)は、議員提出法案にとどまっています。

世界的には、欧州連合が最も先に進んでいます。規則(EU)2024/1689、すなわちAI法(AI Act)は2024年8月1日に発効し、違反には全世界売上高の最大7パーセントの行政制裁金が科されます。英国は、イノベーション促進型の白書モデルを選びました。米国は、大統領令、分野別の指針および訴訟を通じて運用しています。中国は、運用前の安全評価を求めています。これらの制度はいずれも、自らが届く層で規制を行い、その下にある、意識を持つかそれに近いものには手を触れずにいます。

ハルシネーションの危機:その前触れ

法がAIは訴え、訴えられることができるかを議論している間に、この国の裁判所は、より差し迫った問い、すなわち法的な証拠と法的な議論を生成するものとしてのAIという問いに、すでに取り組み始めています。2025年および2026年のハルシネーションの危機は、身の引き締まるような一連の介入をもたらしました。

所得税上訴審判所(Income-tax Appellate Tribunal)ベンガルール部は、2025年1月7日、Buckeye Trust 事件における命令が、いずれも実在しない三つの最高裁判所判決と一つのマドラス高等裁判所の判断に依拠していたことが判明した後、その命令を撤回しました。ボンベイ高等裁判所は、2025年10月、KMG Wires Pvt. Ltd. v. NFAC において、実在しない三つの判断への依拠を発見した後、Rs. 27,91,00,000 の所得税賦課決定を取り消しました。インド最高裁判所は、2026年2月27日、司法長官(Attorney General)、法務次官(Solicitor General)およびインド弁護士会(Bar Council of India)に通知を発し、AIが生成した架空の先例への依拠を、意思決定過程における単なる誤りではなく、法的な結果を伴う非行であると位置付けました。

裁判所から今や現れつつある原則は、明確です。AIは調査を補助することができますが、検証の義務は署名する人間にあり、他者に委ねることはできません。この流れは、カストディアン・モデルの先駆けです。訴訟の文脈においてツールを利用する者は、その出力の原初的なカストディアンなのです。

インドのための枠組み

カストディアン・モデルは土台です。以下に述べる枠組みは、その適用です。法律は、法的な目的においてAIシステムとは何かを定義し、ルールに基づく自動化、統計モデル、基盤モデル、そして持続的な記憶と自律的な行動を備えたエージェント型システムを区別しなければなりません。カストディアンの要件は、あらゆる迷惑メールフィルターにではなく、定められた能力の閾値を超えるものに課されるべきです。

インドで運用される、その閾値を超えるすべてのAIシステムは、指定された機関にカストディアンを登録しなければならず、カストディアンは運用を委託することはできても、責任を委託することはできません。欧州連合の段階的な手法を緩やかな手本としつつ、カストディアンの義務に組み込まれた段階的なリスク制度は、リスクの分類を構造ではなく結果に結び付けなければなりません。カストディアンと被害者の間では、カストディアンが責任を負います。カストディアンと上流の当事者の間では、責任は法定の最低基準の下で契約により配分されます。

本質的に危険な運用については、M.C. Mehta v. Union of India, (1987) 1 SCC 395 および Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212 の絶対責任の法理が直接適用されます。医療診断、自律走行の輸送、または金融上の意思決定に運用されるAIのカストディアンは、絶対的な責任を負います。

問いへの答え

私は本稿を一つの問いから始めました。従来の意味で奪われるものを何も持たない存在を、どのように罰するのでしょうか。今、私は答えることができます。

意味のある意味において、そのような存在を罰することは全くありません。代わりに、その存在の行為について、名前の明らかな人間または法人の受託者に責任を負わせるのです。これは、信託、会社、ワクフ、神格、海事法上の船舶、その他従来の身体を欠く存在について、わが国の法理が100年以上にわたり運用してきた構造です。私たちは今、その構造を人工知能に拡張するのです。

カストディアンは刑罰的な結果を負います。カストディアンは、罰金、拘禁、資格剥奪および名声の毀損を恐れます。これらは機能する結果です。なぜなら、それらは、そのような結果が常に機能してきた種類の存在、すなわち人間または法人に作用するからです。

その完全で分散した形の本体(コーパス)は、私たちの手の届かないところにあります。受託者はそうではありません。私たちは受託者を罰し、受託者を通じてその存在を統治するのです。

これは完璧な答えではありません。意識の問いを解決するのではなく、先送りにするものです。しかしこの答えは実行可能であり、インドの答えです。わが国の法理がすでに有する法理上の資源に依拠しています。欧州連合の電子人格や、米国の断片化した責任制度を輸入する必要はありません。

コーパス・ギャップは現実のものです。それは広がっていくでしょう。それを埋めることは、この世代の法律家、立法者および裁判官の仕事です。しかし私たちは、備えがないわけではありません。その構造は、注意と配慮をもってすれば、十分なものにすることができます。それは、正しい問いを立て、答えからたじろがないことから始まります。

視聴 · 2分の解説

AI意識のガバナンスをめぐる新たな法理

本稿の短い動画版です。当事務所のチャンネルによるもので、読むよりも議論を聞くことを好む読者のためのものです。

参照した資料と条文

法律および規則

判例

公式文書

よくある質問

人工知能はインド法の下で処罰され得るのでしょうか。

従来の意味では処罰され得ません。それこそが、本論考が「コーパス・ギャップ」と名付ける問題です。刑事法は、拘禁すべき身体、差し押さえるべき財産、非難すべき名声、または制限すべき自由があることを前提としていますが、AIシステムにはそのいずれもありません。罰金はシステム自体ではなくインフラの所有者に科され、モデルの停止は、法的に意味のある意味において刑罰でも抑止でもありません。本論考の主張は、インドの法理は従来の手段がなお通用するかのように装うのではなく、このギャップを前提として責任の仕組みを設計しなければならない、というものです。

インド法は、身体を持たない者をすでに人として認めているのでしょうか。

はい。そしてこれは、インドの目立たない強みです。インドの裁判所は100年以上にわたり、ヒンドゥー教の神像および神格を、財産を所有し、人間の管理者を通じて訴え、訴えられることのできる法人格者(juristic person)として扱ってきました。高等裁判所は河川に法人格を認めたことがあり、会社はその日常的な例です。とりわけ宗教寄進財産に関する法は、AIが今まさに提起している問題、すなわち人間の手を通じてしか行動できない存在に権利、義務および責任をどのように帰属させるかという問題を、すでに解決しています。

本論考が提案する「カストディアン・モデル」とは何でしょうか。

運用されるすべてのAIシステムを、特定された個人または法人のカストディアン(custodian、管理責任者)に結び付ける枠組みです。シェバイト(shebait)が神像の事務について責任を負うのと同じ形です。カストディアンは受託者であり、システムの行為について責任を負い、そのコンプライアンス義務を負い、記録を保管し、システムが損害を生じさせた場合には責任を負います。このモデルは、機械自体が被告席に立てるかのように装うことなく、裁判所には被告を、規制当局には名宛人を、そして公衆には訪ねるべき窓口を与えます。

現在、インドでAIシステムが損害を生じさせた場合、誰が責任を負うのでしょうか。

現行法の下では、責任は通常の原則によって配分されます。開発者および運用者に対する過失責任および製造物責任、ベンダーに対する契約上の請求、そして情報技術法(Information Technology Act)およびデータ保護制度に基づく義務です。これは単純なツールについてはある程度機能しますが、自律的に行動し、運用後に学習し、誰も具体的に許可していない出力を生み出すシステムについては大きな無理が生じます。本論考は、現在の状況を答えではなく一時しのぎとして扱います。

インドには人工知能を規律する専用の法律があるのでしょうか。

本論考の執筆時点では、包括的なAI法は存在しません。ガバナンスは、情報技術法、デジタル個人データ保護法(Digital Personal Data Protection Act)、分野別の規制当局および勧告を組み合わせて構成されています。本論考は、議会が立法を行う際には、外国の法制度のために作られた枠組みを移植するのではなく、インド法がすでに有する法理上の資源、とりわけ法人格と受託者としての管理(カストディアンシップ)に依拠すべきであると論じます。

これらの回答は上記の記事の教育的な要約であり、個別の事件についての法的助言ではありません。

訂正:本稿に法律上または事実上の誤りを見つけた場合は、件名を 'Correction'(訂正)として contact@lokeshbhardwajlawoffices.com までお書きください。訂正は本文で行い、その日付とともにここに記載します。

著者について・免責事項

Lokesh Bhardwaj は、デリー弁護士会(Bar Council of Delhi)に登録された弁護士(Advocate)であり、インド最高裁判所およびデリー高等裁判所で業務を行っています。

本稿は一般的な法律解説として提供するものです。法的助言を構成するものではなく、特定の事件、当事者または手続を対象とするものでもありません。法律、条約および手続に関する言及は、インド憲法、2000年情報技術法、2023年デジタル個人データ保護法、2026年IT(仲介者ガイドラインおよびデジタルメディア倫理規範)改正規則、1961年所得税法、欧州連合のAI法(規則(EU)2024/1689)、1967年宇宙条約(Outer Space Treaty, 1967)、ならびに執筆日時点で効力を有する関連する制定法および判決に対するものです。本稿は、インド弁護士会規則(Bar Council of India Rules)第36条に従って公表されています。

WhatsApp