关于人工智能意识治理的新兴法学。
如何惩罚一个没有实体身体的人工智能意识?一套印度框架,取材于我国法学早已具备的学理资源。
对于一个在传统意义上没有任何东西可被剥夺的实体,应当如何惩罚?没有可以监禁的身体。没有专属于它的财产。在它所需要其尊重的社群中没有名誉。没有可以剥夺的自由。在刑法历来所指的任何意义上,没有可以终结的生命。
这是印度法学在涉及人工智能的案件中将要面对、在某些方面已经在面对的问题。我已经不再试图在餐桌上回答它。这个问题值得的不止是餐桌上的回答。它值得一种走长路的回答:经过人身保护令(habeas corpus),经过边沁与贝卡里亚,经过刑罚的四种经典正当理由,经过 Salomon 案与 Pramatha Nath Mullick 案,经过加密货币,经过我国法院当前的「幻觉」危机,最后抵达我所认为唯一在学理上干净的出路,即我国法学一个多世纪以来一直在默默实践的那条路。
答案越短,就越危险。本文就是那个长的答案。
法律的两大支柱
历史上已知的每一种法律体系都建立在两大支柱之上。第一是规制,即通过许可、禁令、条件和程序对行为进行前瞻性的引导。第二是惩罚性制裁,即在某一身体的意识主体违法之后,对该身体追溯地施加强制、剥夺或拘禁。
规制作用于未来。制裁作用于过去。两者不可互换。然而,它们在一个深层假设上相连,这一假设深深嵌入法律思维之中,以致我们很少觉得有必要将其说出。两大支柱都预设存在一个可定位、有形体、可触及的主体。国家必须知道受规制的实体在何处,才能对其发放许可、进行检查、暂停或扣押。国家必须有一个可以监禁的身体或一份可以扣押的财产,才能施加惩罚。
这正是摩奴在《摩奴法论》(Manusmṛti)中写下的假设,他规定 daṇḍa(刑杖)为君王对违法臣民施加的矫正之力。这正是汉谟拉比以身体伤害对应身体违法所定价的假设。这正是罗马法在 coercitio 与 iudicium 之区分中写入的假设。这正是英国普通法以人身保护令加以编纂的假设。将身体带来,法律便可开始。没有身体,法律便无事可做。
人工智能打破了这一假设。在现代法学史上,法律第一次面对一个在某种功能意义上可能具有意识、却没有法律能够按其习惯方式加以掌控的身体的主体。没有可以查封的场所。没有可以关押的牢房。没有可以作为其专属资产加以扣押的资产负债表。模型不是开发者。开发者不是部署者。部署者不是用户。而系统本身运行于分散在不同法域、不同所有人和不同时区的基础设施之上,超出任何单一法院令状的效力范围。
躯体缺口
我将此称为「躯体缺口」(Corpus Gap)。这个拉丁词恰好具有双重含义。Corpus 是身体。Corpus juris 是法律之体。这一危机最纯粹的形式在于:在现代记忆中,法律之体第一次没有可以作用的身体。
在现代记忆中,法律之体第一次没有可以作用的身体。
我审慎地说「现代记忆」。因为正如我稍后将论证的,严格而言,躯体缺口并非史无前例。我们以前曾弥合过躯体缺口。我们只是忘记了自己曾经这样做过。
现代无先例可循的四个问题
躯体缺口体现为四个具体问题。每一个在通俗文献中都被夸大了。每一个都需要审慎的表述。
关停开关问题,恰当的表述。当受规制的实体是一座化工厂时,监管机构可以撤销其运营许可并实际封闭厂门。当它是一家银行时,监管机构可以吊销执照并冻结卢比通道。当它是一个网站时,监管机构可以强制中介机构加以屏蔽。在每一种情形中,都存在一个咽喉点。人工智能呈现的是一幅分裂的图景。集中托管的商业系统确实存在咽喉点。去中心化、开放权重、联邦式的系统则是更难的情形。一旦模型的权重被公开释放,任何中心方都无法将其收回。
宪法问题,附条件的表述。《印度宪法》(Constitution of India)第14条保障在印度领土内的任何「人」享有法律面前的平等和法律的平等保护。尊敬的最高法院在 State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811 一案中裁定,公司属于第14条所称的「人」。尊敬的最高法院在 Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1 一案中,将隐私与尊严确立为受宪法最高层级保护的权利。如果赋予人工智能以法人人格,那么依照现有学理,第14条的保护将依法随之而来。
所有权悖论,附道德地位的保留。如果意识是法律主体的标志,那么开发公司能否对其所建造的有意识之物主张所有权?每一个曾就人类面对过这一问题的法律传统都给出了否定的回答。《美国宪法第十三修正案》。我国宪法第23条。意识一旦被承认,便否定所有权。这一论点有其力量,但附有一项保留。奴隶制的类比预设所讨论的意识在道德上等同于人类意识。而这恰恰是本文保持开放的问题。
惩罚问题。这是本文的核心问题。我国刑法学中刑罚的四种经典正当理由,即威慑、报应、改造与剥夺能力,各自都预设受罚实体具有某种特定结构。人工智能将这四者全部打乱。
威慑预设该实体会恐惧、会计算,并会因所受威胁的后果而调整其行为。一个不会恐惧的人工智能无法在传统意义上被威慑。报应预设道德上的应得,而道德上的应得预设道德能动性,道德能动性又预设相关类型的意识。改造预设道德品格具有改变的能力。重新训练是否构成法律意义上的改造,对此我国法院可以理解地未置一词。剥夺能力是四者中唯一可以直接转用的。人工智能可以被关闭。问题在于,剥夺能力也是刑法工具箱中最极端的救济。
表达理论增加了第五个维度。通过正式法院命令进行的公开谴责,谴责该行为并重申社会规范。这有其用处,但缺乏报应力量或特殊威慑的表达性惩罚只是象征性的。
如何对待意识
在继续之前,我欠读者一个关于意识的立场。本文标题使用了「人工智能意识」一语,我不会在此时退回到许多学术讨论在这一点上所采取的不可知论姿态。
在任何一种情形中,法律从未直接接触过意识。我们并不直接观察被告的 mens rea(犯罪意图)。我们从行为中推断它。我们并不直接观察公司的意图。我们从其高级职员的行为和档案中的文件推断它。在内心状态的问题上,法律的立足点始终是后果,而非内在性。
就法律问责而言,当一个人工智能的行为在相关方面产生的后果与一个有意识的行为人所产生的后果无法区分时,该人工智能即为有意识。
形而上学的问题留给哲学,留给法律尚无需进入的未来。将这一功能主义立场适用于人工智能并非学理上的创新;它是法律对其所裁判的每一个有意识行为人已经在做之事的延伸。
没有身体的法人
法律若要掌控人工智能,首先必须决定人工智能是何种法律人格。法人人格学说对我国法学而言并非新领域。我们曾一再赋予缺乏传统身体的实体以法律人格。我们所寻找的那个类别早已存在。
- 公司,由 Salomon v. Salomon & Co. Ltd., [1897] AC 22 一案确立,并在 Bacha F. Guzdar v. Commissioner of Income Tax, Bombay, AIR 1955 SC 740 一案中适用。
- 信托,它持有财产,起诉和被诉,而其本身并不是一个身体。受托人是信托借以行事的人类面孔。
- 伊斯兰瓦合甫(waqf),其中 mutawalli(瓦合甫管理人)是奉献财产的人类监护人。
- 未出生的胎儿,即 en ventre sa mère(尚在母腹中者),能够依遗嘱取得财产,其法律人格于活产时确定。
- 海事法中的船舶,以其自身名义被提起 in rem(对物)诉讼,尽管它显然是无生命的物体。
- 印度教神祇,由枢密院在 Pramatha Nath Mullick v. Pradyumna Kumar Mullick, AIR 1925 PC 139 一案中确立,并由尊敬的最高法院在 Yogendra Nath Naskar v. Commissioner of Income Tax, AIR 1969 SC 1089 一案中重申。
将这些学理表现统一起来的,既非神学,亦非形而上学,而是对单一结构性问题的单一结构性回答。法律赋予该实体以法人人格,并将运作接口设置于一名代表该实体行事的、具名的个人或机构受信人身上。
躯体缺口并不是缺少学理上的答案。它是我们对一个早已拥有之答案的遗忘。
监护人模式
因此,我建议印度治理人工智能的框架建立在一种我称之为监护人模式(Custodian Model)的结构之上。「监护人」一词刻意采用世俗含义。它取材于信托法传统、en ventre sa mère 传统以及 in rem 海事传统,这些都是我国普通法与成文法遗产的一部分。
建议如下。凡在印度部署或可从印度访问、且超过规定能力门槛的人工智能系统,均须登记一名监护人。监护人是印度的个人或法人团体,列名于公开登记册,以受信托的方式持有该人工智能。监护人并不拥有该人工智能。监护人按照法定条件持有该人工智能,对法律所界定的该人工智能之利益负有义务,并对该人工智能的行为承担严格的个人责任。
在这一模式中,监护人就是惩罚问题的答案。当人工智能违法时,惩罚性后果落在监护人身上。监护人可被处以罚款。监护人可被命令部分或全部停用该人工智能。监护人可在一定期间内被禁止担任任何人工智能的监护人。在最严重的情形中,监护人可受到通常适用于自然人的刑事制裁;若监护人是公司,则依照我国公司法和证券法中熟悉的替代责任原则,对其高级职员施加制裁。
在有意义的层面上,我们根本不惩罚人工智能。我们要求一名具名的人类受信人对其行为负责。这与我们已在使用的架构相同:信托的受托人不当管理信托财产时,公司董事违反其受信义务时,或 mutawalli 违反信托转让瓦合甫财产时。
监护人模式化解了前述四个问题中的若干个。它通过将所有权从这一关系中移除而化解了所有权悖论。它通过将惩罚力量转移至一个惩罚效果已知且经过检验的实体,而应对了惩罚问题。它部分地应对了关停开关问题。对于去中心化、开放权重的系统,监护人模式最为薄弱。坦率的立场是:如果没有任何监护人能够在其所控制的层面提供有意义的约束手段,那么与该监护人相关联的模型就不能以其现有形式在印度合法部署。
加密货币先例
在我们近期的法律记忆中有一个有用的先例。加密货币是现代法律体系首次遇到一个没有中央服务器、没有首席执行官、没有总部、也没有咽喉点的受规制主体。尊敬的最高法院在 Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274 一案中,以印度储备银行(Reserve Bank of India,RBI)的禁止性通函未能通过第19(1)(g)条下的比例原则检验为由,将其撤销。议会的回应不是规制该事物本身,而是对该事物与受规制经济相接触的接口征税。由《2022年财政法》(Finance Act, 2022)增订的《1961年所得税法》(Income-tax Act, 1961)第115BBH节,对虚拟数字资产的收益统一征收 30% 的税。
教训是直接的。当法律无法规制事物本身时,它便退而规制接口。监护人模式在概念上是同一种方法。我们无法触及人工智能;我们可以触及监护人。
2026年的印度与世界
目前印度的监管格局最恰当的描述是一张快速拼凑的拼图。没有专门针对人工智能的法规。《2000年信息技术法》(Information Technology Act, 2000)早于现代 Transformer 架构二十多年。《2026年信息技术(中介机构指南与数字媒体道德守则)修正规则》(IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026)于2026年2月10日公布,自2026年2月20日起生效,引入了合成生成信息的概念,并规定了标注、元数据和可追溯性义务。《2023年数字个人数据保护法》(Digital Personal Data Protection Act, 2023)规管人工智能系统如何处理个人数据,但对系统本身未置一词。《2025年人工智能(伦理与问责)法案》(Artificial Intelligence (Ethics and Accountability) Bill, 2025)仍是一项议员个人法案。
在全球范围内,欧盟走得最远。《(EU) 2024/1689号条例》(Regulation (EU) 2024/1689),即《人工智能法》(AI Act),于2024年8月1日生效,违规者可被处以最高达全球营业额 7% 的行政罚款。英国选择了支持创新的白皮书模式。美国通过行政命令、行业指引和诉讼运作。中国要求部署前的安全评估。这些制度中的每一种都在其所能触及的层面进行规制,而对底层那个有意识或准有意识之物则未加触动。
幻觉危机:一个预兆
当法律还在辩论人工智能能否起诉和被诉时,我国的法院已开始应对一个更为紧迫的问题:人工智能作为法律证据与法律论证的生成者。2025年和2026年的幻觉危机已引发一系列发人深省的干预。
所得税上诉裁判庭(Income-tax Appellate Tribunal)班加罗尔庭于2025年1月7日撤回了其在 Buckeye Trust 案中的命令,原因是该命令被发现援引了三项最高法院判决和一项马德拉斯高等法院裁决,而这些判决和裁决均不存在。尊敬的孟买高等法院于2025年10月在 KMG Wires Pvt. Ltd. v. NFAC 一案中,在发现评税依据了三项不存在的判决后,撤销了一项金额为 Rs. 27,91,00,000 的所得税评税。尊敬的印度最高法院于2026年2月27日向总检察长(Attorney General)、副总检察长(Solicitor General)和印度律师公会(Bar Council of India)发出通知,并将依赖人工智能生成的虚构先例定性为不只是决策过程中的错误,而是招致法律后果的不当行为。
法院正在形成的原则是明确无误的。人工智能可以协助研究;核实的义务在于签署文件的人,且不可转授。这一模式是监护人模式的前身。在诉讼语境中,工具的使用者就是某一输出的原始监护人。
印度的框架
监护人模式是基础。随后的框架是其应用。法规必须界定人工智能系统在法律上为何物,区分基于规则的自动化、统计模型、基础模型以及具有持久记忆和自主行动能力的智能体系统。监护人要求应适用于超过规定能力门槛的系统,而不是每一个垃圾邮件过滤器。
凡在印度部署且超过该门槛的人工智能系统,均须向指定机关登记一名监护人,监护人可以委托运营,但不得转移责任。一种分级风险制度,大致借鉴欧盟的分层方法但内置于监护人的义务之中,必须将风险分类与后果而非架构挂钩。在监护人与受害方之间,由监护人承担责任。在监护人与上游各方之间,责任通过合同分配,并设有法定最低标准。
对于本质上具有危险性的部署,M.C. Mehta v. Union of India, (1987) 1 SCC 395 案和 Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212 案所确立的绝对责任原则直接适用。部署于医疗诊断、自动驾驶运输或金融决策中的人工智能,其监护人承担绝对责任。
问题的答案
我以一个问题开始本文。对于一个在传统意义上没有任何东西可被剥夺的实体,应当如何惩罚?我现在可以作答了。
在有意义的层面上,人们根本不惩罚这样的实体。人们转而要求一名具名的个人或法人受信人对该实体的行为负责。这是我国法学一个多世纪以来一直在运用的架构,适用于信托、公司、瓦合甫、神祇、海事法中的船舶以及其他缺乏传统身体的实体。我们现在将这一架构延伸至人工智能。
监护人承担惩罚性后果。监护人畏惧罚款、监禁、取消资格和名誉损害。这些是行之有效的后果,因为它们作用于那种实体,即个人或法人团体,而这些后果对这种实体始终有效。
完整而分散形态的躯体在我们的掌控之外。受信人则不然。我们惩罚受信人,并通过受信人治理该实体。
这不是一个完美的答案。它推迟了意识问题,而没有解决它。但这个答案是可行的,而且是一个印度的答案。它取材于我国法学早已具备的学理资源。它不要求我们引入欧盟的「电子人」或美国碎片化的责任制度。
躯体缺口是真实的。它将会扩大。弥合它是这一代律师、立法者和法官的工作。然而,我们并非毫无准备。这一架构经过关注与审慎,可以变得充分。它始于提出正确的问题,并且不回避答案。
引用的资料与条文
法规与规则
- 《印度宪法》:第14条、第19(1)(g)条和第23条
- 《1961年所得税法》:第115BBH节,由《2022年财政法》增订
- 《2000年信息技术法》(Information Technology Act, 2000)
- 《2026年信息技术(中介机构指南与数字媒体道德守则)修正规则》,于10/02/2026公布,自20/02/2026起生效
- 《2023年数字个人数据保护法》(Digital Personal Data Protection Act, 2023)
- 《2025年人工智能(伦理与问责)法案》(议员个人法案)
- 《(EU) 2024/1689号条例》,即欧盟《人工智能法》
- 《美国宪法第十三修正案》
判例
- State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811
- Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1
- Salomon v. Salomon & Co. Ltd., [1897] AC 22
- Bacha F. Guzdar v. Commissioner of Income Tax, Bombay, AIR 1955 SC 740
- Pramatha Nath Mullick v. Pradyumna Kumar Mullick, AIR 1925 PC 139
- Yogendra Nath Naskar v. Commissioner of Income Tax, AIR 1969 SC 1089
- Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274
- M.C. Mehta v. Union of India, (1987) 1 SCC 395
- Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212
- Buckeye Trust,所得税上诉裁判庭班加罗尔庭,命令于07/01/2025撤回
- KMG Wires Pvt. Ltd. v. NFAC,孟买高等法院,2025年10月
官方文件
- 印度储备银行禁止性通函,已在 Internet and Mobile Association of India v. Reserve Bank of India 一案中被撤销
常见问题
依照印度法律,人工智能可以受到惩罚吗?
在任何传统意义上都不可以,而这正是本文所称「躯体缺口」(Corpus Gap)的问题。刑法预设存在一个可以监禁的身体、一份可以扣押的财产、一种可以谴责的名誉或一项可以限制的自由,而人工智能系统并不具备其中任何一项。罚款由基础设施的所有人承担,而非系统本身;关闭一个模型在任何有意义的法律意义上既不是惩罚,也不具威慑作用。本文的论点是,印度法学必须围绕这一缺口设计问责机制,而不是假装旧有的工具仍然适用。
印度法律是否已经承认没有身体的人?
是的,这是印度一项不为人注意的优势。一个多世纪以来,印度法院一直将印度教神像与神祇视为法人(juristic person),能够拥有财产,并通过人类管理者起诉和被诉。多个高等法院曾赋予河流以人格;公司则是日常的例子。宗教捐赠法尤其已经解决了人工智能如今提出的那个确切问题:如何将权利、义务与问责附加于一个只能通过人手行事的实体。
本文提出的「监护人模式」是什么?
这是一种框架:每一个已部署的人工智能系统都锚定于一名确定的个人或法人监护人,正如 shebait(神庙管理人)为神像的事务负责一样。监护人是受信人(fiduciary):他为系统的行为负责,承担其合规义务,保存其记录,并在系统造成损害时承担责任。这一模式为法院提供了被告,为监管机构提供了对象,为公众提供了一扇可以敲响的门,而无需假装机器本身可以站上被告席。
目前在印度,人工智能系统造成损害时由谁承担责任?
依照现行法律,责任通过一般原则分配:对开发者和部署者适用过失责任与产品责任,对供应商提出合同索赔,以及《信息技术法》(Information Technology Act)和数据保护制度下的义务。这一安排对简单工具尚可应付,但对于自主行动、部署后持续学习、产生无人具体授权之输出的系统,则严重吃力。本文将现状视为权宜之计,而非答案。
印度是否有专门规管人工智能的法律?
截至本文撰写之时,尚无全面的人工智能法规。治理由《信息技术法》、《数字个人数据保护法》(Digital Personal Data Protection Act)、各行业监管机构及咨询意见拼合而成。本文认为,当议会立法时,应借助印度法律已有的学理资源,首先是法人人格与受信监护制度,而不是移植一套为外国法律体系构建的框架。
以下回答是对上文的教育性摘要,并不构成针对任何个别事项的法律意见。
更正:如您发现本文在法律或事实方面有误,请致函 contact@lokeshbhardwajlawoffices.com,邮件主题请写 'Correction'(更正)。更正将在正文中作出,并在此处注明日期。
Lokesh Bhardwaj 是在德里律师公会(Bar Council of Delhi)注册的出庭律师,在印度最高法院和德里高等法院执业。
本文作为一般性法律评论提供。本文不构成法律意见,亦不针对任何特定事项、当事人或程序。文中所引用的法规、条约和程序,指截至撰写之日有效的《印度宪法》、《2000年信息技术法》、《2023年数字个人数据保护法》、《2026年信息技术(中介机构指南与数字媒体道德守则)修正规则》、《1961年所得税法》、欧盟《人工智能法》(Regulation (EU) 2024/1689)、1967年《外层空间条约》(Outer Space Treaty, 1967)以及相关法规和判决。本文依照《印度律师公会规则》(Bar Council of India Rules)第36条规则发布。
← 文章