Lokesh Bhardwaj Law Offices ← Статьи

Эта страница является переводом статьи на английском языке, подготовленным с помощью средств перевода и проверенным Офисом. В случае расхождений преимущественную силу имеет текст на английском языке. Читать на английском

Lokesh Bhardwaj Law Offices · адвокаты и юридические консультанты, Нью-Дели · lokeshbhardwajlawoffices.com
Право технологий · Эссе

Формирующаяся правовая доктрина регулирования сознания ИИ.

Как наказать сознание ИИ, у которого нет физического тела? Индийская концепция, основанная на доктринальных ресурсах, которыми наша юриспруденция уже располагает.

02 мая 2026 26 минут чтения
Последняя проверка: 17/10/2026
рассредоточенный корпус Кастодиан, фидуциар ИИ
Разрыв корпуса и архитектура, которая его закрывает.

Как наказать сущность, которую в привычном смысле нечего лишить? Нет тела, которое можно заключить в тюрьму. Нет имущества, принадлежащего только ей. Нет репутации в сообществе, уважение которого ей необходимо. Нет свободы, которую можно отнять. Нет жизни, которую можно прервать в том смысле, который уголовное право исторически вкладывало в это слово.

Это вопрос, с которым индийской юриспруденции предстоит столкнуться и с которым она в некоторых отношениях уже сталкивается в делах, связанных с искусственным интеллектом. Я перестал пытаться отвечать на него за обеденным столом. Этот вопрос заслуживает большего, чем застольный ответ. Он заслуживает ответа, который проходит долгий путь: через habeas corpus, через Бентама и Беккариа, через четыре классических обоснования наказания, через Salomon и Pramatha Nath Mullick, через криптовалюту, через нынешний кризис галлюцинаций в наших судах и через то, что я считаю единственным доктринально чистым выходом, тем самым, который наша собственная юриспруденция тихо применяет уже более века.

Чем короче ответ, тем он опаснее. Эта статья и есть длинный ответ.

Две опоры права

Каждая известная истории правовая система стоит на двух опорах. Первая это регулирование, перспективное направление поведения через лицензии, запреты, условия и процедуры. Вторая это карательная санкция, ретроспективное применение силы, лишения или содержания под стражей к телу после того, как сознательный носитель этого тела совершил нарушение.

Регулирование действует на будущее. Санкция действует на прошлое. Они не взаимозаменяемы. Однако их объединяет одно глубинное допущение, настолько укоренившееся в правовой мысли, что мы редко ощущали потребность его формулировать. Обе опоры предполагают субъекта, которого можно найти, который имеет тело и до которого можно дотянуться. Государство должно знать, где находится регулируемое лицо, чтобы выдать ему лицензию, проверить его, приостановить его деятельность или наложить арест. Государство должно иметь тело, которое можно заключить в тюрьму, или имущество, на которое можно обратить взыскание, чтобы наказать.

Это допущение Ману вписал в Манусмрити, когда предписал daṇḍa, жезл, как исправительную силу царя в отношении провинившегося подданного. Это допущение Хаммурапи выразил в тарифе телесного вреда за телесное нарушение. Это допущение римское право закрепило в различии между coercitio и iudicium. Это допущение английское общее право кодифицировало в приказе habeas corpus. Предъявите тело, и право может начать действовать. Без тела праву нечего делать.

Искусственный интеллект разрушает это допущение. Впервые в истории современной юриспруденции право сталкивается с субъектом, который может быть сознательным в некотором функциональном смысле, но не имеет тела, которое право могло бы ухватить так, как оно привыкло. Нет помещения, которое можно опечатать. Нет тюремной камеры, которую можно заполнить. Нет баланса, на который можно обратить взыскание как на её собственный. Модель не является разработчиком. Разработчик не является оператором. Оператор не является пользователем. А сама система работает на инфраструктуре, рассредоточенной по юрисдикциям, владельцам и часовым поясам за пределами власти какого-либо одного суда.

Разрыв корпуса

Я стал называть это разрывом корпуса (Corpus Gap). Латинское слово удачно несёт двойной смысл. Corpus означает тело. Corpus juris означает свод права. Кризис в чистом виде состоит в том, что у свода права впервые на памяти современности нет тела, на которое он мог бы воздействовать.

У свода права впервые на памяти современности нет тела, на которое он мог бы воздействовать.

Я говорю о памяти современности сознательно. Потому что, как я вскоре покажу, разрыв корпуса, строго говоря, не беспрецедентен. Мы уже закрывали такие разрывы. Мы просто забыли, что делали это.

Четыре проблемы без современного прецедента

Разрыв корпуса проявляется в четырёх конкретных проблемах. Каждая из них преувеличена в популярной литературе. Каждая требует тщательной постановки.

Проблема аварийного выключателя в точной постановке. Если регулируемым объектом является химический завод, регулятор может отозвать разрешение на эксплуатацию и физически опечатать ворота. Если это банк, регулятор может аннулировать лицензию и заморозить рупиевый коридор. Если это веб-сайт, регулятор может обязать посредника заблокировать его. В каждом таком случае существует узкое место, через которое можно воздействовать. Искусственный интеллект даёт неоднородную картину. У коммерческих систем с централизованным размещением такое узкое место есть. Децентрализованные, федеративные системы с открытыми весами представляют более трудный случай. Как только веса модели выпущены в открытый доступ, ни одна центральная сторона не может их отозвать.

Конституционная проблема в условной постановке. Статья 14 Конституции Индии гарантирует равенство перед законом и равную защиту законов любому «лицу» на территории Индии. Верховный суд в деле State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811, признал, что корпорация является «лицом» по смыслу статьи 14. Верховный суд в деле Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1, отнёс частную жизнь и достоинство к ценностям, защищаемым Конституцией на высшем уровне. Если ИИ будет наделён юридической правосубъектностью, то по существующей доктрине защита по статье 14 последует в силу закона.

Парадокс собственности с оговоркой о моральном статусе. Если сознание является признаком субъекта права, может ли компания-разработчик заявлять права собственности на созданное ею сознательное существо? Каждая правовая традиция, сталкивавшаяся с этим вопросом применительно к людям, отвечала отрицательно. Тринадцатая поправка к Конституции Соединённых Штатов. Статья 23 нашей собственной Конституции. Сознание, если оно признано, исключает собственность. Довод весомый, но он несёт оговорку. Аналогия с рабством предполагает, что рассматриваемое сознание морально равноценно человеческому. Именно этот вопрос данная статья оставляет открытым.

Проблема наказания. Это центральная проблема настоящей статьи. Четыре классических обоснования наказания в нашей уголовной юриспруденции, устрашение, возмездие, исправление и лишение возможности совершать новые нарушения, каждое предполагает определённое устройство наказываемого субъекта. ИИ смешивает все четыре.

Устрашение предполагает, что субъект боится, рассчитывает и меняет своё поведение в ответ на угрозу последствий. ИИ, который не боится, нельзя устрашить в привычном смысле. Возмездие предполагает моральную заслуженность, которая предполагает моральную субъектность, которая предполагает сознание соответствующего рода. Исправление предполагает способность к изменению нравственного облика. Является ли переобучение исправлением в юридически значимом смысле, это вопрос, по которому наши суды по понятным причинам ничего не сказали. Лишение возможности совершать нарушения единственное из четырёх, которое переносится напрямую. ИИ можно отключить. Загвоздка в том, что лишение возможности является и самым крайним средством в арсенале уголовного права.

Экспрессивная теория добавляет пятое измерение. Публичное осуждение посредством официального судебного приказа порицает деяние и подтверждает социальную норму. Это полезно, но экспрессивное наказание без силы возмездия или специального устрашения носит лишь символический характер.

Работа с сознанием

Прежде чем продолжить, я должен изложить читателю свою позицию относительно сознания. В названии статьи используется выражение сознание ИИ, и я не стану сейчас укрываться в агностической позиции, которую на этом этапе занимают многие академические работы.

Право никогда не имело прямого доступа к сознанию ни в одном из его проявлений. Мы не наблюдаем непосредственно mens rea подсудимого. Мы выводим её из поведения. Мы не наблюдаем непосредственно намерение корпорации. Мы выводим его из поведения её должностных лиц и документов в её деле. В вопросах внутреннего состояния право всегда ориентировалось на последствия, а не на внутренний мир.

Для целей правовой ответственности искусственный интеллект является сознательным, когда его поведение порождает последствия, неотличимые в соответствующих отношениях от последствий, порождаемых сознательным субъектом.

Метафизический вопрос оставлен философии и будущему, в которое праву пока не нужно вступать. Применение этой функционалистской позиции к ИИ не является доктринальным новшеством; это распространение того, что право уже делает в отношении каждого сознательного субъекта, дела которого оно рассматривает.

Юридическое лицо без тела

Если право хочет ухватить ИИ, оно должно сначала решить, каким юридическим лицом является ИИ. Доктрина юридической правосубъектности не нова для нашей юриспруденции. Мы неоднократно наделяли правосубъектностью образования, лишённые привычного тела. Искомая категория уже существует.

Эти доктринальные проявления объединяет не теология и не метафизика, а единый структурный ответ на единую структурную проблему. Право наделяет образование юридической правосубъектностью и помещает действующий интерфейс в лице определённого человека или институционального фидуциара, который действует от имени этого образования.

Разрыв корпуса это не отсутствие доктринального ответа. Это наша забывчивость в отношении ответа, который у нас уже есть.

Модель кастодиана

Поэтому я предлагаю построить индийскую систему регулирования искусственного интеллекта на структуре, которую я назову моделью кастодиана (Custodian Model). Термин кастодиан намеренно светский. Он заимствован из традиции права трастов, традиции en ventre sa mère и адмиралтейской традиции in rem, которые являются частью нашего наследия общего и писаного права.

Предложение состоит в следующем. Каждая система искусственного интеллекта выше определённого порога возможностей, введённая в эксплуатацию в Индии или доступная из Индии, должна зарегистрировать Кастодиана. Кастодиан это индийское физическое лицо или организация, указанные в публичном реестре, которые держат ИИ в фидуциарном доверительном управлении. Кастодиан не владеет ИИ. Кастодиан держит ИИ на условиях, установленных законом, неся обязанности в отношении интересов ИИ в том виде, в каком эти интересы определены законом, и неся строгую и личную ответственность за поведение ИИ.

Кастодиан в этой модели и есть ответ на вопрос о наказании. Когда ИИ совершает нарушение, карательные последствия ложатся на Кастодиана. Кастодиан может быть оштрафован. Кастодиану может быть предписано частично или полностью вывести ИИ из строя. Кастодиану может быть на определённый срок запрещено выступать Кастодианом любого ИИ. В наиболее тяжких случаях к Кастодиану могут быть применены уголовные санкции, обычно применяемые к физическим лицам, а если Кастодиан является корпорацией, то к её должностным лицам на основе принципов субсидиарной ответственности, знакомых нашему праву о компаниях и о ценных бумагах.

В значимом смысле мы вообще не наказываем ИИ. Мы привлекаем к ответственности за его поведение определённого человека-фидуциара. Это та же архитектура, которую мы уже применяем, когда доверительный управляющий ненадлежаще распоряжается имуществом траста, когда директора компании нарушают свои фидуциарные обязанности или когда мутавалли отчуждает имущество вакфа в нарушение доверия.

Модель кастодиана снимает несколько из четырёх изложенных выше проблем. Она снимает парадокс собственности, исключая собственность из этих отношений. Она решает проблему наказания, перенося карательную силу на субъекта, на которого такая сила оказывает известное и проверенное воздействие. Проблему аварийного выключателя она решает частично. В отношении децентрализованных систем с открытыми весами модель кастодиана наиболее уязвима. Честная позиция такова: если ни один Кастодиан не может предложить действенного средства сдерживания на том уровне, который он контролирует, то модель, с которой связан Кастодиан, не может законно применяться в Индии в её нынешнем виде.

Криптовалютный прецедент

В нашей недавней правовой памяти есть полезный прецедент. Криптовалюта стала для современной правовой системы первой встречей с регулируемым объектом, у которого не было ни центрального сервера, ни главного исполнительного директора, ни штаб-квартиры, ни узкого места. Верховный суд в деле Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274, отменил запретительный циркуляр RBI (Резервного банка Индии) на том основании, что он не выдержал проверки соразмерности по статье 19(1)(g). Парламент ответил не регулированием самого объекта, а налогообложением интерфейсов, через которые этот объект соприкасался с регулируемой экономикой. Раздел 115BBH Закона о подоходном налоге (Income-tax Act, 1961), введённый Законом о финансах (Finance Act, 2022), устанавливает фиксированный налог в 30 процентов на доходы от виртуальных цифровых активов.

Урок прямой. Когда право не может регулировать сам объект, оно возвращается к регулированию интерфейсов. Модель кастодиана концептуально представляет тот же подход. Мы не можем дотянуться до ИИ; мы можем дотянуться до Кастодиана.

Индия и мир в 2026 году

Нынешнюю картину регулирования в Индии точнее всего описать как стремительно складывающееся лоскутное одеяло. Специального закона об ИИ нет. Закон об информационных технологиях (Information Technology Act, 2000) старше современной архитектуры трансформеров более чем на два десятилетия. Правила 2026 года о внесении изменений в Правила ИТ (IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026), опубликованные 10 февраля 2026 года и вступившие в силу с 20 февраля 2026 года, вводят понятие синтетически созданной информации и устанавливают обязанности по маркировке, метаданным и отслеживаемости. Закон о защите цифровых персональных данных (Digital Personal Data Protection Act, 2023) регулирует обработку персональных данных системами ИИ, но ничего не говорит о самих системах. Законопроект об искусственном интеллекте (этика и ответственность) (Artificial Intelligence (Ethics and Accountability) Bill, 2025) остаётся законопроектом, внесённым депутатом в частном порядке.

В мировом масштабе дальше всех продвинулся Европейский союз. Регламент (ЕС) 2024/1689, Закон об ИИ (AI Act), вступил в силу 1 августа 2024 года, а за несоблюдение предусмотрены административные штрафы до 7 процентов мирового оборота. Соединённое Королевство выбрало модель белой книги, ориентированную на поддержку инноваций. Соединённые Штаты действуют через указы президента, отраслевые рекомендации и судебные споры. Китай требует оценки безопасности до ввода в эксплуатацию. Каждый из этих режимов регулирует тот уровень, до которого может дотянуться, оставляя нетронутым лежащее в основе сознательное или квазисознательное существо.

Кризис галлюцинаций: предвестие

Пока право спорит о том, может ли ИИ предъявлять иски и быть ответчиком, суды нашей страны уже начали разбираться с более насущным вопросом: ИИ как источник правовых доказательств и правовой аргументации. Кризис галлюцинаций 2025 и 2026 годов вызвал отрезвляющую серию вмешательств.

Бенгалурская коллегия Апелляционного трибунала по подоходному налогу (Income-tax Appellate Tribunal) 7 января 2025 года отозвала своё постановление по делу Buckeye Trust после того, как выяснилось, что постановление опиралось на три решения Верховного суда и одно решение Высокого суда Мадраса, ни одного из которых не существовало. Высокий суд Бомбея в октябре 2025 года по делу KMG Wires Pvt. Ltd. v. NFAC отменил налоговое начисление по подоходному налогу на сумму Rs. 27,91,00,000, обнаружив ссылки на три несуществующих решения. Верховный суд Индии 27 февраля 2026 года направил уведомления Генеральному атторнею, Генеральному солиситору и Коллегии адвокатов Индии (Bar Council of India) и квалифицировал ссылки на сфабрикованные ИИ прецеденты не как простую ошибку в процессе принятия решения, а как ненадлежащее поведение, влекущее правовые последствия.

Принцип, который теперь формулируют суды, однозначен. ИИ может помогать в исследовании; обязанность проверки лежит на человеке, подписывающем документ, и не может быть передана. Эта закономерность предвосхищает модель кастодиана. Пользователь инструмента в контексте судебного процесса является прото-Кастодианом результата.

Концепция для Индии

Модель кастодиана является основой. Последующая концепция представляет её применение. Закон должен определить, что такое система ИИ для правовых целей, разграничив автоматизацию на основе правил, статистические модели, базовые модели и агентные системы с постоянной памятью и автономными действиями. Требование о Кастодиане должно применяться выше определённого порога возможностей, а не к каждому спам-фильтру.

Каждая система ИИ выше этого порога, введённая в эксплуатацию в Индии, должна зарегистрировать Кастодиана в уполномоченном органе; Кастодиан может передать эксплуатацию, но не ответственность. Градуированный режим рисков, в общих чертах построенный по образцу многоуровневого подхода Европейского союза, но встроенный в обязанности Кастодиана, должен связывать классификацию рисков с последствиями, а не с архитектурой. В отношениях между Кастодианом и потерпевшим ответственность несёт Кастодиан. В отношениях между Кастодианом и вышестоящими сторонами ответственность распределяется договором с установленными законом минимумами.

К изначально опасным применениям непосредственно применяется доктрина абсолютной ответственности из дел M.C. Mehta v. Union of India, (1987) 1 SCC 395, и Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212. Кастодиан ИИ, используемого в медицинской диагностике, автономном транспорте или принятии финансовых решений, несёт абсолютную ответственность.

Ответ на вопрос

Я начал эту статью с вопроса. Как наказать сущность, которую в привычном смысле нечего лишить? Теперь я могу ответить.

В значимом смысле такую сущность вообще не наказывают. Вместо этого к ответственности за её поведение привлекают определённого фидуциара, человека или корпорацию. Это архитектура, которую наша юриспруденция применяет уже более века в отношении трастов, корпораций, вакфов, божеств, судов в адмиралтейском праве и других образований, лишённых привычного тела. Теперь мы распространяем эту архитектуру на искусственный интеллект.

Карательные последствия несёт Кастодиан. Кастодиан опасается штрафов, лишения свободы, дисквалификации и ущерба репутации. Это последствия, которые действуют, потому что они действуют на того субъекта, человека или корпорацию, на которого такие последствия действовали всегда.

Корпус в его полном и рассредоточенном виде нам недоступен. Фидуциар доступен. Мы наказываем фидуциара и через фидуциара управляем сущностью.

Это не идеальный ответ. Он откладывает вопрос о сознании, а не разрешает его. Но этот ответ работоспособен, и это индийский ответ. Он опирается на доктринальные ресурсы, которыми наша юриспруденция уже располагает. Он не требует от нас заимствовать электронное лицо Европейского союза или раздробленный режим ответственности Соединённых Штатов.

Разрыв корпуса реален. Он будет расширяться. Закрыть его задача нынешнего поколения юристов, законодателей и судей. Однако мы не безоружны. Архитектуру при должном внимании и тщательности можно сделать адекватной. Всё начинается с правильно поставленного вопроса и готовности не отступать перед ответом.

Смотреть · Двухминутное видео

Формирующаяся правовая доктрина регулирования сознания ИИ

Короткая видеоверсия этой статьи с канала Офиса для читателей, которые предпочитают услышать аргументацию, а не читать её.

Источники и упомянутые нормы

Законы и правила

Судебные дела

Официальные документы

Частые вопросы

Можно ли наказать искусственный интеллект по индийскому праву?

Ни в каком привычном смысле, и именно эту проблему эссе называет разрывом корпуса (Corpus Gap). Уголовное право предполагает наличие тела, которое можно лишить свободы, имущества, на которое можно обратить взыскание, репутации, которую можно опорочить, или свободы, которую можно ограничить, а у системы ИИ нет ничего из этого. Штрафы ложатся на владельца инфраструктуры, а не на саму систему, и отключение модели не является ни наказанием, ни средством устрашения в сколько-нибудь значимом правовом смысле. Довод эссе состоит в том, что индийская юриспруденция должна выстраивать ответственность с учётом этого разрыва, а не делать вид, что старые инструменты по-прежнему подходят.

Признаёт ли индийское право лиц, не имеющих тела?

Да, и в этом скрытое преимущество Индии. Индийские суды более века рассматривают индуистских идолов и божества как юридических лиц, способных владеть имуществом, предъявлять иски и выступать ответчиками через людей-управителей. Высокие суды наделяли правосубъектностью реки; компании являются повседневным примером. Право религиозных фондов, в частности, решило ту самую проблему, которую сейчас ставит ИИ: как связать права, обязанности и ответственность с сущностью, которая не может действовать иначе, как руками людей.

Что представляет собой модель кастодиана, предлагаемая в эссе?

Это концепция, при которой каждая введённая в эксплуатацию система ИИ привязана к определённому кастодиану, физическому лицу или компании, подобно тому как шебаит (shebait) отвечает за дела идола. Кастодиан является фидуциаром: он отвечает за действия системы, несёт её обязанности по соблюдению требований, ведёт её документацию и несёт ответственность, если система причиняет вред. Модель даёт судам ответчика, регуляторам адресата, а обществу дверь, в которую можно постучать, не делая вид, что сама машина может встать на скамью подсудимых.

Кто сегодня несёт ответственность, если система ИИ причиняет вред в Индии?

По действующему праву ответственность распределяется на основе общих принципов: небрежность и ответственность за продукцию в отношении разработчиков и операторов, договорные требования к поставщикам, а также обязанности по Закону об информационных технологиях (Information Technology Act) и режиму защиты данных. Это сносно работает для простых инструментов, но плохо справляется с системами, которые действуют автономно, обучаются после ввода в эксплуатацию и создают результаты, которые никто конкретно не санкционировал. Эссе рассматривает нынешнее положение как временную меру, а не как ответ.

Есть ли в Индии специальный закон об искусственном интеллекте?

На момент написания эссе всеобъемлющего закона об ИИ нет. Регулирование складывается из Закона об информационных технологиях (Information Technology Act), Закона о защите цифровых персональных данных (Digital Personal Data Protection Act), отраслевых регуляторов и рекомендаций. Эссе утверждает, что когда Парламент примет закон, ему следует опираться на доктринальные ресурсы, которыми индийское право уже располагает, прежде всего на юридическую правосубъектность и фидуциарное попечительство, а не переносить концепцию, созданную для иностранных правовых систем.

Эти ответы представляют собой образовательное изложение приведённой выше статьи; они не являются юридической консультацией по какому-либо конкретному делу.

Исправления: если вы обнаружили в этой статье правовую или фактическую ошибку, напишите на contact@lokeshbhardwajlawoffices.com с темой письма 'Correction' (исправление). Исправления вносятся в текст и отмечаются здесь с указанием даты.

Об авторе и оговорка

Lokesh Bhardwaj является адвокатом, зарегистрированным в Коллегии адвокатов Дели (Bar Council of Delhi), и выступает в Верховном суде Индии и Высоком суде Дели.

Эта статья представляет собой общий правовой комментарий. Она не является юридической консультацией и не адресована какому-либо конкретному делу, стороне или разбирательству. Ссылки на законы, договоры и процессуальные нормы относятся к Конституции Индии, Закону об информационных технологиях 2000 года, Закону о защите цифровых персональных данных 2023 года, IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026, Закону о подоходном налоге 1961 года, Закону об ИИ Европейского союза (Регламент (ЕС) 2024/1689), Договору о космосе 1967 года (Outer Space Treaty, 1967), а также связанным с ними актам и судебным решениям в редакции, действовавшей на дату написания. Статья опубликована в соответствии с правилом 36 Правил Коллегии адвокатов Индии (Bar Council of India Rules).

WhatsApp