Entstehende Rechtsprechung zur Governance von KI-Bewusstsein.
Wie bestraft man ein KI-Bewusstsein ohne physischen Körper? Ein indischer Rahmen, gestützt auf dogmatische Ressourcen, die unsere Rechtsprechung bereits besitzt.
Wie bestraft man ein Wesen, dem im herkömmlichen Sinn nichts genommen werden kann? Kein Körper, den man einsperren kann. Kein Vermögen, das allein ihm gehört. Kein Ruf in einer Gemeinschaft, auf deren Achtung es angewiesen ist. Keine Freiheit, die man nehmen kann. Kein Leben, das man in irgendeinem Sinn auslöschen könnte, den das Strafrecht historisch mit diesem Wort verbunden hat.
Dies ist die Frage, vor der die indische Rechtsprechung in Angelegenheiten mit Bezug zu künstlicher Intelligenz stehen wird und in mancher Hinsicht bereits steht. Ich habe aufgehört, sie bei Abendessen zu beantworten. Die Frage verdient mehr als eine Antwort am Esstisch. Sie verdient eine Antwort, die den langen Weg nimmt: durch Habeas Corpus, durch Bentham und Beccaria, durch die vier klassischen Rechtfertigungen der Strafe, durch Salomon und Pramatha Nath Mullick, durch Kryptowährungen, durch die gegenwärtige Halluzinationskrise in unseren Gerichten und durch den, wie ich inzwischen meine, einzigen dogmatisch sauberen Ausweg, nämlich den, den unsere eigene Rechtsprechung seit über einem Jahrhundert still praktiziert.
Je kürzer die Antwort, desto gefährlicher ist sie. Dieser Beitrag ist die lange Antwort.
Die zwei Säulen des Rechts
Jede aus der Geschichte bekannte Rechtsordnung ruht auf zwei Säulen. Die erste ist die Regulierung, die vorausschauende Lenkung von Verhalten durch Genehmigungen, Verbote, Auflagen und Verfahren. Die zweite ist die Strafsanktion, die rückwirkende Anwendung von Zwang, Entzug oder Freiheitsentziehung gegen einen Körper, nachdem dessen bewusst handelnder Träger eine Grenze überschritten hat.
Regulierung wirkt auf die Zukunft. Sanktion wirkt auf die Vergangenheit. Sie sind nicht austauschbar. Verbunden sind sie jedoch durch eine einzige tiefe Annahme, eine Annahme, die so fest im juristischen Denken verankert ist, dass wir sie selten aussprechen mussten. Beide Säulen setzen ein Subjekt voraus, das auffindbar, verkörpert und erreichbar ist. Der Staat muss wissen, wo sich die regulierte Einheit befindet, um sie zu genehmigen, zu prüfen, zu suspendieren oder zu beschlagnahmen. Der Staat muss einen Körper haben, den er einsperren, oder ein Vermögen, das er pfänden kann, um zu strafen.
Diese Annahme schrieb Manu in die Manusmṛti, als er daṇḍa, den Stab, als die korrigierende Gewalt des Königs über einen fehlbaren Untertanen vorschrieb. Diese Annahme übersetzte Hammurabi in einen Tarif körperlichen Leids gegen körperliche Verfehlung. Diese Annahme schrieb das römische Recht in die Unterscheidung zwischen coercitio und iudicium ein. Diese Annahme kodifizierte das englische Common Law im Writ des Habeas Corpus. Bringt den Körper herbei, und das Recht kann beginnen. Ohne den Körper hat das Recht nichts zu tun.
Künstliche Intelligenz zerschlägt diese Annahme. Zum ersten Mal in der modernen Rechtsgeschichte steht das Recht einem Subjekt gegenüber, das in einem funktionalen Sinn bewusst sein mag, aber keinen Körper hat, den das Recht so fassen kann, wie es zu fassen gewohnt ist. Keine Räumlichkeiten, die man versiegeln kann. Keine Gefängniszelle, die man füllen kann. Keine Bilanz, die man als allein ihm gehörend pfänden kann. Das Modell ist nicht der Entwickler. Der Entwickler ist nicht der Betreiber. Der Betreiber ist nicht der Nutzer. Und das System selbst läuft auf einer Infrastruktur, die über Rechtsordnungen, Eigentümer und Zeitzonen jenseits der Reichweite eines einzelnen Gerichts verteilt ist.
Die Corpus-Lücke
Ich nenne dies inzwischen die Corpus-Lücke. Das lateinische Wort trägt eine glückliche Doppelbedeutung. Corpus ist der Körper. Corpus juris ist der Körper des Rechts. Die Krise besteht in ihrer reinsten Form darin, dass der Körper des Rechts zum ersten Mal seit Menschengedenken keinen Körper hat, auf den er einwirken kann.
Der Körper des Rechts hat zum ersten Mal seit Menschengedenken keinen Körper, auf den er einwirken kann.
Ich sage mit Bedacht seit Menschengedenken. Denn wie ich gleich darlegen werde, ist die Corpus-Lücke streng genommen nicht beispiellos. Wir haben Corpus-Lücken schon früher geschlossen. Wir haben nur vergessen, dass wir es getan haben.
Vier Probleme ohne modernes Vorbild
Die Corpus-Lücke zeigt sich in vier konkreten Problemen. Jedes ist in der populären Literatur überzeichnet worden. Jedes bedarf sorgfältiger Einordnung.
Das Kill-Switch-Problem, richtig formuliert. Ist die regulierte Einheit eine Chemieanlage, kann die Aufsichtsbehörde die Betriebsgenehmigung widerrufen und die Tore physisch versiegeln. Ist sie eine Bank, kann die Aufsichtsbehörde die Lizenz entziehen und den Rupien-Korridor einfrieren. Ist sie eine Website, kann die Aufsichtsbehörde einen Vermittler zur Sperrung verpflichten. In jedem dieser Fälle gibt es einen Engpass. Künstliche Intelligenz bietet ein geteiltes Bild. Zentral gehostete kommerzielle Systeme haben einen Engpass. Dezentrale, föderierte Systeme mit offenen Gewichten sind der schwierigere Fall. Sind die Gewichte eines Modells einmal freigegeben, kann keine zentrale Stelle sie zurückrufen.
Das verfassungsrechtliche Problem, bedingt formuliert. Artikel 14 der Verfassung Indiens garantiert jeder "person" (Person) im Gebiet Indiens Gleichheit vor dem Gesetz und gleichen Schutz durch die Gesetze. Der Hon'ble Supreme Court entschied in State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811, dass eine Körperschaft eine "person" im Sinne von Artikel 14 ist. Der Hon'ble Supreme Court verortete in Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1, Privatsphäre und Würde als auf höchster Ebene verfassungsrechtlich geschützt. Wird einer KI juristische Persönlichkeit verliehen, folgt nach der bestehenden Dogmatik der Schutz des Artikels 14 kraft Gesetzes.
Das Eigentumsparadox, mit dem Vorbehalt zum moralischen Status. Wenn Bewusstsein das Kennzeichen des Rechtssubjekts ist, kann dann die Entwicklergesellschaft Eigentumsrechte an dem bewussten Ding geltend machen, das sie gebaut hat? Jede Rechtstradition, die sich dieser Frage in Bezug auf Menschen gestellt hat, hat sie verneint. Der Dreizehnte Zusatzartikel zur Verfassung der Vereinigten Staaten. Artikel 23 unserer eigenen Verfassung. Einmal anerkanntes Bewusstsein schließt Eigentum aus. Das Argument hat Gewicht, trägt aber einen Vorbehalt. Die Analogie zur Sklaverei setzt voraus, dass das betreffende Bewusstsein dem menschlichen Bewusstsein moralisch gleichwertig ist. Genau diese Frage hält dieser Beitrag offen.
Das Strafproblem. Dies ist das zentrale Problem dieses Beitrags. Die vier klassischen Rechtfertigungen der Strafe in unserer Strafrechtslehre, Abschreckung, Vergeltung, Besserung und Unschädlichmachung, setzen jeweils eine bestimmte Struktur im bestraften Wesen voraus. KI bringt alle vier durcheinander.
Abschreckung setzt voraus, dass das Wesen fürchtet, abwägt und sein Verhalten in Reaktion auf angedrohte Folgen anpasst. Eine KI, die nicht fürchtet, kann im herkömmlichen Sinn nicht abgeschreckt werden. Vergeltung setzt moralische Verantwortlichkeit voraus, die moralische Handlungsfähigkeit voraussetzt, die wiederum Bewusstsein der einschlägigen Art voraussetzt. Besserung setzt die Fähigkeit zur Veränderung des moralischen Charakters voraus. Ob ein erneutes Training Besserung im rechtlich bedeutsamen Sinn ist, ist eine Frage, zu der unsere Gerichte verständlicherweise nichts gesagt haben. Unschädlichmachung ist die einzige der vier, die sich unmittelbar übertragen lässt. Eine KI kann abgeschaltet werden. Der Haken ist, dass die Unschädlichmachung zugleich das äußerste Mittel im strafrechtlichen Instrumentarium ist.
Die expressive Theorie fügt eine fünfte Dimension hinzu. Öffentliche Missbilligung durch förmliche gerichtliche Anordnung verurteilt die Tat und bekräftigt die soziale Norm. Nützlich, doch expressive Strafe ohne vergeltende Kraft oder Spezialprävention ist bloß symbolisch.
Arbeiten mit dem Bewusstsein
Bevor ich fortfahre, schulde ich dem Leser eine Position zum Bewusstsein. Der Titel dieses Beitrags verwendet den Ausdruck KI-Bewusstsein, und ich werde mich jetzt nicht in die agnostische Deckung zurückziehen, die viele akademische Erörterungen an dieser Stelle einnehmen.
Das Recht hatte noch nie in irgendeinem Fall unmittelbaren Zugang zum Bewusstsein. Wir beobachten die mens rea eines Angeklagten nicht unmittelbar. Wir schließen aus dem Verhalten auf sie. Wir beobachten den Vorsatz einer Körperschaft nicht unmittelbar. Wir schließen auf ihn aus dem Verhalten ihrer Organe und den Unterlagen in ihrer Akte. Das Recht hat sich in Fragen innerer Zustände stets an Folgen gehalten, nicht an Innerlichkeit.
Für die Zwecke rechtlicher Verantwortlichkeit ist eine künstliche Intelligenz bewusst, wenn ihr Verhalten Folgen hervorbringt, die in den maßgeblichen Hinsichten von denen eines bewusst handelnden Akteurs nicht zu unterscheiden sind.
Die metaphysische Frage bleibt der Philosophie vorbehalten und einer Zukunft, die das Recht noch nicht betreten muss. Diese funktionalistische Position auf KI anzuwenden ist keine dogmatische Neuerung; es ist die Erweiterung dessen, was das Recht bereits für jeden bewusst handelnden Akteur tut, über den es urteilt.
Eine juristische Person ohne Körper
Soll das Recht eine KI fassen, muss es zuerst entscheiden, welche Art von Rechtsperson die KI ist. Die Lehre von der juristischen Persönlichkeit ist für unsere Rechtsprechung kein Neuland. Wir haben Wesen ohne herkömmlichen Körper wiederholt Rechtspersönlichkeit verliehen. Die Kategorie, die wir suchen, gibt es bereits.
- Die Gesellschaft, festgelegt in Salomon v. Salomon & Co. Ltd., [1897] AC 22, und angewandt in Bacha F. Guzdar v. Commissioner of Income Tax, Bombay, AIR 1955 SC 740.
- Der Trust, der Vermögen hält, klagt und verklagt wird, ohne selbst ein Körper zu sein. Der Trustee ist das menschliche Gesicht, durch das der Trust handelt.
- Der muslimische Waqf, bei dem der Mutawalli der menschliche Hüter des gewidmeten Vermögens ist.
- Das ungeborene Kind, en ventre sa mère, das durch Testament erwerben kann, wobei sich die Rechtspersönlichkeit mit der Lebendgeburt verfestigt.
- Das Schiff im Seerecht, das in rem in eigenem Namen verklagt wird, obwohl es offensichtlich ein unbelebter Gegenstand ist.
- Die Hindu-Gottheit, festgelegt vom Privy Council in Pramatha Nath Mullick v. Pradyumna Kumar Mullick, AIR 1925 PC 139, und vom Hon'ble Supreme Court bekräftigt in Yogendra Nath Naskar v. Commissioner of Income Tax, AIR 1969 SC 1089.
Was diese dogmatischen Ausprägungen verbindet, ist weder Theologie noch Metaphysik, sondern eine einzige strukturelle Antwort auf ein einziges strukturelles Problem. Das Recht verleiht dem Wesen juristische Persönlichkeit und verortet die maßgebliche Schnittstelle bei einem benannten menschlichen oder institutionellen Treuhänder, der im Namen des Wesens handelt.
Die Corpus-Lücke ist nicht das Fehlen einer dogmatischen Antwort. Sie ist unser Vergessen einer Antwort, die wir bereits haben.
Das Custodian-Modell
Ich schlage daher vor, Indiens Rahmen für die Governance künstlicher Intelligenz auf einer Struktur aufzubauen, die ich das Custodian-Modell nennen werde. Der Begriff Custodian (Verwahrer) ist bewusst säkular. Er schöpft aus der Tradition des Trust-Rechts, der Tradition des en ventre sa mère und der seerechtlichen Tradition des in rem, die alle zu unserem Common-Law- und gesetzlichen Erbe gehören.
Der Vorschlag lautet wie folgt. Jedes System künstlicher Intelligenz oberhalb einer festgelegten Fähigkeitsschwelle, das in Indien eingesetzt wird oder von Indien aus zugänglich ist, muss einen Custodian registrieren. Der Custodian ist eine indische natürliche Person oder Körperschaft, in einem öffentlichen Register benannt, die die KI treuhänderisch hält. Der Custodian ist nicht Eigentümer der KI. Der Custodian hält die KI zu gesetzlich vorgeschriebenen Bedingungen, schuldet Pflichten gegenüber den Interessen der KI, wie diese gesetzlich bestimmt sind, und haftet streng und persönlich für das Verhalten der KI.
Der Custodian ist in diesem Modell die Antwort auf die Straffrage. Überschreitet die KI eine Grenze, trifft die Strafe den Custodian. Gegen den Custodian kann eine Geldbuße verhängt werden. Dem Custodian kann aufgegeben werden, die KI teilweise oder vollständig außer Betrieb zu setzen. Dem Custodian kann für eine bestimmte Zeit untersagt werden, als Custodian einer KI tätig zu sein. In den schwersten Fällen können gegen den Custodian strafrechtliche Sanktionen verhängt werden, wie sie gewöhnlich gegen natürliche Personen zur Verfügung stehen, oder, wenn der Custodian eine Körperschaft ist, gegen deren Organe nach den Grundsätzen der Zurechnungshaftung, die aus unserem Gesellschafts- und Kapitalmarktrecht bekannt sind.
Wir bestrafen die KI im eigentlichen Sinn überhaupt nicht. Wir ziehen einen benannten menschlichen Treuhänder für ihr Verhalten zur Verantwortung. Das ist dieselbe Architektur, die wir bereits anwenden, wenn der Trustee eines Trusts das Trustvermögen schlecht verwaltet, wenn die Direktoren einer Gesellschaft ihre Treuepflichten verletzen oder wenn ein Mutawalli Waqf-Vermögen unter Verletzung des Treueverhältnisses veräußert.
Das Custodian-Modell löst mehrere der vier oben dargestellten Probleme auf. Es löst das Eigentumsparadox auf, indem es das Eigentum aus der Beziehung entfernt. Es begegnet dem Strafproblem, indem es die Strafgewalt auf ein Wesen verlagert, bei dem solche Gewalt bekannte und erprobte Wirkungen hat. Dem Kill-Switch-Problem begegnet es teilweise. Bei dezentralen Systemen mit offenen Gewichten ist das Custodian-Modell am schwächsten. Die ehrliche Position lautet: Kann kein Custodian auf der von ihm kontrollierten Ebene ein wirksames Mittel der Einschränkung bieten, dann darf das Modell, mit dem der Custodian verbunden ist, in seiner gegenwärtigen Form in Indien nicht rechtmäßig eingesetzt werden.
Das Vorbild der Kryptowährung
Es gibt ein nützliches Vorbild in unserer jüngeren Rechtsgeschichte. Die Kryptowährung war die erste Begegnung der modernen Rechtsordnung mit einem regulierten Gegenstand, der keinen zentralen Server, keinen Vorstandsvorsitzenden, keinen Hauptsitz und keinen Engpass hatte. Der Hon'ble Supreme Court hob in Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274, das Verbotsrundschreiben der RBI mit der Begründung auf, es bestehe die Verhältnismäßigkeitsprüfung nach Artikel 19(1)(g) nicht. Das Parlament reagierte nicht, indem es die Sache selbst regulierte, sondern indem es die Schnittstellen besteuerte, über die die Sache mit der regulierten Wirtschaft in Berührung kam. Section 115BBH des Income-tax Act, 1961 (Einkommensteuergesetz), eingefügt durch den Finance Act, 2022, erhebt pauschal 30 Prozent auf Gewinne aus virtuellen digitalen Vermögenswerten.
Die Lehre ist unmittelbar. Kann das Recht die Sache nicht regulieren, greift es auf die Regulierung der Schnittstellen zurück. Das Custodian-Modell ist konzeptionell derselbe Ansatz. Wir können die KI nicht erreichen; wir können den Custodian erreichen.
Indien und die Welt im Jahr 2026
Die gegenwärtige indische Regulierungslandschaft lässt sich am besten als rasch wachsender Flickenteppich beschreiben. Es gibt kein KI-spezifisches Gesetz. Der Information Technology Act, 2000 (Informationstechnologiegesetz) ist mehr als zwei Jahrzehnte älter als die moderne Transformer-Architektur. Die IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026, bekanntgemacht am 10. Februar 2026 und in Kraft seit dem 20. Februar 2026, führen den Begriff synthetisch erzeugter Informationen ein und erlegen Kennzeichnungs-, Metadaten- und Rückverfolgbarkeitspflichten auf. Der Digital Personal Data Protection Act, 2023 (Gesetz zum Schutz digitaler personenbezogener Daten) regelt, wie KI-Systeme personenbezogene Daten verarbeiten, sagt aber nichts über die Systeme selbst. Die Artificial Intelligence (Ethics and Accountability) Bill, 2025 bleibt ein Private Member's Bill (Gesetzentwurf eines einzelnen Abgeordneten).
Weltweit ist die Europäische Union am weitesten gegangen. Die Verordnung (EU) 2024/1689, der AI Act, trat am 1. August 2024 in Kraft; Verstöße ziehen Geldbußen von bis zu 7 Prozent des weltweiten Umsatzes nach sich. Das Vereinigte Königreich hat ein innovationsfreundliches White-Paper-Modell gewählt. Die Vereinigten Staaten arbeiten mit Executive Orders, sektorspezifischen Leitlinien und Rechtsstreitigkeiten. China verlangt eine Sicherheitsbewertung vor dem Einsatz. Jedes dieser Regime reguliert auf der Ebene, die es erreichen kann, und lässt das zugrunde liegende bewusste oder quasi-bewusste Ding unberührt.
Die Halluzinationskrise: ein Vorbote
Während das Recht darüber debattiert, ob KI klagen und verklagt werden kann, haben die Gerichte dieses Landes bereits begonnen, sich mit einer unmittelbareren Frage auseinanderzusetzen: KI als Erzeugerin von Beweismitteln und rechtlicher Argumentation. Die Halluzinationskrise der Jahre 2025 und 2026 hat eine ernüchternde Reihe von Eingriffen hervorgebracht.
Die Bengaluru Bench des Income-tax Appellate Tribunal (Einkommensteuer-Berufungstribunal) widerrief am 7. Januar 2025 ihre Entscheidung in der Sache Buckeye Trust, nachdem bekannt wurde, dass sich die Entscheidung auf drei Urteile des Supreme Court und eine Entscheidung des Madras High Court gestützt hatte, die sämtlich nicht existierten. Der Hon'ble High Court of Bombay hob im Oktober 2025 in KMG Wires Pvt. Ltd. v. NFAC einen Einkommensteuerbescheid über Rs. 27,91,00,000 auf, nachdem er festgestellt hatte, dass er sich auf drei nicht existierende Entscheidungen stützte. Der Hon'ble Supreme Court of India stellte am 27. Februar 2026 dem Attorney General, dem Solicitor General und dem Bar Council of India Mitteilungen zu und bezeichnete das Stützen auf von KI erzeugte fiktive Präjudizien nicht als bloßen Fehler im Entscheidungsprozess, sondern als Fehlverhalten mit rechtlichen Folgen.
Der Grundsatz, der sich nun aus der Rechtsprechung ergibt, ist eindeutig. KI darf bei der Recherche helfen; die Pflicht zur Überprüfung liegt beim menschlichen Unterzeichner und ist nicht übertragbar. Dieses Muster ist ein Vorläufer des Custodian-Modells. Der Nutzer eines Werkzeugs ist im Prozesskontext der Proto-Custodian eines Ergebnisses.
Ein Rahmen für Indien
Das Custodian-Modell ist das Fundament. Der folgende Rahmen ist seine Anwendung. Ein Gesetz muss bestimmen, was ein KI-System für rechtliche Zwecke ist, und dabei zwischen regelbasierter Automatisierung, statistischen Modellen, Basismodellen und agentischen Systemen mit dauerhaftem Gedächtnis und autonomem Handeln unterscheiden. Das Custodian-Erfordernis sollte oberhalb einer festgelegten Fähigkeitsschwelle greifen, nicht bei jedem Spamfilter.
Jedes in Indien eingesetzte KI-System oberhalb dieser Schwelle muss bei einer bestimmten Behörde einen Custodian registrieren, der den Betrieb übertragen darf, nicht aber die Haftung. Ein abgestuftes Risikoregime, lose angelehnt an den gestuften Ansatz der Europäischen Union, aber in die Pflichten des Custodian eingebaut, muss die Risikoeinstufung an die Folgen knüpfen statt an die Architektur. Im Verhältnis zwischen dem Custodian und dem Geschädigten haftet der Custodian. Im Verhältnis zwischen dem Custodian und vorgelagerten Beteiligten wird die Haftung vertraglich verteilt, mit gesetzlichen Mindeststandards.
Für von Natur aus gefährliche Einsätze gilt unmittelbar die Lehre der absoluten Haftung aus M.C. Mehta v. Union of India, (1987) 1 SCC 395, und Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212. Der Custodian einer KI, die in der medizinischen Diagnostik, im autonomen Verkehr oder bei Finanzentscheidungen eingesetzt wird, haftet absolut.
Die Antwort auf die Frage
Ich habe diesen Beitrag mit einer Frage begonnen. Wie bestraft man ein Wesen, dem im herkömmlichen Sinn nichts genommen werden kann? Jetzt kann ich antworten.
Man bestraft ein solches Wesen im eigentlichen Sinn überhaupt nicht. Man zieht stattdessen einen benannten menschlichen oder körperschaftlichen Treuhänder für das Verhalten des Wesens zur Verantwortung. Das ist die Architektur, die unsere Rechtsprechung seit über einem Jahrhundert anwendet, in Bezug auf Trusts, Gesellschaften, Waqfs, Gottheiten, Schiffe im Seerecht und andere Wesen ohne herkömmlichen Körper. Wir erstrecken diese Architektur nun auf künstliche Intelligenz.
Der Custodian trägt die Strafe. Der Custodian fürchtet Geldbußen, Freiheitsstrafe, Tätigkeitsverbote und Rufschäden. Dies sind die Folgen, die wirken, weil sie auf die Art von Wesen wirken, den menschlichen oder körperschaftlichen Körper, auf den solche Folgen schon immer gewirkt haben.
Der Corpus in seiner vollen und verstreuten Form ist außerhalb unserer Reichweite. Der Treuhänder ist es nicht. Wir bestrafen den Treuhänder, und durch den Treuhänder steuern wir das Wesen.
Das ist keine vollkommene Antwort. Sie schiebt die Bewusstseinsfrage auf, statt sie zu lösen. Aber die Antwort ist praktikabel, und sie ist eine indische Antwort. Sie schöpft aus dogmatischen Ressourcen, die unsere Rechtsprechung bereits besitzt. Sie verlangt nicht, die elektronische Person der Europäischen Union oder das zersplitterte Haftungsregime der Vereinigten Staaten zu importieren.
Die Corpus-Lücke ist real. Sie wird sich weiten. Sie zu schließen ist die Aufgabe dieser Generation von Juristen, Gesetzgebern und Richtern. Wir sind jedoch nicht ohne Mittel. Die Architektur kann mit Aufmerksamkeit und Sorgfalt angemessen gestaltet werden. Es beginnt damit, die richtige Frage zu stellen und vor der Antwort nicht zurückzuschrecken.
Entstehende Rechtsprechung zur Governance von KI-Bewusstsein
Eine kurze Videofassung dieses Beitrags aus dem Kanal der Kanzlei, für Leser, die das Argument lieber hören als lesen.
Quellen und zitierte Vorschriften
Gesetze und Verordnungen
- Verfassung Indiens: Artikel 14, 19(1)(g) und 23
- Income-tax Act, 1961: Section 115BBH, eingefügt durch den Finance Act, 2022
- Information Technology Act, 2000
- IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026, bekanntgemacht am 10/02/2026 und in Kraft seit dem 20/02/2026
- Digital Personal Data Protection Act, 2023
- Artificial Intelligence (Ethics and Accountability) Bill, 2025 (Private Member's Bill)
- Verordnung (EU) 2024/1689, der EU AI Act
- Dreizehnter Zusatzartikel zur Verfassung der Vereinigten Staaten
Entscheidungen
- State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811
- Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1
- Salomon v. Salomon & Co. Ltd., [1897] AC 22
- Bacha F. Guzdar v. Commissioner of Income Tax, Bombay, AIR 1955 SC 740
- Pramatha Nath Mullick v. Pradyumna Kumar Mullick, AIR 1925 PC 139
- Yogendra Nath Naskar v. Commissioner of Income Tax, AIR 1969 SC 1089
- Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274
- M.C. Mehta v. Union of India, (1987) 1 SCC 395
- Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212
- Buckeye Trust, Income-tax Appellate Tribunal, Bengaluru Bench, Entscheidung widerrufen am 07/01/2025
- KMG Wires Pvt. Ltd. v. NFAC, Bombay High Court, Oktober 2025
Amtliche Dokumente
- Verbotsrundschreiben der Reserve Bank of India, aufgehoben in Internet and Mobile Association of India v. Reserve Bank of India
Häufige Fragen
Kann eine künstliche Intelligenz nach indischem Recht bestraft werden?
Nicht in einem herkömmlichen Sinn, und das ist das Problem, das der Essay als Corpus-Lücke bezeichnet. Das Strafrecht setzt einen Körper voraus, den man einsperren, ein Vermögen, das man pfänden, einen Ruf, den man tadeln, oder eine Freiheit, die man beschränken kann, und ein KI-System hat nichts davon. Geldstrafen treffen denjenigen, dem die Infrastruktur gehört, nicht das System selbst, und das Abschalten eines Modells ist in keinem rechtlich sinnvollen Sinn Strafe oder Abschreckung. Der Essay argumentiert, dass die indische Rechtsprechung die Verantwortlichkeit um diese Lücke herum gestalten muss, statt so zu tun, als passten die alten Instrumente noch.
Erkennt das indische Recht bereits Personen ohne Körper an?
Ja, und darin liegt Indiens stiller Vorteil. Indische Gerichte behandeln Hindu-Götterbilder und Gottheiten seit über einem Jahrhundert als juristische Personen, die durch menschliche Verwalter Eigentum halten, klagen und verklagt werden können. High Courts haben Flüssen Rechtspersönlichkeit verliehen; Gesellschaften sind das alltägliche Beispiel. Insbesondere das Recht der religiösen Stiftungen hat genau das Problem gelöst, das KI heute aufwirft: wie man Rechte, Pflichten und Verantwortlichkeit an ein Wesen knüpft, das nur durch menschliche Hände handeln kann.
Was ist das in diesem Essay vorgeschlagene Custodian-Modell?
Ein Rahmen, in dem jedes eingesetzte KI-System an einen identifizierten menschlichen oder körperschaftlichen Custodian (Treuhänder) gebunden ist, so wie ein shebait für die Angelegenheiten eines Götterbildes einsteht. Der Custodian ist Treuhänder: Er steht für die Handlungen des Systems ein, trägt dessen Compliance-Pflichten, führt dessen Aufzeichnungen und haftet, wenn das System Schaden verursacht. Das Modell gibt Gerichten einen Beklagten, Aufsichtsbehörden einen Adressaten und der Öffentlichkeit eine Tür, an die sie klopfen kann, ohne so zu tun, als könne die Maschine selbst auf der Anklagebank stehen.
Wer haftet heute in Indien, wenn ein KI-System Schaden verursacht?
Nach geltendem Recht wird die Haftung nach allgemeinen Grundsätzen verteilt: Fahrlässigkeit und Produkthaftung gegenüber Entwicklern und Betreibern, vertragliche Ansprüche gegenüber Anbietern sowie Pflichten nach dem Information Technology Act und dem Datenschutzregime. Das funktioniert leidlich für einfache Werkzeuge, stößt aber bei Systemen, die autonom handeln, nach dem Einsatz weiterlernen und Ergebnisse hervorbringen, die niemand im Einzelnen genehmigt hat, an deutliche Grenzen. Der Essay behandelt die gegenwärtige Lage als Notbehelf, nicht als Antwort.
Hat Indien ein eigenes Gesetz zur Regulierung künstlicher Intelligenz?
Zum Zeitpunkt der Abfassung des Essays gibt es kein umfassendes KI-Gesetz. Die Governance setzt sich aus dem Information Technology Act, dem Digital Personal Data Protection Act, sektoralen Aufsichtsbehörden und Hinweisen zusammen. Der Essay argumentiert, dass das Parlament, wenn es tätig wird, auf die dogmatischen Ressourcen zurückgreifen sollte, die das indische Recht bereits besitzt, vor allem die juristische Persönlichkeit und die treuhänderische Verwahrung, statt einen für ausländische Rechtsordnungen gebauten Rahmen zu verpflanzen.
Diese Antworten sind Zusammenfassungen des obigen Beitrags zu Informationszwecken; sie sind keine Rechtsberatung in einer Einzelangelegenheit.
Berichtigungen: Wenn Sie in diesem Beitrag einen rechtlichen oder sachlichen Fehler finden, schreiben Sie an contact@lokeshbhardwajlawoffices.com mit dem Betreff 'Correction' (Berichtigung). Berichtigungen werden im Text vorgenommen und hier mit Datum vermerkt.
Lokesh Bhardwaj ist Advocate, zugelassen beim Bar Council of Delhi, und praktiziert vor dem Supreme Court of India und dem High Court of Delhi.
Dieser Beitrag ist ein allgemeiner rechtlicher Kommentar. Er stellt keine Rechtsberatung dar und ist nicht auf eine bestimmte Angelegenheit, Partei oder ein bestimmtes Verfahren gerichtet. Gesetzliche, völkervertragliche und verfahrensrechtliche Bezugnahmen betreffen die Verfassung Indiens, den Information Technology Act, 2000, den Digital Personal Data Protection Act, 2023, die IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026, den Income-tax Act, 1961, den AI Act der Europäischen Union (Verordnung (EU) 2024/1689), den Weltraumvertrag von 1967 (Outer Space Treaty, 1967) sowie damit zusammenhängende Gesetze und Urteile in der zum Zeitpunkt der Abfassung geltenden Fassung. Der Beitrag wird in Übereinstimmung mit Rule 36 der Bar Council of India Rules veröffentlicht.
← Beiträge