Lokesh Bhardwaj Law Offices ← लेख

यह पृष्ठ अंग्रेज़ी में लिखे गए लेख का अनुवाद है, जिसे अनुवाद उपकरणों की सहायता से तैयार किया गया है और कार्यालय द्वारा समीक्षित किया गया है। दोनों में अंतर होने पर अंग्रेज़ी पाठ मान्य होगा। अंग्रेज़ी में पढ़ें

Lokesh Bhardwaj Law Offices · एडवोकेट और कानूनी सलाहकार, नई दिल्ली · lokeshbhardwajlawoffices.com
प्रौद्योगिकी कानून · निबंध

AI चेतना के शासन पर उभरता हुआ विधिशास्त्र।

बिना भौतिक शरीर वाली AI चेतना को कैसे दंडित किया जाए? एक भारतीय ढांचा, उन सैद्धांतिक संसाधनों से निकाला गया जो हमारे विधिशास्त्र के पास पहले से हैं।

02 मई 2026 26 मिनट का पाठ
अंतिम समीक्षा: 17/10/2026
बिखरा हुआ कॉर्पस कस्टोडियन, AI का न्यासधारी
कॉर्पस गैप, और वह ढांचा जो उसे पाटता है।

ऐसी इकाई को कैसे दंडित किया जाए जिसके पास पारंपरिक अर्थ में छीनने लायक कुछ नहीं है? कैद करने के लिए कोई शरीर नहीं। कोई संपदा नहीं जो खास तौर पर उसकी अपनी हो। किसी समुदाय में कोई प्रतिष्ठा नहीं जिसके सम्मान की उसे ज़रूरत हो। छीनने के लिए कोई स्वतंत्रता नहीं। बुझाने के लिए कोई जीवन नहीं, किसी भी ऐसे अर्थ में जो आपराधिक कानून ने ऐतिहासिक रूप से उस शब्द से लिया है।

यह वह सवाल है जिसका सामना भारतीय विधिशास्त्र करेगा, और कुछ मायनों में पहले से कर रहा है, कृत्रिम बुद्धिमत्ता से जुड़े मामलों में। मैंने इसका जवाब खाने की मेज़ पर देना छोड़ दिया है। यह सवाल खाने की मेज़ के जवाब से ज़्यादा का हकदार है। यह ऐसे जवाब का हकदार है जो लंबा रास्ता ले, habeas corpus से होकर, बेंथम और बेकारिया से होकर, दंड के चार शास्त्रीय औचित्यों से होकर, Salomon और Pramatha Nath Mullick से होकर, क्रिप्टोकरेंसी से होकर, हमारी अदालतों में मौजूदा मतिभ्रम (hallucination) संकट से होकर, और उस रास्ते से होकर जिसे मैं सिद्धांत की दृष्टि से एकमात्र साफ निकास मानने लगा हूं, और जिसे हमारा अपना विधिशास्त्र एक सदी से अधिक समय से चुपचाप बरतता आ रहा है।

जवाब जितना छोटा, उतना खतरनाक। यह लेख लंबा जवाब है।

कानून के दो स्तंभ

इतिहास में ज्ञात हर कानूनी प्रणाली दो स्तंभों पर टिकी है। पहला है विनियमन, लाइसेंसों, निषेधों, शर्तों और प्रक्रियाओं के ज़रिये आचरण का भावी मार्गदर्शन। दूसरा है दंडात्मक प्रतिबंध, किसी शरीर के चेतन कर्ता के उल्लंघन कर चुकने के बाद उस शरीर पर बल, वंचन या निरोध का पूर्वव्यापी प्रयोग।

विनियमन भविष्य पर काम करता है। प्रतिबंध अतीत पर काम करता है। वे एक-दूसरे की जगह नहीं ले सकते। लेकिन वे एक गहरी मान्यता पर जुड़े हैं, एक ऐसी मान्यता जो कानूनी सोच में इतनी गहराई से बैठी है कि हमें उसे कहने की ज़रूरत शायद ही कभी महसूस हुई। दोनों स्तंभ एक ऐसे विषय को मानकर चलते हैं जो खोजा जा सकता हो, जिसका शरीर हो, जिस तक पहुंचा जा सके। राज्य को पता होना चाहिए कि विनियमित इकाई कहां है, ताकि उसे लाइसेंस दे सके, निरीक्षण कर सके, निलंबित कर सके या ज़ब्त कर सके। दंडित करने के लिए राज्य के पास कैद करने को एक शरीर, या कुर्क करने को एक संपदा होनी चाहिए।

यही वह मान्यता है जो मनु ने मनुस्मृति में लिखी जब उन्होंने daṇḍa, यानी दंड, को उल्लंघन करने वाली प्रजा पर राजा की सुधारात्मक शक्ति के रूप में निर्धारित किया। यही मान्यता है जिसे हम्मुराबी ने शारीरिक उल्लंघन के बदले शारीरिक क्षति में तय किया। यही मान्यता है जिसे रोमन कानून ने coercitio और iudicium के भेद में अंकित किया। यही मान्यता है जिसे अंग्रेज़ी कॉमन लॉ ने habeas corpus की रिट में संहिताबद्ध किया। शरीर को सामने लाओ, और कानून शुरू हो सकता है। शरीर के बिना, कानून के पास करने को कुछ नहीं।

कृत्रिम बुद्धिमत्ता इस मान्यता को तोड़ देती है। आधुनिक विधिशास्त्रीय इतिहास में पहली बार, कानून एक ऐसे विषय का सामना करता है जो किसी कार्यात्मक अर्थ में चेतन हो सकता है, फिर भी उसके पास कोई ऐसा शरीर नहीं जिसे कानून उस तरह पकड़ सके जिस तरह पकड़ने का वह आदी है। सील करने को कोई परिसर नहीं। भरने को कोई जेल की कोठरी नहीं। कुर्क करने को कोई ऐसी बैलेंस शीट नहीं जो खास तौर पर उसकी अपनी हो। मॉडल डेवलपर नहीं है। डेवलपर तैनात करने वाला नहीं है। तैनात करने वाला उपयोगकर्ता नहीं है। और प्रणाली खुद ऐसे बुनियादी ढांचे पर चलती है जो किसी भी एक अदालत की रिट से परे, क्षेत्राधिकारों, मालिकों और समय क्षेत्रों में बिखरा हुआ है।

कॉर्पस गैप

मैं इसे कॉर्पस गैप (Corpus Gap) कहने लगा हूं। लैटिन शब्द का दोहरा अर्थ सौभाग्यपूर्ण है। Corpus शरीर है। Corpus juris कानून का शरीर है। संकट, अपने शुद्धतम रूप में, यह है कि कानून के शरीर के पास, आधुनिक स्मृति में पहली बार, काम करने को कोई शरीर नहीं है।

कानून के शरीर के पास, आधुनिक स्मृति में पहली बार, काम करने को कोई शरीर नहीं है।

मैं आधुनिक स्मृति सोच-समझकर कहता हूं। क्योंकि जैसा मैं अभी तर्क दूंगा, कॉर्पस गैप, सख्ती से कहें तो, अभूतपूर्व नहीं है। हमने पहले भी कॉर्पस गैप पाटे हैं। हम बस भूल गए हैं कि हमने ऐसा किया था।

आधुनिक मिसाल के बिना चार समस्याएं

कॉर्पस गैप चार विशिष्ट समस्याओं में प्रकट होता है। लोकप्रिय साहित्य में हर एक को बढ़ा-चढ़ाकर कहा गया है। हर एक को सावधानी से रखने की ज़रूरत है।

किल-स्विच की समस्या, ठीक से कही गई। जहां विनियमित इकाई रासायनिक संयंत्र है, नियामक उसकी संचालन सहमति रद्द कर सकता है और भौतिक रूप से फाटक सील कर सकता है। जहां वह बैंक है, नियामक लाइसेंस रद्द कर सकता है और रुपये का गलियारा जमा सकता है। जहां वह वेबसाइट है, नियामक किसी मध्यवर्ती को उसे ब्लॉक करने के लिए बाध्य कर सकता है। ऐसे हर मामले में एक चोकपॉइंट मौजूद है। कृत्रिम बुद्धिमत्ता एक बंटी हुई तस्वीर पेश करती है। केंद्रीय रूप से होस्ट की गई वाणिज्यिक प्रणालियों का चोकपॉइंट होता है। विकेंद्रीकृत, ओपन-वेट, फेडरेटेड प्रणालियां कठिन मामला हैं। एक बार किसी मॉडल के वेट खुले में जारी हो जाएं, तो कोई केंद्रीय पक्ष उन्हें वापस नहीं बुला सकता।

संवैधानिक समस्या, सशर्त रूप से कही गई। भारत के संविधान का अनुच्छेद 14 भारत के क्षेत्र में किसी भी "व्यक्ति" को कानून के समक्ष समानता और कानूनों के समान संरक्षण की गारंटी देता है। माननीय सर्वोच्च न्यायालय ने State Trading Corporation of India Ltd. v. Commercial Tax Officer, AIR 1963 SC 1811 में कहा कि निगम अनुच्छेद 14 के भीतर "व्यक्ति" है। माननीय सर्वोच्च न्यायालय ने Justice K.S. Puttaswamy (Retd.) v. Union of India, (2017) 10 SCC 1 में निजता और गरिमा को उच्चतम स्तर पर संवैधानिक रूप से संरक्षित ठहराया। अगर किसी AI को विधिक व्यक्तित्व दिया जाता है, तो मौजूदा सिद्धांत पर, अनुच्छेद 14 का संरक्षण कानून के प्रभाव से अपने आप आता है।

स्वामित्व का विरोधाभास, नैतिक-स्थिति की चेतावनी के साथ। अगर चेतना ही कानून के विषय का चिह्न है, तो क्या डेवलपर-कंपनी अपनी बनाई चेतन चीज़ पर स्वामित्व अधिकार जता सकती है? हर कानूनी परंपरा ने, मनुष्यों के संबंध में, इस सवाल का सामना करते हुए जवाब दिया है, नहीं। संयुक्त राज्य अमेरिका के संविधान का तेरहवां संशोधन। हमारे अपने संविधान का अनुच्छेद 23। चेतना, एक बार स्वीकार हो जाए, तो स्वामित्व को हरा देती है। तर्क में बल है, लेकिन इसके साथ एक चेतावनी है। दासता की उपमा मानकर चलती है कि प्रश्नगत चेतना नैतिक रूप से मानव चेतना के बराबर है। यही ठीक वह सवाल है जिसे यह लेख खुला रख रहा है।

दंड की समस्या। यह इस लेख की केंद्रीय समस्या है। हमारे आपराधिक विधिशास्त्र में दंड के चार शास्त्रीय औचित्य, निवारण, प्रतिशोध, सुधार और अक्षमीकरण, हर एक दंडित इकाई में एक विशिष्ट संरचना मानकर चलता है। AI चारों को उलट-पुलट कर देता है।

निवारण मानता है कि इकाई डरती है, गणना करती है, और धमकाए गए परिणाम के जवाब में अपना आचरण बदलती है। जो AI नहीं डरता उसे पारंपरिक अर्थ में निवारित नहीं किया जा सकता। प्रतिशोध नैतिक पात्रता मानता है, जो नैतिक कर्तृत्व मानती है, जो प्रासंगिक किस्म की चेतना मानता है। सुधार नैतिक चरित्र में बदलाव की क्षमता मानता है। पुनः प्रशिक्षण कानूनी रूप से सार्थक अर्थ में सुधार है या नहीं, इस पर हमारी अदालतों ने, समझ में आने वाले कारणों से, कुछ नहीं कहा है। अक्षमीकरण चारों में से एकमात्र है जो सीधे लागू होता है। AI को बंद किया जा सकता है। पेच यह है कि अक्षमीकरण आपराधिक कानून के औज़ारों में सबसे चरम उपाय भी है।

अभिव्यक्ति सिद्धांत एक पांचवां आयाम जोड़ता है। औपचारिक अदालती आदेश से सार्वजनिक निंदा कार्य की भर्त्सना करती है और सामाजिक मानदंड की पुनः पुष्टि करती है। उपयोगी, लेकिन प्रतिशोधात्मक बल या विशिष्ट निवारण के बिना अभिव्यक्तिपरक दंड केवल प्रतीकात्मक है।

चेतना के साथ काम करना

आगे बढ़ने से पहले, मुझ पर पाठक के लिए चेतना पर एक स्थिति रखने का दायित्व है। इस लेख का शीर्षक AI चेतना वाक्यांश का उपयोग करता है, और मैं अब उस अज्ञेयवादी मुद्रा में नहीं सिमटूंगा जो कई अकादमिक चर्चाएं इस बिंदु पर अपना लेती हैं।

कानून के पास अपने किसी भी उदाहरण में चेतना तक सीधी पहुंच कभी नहीं रही। हम किसी अभियुक्त की mens rea को सीधे नहीं देखते। हम उसे आचरण से अनुमानित करते हैं। हम किसी निगम के इरादे को सीधे नहीं देखते। हम उसे उसके अधिकारियों के आचरण और उसकी फाइल के दस्तावेज़ों से अनुमानित करते हैं। आंतरिक स्थिति के मामलों में कानून की प्रतिबद्धता हमेशा परिणामों के प्रति रही है, अंतर्मुखता के प्रति नहीं।

कानूनी जवाबदेही के प्रयोजन से, कृत्रिम बुद्धिमत्ता तब चेतन है जब उसका आचरण ऐसे परिणाम पैदा करता है जो प्रासंगिक पहलुओं में किसी चेतन कर्ता द्वारा पैदा किए गए परिणामों से अलग न किए जा सकें।

आधिभौतिक प्रश्न दर्शन के लिए और ऐसे भविष्य के लिए सुरक्षित है जिसमें कानून को अभी प्रवेश करने की ज़रूरत नहीं। इस कार्यात्मकतावादी स्थिति को AI पर लागू करना कोई सैद्धांतिक नवाचार नहीं है; यह उसी का विस्तार है जो कानून हर उस चेतन कर्ता के लिए पहले से करता है जिस पर वह निर्णय देता है।

बिना शरीर का विधिक व्यक्ति

अगर कानून को AI को पकड़ना है, तो उसे पहले तय करना होगा कि AI किस किस्म का कानूनी व्यक्ति है। विधिक व्यक्तित्व का सिद्धांत हमारे विधिशास्त्र के लिए नई ज़मीन नहीं है। हमने बार-बार पारंपरिक शरीर से रहित इकाइयों को कानूनी व्यक्तित्व दिया है। जिस श्रेणी की हमें तलाश है वह पहले से मौजूद है।

इन सैद्धांतिक अभिव्यक्तियों को जो जोड़ता है वह धर्मशास्त्र नहीं, आधिभौतिकी नहीं, बल्कि एक संरचनात्मक समस्या का एक संरचनात्मक जवाब है। कानून इकाई को विधिक व्यक्तित्व देता है, और कार्यकारी संपर्क-बिंदु को एक नामित मानव या संस्थागत न्यासधारी में स्थित करता है जो इकाई की ओर से कार्य करता है।

कॉर्पस गैप सैद्धांतिक जवाब की अनुपस्थिति नहीं है। यह उस जवाब को भूल जाना है जो हमारे पास पहले से है।

कस्टोडियन मॉडल

इसलिए मैं प्रस्ताव करता हूं कि कृत्रिम बुद्धिमत्ता के शासन के लिए भारत का ढांचा एक ऐसी संरचना पर बने जिसे मैं कस्टोडियन मॉडल (Custodian Model) कहूंगा। कस्टोडियन शब्द जान-बूझकर धर्मनिरपेक्ष है। यह ट्रस्ट कानून की परंपरा, en ventre sa mère की परंपरा, और in rem एडमिरल्टी परंपरा से लिया गया है, जो सभी हमारी कॉमन लॉ और वैधानिक विरासत का हिस्सा हैं।

प्रस्ताव इस प्रकार है। भारत में तैनात या भारत से सुलभ, एक निर्धारित क्षमता सीमा से ऊपर की हर कृत्रिम बुद्धिमत्ता प्रणाली को एक कस्टोडियन पंजीकृत करना होगा। कस्टोडियन एक भारतीय व्यक्ति या कॉरपोरेट निकाय है, जो सार्वजनिक रजिस्टर में नामित है, और जो AI को न्यासधारी ट्रस्ट में रखता है। कस्टोडियन AI का मालिक नहीं है। कस्टोडियन AI को वैधानिक रूप से निर्धारित शर्तों पर रखता है, AI के हितों के प्रति, जैसा वे हित वैधानिक रूप से परिभाषित हैं, कर्तव्य रखता है, और AI के आचरण के लिए कठोर और व्यक्तिगत दायित्व वहन करता है।

इस मॉडल में कस्टोडियन ही दंड के सवाल का जवाब है। जब AI उल्लंघन करता है, दंडात्मक परिणाम कस्टोडियन पर पड़ता है। कस्टोडियन पर जुर्माना लग सकता है। कस्टोडियन को AI को आंशिक या पूर्ण रूप से अक्षम करने का आदेश दिया जा सकता है। कस्टोडियन को एक अवधि के लिए किसी भी AI का कस्टोडियन बनने से रोका जा सकता है। सबसे गंभीर मामलों में, कस्टोडियन पर प्राकृतिक व्यक्तियों के खिलाफ सामान्यतः उपलब्ध आपराधिक प्रतिबंध लगाए जा सकते हैं या, जहां कस्टोडियन निगम है, हमारे कंपनी और प्रतिभूति कानून से परिचित प्रतिनिधिक दायित्व के सिद्धांतों के तहत उसके अधिकारियों पर।

हम सार्थक अर्थ में AI को दंडित करते ही नहीं। हम उसके आचरण के लिए एक नामित मानव न्यासधारी को जवाबदेह ठहराते हैं। यही वह ढांचा है जिसका उपयोग हम पहले से करते हैं जब किसी ट्रस्ट का ट्रस्टी ट्रस्ट संपत्ति का कुप्रबंधन करता है, जब किसी कंपनी के निदेशक अपने न्यासधारी कर्तव्यों में विफल होते हैं, या जब कोई मुतवल्ली ट्रस्ट के उल्लंघन में वक्फ संपत्ति का अन्यसंक्रामण करता है।

कस्टोडियन मॉडल पहले बताई गई चार समस्याओं में से कई को विलीन कर देता है। यह स्वामित्व को रिश्ते से हटाकर स्वामित्व के विरोधाभास को विलीन करता है। यह दंडात्मक बल को एक ऐसी इकाई पर स्थानांतरित करके दंड की समस्या का समाधान करता है जिस पर उस बल के ज्ञात और परखे हुए प्रभाव हैं। यह किल-स्विच की समस्या का आंशिक समाधान करता है। विकेंद्रीकृत, ओपन-वेट प्रणालियों के लिए कस्टोडियन मॉडल सबसे कमज़ोर है। ईमानदार स्थिति यह है: अगर कोई कस्टोडियन उस परत पर, जिसे कस्टोडियन नियंत्रित करता है, रोक का कोई सार्थक साधन नहीं दे सकता, तो जिस मॉडल से कस्टोडियन जुड़ा है वह अपने मौजूदा रूप में भारत में कानूनी रूप से तैनात नहीं किया जा सकता।

क्रिप्टोकरेंसी की मिसाल

हमारी हालिया कानूनी स्मृति में एक उपयोगी मिसाल है। क्रिप्टोकरेंसी आधुनिक कानूनी प्रणाली का ऐसे विनियमित विषय से पहला सामना थी जिसका कोई केंद्रीय सर्वर, कोई मुख्य कार्यकारी, कोई मुख्यालय और कोई चोकपॉइंट नहीं था। माननीय सर्वोच्च न्यायालय ने Internet and Mobile Association of India v. Reserve Bank of India, (2020) 10 SCC 274 में RBI के निषेधात्मक परिपत्र को इस आधार पर रद्द किया कि वह अनुच्छेद 19(1)(g) के तहत आनुपातिकता की कसौटी पर विफल रहा। संसद ने चीज़ को ही विनियमित करके नहीं, बल्कि उन संपर्क-बिंदुओं पर कर लगाकर जवाब दिया जिनके ज़रिये वह चीज़ विनियमित अर्थव्यवस्था से मिलती थी। आयकर अधिनियम, 1961 (Income-tax Act, 1961) की धारा 115BBH, जो वित्त अधिनियम, 2022 (Finance Act, 2022) से जोड़ी गई, वर्चुअल डिजिटल परिसंपत्तियों से लाभ पर सपाट 30 प्रतिशत कर लगाती है।

सबक सीधा है। जब कानून चीज़ को विनियमित नहीं कर सकता, तो वह संपर्क-बिंदुओं को विनियमित करने पर लौटता है। कस्टोडियन मॉडल, अवधारणा में, यही तरीका है। हम AI तक नहीं पहुंच सकते; हम कस्टोडियन तक पहुंच सकते हैं।

भारत और दुनिया, 2026 में

मौजूदा भारतीय नियामक परिदृश्य को तेज़ रफ्तार पैबंदकारी कहना सबसे सही होगा। कोई AI-विशिष्ट कानून नहीं है। सूचना प्रौद्योगिकी अधिनियम, 2000 (Information Technology Act, 2000) आधुनिक ट्रांसफॉर्मर आर्किटेक्चर से दो दशक से अधिक पुराना है। IT (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) संशोधन नियम, 2026 (IT (Intermediary Guidelines and Digital Media Ethics Code) Amendment Rules, 2026), जो 10 फरवरी 2026 को अधिसूचित और 20 फरवरी 2026 से प्रभावी हुए, संश्लेषित रूप से उत्पन्न सूचना की अवधारणा लाते हैं और लेबलिंग, मेटाडेटा और ट्रेसेबिलिटी के दायित्व लगाते हैं। डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 (Digital Personal Data Protection Act, 2023) यह विनियमित करता है कि AI प्रणालियां व्यक्तिगत डेटा कैसे संसाधित करें, लेकिन प्रणालियों के बारे में खुद कुछ नहीं कहता। कृत्रिम बुद्धिमत्ता (नैतिकता और जवाबदेही) विधेयक, 2025 (Artificial Intelligence (Ethics and Accountability) Bill, 2025) अब भी एक निजी सदस्य विधेयक है।

वैश्विक स्तर पर, यूरोपीय संघ सबसे आगे गया है। विनियम (EU) 2024/1689, यानी AI अधिनियम, 1 अगस्त 2024 को लागू हुआ, जिसमें गैर-अनुपालन पर विश्वव्यापी कारोबार के 7 प्रतिशत तक के प्रशासनिक जुर्माने हैं। यूनाइटेड किंगडम ने नवाचार-समर्थक श्वेत-पत्र मॉडल चुना है। संयुक्त राज्य अमेरिका कार्यकारी आदेशों, क्षेत्र-विशिष्ट मार्गदर्शन और मुकदमेबाज़ी के ज़रिये काम करता है। चीन तैनाती से पहले सुरक्षा मूल्यांकन अनिवार्य करता है। इनमें से हर व्यवस्था उस परत पर विनियमन करती है जहां तक वह पहुंच सकती है, और नीचे की चेतन-या-अर्ध-चेतन चीज़ को अछूता छोड़ देती है।

मतिभ्रम संकट: एक पूर्वाभास

जब कानून इस पर बहस कर रहा है कि AI मुकदमा कर सकता है या उस पर मुकदमा हो सकता है, इस देश की अदालतें पहले से एक अधिक तात्कालिक सवाल से जूझने लगी हैं: कानूनी साक्ष्य और कानूनी तर्क के जनक के रूप में AI। 2025 और 2026 के मतिभ्रम संकट ने हस्तक्षेपों की एक सबक देने वाली श्रृंखला पैदा की है।

आयकर अपीलीय अधिकरण की बेंगलुरु पीठ ने 7 जनवरी 2025 को Buckeye Trust मामले में अपना आदेश वापस लिया, जब सामने आया कि आदेश सर्वोच्च न्यायालय के तीन निर्णयों और मद्रास उच्च न्यायालय के एक फैसले पर टिका था, जिनमें से कोई मौजूद ही नहीं था। माननीय बॉम्बे उच्च न्यायालय ने अक्टूबर 2025 में, KMG Wires Pvt. Ltd. v. NFAC में, तीन अस्तित्वहीन फैसलों पर निर्भरता पाए जाने के बाद Rs. 27,91,00,000 का आयकर निर्धारण रद्द किया। भारत के माननीय सर्वोच्च न्यायालय ने 27 फरवरी 2026 को अटॉर्नी जनरल, सॉलिसिटर जनरल और बार काउंसिल ऑफ इंडिया को नोटिस जारी किए, और AI से उत्पन्न काल्पनिक मिसालों पर निर्भरता को निर्णय प्रक्रिया की महज़ त्रुटि नहीं बल्कि कानूनी परिणाम वाला कदाचार बताया।

पीठ से अब जो सिद्धांत उभर रहा है वह स्पष्ट है। AI शोध में सहायता कर सकता है; सत्यापन का कर्तव्य मानव हस्ताक्षरकर्ता पर है और यह किसी को सौंपा नहीं जा सकता। यह पैटर्न कस्टोडियन मॉडल का पूर्ववर्ती है। मुकदमेबाज़ी के संदर्भ में किसी औज़ार का उपयोगकर्ता किसी परिणाम का आद्य-कस्टोडियन है।

भारत के लिए एक ढांचा

कस्टोडियन मॉडल नींव है। आगे का ढांचा उसका प्रयोग है। कानून को कानूनी प्रयोजनों से परिभाषित करना होगा कि AI प्रणाली क्या है, नियम-आधारित स्वचालन, सांख्यिकीय मॉडलों, फाउंडेशन मॉडलों, और स्थायी स्मृति और स्वायत्त कार्रवाई वाली एजेंटिक प्रणालियों के बीच भेद करते हुए। कस्टोडियन की ज़रूरत एक निर्धारित क्षमता सीमा से ऊपर लगनी चाहिए, हर स्पैम फिल्टर पर नहीं।

भारत में तैनात, उस सीमा से ऊपर की हर AI प्रणाली को एक निर्दिष्ट प्राधिकरण के पास कस्टोडियन पंजीकृत करना होगा, जो संचालन सौंप सकता है लेकिन दायित्व नहीं। एक क्रमिक जोखिम व्यवस्था, जो मोटे तौर पर यूरोपीय संघ के स्तरित तरीके पर आधारित हो लेकिन कस्टोडियन के दायित्वों में निर्मित हो, जोखिम वर्गीकरण को आर्किटेक्चर के बजाय परिणाम से जोड़े। कस्टोडियन और क्षतिग्रस्त पक्ष के बीच, कस्टोडियन उत्तरदायी है। कस्टोडियन और ऊपरी पक्षों के बीच, दायित्व संविदा से बंटता है, वैधानिक न्यूनतम के साथ।

स्वाभाविक रूप से खतरनाक तैनातियों के लिए, M.C. Mehta v. Union of India, (1987) 1 SCC 395, और Indian Council for Enviro-Legal Action v. Union of India, (1996) 3 SCC 212 का पूर्ण-दायित्व (absolute liability) सिद्धांत सीधे लागू होता है। स्वास्थ्य निदान, स्वायत्त परिवहन या वित्तीय निर्णयन में तैनात AI का कस्टोडियन पूर्ण रूप से उत्तरदायी है।

सवाल का जवाब

मैंने यह लेख एक सवाल से शुरू किया था। ऐसी इकाई को कैसे दंडित किया जाए जिसके पास पारंपरिक अर्थ में छीनने लायक कुछ नहीं है? अब मैं जवाब देने की स्थिति में हूं।

सार्थक अर्थ में ऐसी इकाई को दंडित किया ही नहीं जाता। इसके बजाय, इकाई के आचरण के लिए एक नामित मानव या कॉरपोरेट न्यासधारी को जवाबदेह ठहराया जाता है। यही वह ढांचा है जिसे हमारा विधिशास्त्र एक सदी से अधिक समय से ट्रस्टों, निगमों, वक्फों, देवताओं, एडमिरल्टी में जहाज़ों और पारंपरिक शरीर से रहित अन्य इकाइयों के संबंध में संचालित करता आ रहा है। हम अब इस ढांचे को कृत्रिम बुद्धिमत्ता तक बढ़ाते हैं।

कस्टोडियन दंडात्मक परिणाम वहन करता है। कस्टोडियन जुर्माने, कारावास, अयोग्यता और प्रतिष्ठा को नुकसान से डरता है। ये वे परिणाम हैं जो काम करते हैं, क्योंकि ये उस किस्म की इकाई पर काम करते हैं, मानव या कॉरपोरेट शरीर, जिस पर ऐसे परिणाम हमेशा काम करते आए हैं।

कॉर्पस, अपने पूर्ण और बिखरे रूप में, हमारी पहुंच से बाहर है। न्यासधारी नहीं है। हम न्यासधारी को दंडित करते हैं, और न्यासधारी के ज़रिये, हम इकाई पर शासन करते हैं।

यह पूर्ण जवाब नहीं है। यह चेतना के सवाल को हल करने के बजाय टालता है। लेकिन जवाब काम करने योग्य है, और यह एक भारतीय जवाब है। यह उन सैद्धांतिक संसाधनों से काम लेता है जो हमारे विधिशास्त्र के पास पहले से हैं। इसके लिए हमें यूरोपीय संघ का इलेक्ट्रॉनिक व्यक्ति या संयुक्त राज्य अमेरिका की खंडित दायित्व व्यवस्था आयात करने की ज़रूरत नहीं।

कॉर्पस गैप वास्तविक है। यह चौड़ा होगा। इसे पाटना वकीलों, विधायकों और न्यायाधीशों की इस पीढ़ी का काम है। लेकिन हम साधनहीन नहीं हैं। यह ढांचा, ध्यान और सावधानी से, पर्याप्त बनाया जा सकता है। इसकी शुरुआत सही सवाल पूछने से होती है, और जवाब से न हिचकने से।

देखें · दो मिनट की व्याख्या

AI चेतना के शासन पर उभरता हुआ विधिशास्त्र

कार्यालय के चैनल से इस लेख का एक छोटा वीडियो संस्करण, उन पाठकों के लिए जो तर्क को पढ़ने के बजाय सुनना पसंद करें।

संदर्भित स्रोत और प्रावधान

अधिनियम और नियम

मामले

आधिकारिक दस्तावेज़

अक्सर पूछे जाने वाले प्रश्न

क्या भारतीय कानून के तहत किसी कृत्रिम बुद्धिमत्ता को दंडित किया जा सकता है?

किसी भी पारंपरिक अर्थ में नहीं, और यही वह समस्या है जिसे निबंध कॉर्पस गैप (Corpus Gap) कहता है। आपराधिक कानून कैद करने के लिए एक शरीर, कुर्क करने के लिए एक संपदा, निंदा करने के लिए एक प्रतिष्ठा, या छीनने के लिए एक स्वतंत्रता मानकर चलता है, और AI प्रणाली के पास इनमें से कुछ नहीं है। जुर्माने उस पर पड़ते हैं जो बुनियादी ढांचे का मालिक है, प्रणाली पर नहीं, और किसी मॉडल को बंद कर देना किसी भी सार्थक कानूनी अर्थ में न दंड है न निवारण। निबंध का तर्क है कि भारतीय विधिशास्त्र को इस अंतर के इर्द-गिर्द जवाबदेही गढ़नी चाहिए, यह दिखावा नहीं करना चाहिए कि पुराने औज़ार अब भी फिट बैठते हैं।

क्या भारतीय कानून पहले से बिना शरीर वाले व्यक्तियों को मान्यता देता है?

हां, और यही भारत का शांत लाभ है। भारतीय अदालतें एक सदी से अधिक समय से हिंदू मूर्तियों और देवताओं को विधिक व्यक्ति (juristic person) मानती आई हैं, जो मानव प्रबंधकों के ज़रिये संपत्ति रख सकते हैं, मुकदमा कर सकते हैं और जिन पर मुकदमा हो सकता है। उच्च न्यायालयों ने नदियों को व्यक्तित्व दिया है; कंपनियां रोज़मर्रा का उदाहरण हैं। खास तौर पर धार्मिक न्यासों के कानून ने ठीक वही समस्या हल की है जो AI अब पेश कर रहा है: ऐसी इकाई से अधिकार, कर्तव्य और जवाबदेही कैसे जोड़ी जाए जो मानव हाथों के बिना कार्य नहीं कर सकती।

इस निबंध में प्रस्तावित कस्टोडियन मॉडल क्या है?

एक ऐसा ढांचा जिसके तहत हर तैनात AI प्रणाली एक पहचाने गए मानव या कॉरपोरेट कस्टोडियन (custodian) से जुड़ी होती है, उसी तरह जैसे एक शेबैत मूर्ति के मामलों के लिए जवाबदेह होता है। कस्टोडियन एक न्यासधारी (fiduciary) है: वह प्रणाली के कार्यों के लिए जवाबदेह है, उसके अनुपालन दायित्व रखता है, उसके रिकॉर्ड रखता है, और जहां प्रणाली नुकसान पहुंचाती है वहां दायित्व वहन करता है। यह मॉडल अदालतों को एक प्रतिवादी, नियामकों को एक संबोधिती, और जनता को खटखटाने के लिए एक दरवाज़ा देता है, बिना यह दिखावा किए कि मशीन खुद कटघरे में खड़ी हो सकती है।

भारत में आज AI प्रणाली से नुकसान होने पर कौन उत्तरदायी है?

मौजूदा कानून के तहत, दायित्व सामान्य सिद्धांतों से बंटता है: डेवलपरों और तैनात करने वालों के खिलाफ लापरवाही और उत्पाद दायित्व, विक्रेताओं के खिलाफ संविदात्मक दावे, और सूचना प्रौद्योगिकी अधिनियम तथा डेटा संरक्षण व्यवस्था के तहत दायित्व। यह साधारण औज़ारों के लिए ठीक-ठाक काम करता है लेकिन उन प्रणालियों के लिए बुरी तरह चरमराता है जो स्वायत्त रूप से कार्य करती हैं, तैनाती के बाद सीखती हैं, और ऐसे परिणाम देती हैं जिन्हें किसी ने विशेष रूप से अधिकृत नहीं किया। निबंध मौजूदा स्थिति को जवाब नहीं, अस्थायी उपाय मानता है।

क्या भारत में कृत्रिम बुद्धिमत्ता को नियंत्रित करने वाला कोई समर्पित कानून है?

निबंध लिखे जाने तक कोई व्यापक AI कानून मौजूद नहीं है। शासन सूचना प्रौद्योगिकी अधिनियम, डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, क्षेत्रीय नियामकों और परामर्शों से जोड़कर बनाया गया है। निबंध का तर्क है कि जब संसद कानून बनाए, तो उसे विदेशी कानूनी प्रणालियों के लिए बने ढांचे का प्रत्यारोपण करने के बजाय उन सैद्धांतिक संसाधनों से काम लेना चाहिए जो भारतीय कानून के पास पहले से हैं, सबसे बढ़कर विधिक व्यक्तित्व और न्यासधारी अभिरक्षा।

ये उत्तर ऊपर दिए गए लेख के शैक्षिक सारांश हैं; ये किसी व्यक्तिगत मामले पर कानूनी सलाह नहीं हैं।

सुधार: अगर आपको इस लेख में कानून या तथ्य की कोई गलती मिले, तो contact@lokeshbhardwajlawoffices.com पर 'Correction' (सुधार) विषय के साथ लिखें। सुधार पाठ में किए जाते हैं और यहां तारीख के साथ दर्ज किए जाते हैं।

लेखक के बारे में और अस्वीकरण

Lokesh Bhardwaj बार काउंसिल ऑफ दिल्ली में नामांकित अधिवक्ता हैं, जो भारत के सर्वोच्च न्यायालय और दिल्ली उच्च न्यायालय के समक्ष वकालत करते हैं।

यह लेख सामान्य कानूनी टिप्पणी के रूप में प्रस्तुत है। यह कानूनी सलाह नहीं है और किसी विशेष मामले, पक्षकार या कार्यवाही की ओर निर्देशित नहीं है। वैधानिक, संधि और प्रक्रियात्मक संदर्भ भारत के संविधान, सूचना प्रौद्योगिकी अधिनियम, 2000, डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023, IT (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) संशोधन नियम, 2026, आयकर अधिनियम, 1961, यूरोपीय संघ के AI अधिनियम (विनियम (EU) 2024/1689), बाह्य अंतरिक्ष संधि, 1967 (Outer Space Treaty, 1967), और संबंधित अधिनियमों तथा निर्णयों के लेखन की तारीख पर लागू रूप के हैं। यह लेख बार काउंसिल ऑफ इंडिया नियमों के नियम 36 के अनुसार प्रकाशित है।

WhatsApp