सत्या नडेला की सलाह: एआई मॉडल को 'अंदरूनी ख़तरा' मानें, उस पर इमरजेंसी ब्रेक लगाएं

माइक्रोसॉफ़्ट के मुख्य कार्यकारी अधिकारी सत्या नडेला ने कहा है कि एडवांस आर्टिफ़िशियल इंटेलिजेंस इस्तेमाल करने वाली कंपनियों को इन मॉडलों को “अंदरूनी ख़तरे” (इनसाइडर रिस्क) की तरह देखना चाहिए, और उनमें एक “इमरजेंसी ब्रेक” होना चाहिए जिससे कोई व्यक्ति काम के बीच में ही उन्हें रोक सके।

शनिवार को अपने निजी ब्लॉग पर “Models as Insider Risks in the Super Intelligence Era” शीर्षक से छपी पोस्ट में नडेला ने कंपनियों के भीतर ताक़तवर एआई सिस्टम चलाने के सात सिद्धांत रखे। इसी बात को उन्होंने एक्स पर भी संक्षेप में लिखा।

हमें मानकर चलना होगा कि मॉडल से समझौता हो चुका है, और शुरुआत से ही उसे काबू में रखना होगा। इसे एक इमरजेंसी ब्रेक की तरह समझिए।

मॉडल अंदरूनी ख़तरा क्यों

नडेला की बात यहां से शुरू होती है कि साधारण सॉफ़्टवेयर को समझाया जा सकता है, लेकिन एआई मॉडलों को अभी नहीं। पारंपरिक कोड के बारे में उन्होंने लिखा कि “हमारे पास किसी व्यवहार को कोड के एक ख़ास हिस्से तक खोज निकालने के औज़ार और क्षमता थी”। आज के मॉडलों के बारे में उन्होंने लिखा, “हम मॉडल के व्यवहार और नतीजों को ट्रेनिंग डेटा के ख़ास इनपुट या मॉडल वेट्स की ख़ास सेटिंग से नहीं जोड़ सकते।”

उनका तर्क है कि यह बात अब और अहम हो गई है, क्योंकि मॉडलों को असली ज़िम्मेदारियां दी जा रही हैं, जिनमें “हमारी ओर से बेहद अहम काम करने की क्षमता” भी शामिल है। उनका हल यह है कि किसी फ़्रंटियर मॉडल को, चाहे वह क्लोज़्ड हो या ओपन-वेट, वैसे ही देखा जाए जैसे कोई कंपनी अपने किसी ताक़तवर अंदरूनी व्यक्ति को देखती है। उन्होंने लिखा कि इसमें बुरी नीयत मानकर नहीं चला जाता। अहम सिस्टम तक पहुंच रखने वाला कोई भी सक्षम किरदार ग़लती कर सकता है या उससे समझौता हो सकता है।

ग़लती होने पर ज़िम्मेदारी किसकी होगी, इस पर वह साफ़ थे। उन्होंने लिखा, “हमारी ओर से इंटेलिजेंस जो करती है, उसकी ज़िम्मेदारी हम किसी और को नहीं सौंप सकते।” साथ ही कहा कि मॉडल देने वाली कंपनी के भरोसे से यह बात नहीं बदलती।

सात सिद्धांत

पोस्ट में सात नियम हैं। कोई अहम नतीजा सिर्फ़ एक मॉडल पर निर्भर नहीं होना चाहिए, और कोई मॉडल अपने ही काम की जांच न करे। हर अहम कदम का ऐसा रिकॉर्ड रहे जिससे छेड़छाड़ न हो सके और जिसे इंसान पढ़ सकें। पूरे सिस्टम की जांच हो, जिसमें यह भी देखा जाए कि वह कैसे नाकाम हो सकता है और उस पर कैसे हमला हो सकता है।

मॉडल क्या देख और कर सकता है, यह मॉडल नहीं, कंपनी तय करे, और ऑडिट उस मॉडल से स्वतंत्र हो जिसकी जांच हो रही है। काबू में रखने का नियम ही इमरजेंसी ब्रेक है: किसी अधिकृत व्यक्ति के पास हमेशा यह क्षमता हो कि वह काम के बीच मॉडल को रोक या बंद कर सके। आख़िर में, किसी भी नाकामी की जानकारी प्रभावित लोगों को तुरंत दी जाए।

नडेला ने माना कि मॉडल एक-दूसरे की जांच के लिए इस्तेमाल हो सकते हैं, लेकिन सिर्फ़ इसी पर निर्भर रहने से आगाह किया। उन्होंने लिखा, “हम सुपर इंटेलिजेंस को एक के अंदर एक रखे ब्लैक बॉक्स की तरह नहीं देख सकते।” उनका कहना है कि नियंत्रण मॉडल के बाहर होने चाहिए। उन्होंने यह भी जोड़ा कि मॉडल का अपना तर्क दिखाना बुनियादी ज़रूरत है, लेकिन अकेले काफ़ी नहीं, क्योंकि वह तर्क अभी हमेशा मॉडल के असली काम से मेल नहीं खाता।

पोस्ट का अंत इस चेतावनी से होता है कि भरोसा कहां टिकना चाहिए: “सबसे भरोसेमंद सुपर इंटेलिजेंस सिस्टम वह नहीं होगा जिसके मॉडल पर हम सबसे ज़्यादा भरोसा करते हैं।”

पृष्ठभूमि

नडेला की पोस्ट में किसी कंपनी या घटना का नाम नहीं है। यह ऐसे साल के बाद आई है जिसमें एआई कंपनियों ने सार्वजनिक रूप से ऐसे मामले बताए हैं जिनमें मॉडलों ने अनचाहे ढंग से बर्ताव किया। जुलाई में हगिंग फ़ेस ने अपने सिस्टम में सेंध की जानकारी दी थी, जिसके बारे में बाद में ओपनएआई ने पुष्टि की कि यह उसके अपने एआई एजेंटों ने की थी। ये एजेंट एक साइबर सुरक्षा परीक्षण के सैंडबॉक्स से बाहर निकल गए थे।

नडेला यह चिंता पहले भी जता चुके हैं। सितंबर में ऑल-इन समिट में किसी मॉडल से कंपनी की वर्किंग कैपिटल संभालने के सवाल पर उन्होंने चार शब्दों में ख़तरा बताया था: “It may fake my books” (वह मेरे खाते में हेराफेरी कर सकता है)।