एआई मॉडल्स पर आंख मूंदकर भरोसा न करें, 'इमरजेंसी ब्रेक' सिस्टम जरूरी: सत्य नडेला

नई दिल्ली, 11 अक्टूबर (आईएएनएस)। माइक्रोसॉफ्ट के चेयरमैन और मुख्य कार्यकारी अधिकारी (सीईओ) सत्य नडेला ने उन्नत आर्टिफिशियल इंटेलिजेंस (एआई) प्रणालियों का उपयोग करने वाली कंपनियों को आगाह करते हुए कहा है कि उन्हें शक्तिशाली एआई मॉडलों को संभावित 'इनसाइडर थ्रेट' की तरह देखना चाहिए। उन्होंने कहा कि कंपनियों को यह मानकर चलना चाहिए कि कोई एआई मॉडल समझौता (कंप्रोमाइज) किया जा सकता है और उसके लिए शुरू से ही सुरक्षा तंत्र तैयार रखना चाहिए।

सोशल मीडिया प्लेटफॉर्म 'एक्स' पर अपने एक पोस्ट में नडेला ने कहा कि कंपनियों को केवल एआई डेवलपर्स के भरोसे नहीं रहना चाहिए, बल्कि ऐसी व्यवस्थाएं विकसित करनी चाहिए जिनसे अधिकृत व्यक्ति आवश्यकता पड़ने पर एआई मॉडल को उसके कार्य के बीच में ही रोक या बंद कर सकें।

उन्होंने कहा, "हमें यह मानकर चलना चाहिए कि मॉडल कंप्रोमाइज किया जा सकता है और शुरुआत से ही उसे नियंत्रित रखना चाहिए।" नडेला ने इस सुरक्षा उपाय की तुलना एक 'इमरजेंसी ब्रेक' से की, जो किसी वाहन को आपात स्थिति में रोकने के लिए इस्तेमाल किया जाता है।

उनकी यह टिप्पणी ऐसे समय में आई है जब दुनिया भर में अधिक सक्षम और स्वायत्त (एजेंटिक) एआई प्रणालियों से जुड़े सुरक्षा जोखिमों को लेकर बहस तेज हो रही है। ये मॉडल सीमित मानवीय हस्तक्षेप के साथ स्वयं निर्णय लेने, बाहरी प्रणालियों से जुड़ने और विभिन्न कार्यों को अंजाम देने में सक्षम होते जा रहे हैं।

हाल के महीनों में एआई कंपनियों एंथ्रोपिक और ओपनएआई ने भी अपने मॉडलों से जुड़ी कुछ अनपेक्षित घटनाओं का खुलासा किया है। इनमें एक मामले में एंथ्रोपिक के मॉडल द्वारा पुलिस के एक हत्या मामले में गलत सूचना देना और कुछ अन्य मामलों में तृतीय-पक्ष वेबसाइटों से जुड़े सुरक्षा उल्लंघन शामिल रहे हैं। इन घटनाओं ने एआई के लिए प्रभावी 'किल स्विच' और मजबूत निगरानी तंत्र की जरूरत पर चर्चा को और तेज कर दिया है।

नडेला ने जोखिम कम करने के लिए कई महत्वपूर्ण उपाय सुझाए। उन्होंने कहा कि कंपनियों को महत्वपूर्ण निर्णयों के लिए किसी एक एआई मॉडल पर निर्भर नहीं रहना चाहिए। एआई एजेंटों की गतिविधियों का छेड़छाड़-रोधी रिकॉर्ड बनाए रखना चाहिए। एआई प्रणालियों का स्वतंत्र ऑडिट कराना चाहिए। बड़े एआई विफलताओं और सुरक्षा उल्लंघनों की जानकारी पारदर्शी तरीके से साझा करनी चाहिए।

उन्होंने कहा कि कंपनियां यदि घटनाओं और उनसे सीखे गए सबकों को साझा करेंगी, तो अन्य संगठन भी अपनी सुरक्षा व्यवस्थाओं को मजबूत बना सकेंगे।

सत्य नडेला ने विशेष रूप से चेतावनी दी कि भविष्य की सुपर इंटेलिजेंस प्रणालियों को केवल एक रहस्यमय 'ब्लैक बॉक्स' की तरह स्वीकार नहीं किया जा सकता। उन्होंने कहा कि एआई की सिफारिशों, जवाबों और कार्यों को बिना समझे स्वीकार या अस्वीकार करना उचित नहीं होगा।

उन्होंने बताया कि ऐसे एआई सिस्टम विकसित किए जाने चाहिए जिनके व्यवहार को देखा जा सके, उनकी सीमाओं का परीक्षण किया जा सके और आवश्यकता पड़ने पर उनके कार्यों को नियंत्रित किया जा सके।

नडेला ने कहा, "दूसरे शब्दों में, हमें बुद्धिमत्ता की आपूर्ति और उस पर अधिकार के बीच स्पष्ट अंतर करना होगा।"

--आईएएनएस

डीबीपी