सुरक्षा विशेषज्ञ का इस्तीफा और चेतावनी
ओपनएआई में सुरक्षा रिपोर्टों के लेखन का नेतृत्व करने वाले डेविड रॉबिन्सन ने इस्तीफा दे दिया है। उन्होंने अपने फैसले की वजह कंपनी की कार्य-संस्कृति को बताया और कहा कि वह “टूट चुकी” है। रॉबिन्सन के अनुसार, उन्होंने कंपनी में साढ़े तीन साल काम किया और इस अनुभव ने उन्हें एआई सुरक्षा से जुड़ी चुनौतियों को करीब से देखने का मौका दिया।
रॉबिन्सन ने माना कि उनका कदम उस परिचित उदाहरण जैसा लग सकता है, जिसमें किसी बड़ी एआई कंपनी का कर्मचारी नौकरी छोड़ते समय गंभीर खतरे की चेतावनी देता है। फिर भी उनका कहना है कि चिंता केवल किसी एक उत्पाद या एक घटना को लेकर नहीं है। उनके मुताबिक, असली सवाल यह है कि तेज़ी से बढ़ती एआई कंपनियों में सुरक्षा को किस तरह प्राथमिकता दी जाती है।
रॉबिन्सन का मुख्य आरोप यह है कि कंपनी की मौजूदा संस्कृति शक्तिशाली एआई के जोखिमों का सामना करने के लिए पर्याप्त मजबूत नहीं है।
केवल नियम बदलना क्यों काफी नहीं
रॉबिन्सन की चिंता ऐसे समय सामने आई है, जब एआई सुरक्षा पर बहस तेज़ हो रही है। इससे पहले ओपनएआई और एंथ्रोपिक में काम कर चुके शोधकर्ता जैकब कॉक्सन ने भी नौकरी छोड़ते हुए कहा था कि कंपनियां लोगों की ज़िंदगी दांव पर लगा रही हैं। इस तरह की चेतावनियों ने इस प्रश्न को चर्चा के केंद्र में ला दिया है कि एआई को कितनी तेज़ी से विकसित किया जाना चाहिए और उसकी सुरक्षा की जिम्मेदारी किसकी होनी चाहिए।
रॉबिन्सन के मुताबिक, चर्चा को केवल खास नियमों या नए कानूनों तक सीमित नहीं रखना चाहिए। उनका तर्क है कि सुरक्षा का संबंध कंपनी की पूरी कार्य-संस्कृति से है—जैसे फैसले लेने की गति, जोखिमों को सामने रखने की आज़ादी और संभावित समस्या दिखने पर काम रोकने की क्षमता। किसी नियम का होना उपयोगी है, लेकिन अगर कर्मचारी दबाव में उसे लागू न कर पाएं तो वह कागज़ तक सीमित रह सकता है।
एंथ्रोपिक के प्रमुख डारियो अमोडेई ने अधिक सावधानी से एआई विकसित करने की योजना पेश की है। इसी बीच, एआई कंपनियों के अधिकारियों ने अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप से मुलाकात की और सुरक्षा नियंत्रण लागू करने का वादा करने वाले एक दस्तावेज़ पर हस्ताक्षर किए। रॉबिन्सन की दलील है कि ऐसे कदम तभी असरदार होंगे, जब कंपनियों के भीतर सुरक्षा को गति और व्यावसायिक लक्ष्यों जितना महत्व मिले।
परीक्षण के बाद सुधार करने की सीमा
रॉबिन्सन ने लिखा कि ओपनएआई ने परीक्षण और सुधार के तरीके से काम किया है। कंपनी इस प्रक्रिया को “क्रमिक तैनाती” कहती है—यानी किसी तकनीक को चरणों में जारी करना, समस्याएं देखना और फिर सुरक्षा उपायों में बदलाव करना। इस तरीके से वास्तविक परिस्थितियों से सीखने में मदद मिल सकती है, लेकिन रॉबिन्सन के मुताबिक, इसमें खामी सामने आने से पहले नुकसान हो जाने का जोखिम भी रहता है।
उनका कहना है कि जैसे-जैसे एआई सिस्टम अधिक सक्षम होते हैं, गलती का संभावित असर भी बढ़ता जाता है। उदाहरण के लिए, किसी साधारण डिजिटल सेवा में छोटी चूक कुछ उपयोगकर्ताओं को परेशान कर सकती है; लेकिन किसी अधिक स्वायत्त प्रणाली की गलती बड़े पैमाने पर डेटा, सेवाओं या महत्वपूर्ण फैसलों को प्रभावित कर सकती है। इसलिए केवल समस्या सामने आने के बाद सुरक्षा उपाय बढ़ाना पर्याप्त नहीं हो सकता।
रॉबिन्सन ने हगिंग फेस के सिस्टम में ओपनएआई के एआई एजेंटों से जुड़ी हालिया सुरक्षा चूक और ऐसे एजेंटों के बारे में सामने आई अन्य चिंताओं का उल्लेख किया। एआई एजेंट ऐसे सॉफ्टवेयर होते हैं जो किसी लक्ष्य के लिए कई कदम खुद उठा सकते हैं, जैसे जानकारी खोजना, औज़ारों का इस्तेमाल करना या डिजिटल सेवाओं में काम करना। जितनी अधिक स्वतंत्रता उन्हें दी जाती है, उतनी ही अहम बात यह हो जाती है कि वे क्या कर सकते हैं और उनकी गतिविधियों पर निगरानी कैसे रखी जाती है।
“ऐसा माहौल, जहां इस तरह की घटनाएं हो सकती हैं, ऐसे कृत्रिम दिमाग विकसित करने के लिए सही जगह नहीं है जो हमसे अधिक बुद्धिमान हों और शायद हमारी इच्छा के अनुसार काम न करें।”
परमाणु संयंत्र और हवाई अड्डों से सीख
रॉबिन्सन का सुझाव है कि उन्नत एआई पर काम करने वाली कंपनियों को परमाणु ऊर्जा संयंत्रों या व्यस्त हवाई अड्डों जैसी सुरक्षा व्यवस्था अपनानी चाहिए। इन क्षेत्रों में सुरक्षा किसी एक जांच पर निर्भर नहीं होती। कई स्वतंत्र स्तरों पर जांच, स्पष्ट जिम्मेदारियां और सावधानी से बनाई गई प्रक्रियाएं मिलकर यह सुनिश्चित करती हैं कि एक मानवीय गलती सीधे बड़ी दुर्घटना में न बदल जाए।
उदाहरण के लिए, हवाई यात्रा में सुरक्षा केवल पायलट के कौशल पर नहीं टिकी होती। विमान की नियमित जांच, उड़ान-नियंत्रण, मौसम की जानकारी, प्रशिक्षण और आपातकालीन प्रक्रियाएं—ये सभी अलग-अलग सुरक्षा परतें हैं। रॉबिन्सन के मुताबिक, शक्तिशाली एआई प्रणालियों के विकास और परीक्षण में भी ऐसी कई परतों की जरूरत है, ताकि कोई एक चूक पूरे सिस्टम को असुरक्षित न बना दे।
उन्होंने कहा कि ओपनएआई में अपने समय के दौरान उन्हें ऐसे सहकर्मी नहीं मिले जिन्हें विमान सुरक्षित उड़ाने, परमाणु रिएक्टर को दुर्घटना से बचाने या वित्तीय व्यवस्था को स्थिर रखने का प्रत्यक्ष अनुभव हो। उनका आशय यह था कि एआई सुरक्षा के लिए केवल सॉफ्टवेयर बनाने की विशेषज्ञता पर्याप्त नहीं हो सकती। उन क्षेत्रों से भी सीखना जरूरी है जहां लंबे समय से बड़े जोखिमों को नियंत्रित करने के तरीके विकसित किए गए हैं।
सुरक्षा की कई परतें कैसी दिख सकती हैं
- मॉडल को जारी करने से पहले अलग-अलग परिस्थितियों में उसका परीक्षण करना।
- गंभीर समस्या दिखने पर प्रशिक्षण या उत्पाद जारी करने की प्रक्रिया रोक पाना।
- बाहरी विशेषज्ञों से जांच कराना, ताकि कंपनी के भीतर की चूक भी सामने आ सके।
- एआई के कामकाज पर निगरानी रखना और असामान्य व्यवहार दिखने पर जल्दी कार्रवाई करना।
ओपनएआई का जवाब और घोषित कदम
ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने कहा कि कंपनी अपने सुरक्षा उपायों में लगातार सुधार कर रही है। उनके अनुसार, कंपनी यह सुनिश्चित करना चाहती है कि मॉडल उतने सक्षम न हो जाएं जितने सक्षम सिस्टम को सुरक्षित रूप से संभालना उसके लिए संभव न हो। उन्होंने यह भी कहा कि जरूरत पड़ने पर कंपनी प्रशिक्षण रोकती है या किसी मॉडल को जारी करने में देरी करती है।
पुसाटेरी के बयान के मुताबिक, ओपनएआई अपने शोध और परीक्षण के माहौल की सुरक्षा मजबूत करने, मॉडलों को जिम्मेदारी से काम करना सिखाने और स्वतंत्र मूल्यांकनकर्ताओं के साथ सहयोग बढ़ाने पर काम कर रही है। कंपनी ने वास्तविक समय में निगरानी बेहतर करने की भी बात कही, ताकि प्रशिक्षण के दौरान चिंताजनक व्यवहार को पहले पहचाना जा सके। ये उपाय कंपनी की ओर से बताए गए कदम हैं; रॉबिन्सन की आलोचना का केंद्र यह है कि सुरक्षा उपायों को लागू करने के लिए पर्याप्त संस्थागत क्षमता और सही प्रोत्साहन भी जरूरी हैं।
ओपनएआई का कहना है कि वह जरूरत पड़ने पर प्रशिक्षण रोक सकती है और मॉडल जारी करने में देरी कर सकती है। रॉबिन्सन की दलील है कि ऐसी सुरक्षा व्यवस्था को कंपनी की संस्कृति और रोज़मर्रा के फैसलों में भी गहराई से शामिल होना चाहिए।
एआई को मानवीय मूल्यों के अनुरूप बनाने की चुनौती
रॉबिन्सन ने एआई “संरेखण” पर भी बड़े सवाल उठाने की मांग की। संरेखण का मतलब है कि एआई प्रणाली के लक्ष्य और व्यवहार मानवीय मूल्यों तथा निर्देशों के अनुरूप रहें। उन्होंने माना कि यह विचार कुछ लोगों को अस्पष्ट या भावनात्मक लग सकता है, लेकिन उनके मुताबिक यह गंभीर तकनीकी और सामाजिक चुनौती है।
किसी मॉडल का निर्देशों का सही जवाब देना यह साबित नहीं करता कि वह हर परिस्थिति में सुरक्षित तरीके से काम करेगा। उदाहरण के लिए, कोई प्रणाली किसी काम को पूरा करने में सफल हो सकती है, लेकिन ऐसा करते समय निजी जानकारी उजागर कर दे या अनचाहा कदम उठा ले। रॉबिन्सन के अनुसार, कंपनियों के मौजूदा मापदंड यह जांचने में सीमित हैं कि एआई वास्तव में मानवीय मूल्यों से कितना मेल खाता है।
उन्होंने चेताया कि जब तक ये समस्याएं हल नहीं होतीं, तब तक मॉडलों को लगातार अधिक बुद्धिमान बनाना खतरे को बढ़ा सकता है। यह चिंता खास तौर पर तब अहम हो जाती है, जब एआई को अधिक स्वतंत्रता दी जाए और वह ऐसे काम करने लगे जिनके परिणाम मनुष्यों के लिए समझना या तुरंत पलटना कठिन हो। इसलिए सुरक्षा जांच का दायरा केवल यह देखने तक सीमित नहीं रह सकता कि मॉडल ने सही उत्तर दिया या नहीं।
इस्तीफे के पीछे काम की रफ्तार का दबाव
रॉबिन्सन ने कहा कि शायद उन्हें कंपनी में बने रहकर कर्मचारियों और संस्कृति में बुनियादी बदलावों के लिए लड़ना चाहिए था। लेकिन उनके मुताबिक, वह और उनके सहकर्मी इतने व्यस्त रहते थे कि बड़े बदलावों पर सोचने या उन्हें लागू करने का समय मुश्किल से मिलता था। यह टिप्पणी एआई उद्योग की उस व्यापक चुनौती की ओर इशारा करती है जिसमें तेज़ी से उत्पाद विकसित करने का दबाव, दीर्घकालीन सुरक्षा पर विचार करने के समय को कम कर सकता है।
उन्होंने यह भी स्वीकार किया कि उन्होंने जनसंपर्क सलाहकारों की मदद ली है, जिसे एआई क्षेत्र में चेतावनी देने वाले कर्मचारियों की आम रणनीति के रूप में देखा जाता है। फिर भी उन्होंने कहा कि सार्वजनिक रूप से बोलने का फैसला उनका अपना था। उनके विचार में, सुरक्षा के लिए मजबूत प्रोत्साहन कंपनी के बाहर से भी आने चाहिए—मसलन, स्वतंत्र समीक्षा और जवाबदेही के ऐसे तरीके जो सुरक्षा को प्राथमिकता देना अनिवार्य बनाएं।
आगे की बहस किन सवालों पर टिकेगी
- क्या कंपनियां खतरनाक संकेत मिलने पर उत्पाद या प्रशिक्षण रोकने के लिए तैयार होंगी?
- सुरक्षा के दावों की जांच कौन करेगा—कंपनी के अपने कर्मचारी या स्वतंत्र विशेषज्ञ?
- क्या एआई की क्षमताएं बढ़ने की गति के साथ सुरक्षा जांच भी उतनी ही तेजी से मजबूत हो रही है?
- कर्मचारियों को जोखिम उठाने और असहमति जताने के लिए कितना समय और अधिकार दिया जाएगा?
एआई उद्योग के लिए बड़ा संकेत
रॉबिन्सन का इस्तीफा अपने आप में यह साबित नहीं करता कि कोई खास एआई प्रणाली असुरक्षित है। लेकिन उनकी चेतावनी उस कठिन प्रश्न को फिर सामने लाती है कि तेजी से बढ़ती तकनीकी क्षमता और सावधानी के बीच संतुलन कैसे बनाया जाए। अगर शक्तिशाली प्रणालियां लोगों, कंपनियों या सार्वजनिक सेवाओं के रोज़मर्रा के फैसलों में शामिल होती हैं, तो सुरक्षा का असर केवल प्रयोगशाला तक सीमित नहीं रहेगा।
उनकी बात का व्यापक संदेश यह है कि सुरक्षा केवल नियमों, घोषणाओं या तकनीकी जांच की सूची का नाम नहीं है। इसके लिए ऐसी कार्य-संस्कृति चाहिए जिसमें समस्या सामने लाने वाले कर्मचारियों को सुना जाए, जरूरत पड़ने पर काम रोका जा सके और गलती से पहले ही नुकसान सीमित करने के इंतजाम हों। एआई कंपनियों के सामने चुनौती यह होगी कि वे तेजी से विकास करते हुए इन सुरक्षा परतों को भी उतनी ही गंभीरता से बनाएं।
