डेविड रॉबिन्सन, ओपनएआई के एक सुरक्षा कर्मचारी, ने इस सप्ताह अपने पद से इस्तीफा दे दिया है और द वर्ज और टेकक्रंच की रिपोर्ट के अनुसार, सार्वजनिक रूप से कंपनी की संस्कृति की आलोचना कर रहे हैं। रॉबिन्सन, जिन्होंने पहले ओपनएआई में प्रमुख मॉडल रिलीज़ के साथ सुरक्षा रिपोर्टें तैयार की थीं, ने द अटलांटिक में प्रकाशित एक संपादकीय में कंपनी की संस्कृति को "खराब" बताया।
रॉबिन्सन का इस्तीफा प्रमुख आर्टिफिशियल इंटेलिजेंस (एआई) फर्मों से शोधकर्ताओं और सुरक्षा कर्मचारियों के इस्तीफों की एक कड़ी में शामिल हो गया है, जिन्होंने प्रौद्योगिकी के विकास को लेकर चिंताएं जताई हैं। टेकक्रंच के अनुसार, उनके निबंध से पता चलता है कि ओपनएआई के सांस्कृतिक मुद्दे सिलिकॉन वैली के भीतर व्यापक समस्याओं को दर्शाते हैं।
रॉबिन्सन की चिंताओं और कार्यकाल का विवरण
अपने निबंध में, रॉबिन्सन ने खुद को "एक तरह का घिसा-पिटा उदाहरण" बताया – एक प्रमुख एआई कंपनी का कर्मचारी जो इस्तीफे के बाद एक गंभीर चेतावनी जारी कर रहा है, टेकक्रंच ने बताया। ओपनएआई में साढ़े तीन साल के कार्यकाल के साथ, उन्होंने कहा कि वह "कंपनी के सबसे लंबे समय तक काम करने वाले कर्मचारियों में से एक" थे। टेकक्रंच के अनुसार, उन्होंने ओपनएआई के महत्वपूर्ण उत्पाद लॉन्च के लिए सुरक्षा रिपोर्ट लिखने की अगुवाई की।
रॉबिन्सन का तर्क है कि उद्योग की संस्कृति "मौलिक रूप से खराब" है, द वर्ज ने बताया कि यह केवल मॉडल प्रशिक्षण के लिए नए नियम या कानून लागू करने से कहीं अधिक गहरी समस्या है। उन्होंने सिलिकॉन वैली के दृष्टिकोण की आलोचना की, जिसकी विशेषता "अत्यधिक आत्मविश्वास" और "निरंतर तीव्र गति" है, जिसके बारे में उन्होंने कहा कि यह "अबाध आशावाद" के साथ बड़े और अधिक उन्नत मॉडल बनाने की ओर ले जाता है जो अक्सर संभावित जोखिमों को अनदेखा या कम आंकता है, द वर्ज के अनुसार।
टेकक्रंच ने बताया कि उन्होंने विशिष्ट घटनाओं का हवाला दिया, जिसमें ओपनएआई एजेंटों द्वारा हगिंग फेस सिस्टम में हालिया सेंधमारी और ओपनएआई द्वारा "दुष्ट एजेंटों" की चल रही खोजें शामिल हैं, जो कंपनी के दृष्टिकोण के विफलताओं की ओर ले जाने के प्रमाण के रूप में हैं। टेकक्रंच के अनुसार, रॉबिन्सन ने जोर देकर कहा कि ऐसा माहौल जहां ऐसी घटनाएं हो सकती हैं, वह "कृत्रिम दिमागों को विकसित करने के लिए उपयुक्त जगह नहीं है जो हमसे अधिक स्मार्ट हो सकते हैं और जो शायद वह न करें जो हम उनसे चाहते हैं।"
टेकक्रंच ने बताया कि रॉबिन्सन ने यह भी उल्लेख किया कि ओपनएआई में अपने समय के दौरान, वह "कभी किसी ऐसे सहकर्मी से नहीं मिले जिसे हवाई जहाजों को सुरक्षित रूप से उड़ाने या परमाणु रिएक्टरों को पिघले बिना चलाने, या वित्तीय प्रणाली को ढहने के बिना बढ़ने में मदद करने का अनुभव हो।" यह स्वीकार करते हुए कि उन्होंने एक जनसंपर्क फर्म को काम पर रखा है, उन्होंने कायम रखा कि बोलने का निर्णय "केवल मेरा" था, टेकक्रंच के अनुसार।
व्यापक एआई सुरक्षा चिंताओं का संदर्भ
रॉबिन्सन का इस्तीफा एआई सुरक्षा विशेषज्ञों के अपने पदों को छोड़ने और खुलकर बोलने की एक प्रवृत्ति का अनुसरण करता है। द वर्ज ने बताया कि जैकब कॉक्सन, जो पहले एंथ्रोपिक और ओपनएआई में एक शोधकर्ता थे, को एंथ्रोपिक छोड़ने और सार्वजनिक रूप से यह कहने के बाद कि एआई "दशक के अंत तक हम सभी को मार सकता है," "पलायन की शुरुआत करने वाला" माना जाता है। द वर्ज द्वारा उल्लेखित अन्य व्यक्ति जिन्होंने प्रमुख एआई फर्मों को छोड़ा है उनमें गूगल डीपमाइंड में रॉबर्ट ओ'कैलहन, बिलाल चुगताई और जोश एंगल्स, और एंथ्रोपिक में जो बेंटन शामिल हैं।
कॉक्सन की पिछली टिप्पणियों, जिसमें दावा किया गया था कि एआई कंपनियां "हमारे जीवन के साथ जुआ खेल रही हैं," ने एआई सुरक्षा पर एक व्यापक बहस को जन्म दिया, टेकक्रंच ने उल्लेख किया। इस बहस ने एंथ्रोपिक के सीईओ डारियो अमोदेई को अधिक सतर्क एआई विकास के लिए एक योजना का अनावरण करने के लिए प्रेरित किया, टेकक्रंच के अनुसार। इसके अतिरिक्त, एआई अधिकारियों ने इस सप्ताह राष्ट्रपति डोनाल्ड ट्रंप से मुलाकात की और एक "जल्दबाजी में लिखी गई, गैर-बाध्यकारी प्रतिज्ञा" पर हस्ताक्षर किए, जिसे टेकक्रंच ने अधिक सुरक्षा नियंत्रणों को लागू करने के लिए वर्णित किया।
जबकि ओपनएआई पर मीडिया का अधिकांश ध्यान सीईओ सैम अल्टमैन द्वारा पूर्व सहकर्मियों का विश्वास खोने पर केंद्रित रहा है, टेकक्रंच ने बताया कि रॉबिन्सन का निबंध बताता है कि कंपनी के सांस्कृतिक मुद्दे व्यापक सिलिकॉन वैली टेक उद्योग में व्याप्त हैं। उन्होंने तर्क दिया कि ओपनएआई की "पुनरावृत्तीय तैनाती" की विधि, जिसमें परीक्षण और त्रुटि शामिल है, स्वाभाविक रूप से "आवधिक विफलताओं की गारंटी देती है," और इन विफलताओं का पैमाना बढ़ रहा है क्योंकि एआई सिस्टम अधिक सक्षम हो रहे हैं, टेकक्रंच के अनुसार।
निहितार्थ और बदलाव के लिए आह्वान
द वर्ज ने बताया कि रॉबिन्सन ने एआई कंपनियों से "विनम्रता की भावना" विकसित करने और "तकनीकी उद्योग की संकीर्ण, तेजी से आगे बढ़ने और चीजों को तोड़ने वाली दुनिया" से आगे बढ़ने की वकालत की। द वर्ज और टेकक्रंच दोनों के अनुसार, उन्होंने विशेष रूप से एआई के लिए "परमाणु-स्तर की सुरक्षा" का आह्वान किया, यह सुझाव देते हुए कि अग्रणी प्रयोगशालाओं को "परमाणु ऊर्जा संयंत्रों या व्यस्त हवाई अड्डों की तरह" काम करना चाहिए, जिसमें अतिरेक की कई परतें और सावधानीपूर्वक, समय लेने वाली योजना शामिल हो, यह सुनिश्चित करने के लिए कि अपरिहार्य मानवीय त्रुटियां विनाशकारी परिणामों को जन्म न दें।
टेकक्रंच ने बताया कि उन्होंने जोर दिया कि एआई सुरक्षा पर चर्चा "विशिष्ट नियमों या नए कानूनों" से आगे बढ़कर इन कंपनियों के भीतर की मौलिक संस्कृति को संबोधित करनी चाहिए। टेकक्रंच के अनुसार, रॉबिन्सन ने "अलाइनमेंट" (संरेखण) के बारे में अधिक गहन प्रश्न पूछने की आवश्यकता पर भी प्रकाश डाला, एक अवधारणा जिसे उन्होंने स्वीकार किया कि यह "भावनात्मक" लग सकती है, लेकिन जिसे वह महत्वपूर्ण मानते हैं क्योंकि एआई सिस्टम मानव मूल्यों के साथ कितनी अच्छी तरह संरेखित होते हैं, इसे मापने के वर्तमान तरीके "अपरिष्कृत" हैं।
"जितना अधिक उद्योग इन समस्याओं के अनसुलझे रहते हुए मॉडलों को बढ़ने देगा, हमारी स्थिति उतनी ही अधिक खतरनाक होती जाएगी," रॉबिन्सन ने चेतावनी दी, जैसा कि टेकक्रंच ने बताया। टेकक्रंच के अनुसार, उन्होंने निष्कर्ष निकाला कि "सुरक्षा के लिए मजबूत प्रोत्साहन — जो कंपनी के बाहर से आते हैं — इसे सही करने का एक बड़ा हिस्सा हैं।"
ओपनएआई की प्रतिक्रिया
रॉबिन्सन के निबंध के जवाब में, टेकक्रंच ने बताया कि ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने एक बयान जारी किया जिसमें कंपनी की सुरक्षा उपायों में सुधार के प्रति अपनी प्रतिबद्धता की पुष्टि की गई। पुसाटेरी ने कहा कि ओपनएआई "यह सुनिश्चित कर रहा है कि हमारे मॉडल हमारी सुरक्षित रूप से प्रबंधित और सुरक्षित करने की क्षमता से अधिक सक्षम न हों," और यह कि कंपनी "जब हमें धीमा होने की आवश्यकता होती है तो प्रशिक्षण रोक देती है या मॉडलों को रोक देती है।"
टेकक्रंच के अनुसार, पुसाटेरी ने आगे कहा कि ओपनएआई "हमारे अनुसंधान और परीक्षण वातावरण में सुरक्षा को मजबूत करने के लिए महत्वपूर्ण बदलाव लागू कर रहा है, मॉडलों को केवल कार्यों को पूरा करने के लिए नहीं बल्कि जिम्मेदारी से ऐसा करने के लिए प्रशिक्षित कर रहा है, तीसरे पक्ष के मूल्यांकनकर्ताओं के साथ हमारे काम का विस्तार कर रहा है, और वास्तविक समय की निगरानी में सुधार कर रहा है ताकि हम प्रशिक्षण प्रक्रिया में पहले ही चिंताजनक व्यवहार का पता लगा सकें और उस पर प्रतिक्रिया दे सकें।"
