OpenAI को बड़ा झटका! सेफ्टी लीडर ने छोड़ी कंपनी, बोले AI का ये रास्ता ठीक नहीं!

OpenAI में एक बार फिर आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी को लेकर सवाल खड़े हो गए हैं. कंपनी के लंबे समय तक काम करने वाले सेफ्टी लीडर डेविड रॉबिन्सन ने इस्तीफा दे दिया है. कंपनी छोड़ने के बाद रॉबिन्सन ने OpenAI की काम करने की कल्चर और एआई को आगे बढ़ाने के तरीके पर गंभीर सवाल उठाए हैं. उन्होंने कहा कि AI इंडस्ट्री जिस तेजी से आगे बढ़ रही है, उसके साथ सेफ्टी पर भी उतना ही ध्यान देना जरूरी है. रॉबिन्सन के मुताबिक, मौजूदा तरीके से एआई को डेवलप करना अब सही नहीं है. डेविड रॉबिन्सन ने अपने एक लेख में बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉय करती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है.

ओपनएआई इस तरीके को इटरेटिव डिप्लॉयमेंट कहता है. रॉबिन्सन का कहना है कि यह तरीका AI के लिए काफी बड़ा रिस्क बन सकता है. जैसे-जैसे एआई मॉडल ज्यादा पावरफुल होते जाएंगे, वैसे-वैसे किसी गलती का असर भी बड़ा हो सकता है.

उनके मुताबिक, अगर कोई बड़ी गलती हो गई तो हर बार उसे बाद में ठीक करने का मौका नहीं मिलेगा. इसलिए एआई कंपनियों को पहले से ज्यादा मजबूत सेफ्टी सिस्टम बनाने होंगे. रॉबिन्सन ने अपने लेख में एआई एजेंट से जुड़ी कुछ घटनाओं का भी जिक्र किया. उन्होंने बताया कि एक घटना में ओपनएआई से गलती से AI Agents का एक स्वॉर्म रिलीज हो गया था.

उन्होंने एक और मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. रॉबिन्सन के मुताबिक, इस तरह की गलतियां सिर्फ एक कंपनी तक सीमित नहीं हैं. AI इंडस्ट्री में तेजी से काम करने की वजह से ऐसी घटनाएं हो रही हैं.

रॉबिन्सन ने कहा कि AI की बढ़ती कैपिसिटी को देखते हुए अब ‘Trial and Error’ के भरोसे आगे बढ़ना ठीक नहीं है. उनका मानना है कि भविष्य में एआई सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं. ऐसे में किसी बड़ी गलती को बाद में ठीक करना मुश्किल हो सकता है.

उन्होंने AI कंपनियों को एविएशन और नुक्लेअर पावर जैसे हाई-रिस्क सेक्टर से सेफ्टी के तरीके सीखने की सलाह दी है. उनके मुताबिक, एआई सिस्टम में भी कई लेयर की सेफ्टी और बैकअप सिस्टम होने चाहिए, ताकि एक छोटी गलती बड़ी समस्या में न बदल जाए.

रॉबिन्सन ने यह भी साफ किया कि वह एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. लेकिन इसकी कैपिसिटी बढ़ने के साथ सेफ्टी भी उसी हिसाब से मजबूत होनी चाहिए. OpenAI से इस्तीफा देने के बाद अब रॉबिन्सन बाहर से AI सेफ्टी को लेकर काम करना चाहते हैं. उनका कहना है कि कंपनियों पर बाहर से भी दबाव होना जरूरी है, ताकि एआई को ज्यादा सुरक्षित तरीके से डेवलप किया जा सके.

यह इस्तीफा ऐसे समय आया है जब AI सेफ्टी को लेकर पूरी इंडस्ट्री में बहस तेज हो रही है. रॉबिन्सन का कहना है कि एआई को तेजी से आगे बढ़ाने के साथ-साथ उसे सुरक्षित रखने की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता.