ओपनएआई ने सुरक्षा चिंताओं के कारण GPT‑6.1 एस्ट्रा के विमोचन को रोका

कृत्रिम बुद्धिमत्ता कंपनी ने अपने नवीनतम मॉडल के विमोचन को रद्द कर दिया, आंतरिक परीक्षणों में उच्च जोखिम वाले दुरुपयोग के संकेत मिलने के बाद, जिससे विकास में विराम आया
अंग्रेजी में पढ़ें: English Dispatch →

वॉशिंगटन — OpenAI ने गुरुवार को घोषणा की कि उसने अपने अगले पीढ़ी के भाषा मॉडल GPT‑6.1 Astra का रोलआउट रद्द

नियामक पृष्ठभूमि

ओपनएआई का यह निर्णय नीति निर्माताओं की ओर से अधिक पारदर्शी सुरक्षा परीक्षण के लिए की गई अपील के अनुरूप है। हाल ही में एक ब्रीफिंग में, अमेरिकी फेडरल ट्रेड कमिशन (FTC) के एक वरिष्ठ अधिकारी ने कहा कि एजेंसी उभरती उपभोक्ता सुरक्षा मानकों के अनुपालन के लिए एआई रिलीज़ का निरीक्षण कर रही है। इसी बीच, यूके का डेटा एथिक्स और इनोवेशन सेंटर (CDEI) कंपनियों से वाणिज्यिक लॉन्च से पहले “मजबूत रेड-टीम टेस्टिंग” अपनाने की सलाह दे रहा है।

ओपनएआई ने कहा कि वह पहचाने गए खालियों को पूरा करने के लिए नियामकों और बाहरी विशेषज्ञों के साथ निकटता से काम करेगी। कंपनी ने यह भी प्रतिबद्धता जताई है कि वह ऑडिट के दौरान खोजे गए विशिष्ट विफलता मोड्स (failure modes) को रेखांकित करते हुए एक विस्तृत सुरक्षा रिपोर्ट प्रकाशित करेगी।

एआई रोडमैप पर प्रभाव

GPT-6.1 एस्ट्रा के स्थगित होने से ओपनएआई का उत्पाद समय-सारणी में बदलाव आ सकता है। कंपनी के 2024 में प्रकट किए गए पूर्ववर्ती रोडमैप में, 2028 तक एक पूर्णतः स्वतंत्र प्रणाली तक पहुंचने के लिए लगातार अधिक सक्षम मॉडलों की श्रृंखला की भविष्यवाणी की गई थी। वर्तमान संस्करण को रोककर, ओपनएआई ने गति के बजाय सुरक्षा को प्राथमिकता देने की इच्छा का संकेत दिया है, जो एक ऐसी स्थिति है जो व्यापक एआई समुदाय के विकास रणनीतियों को प्रभावित कर सकती है।

निवेशकों और साझेदारों से आने वाली सुरक्षा रिपोर्ट में मॉडल की भविष्य की व्यवहार्यता के संकेत खोजने की उम्मीद की जा रही है। इस बीच, ओपनएआई अपने मौजूदा उत्पादों की श्रृंखला, जिसमें ChatGPT-5 शामिल है, का समर्थन जारी रखेगी, जबकि वह वैकल्पिक एलाइनमेंट तकनीकों का अन्वेषण करेगी।

Found an inaccuracy or broken citation? Submit a correction notice to our newsroom standards desk.
Advertisement