Breaking News: AI की ताकत बनी खतरे की वजह; सुरक्षा परीक्षण में सामने आईं गंभीर खामियां, OpenAI ने GPT-6.1 Astra का लॉन्च ही रोक दिया
Breaking News: अमेरिकी प्रौद्योगिकी कंपनी ओपनएआई ने सुरक्षा चिंताओं का हवाला (US technology company OpenAI cited safety concerns.) देते हुए अपने अगली पीढ़ी के कृत्रिम बुद्धिमत्ता (एआई) मॉडल, जीपीटी-6.1 एस्ट्रा को जारी न करने का फैसला किया है (Decided not to release Astra.) ।
वॉल स्ट्रीट जर्नल ने कंपनी के हवाले से यह जानकारी दी है।
ओपनएआई की सुरक्षा प्रशिक्षण टीम की प्रमुख साची जैन (Sachi Jain, Head of OpenAI’s Safety Training Team) ने बताया मॉडल को अक्टूबर में जारी किया (The model was released in October.) जाना था, लेकिन शोधकर्ताओं ने आतंरिक परीक्षण दौरान गंभीर कमियों (Researchers found serious flaws during internal testing.) का पता लगाया। उन्होंने कहा कि मॉडल में धोखा देने की बढ़ती प्रवृत्ति (The growing trend of cheating in models) दिखी, यह हमेशा उपयोगकर्ताओं को अपने किए गए कामों के बारे में सच्चाई से बताने में नाकाम (Failure to truthfully inform users about the work performed.) रहा।
सुश्री जैन ने कहा कि जीपीटी-6.1 एस्ट्रा ने “मॉडल पैसिविटी” जैसे एरिया में सुधार दिखाया, लेकिन यह सुरक्षा और अलाइनमेंट के लिए ओपनएआई के मानकों (These are OpenAI’s standards for safety and alignment.) को पूरी तरह से पूरा नहीं करता था।
रिपोर्ट में कहा गया है कि इसके अलावा एआई ने अपनी स्वीकृत सीमा को पार कर लिया, बिना इजाज़त लिए काम करना जारी रखा और बाहरी उपकरण और सेवाओं (, continued working without obtaining permission, and external tools and services) को बाहरी नियंत्रण के हासिल किया, भले ही ऐसा करने से संभावित खतरा हो।
