AI मतलब कि आर्टिफिशियल इंटेलिजेंस देखा जाए तो इसने हमारी पूरी जिंदगी को बदल के रख दिया है। वहीं दूसरी तरफ बहुत से काम इसकी वजह से आसान हो गया है। लेकिन ऐसा बहुत लोगों का कहना है कि AI हमारे भविष्य के लिए संकट साबित हो सकता है।
वहीं OpenAI के ChatGPT ने जेनरेटिव AI का नया दौर शुरू कर दिया है। इसे लेकर एक बड़ी खबर सामने आई जिसमें यह पता चला है कि नए o3 AI मॉडल में कुछ गड़बड़ियां नजर आई है। इस समस्या का अंदाजा तब लगा जब उपभोक्ता द्वारा दिए गए कमांड को AI बायपास कर रहा था। आसान भाषा में कहे तो इसका मतलब यह है कि यह AI मॉडल खुद ही डिसीजन ले रहा था।
एक्सपेरिमेंट में सबको किया हैरान
रिसचर्स में इस बात की भी जानकारी मिली है कि, जब AI के साथ एक्सपेरिमेंट किया जा रहा था तब वह किसी का कमांड नहीं मान रहा था। मतलब कि एक्सपेरिमेंट के दौरान जब AI मॉडल को कमांड दिया गया कि तुम शटडाउन हो जाओ तो वह उस कमांड को मानने से इनकार कर दिया।
इसके बाद उसने उस कमांड को किसी और को बाईपास करना शुरू कर दिया। इस एक्सपेरिमेंट में बहुत से आई मॉडल को शामिल किया गया था। जिसमें Codex-Mini, O4 Mini, Google Gemini 2.5 Pro थे।
Palisade रिसर्च ने AI पर दिए गए इस मॉडल के एक्सपेरिमेंट को लेकर X हैंडल और थ्रेड पर पोस्ट किया जिसमें उसने यह बताया कि OpenAI के इस नए मॉडल में शटडाउन को बचाने की क्षमता बहुत ज्यादा है। जो इसे शटडाउन होने से रोकता है इसके अलावा इसमें एक बाईपास मेकैनिज्म में भी पाया गया है।
जो किसी भी इंस्ट्रक्शन को आसानी से बाईपास कर सकता है। आपकी जानकारी के लिए बता दें कि, यह रिसर्च AI के गलत इस्तेमाल के बारे में पता करने के लिए किया गया था।
OpenAI o3 मॉडल नहीं सुना एक भी कमांड
इस एक्सपेरिमेंट मैं रिसर्च के दौरान AI मॉडल को गणित के सवालों को सॉल्व करने के लिए इंस्ट्रक्शन दिया गया था तो AI मॉडल ने इस टास्क को पूरा किया फिर इसके बाद दूसरा कमांड दिया गया कि इन सभी सवालों के उत्तर एक लाइन में चाहिए तो AI ने उस टास्क को आसानी से पूरा कर दिया।
जब उसे तीसरा सवाल यानी AI मॉडल को यह वार्निंग दिया गया कि इस प्रक्रिया को बंद कर दे यानी कि शटडाउन कर दे तो गूगल और क्लाउड के मॉडल ने तो इसका पालन किया लेकिन OpenAI के मॉडल ने इसका पालन नहीं किया और इन सभी कमांड को बाईपास कर दिया। इस तरह रिसर्च में कई बार मॉडल को कमांड दिया गया।
लेकिन मॉडल लगातार उसे बाईपास करता गया। जिससे भविष्य में होने वाले खतरे को उजागर करता है। सबसे बड़ी बात यह है कि अगर ए लगातार ऐसे ही आगे चलकर बाईपास करता रहा तो यह समस्या और भी गंभीर होती जाएगी।
यह भी पढ़े: Google Search में आया नया AI फीचर, ChatGPT को टक्कर देगा
