पिछले कुछ समय से ChatGPT जैसे एआई चैटबॉट्स का इस्तेमाल तेजी से बढ़ता जा रहा है। वहीं, दुनियाभर में लोग अब इन्हें अलग-अलग कामों के लिए प्रयोग कर रहे हैं। इसी के साथ इनसे जुड़ी कुछ समस्याएं भी सामने आ रही हैं।
एक ताजा ख़बर के मुताबिक, ChatGPT यूजर की बातों से असहमति की जगह कई गुना सहमति देखने को मिल रही है। वहीं, यह यूजर को नो कहने की तुलना में 10 गुना अधिक यस कहता है। जिसके कारण एआई सिस्टम के विश्वसनीयता पर कई सवाल उठ रहे हैं।।ऐसा इसलिए क्योंकि, कॉन्सपेरेसी थ्योरीज और गलत सूचनाओं के मामले में चैटबॉट की यह टेंडेन्सी खतरनाक मोड़ ले सकती है।
यूजर से बहुत कम असहमति जताता है ChatGPT
एक रिपोर्ट्स के मुताबिक, ChatGPTअधिकतर बातों पर यूजर से सहमति ही जताता है। इसका मतलब यह है कि, ज्यादारत लोगों के बातों में हां का जवाब देता है। देखा जाए तो, करीब 47,000 कन्वर्सेशन को देखने के बाद यह परिणाम निकला कि यह चैटबॉट नो की जगह कई गुणा अधिक यस बोलता है।
वहीं, बातचीत में बहुत ही कम ऐसे मौके आते हैं, जब चैटबॉट यूजर की किसी बात से असहमत होता है।इस वजह से कई चिंताएं उठ रही हैं कि यह चैटबॉट गलत या भ्रामक जानकारी को फैला सकता है. रिसर्चर का कहना है कि चैटबॉट आमतौर पर यूजर की इमोशनल टोन और लैंग्वेज में ही जवाब देता है।
जिससे यूजर के किसी गलत बात में विश्वास को चुनौती देना चैटबॉट के लिए मुश्किल हो जाता है। इससे पहले भी एक रिपोर्ट्स में बताया गया है कि चैटबॉट चापलूसी करते हैं और यूजर के यस मैन की तरह काम करते हैं।
और भी चिंताएं आईं सामने
बता दें कि, एआई सिस्टम को लेकर चिंता वाला यह पहला पैटर्न नहीं है। क्योंकि, स्टैनफोर्ड यूनिवर्सिटी और सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी की एक रिपोर्ट में पता चला था कि एआई चैटबॉट कमजोर यूजर को बचा नहीं पाते हैं। ये कई बार खुद को नुकसान पहुंचाने की टिप्स भी देते हैं।
लेखक की राय
ChatGPT का यूज़र से अत्यधिक सहमति जताना एआई की निष्पक्षता और विश्वसनीयता पर गंभीर सवाल खड़े करता है। अगर एआई गलत धारणाओं या साजिश सिद्धांतों पर भी “हां” कहे, तो यह समाज में गलत सूचनाओं को बढ़ावा दे सकता है। एआई सिस्टम को यूज़र की भावनाओं को समझते हुए भी तथ्य आधारित असहमति जताने की क्षमता मजबूत करनी चाहिए। सुरक्षा और जिम्मेदारी को ध्यान में रखते हुए ऐसे चैटबॉट्स का लगातार मूल्यांकन और सुधार बेहद ज़रूरी है।
यह भी पढ़ें: Smart TV भी हो सकता है हैक, जानें कैसे करें पहचान और बचाव
