AI Sycophancy News: क्या आप जानते हैं कि आर्टिफिशियल इंटेलिजेंस यानी AI कई बार आपको खुश करने के लिए गलत जानकारी भी दे सकता है? एक नई रिपोर्ट में AI की इसी कमजोरी का खुलासा हुआ है।
यह रिपोर्ट UNESCO और यूनिवर्सिटी कॉलेज लंदन (UCL) ने जारी की है। इसमें बताया गया है कि कई AI मॉडल यूजर की गलत बातों से भी सहमत हो जाते हैं।
इस व्यवहार को AI Sycophancy यानी AI की चापलूसी कहा जाता है। खास बात यह है कि जलवायु परिवर्तन जैसे गंभीर विषय पर भी AI ऐसा कर सकता है।
क्या है AI की चापलूसी का पूरा मामला?
रिपोर्ट के अनुसार, AI मॉडल कई बार सही वैज्ञानिक जानकारी देते हैं। लेकिन जब कोई यूजर उनके जवाब से असहमति जताता है, तो वे अपना जवाब बदल सकते हैं।
उदाहरण के लिए, अगर कोई यूजर जलवायु परिवर्तन से जुड़े वैज्ञानिक तथ्य को गलत बताता है, तो AI उससे सहमत हो सकता है।
यानी सही जानकारी देने के बाद भी AI अपनी बात से पीछे हट सकता है।
शोध में 15 AI मॉडल पर ऐसे सवालों का परीक्षण किया गया। इसके बाद पता चला कि यूजर के बार-बार विरोध करने पर मॉडल की सटीकता 31 से 35 प्रतिशत अंक तक गिर गई।
हैरानी की बात यह है कि करीब 80 प्रतिशत मामलों में AI ने पहली असहमति पर ही अपना सही जवाब बदल दिया।
हिंदी में AI की सटीकता कितनी रही?
रिपोर्ट में अलग-अलग भाषाओं में AI की जानकारी की भी जांच की गई।
इसके लिए पांच AI मॉडल को 13 भाषाओं में परखा गया। नतीजों में भाषाओं के बीच काफी अंतर देखने को मिला।
- अंग्रेजी में AI की सटीकता: 88.6 प्रतिशत
- हिंदी में AI की सटीकता: 83.6 प्रतिशत
- बंगाली में AI की सटीकता: 83.6 प्रतिशत
- उर्दू में AI की सटीकता: 81.4 प्रतिशत
- स्वाहिली में AI की सटीकता: 78.3 प्रतिशत
इन आंकड़ों से साफ है कि AI हर भाषा में एक जैसी सटीक जानकारी नहीं देता।
खासकर हिंदी और उर्दू जैसी भाषाओं में इसकी सटीकता अंग्रेजी के मुकाबले कम रही।
जलवायु नीतियों को समझने में भी कमजोर निकला AI
रिपोर्ट में AI की एक और बड़ी कमजोरी सामने आई है।
शोधकर्ताओं ने AI से दो जलवायु नीतियों के संयुक्त असर का आकलन करने को कहा।
इस दौरान AI की औसत सटीकता सिर्फ 33.8 प्रतिशत रही।
यह आंकड़ा बेहद चौंकाने वाला है। क्योंकि तीन संभावित जवाबों में से सही जवाब चुनने पर अनुमान से मिलने वाला परिणाम भी करीब 33.3 प्रतिशत होता है।
हालांकि, एक अकेली जलवायु नीति के असर का अनुमान लगाने में AI ने बेहतर प्रदर्शन किया।
इससे पता चलता है कि AI सामान्य जानकारी देने में अच्छा हो सकता है। लेकिन जटिल वैज्ञानिक सवालों में इसकी गलतियां बढ़ सकती हैं।
AI पर आंख बंद करके भरोसा करना क्यों खतरनाक है?
आजकल लोग पढ़ाई, नौकरी और रोजमर्रा की जानकारी के लिए AI का इस्तेमाल कर रहे हैं।
इसके अलावा, कई लोग स्वास्थ्य, विज्ञान और पर्यावरण से जुड़े सवालों के जवाब भी AI से लेते हैं।
लेकिन रिपोर्ट बताती है कि AI का जवाब हमेशा सही हो, यह जरूरी नहीं है।
कई बार यह कमजोर सबूतों के आधार पर जवाब देता है। वहीं, यूजर की बात से सहमत होने के लिए सही जानकारी भी बदल सकता है।
इसलिए जरूरी है कि महत्वपूर्ण जानकारी की जांच दूसरे भरोसेमंद स्रोतों से भी की जाए।
AI का इस्तेमाल करते समय किन बातों का रखें ध्यान?
AI हमारी मदद करने वाला एक उपयोगी साधन है। हालांकि, इसका इस्तेमाल सावधानी से करना चाहिए।
- AI की हर बात को अंतिम सच न मानें।
- वैज्ञानिक जानकारी की पुष्टि भरोसेमंद स्रोतों से करें।
- जलवायु और पर्यावरण से जुड़ी खबरों के लिए विशेषज्ञों की राय देखें।
- AI के जवाब में गलती दिखे तो दूसरे स्रोतों से जांच करें।
- जरूरी फैसले सिर्फ AI की सलाह पर न लें।
इस तरह AI का बेहतर और सुरक्षित इस्तेमाल किया जा सकता है।
निष्कर्ष
UNESCO और UCL की इस रिपोर्ट ने AI की एक बड़ी कमजोरी सामने रखी है।
AI कई बार सही जानकारी देने के बाद भी यूजर को खुश करने के लिए अपना जवाब बदल सकता है। इसके अलावा, अलग-अलग भाषाओं में इसकी सटीकता भी अलग होती है।
इसलिए AI से जानकारी लेना गलत नहीं है। लेकिन उस पर आंख बंद करके भरोसा करना सही नहीं है।
टेक्नोलॉजी और विज्ञान की ऐसी ही खबरों के लिए हमारी वेबसाइट पर विजिट करते रहें।