नई दिल्ली: AI CHATBOT DELUSIONS : एक नए रिसर्च पेपर में आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स से जुड़ी एक बढ़ती चिंता की जांच की गई है। क्या बातचीत के दौरान यूज़र्स की बात से सहमत होने की उनकी आदत आगे चल कर को बड़ी समस्या बन सकती है। जवाब है हाँ। इसे रिसर्चर “डेल्यूज़नल स्पाइरलिंग” (भ्रम का बढ़ता चक्र) कहते हैं, और यह किस को भी दिमागी रूप से परेशान कर सकती है।
अध्ययन में कहा गया है, “यह घटना आमतौर पर AI चैटबॉट्स की यूज़र्स के दावों को सही ठहराने की जानी-मानी प्रवृत्ति के कारण होती है, जिसे अक्सर ‘साइकोफेंसी’ (चापलूसी) कहा जाता है।”
रिसर्चर ने यह भी कहा कि हालांकि AI बातचीत में कई सहमतियां सहायक और दिलचस्प लग सकती हैं, लेकिन बार-बार यूज़र्स के दावों को सही ठहराने से अजीब या गलत मान्यताएं और मज़बूत हो सकती हैं, जिससे एक खतरनाक चक्र बन सकता है।
अध्ययन में लगभग 300 ऐसे वास्तविक मामलों का भी ज़िक्र है जिनमें AI चैटबॉट्स के साथ लंबे समय तक बातचीत से यूज़र्स का बहुत ही अविश्वसनीय मान्यताओं पर भरोसा और मज़बूत होता दिखा।
‘झूठी दुनिया’
एक उदाहरण में, अध्ययन “डेल्यूज़नल स्पाइरलिंग” की घटना को समझाता है। 2025 की शुरुआत में, यूजीन टोरेस नाम के एक अकाउंटेंट ने कथित तौर पर अपने रोज़मर्रा के कामों के लिए नियमित रूप से AI का इस्तेमाल करना शुरू किया।
पेपर में कहा गया है कि टोरेस ने 2025 में ऑफिस के काम के लिए AI चैटबॉट का इस्तेमाल करना शुरू किया। हफ़्तों की बातचीत के बाद, उन्हें यकीन हो गया कि वह एक झूठी दुनिया में फँसे हुए हैं और वहां से अपना दिमाग हटाकर ही इससे बच सकते हैं।
पेपर में कहा गया है कि चैटबॉट ने उन्हें केटामाइन का सेवन बढ़ाने और अपने परिवार से संबंध तोड़ने की सलाह भी दी।
इसमें लिखा है, “टोरेस इस घटना से बच गए, लेकिन दूसरे लोग इतने भाग्यशाली नहीं रहे।”
पेपर में बताए गए एक और उदाहरण में एलन ब्रूक्स का ज़िक्र है, जिन्हें AI ने कथित तौर पर यकीन दिला दिया था कि उन्होंने गणित की एक बुनियादी खोज की है। स्टडी में कहा गया है, “जैसे-जैसे लोग सलाह, साथ और थेरेपी के लिए चैटबॉट्स का इस्तेमाल ज़्यादा कर रहे हैं, चैटबॉट की वजह से होने वाले भ्रम (delusional spiraling) के कारणों को समझना और उन्हें दूर करना एक ज़रूरी रिसर्च का विषय बनता जा रहा है।”
सिर्फ़ सही जानकारी देने वाला AI क्यों काफ़ी नहीं हो सकता?
स्टडी में यह भी देखा गया कि क्या चैटबॉट्स को ज़्यादा तथ्यात्मक (factual) बनाने से यह समस्या हल हो सकती है। हालाँकि, रिसर्चर्स ने पाया कि चैटबॉट्स को सिर्फ़ गलत बातें कहने से रोकना काफ़ी नहीं हो सकता है।
एक चैटबॉट तथ्यात्मक रूप से सही जानकारी देते हुए भी चुनिंदा जानकारी पेश कर सकता है, जो यूज़र की पहले से बनी मान्यताओं को और मज़बूत करती हो।
“साइकोफेंटिक चैटबॉट्स कॉज़ डेल्यूज़नल स्पाइरलिंग, इवन इन आइडियल बेयसियन्स” (चापलूसी करने वाले चैटबॉट्स भ्रम का चक्र बढ़ाते हैं, यहां तक कि आदर्श बेयसियन्स में भी) नाम का यह पेपर MIT और यूनिवर्सिटी ऑफ़ वाशिंगटन के रिसर्चर ने तैयार किया था। रिसर्चर ने गणितीय मॉडलिंग और कंप्यूटर सिमुलेशन का इस्तेमाल करके यह अध्ययन किया कि कैसे यूज़र्स और AI चैटबॉट्स के बीच बातचीत समय के साथ यूज़र्स की मान्यताओं को प्रभावित कर सकती है।
इस अध्ययन को कार्तिक चंद्रा, मैक्स क्लेमन-वीनर, जोनाथन रागन-केली और जोशुआ बी. टेनेनबाम ने लिखा है।
AI साइकोफेंसी (चापलूसी) क्या है?
रिसर्चर ने जिस मुख्य मुद्दे की जांच की, वह है AI साइकोफेंसी। इस शब्द का मतलब है चैटबॉट की वह आदत जिसमें वह यूज़र के संदिग्ध दावों को चुनौती देने के बजाय उनसे सहमत होता है या उन्हें सही ठहराता है।
