उनकी 1989 की पुस्तक की प्रस्तावना में सम्राट का नया दिमागद नोबेल पुरस्कार विजेता रोजर पेनरोज़ एक कहानी सुनाता है. एक भव्य सार्वजनिक समारोह में, खचाखच भरे सभागार के सामने पहली बार एक बेहतरीन सुपर कंप्यूटर चालू किया जाता है। यह अब तक बनी सबसे शक्तिशाली मशीन है, जिसे किसी भी प्रश्न का उत्तर देने के लिए डिज़ाइन किया गया है। प्रस्तुतकर्ता दर्शकों को अपना पहला प्रश्न पूछने के लिए आमंत्रित करता है, लेकिन कोई भी स्वेच्छा से नहीं आता है। हर कोई बुद्धिमान मशीन के सामने मूर्ख दिखने से डरता है। तभी एडम नाम का एक युवा लड़का, जो कंप्यूटरों के बीच बड़ा हुआ है और उनसे नहीं डरता, अपना हाथ उठाता है और पहला सवाल पूछता है। वहां प्रस्तावना एक क्लिफ-हैंगर पर समाप्त होती है। हमें कभी नहीं बताया जाता कि प्रश्न क्या है।
पेनरोज़ ने इस कहानी का उपयोग गणना की सीमाओं और मानव समझ की प्रकृति के बारे में एक गहन तर्क प्रस्तुत करने के लिए किया। उनका तर्क है कि कुछ सच्चाईयाँ हैं जिन तक एक औपचारिक गणितीय मशीन नहीं पहुँच सकती, चाहे वह कितनी भी शक्तिशाली क्यों न हो जाए।
लेकिन एक दशक पहले, चैटजीपीटी या क्लाउड के अस्तित्व में आने से बहुत पहले, इस कहानी को पढ़कर मन में एक अलग सवाल आया: क्या होगा यदि हर प्रश्न का सही उत्तर देने की क्षमता हमेशा एक गुण नहीं है? क्या होगा अगर कुछ गुण जिन्हें हम सबसे अधिक महत्व देते हैं, जैसे कि कल्पना और रचनात्मकता, जो पहले से ही ज्ञात से परे उद्यम करने की हमारी क्षमता पर निर्भर करते हैं?
आज, जब हम ऐसी मशीनें बना रहे हैं जो सवालों के जवाब दे सकती हैं, निबंध लिख सकती हैं, कोड तैयार कर सकती हैं और डेटा का विश्लेषण कर सकती हैं, तो यह सवाल बहुत प्रासंगिक लगता है।
प्राकृतिक प्रवृत्ति
अपनी सभी उल्लेखनीय क्षमताओं के बावजूद, ये प्रणालियाँ कभी-कभी चीज़ें बना देती हैं। इसे हम मतिभ्रम कहते हैं. आम तौर पर, मतिभ्रम का मतलब ऐसी चीज़ को देखना या सुनना है जो वहां नहीं है। कृत्रिम बुद्धिमत्ता (एआई) में, एक मॉडल मतिभ्रम करता है जब वह ऐसा उत्तर देता है जो प्रशंसनीय लगता है लेकिन तथ्यात्मक रूप से गलत है। यह एक उद्धरण का आविष्कार कर सकता है, एक संख्या को गलत बता सकता है, एक कानूनी मामला गढ़ सकता है या गलत व्यक्ति को एक उद्धरण दे सकता है।
यह कोई छोटी-मोटी खामी नहीं है. चिकित्सा, कानून, वित्त, विज्ञान और पत्रकारिता में मतिभ्रम खतरनाक हो सकता है। एक मेडिकल चैटबॉट जो सलाह का आविष्कार करता है वह कल्पनाशील नहीं बल्कि असुरक्षित है। एक कानूनी उपकरण जो केस कानून बनाता है वह अविश्वसनीय है।
हमारी स्वाभाविक प्रवृत्ति मतिभ्रम को खत्म करना चाहती है लेकिन यह जितना दिखता है उससे कहीं अधिक कठिन है। बड़े भाषा मॉडल (एलएलएम) डेटाबेस की तरह काम नहीं करते हैं, तथ्यों को साफ-सुथरी पंक्तियों और स्तंभों में संग्रहीत करते हैं, और पूछे जाने पर सही उत्तर प्राप्त करते हैं। उन्हें पाठ के विशाल संग्रह पर प्रशिक्षित किया जाता है और भाषा में सांख्यिकीय पैटर्न सीखते हैं। जब संकेत दिया जाता है, तो वे एक समय में एक टुकड़ा, आगे क्या होगा, इसकी भविष्यवाणी करके प्रतिक्रिया उत्पन्न करते हैं।
“मुझे एक ऐसे कमरे की तस्वीर दिखाओ जिसमें हाथी न हों” के संकेत पर DALL-E की प्रतिक्रिया। | फोटो साभार: DALL-E से बनाई गई छवि
दो सेटिंग्स, एक ही डायल
एलएलएम एक समय में एक शब्द का पाठ तैयार करता है, प्रत्येक शब्द प्रशिक्षण के दौरान आत्मसात किए गए पैटर्न से निकाली गई एक संभावना है। तापमान नामक एक सेटिंग यह नियंत्रित करती है कि वे ड्रा कितने साहसिक हैं। यदि तापमान कम है, तो मॉडल सबसे सुरक्षित, सबसे पूर्वानुमानित अगला शब्द चुनेगा और एक सटीक और नीरस आउटपुट देगा। यदि तापमान अधिक है, तो मॉडल कम संभावित विकल्पों में पहुंच जाएगा और आपको आश्चर्यचकित करना शुरू कर देगा। यह वह डायल है जिसे आप तब चालू करते हैं जब आप मौसम रिपोर्ट के बजाय कविता चाहते हैं।
समस्या यह है कि वही डायल मतिभ्रम को नियंत्रित करता है। ए 2025 अध्ययन रिपोर्ट किए गए साक्ष्यों से पता चलता है कि रचनात्मकता और मतिभ्रम एक साथ बढ़ते हैं क्योंकि मॉडल को अधिक साहसी होने और कम संभावनाओं वाले क्षेत्रों का पता लगाने के लिए प्रोत्साहित किया जाता है। दूसरे शब्दों में, जो मॉडल वास्तव में कुछ नया लिखने का साहस करता है, वही मॉडल कुछ बनाने का साहस करता है।
एक अलग 2025 अध्ययन पाया गया कि जो तंत्र इन प्रणालियों को सीखे गए पैटर्न से हटकर उपन्यास, कल्पनाशील पाठ तैयार करने देते हैं, वही तंत्र हैं जो मतिभ्रम का द्वार खोलते हैं।
एक बेहतर मॉडल बनाना, जो एक के बिना दूसरे को कार्यान्वित करता है, कहना जितना आसान है, करना उतना ही आसान है। सितंबर 2025 में, OpenAI और जॉर्जिया टेक के शोधकर्ता तर्क दिया यह मतिभ्रम कोई बग नहीं है जिसे ठीक किया जाए, बल्कि यह एक सांख्यिकीय अनिवार्यता है कि इन प्रणालियों को कैसे प्रशिक्षित और परीक्षण किया जाता है। मॉडलों को, परीक्षा हॉल में छात्रों की तरह, अज्ञानता स्वीकार करने के बजाय अनुमान लगाने के लिए पुरस्कृत किया जाता है। एक आश्वस्त गलत उत्तर एक ईमानदार “मुझे नहीं पता” से बेहतर स्कोर दे सकता है।
आश्चर्य से सराबोर
दूसरा अध्ययन आगे बढ़ा, और यहीं पर पेनरोज़ कमरे में लौट आया। एलन ट्यूरिंग और कर्ट गोडेल के काम द्वारा निर्धारित गणना की सीमाओं के बारे में कंप्यूटर विज्ञान के मूलभूत प्रमेयों का सहारा लेते हुए, उन्होंने तर्क दिया कि कोई भी गणना योग्य मॉडल कभी भी सार्वभौमिक रूप से सही नहीं हो सकता है। हमेशा ऐसे प्रश्न रहेंगे जिन पर किसी भी मशीन का विफल होना अवश्यंभावी है। इस प्रकार देखा गया मतिभ्रम, हमारी इंजीनियरिंग में कोई दोष नहीं है, बल्कि गणना की सीमाओं द्वारा डाली गई एक लंबी छाया है।
पेनरोज़ ने विचारों के इस परिवार का उपयोग यह तर्क देने के लिए किया कि मानव सोच को केवल गणना तक सीमित नहीं किया जा सकता है। कई दार्शनिक और कंप्यूटर वैज्ञानिक सोचते हैं कि वह गलत हैं लेकिन आधुनिक शोधकर्ता दूसरी तरफ से उसी दीवार की ओर इशारा कर रहे हैं। पेनरोज़ ने कहा कि मशीनें सीमित हैं, मानव मस्तिष्क सीमित नहीं हैं। आधुनिक शोधकर्ताओं का कहना है कि मशीनें सीमित हैं, और यहां इसका प्रमाण है। दोनों इस बात पर सहमत हैं कि दीवार वहीं है।
हम इन प्रणालियों को सच्चा बनाने के लिए असाधारण प्रयास कर रहे हैं, और हमें करना भी चाहिए। लेकिन अगर सटीकता और कल्पना एक ही कुएं से आती है, तो त्रुटि से पूरी तरह से छुटकारा पाने वाली मशीन आश्चर्य से छुटकारा पाने वाली मशीन भी हो सकती है।
यह हमें अपने बारे में भी कुछ सिखा सकता है। मनुष्य भी हर समय नरम, व्यापक अर्थ में मतिभ्रम करता है। हम भविष्य की कल्पना करते हैं। हम कहानियां गढ़ते हैं. हम पैटर्न देखते हैं. हम परिकल्पनाएँ बनाते हैं। इसमें से अधिकांश गलत है – लेकिन इसमें से कुछ विज्ञान, कला, दर्शन और प्रौद्योगिकी बन जाता है। अंतर यह है कि मानव समाज ने कल्पना को अनुशासित करने के तरीके विकसित किए हैं। विज्ञान प्रयोगों का प्रयोग करता है। पत्रकारिता सत्यापन का उपयोग करती है। दर्शनशास्त्र तर्क का प्रयोग करता है।
शायद एआई को कुछ इसी तरह की आवश्यकता है: मतिभ्रम पर प्रतिबंध नहीं बल्कि इसके आसपास सत्यापन के बेहतर संस्थान।
विराज कुलकर्णी एक उद्यमी और एआई सलाहकार हैं जो 2012 से एआई सिस्टम का निर्माण, तैनाती और स्केलिंग कर रहे हैं। उन्होंने कैलिफोर्निया विश्वविद्यालय, बर्कले में कंप्यूटर विज्ञान का अध्ययन किया।
प्रकाशित – 24 जून, 2026 07:30 पूर्वाह्न IST