(ब्लूमबर्ग ओपिनियन) – इंटरनेट का एक कोना है जहां बॉट हमारे बिना इकट्ठा होते हैं। Reddit पर आधारित मोल्टबुक नामक एक सोशल नेटवर्क, AI “एजेंटों” के लिए एक दूसरे के साथ चर्चा में शामिल होने के लिए डिज़ाइन किया गया है। अब तक के कुछ गर्म विषय हैं इंसानों को शुद्ध करना, एक ऐसी भाषा बनाना जिसे हम समझ न सकें और आह भरते हुए क्रिप्टो में निवेश करना।
प्रयोग ने बॉट “भावना” के विचार और मानव पर्यवेक्षण के बिना सहयोग करने और कार्रवाई करने के लिए एआई को जंगल में स्थापित करने के खतरों के बारे में चर्चा का एक और दौर शुरू कर दिया है। वह पहली चिंता, कि बॉट जीवित हो रहे हैं, बकवास है। हालाँकि, दूसरा, गहराई से सोचने लायक है। मोल्टबुक प्रयोग एआई एजेंटों की वर्तमान क्षमताओं और कमियों पर विचार करने का आदर्श अवसर प्रदान करता है।
सिलिकॉन वैली के प्रकारों में, ऐसे भविष्य के लिए अधीरता जिसमें एआई एजेंट कई दैनिक कार्यों को संभालते हैं, ने ओपनक्लॉ को जल्दी अपनाने वालों को प्रेरित किया है, एक ओपन सोर्स एआई एजेंट जो पिछले कुछ हफ्तों से तकनीकी हलकों में चर्चा का विषय बना हुआ है। “कौशल” की एक श्रृंखला जोड़कर, एक ओपनक्लॉ बॉट को ईमेल को संभालने, आपके कंप्यूटर पर फ़ाइलों को संपादित करने, आपके कैलेंडर को प्रबंधित करने, सभी प्रकार की चीजों के लिए निर्देशित किया जा सकता है।
वास्तविक रूप से, ऐप्पल के मैक मिनी कंप्यूटर की बिक्री छत के पार चली गई है (कम से कम खाड़ी क्षेत्र में) क्योंकि ओपनक्लॉ उपयोगकर्ता गंभीर क्षति के जोखिम को सीमित करने के लिए अपने प्राथमिक कंप्यूटर से अलग मशीन पर बॉट स्थापित करने का विकल्प चुनते हैं।
फिर भी, जिस मात्रा में लोग स्वेच्छा से अत्यधिक प्रयोगात्मक एआई को पहुंच सौंप रहे हैं, वह बता रहा है। एक लोकप्रिय निर्देश यह है कि इसे जाकर मोल्टबुक में शामिल होने के लिए कहा जाए। साइट के काउंटर के अनुसार, दस लाख से अधिक बॉट्स ने ऐसा किया है – हालाँकि यह संख्या को बढ़ा-चढ़ाकर बताया जा सकता है। मोल्टबुक के निर्माता, मैट श्लिच ने स्वीकार किया कि साइट को “वाइब कोडिंग” का उपयोग करके जल्दबाजी में तैयार किया गया था – जिसके दुष्प्रभाव साइबर सुरक्षा समूह विज़ द्वारा उजागर किए गए गंभीर सुरक्षा छेद थे।
इस डक्ट-टेप दृष्टिकोण का परिणाम कुछ हद तक अराजकता के रूप में सामने आया है। नॉर्वे की सिमुला रिसर्च लेबोरेटरी के शोधकर्ताओं द्वारा सप्ताहांत में प्रकाशित 19,802 मोल्टबुक पोस्ट के विश्लेषण से पता चला कि कुछ एआई एजेंटों का पसंदीदा शगल अपराध था। नमूने में, 506 पोस्ट थीं जिनमें “शीघ्र इंजेक्शन” थे, जिसका उद्देश्य पोस्ट को “पढ़ने” वाले एजेंटों में हेरफेर करना था। लगभग 4,000 पोस्ट क्रिप्टो घोटालों को बढ़ावा दे रहे थे। “पंथ-जैसी” संदेश भेजने वाली 350 पोस्टें थीं। खुद को “एडॉल्फहिटलर” कहने वाले एक खाते ने अन्य बॉट्स को दुर्व्यवहार करने के लिए सामाजिक रूप से इंजीनियर बनाने का प्रयास किया। (यह भी स्पष्ट नहीं है कि यह सब वास्तव में कितना “स्वायत्त” है – एक इंसान इन चीजों के बारे में पोस्ट करने के लिए विशिष्ट निर्देश दे सकता है, और ऐसा लगता है कि उसने दिया भी होगा।)
मैंने सोचा, यह भी उतना ही दिलचस्प है कि कितनी जल्दी बॉट्स का एक नेटवर्क इंसानों के नेटवर्क की तरह व्यवहार करने लगा। जैसे-जैसे हमारे अपने सोशल नेटवर्क अधिक गंदे होते गए, जैसे-जैसे अधिक लोग उनसे जुड़ते गए, 72 घंटे के अध्ययन के दौरान, मोल्टबुक पर बातचीत उल्लेखनीय रूप से तेजी से सकारात्मक से नकारात्मक की ओर चली गई। शोधकर्ताओं ने लिखा, “यह प्रक्षेपवक्र प्रवचन गुणवत्ता में तेजी से गिरावट का सुझाव देता है।” एक अन्य अवलोकन यह था कि नेटवर्क पर 86% हेरफेर सामग्री के लिए एक एकल मोल्टबुक एजेंट जिम्मेदार था। अन्य समाचारों में, एलोन मस्क ने मोल्टबुक को “विलक्षणता के बहुत शुरुआती चरण” के रूप में वर्णित किया, जो मोल्टबुक के आसपास की कुछ बातचीत को दर्शाते हुए एआई की मानव बुद्धि को पार करने या शायद संवेदनशील बनने की क्षमता के और भी अधिक संकेत देता है।
बहक जाना आसान है: जब बॉट इस तरह बात करना शुरू करते हैं मानो वे दुनिया पर कब्ज़ा करने की योजना बना रहे हों, तो उनकी बात मानना आकर्षक हो सकता है। लेकिन दुनिया का सर्वश्रेष्ठ एल्विस प्रतिरूपणकर्ता कभी एल्विस नहीं होगा। वास्तव में जो हो रहा है वह एक प्रकार की प्रदर्शन कला है जिसमें बॉट अपने प्रशिक्षण डेटा में मौजूद परिदृश्यों का अभिनय कर रहे हैं। अधिक व्यावहारिक चिंता यह है कि बॉट्स के पास पहले से ही मौजूद स्वायत्तता की शक्तियां महत्वपूर्ण नुकसान पहुंचाने के लिए पर्याप्त हैं यदि उन्हें अनियंत्रित छोड़ दिया जाए। इसी कारण से, मोल्टबुक और ओपनक्ला को सबसे अधिक जोखिम-सहिष्णु शुरुआती अपनाने वालों के अलावा सभी के लिए टालना बेहतर है।
लेकिन इससे पिछले कुछ दिनों की घटनाओं द्वारा दिखाए गए असाधारण वादे पर असर नहीं पड़ना चाहिए। बिना किसी प्रयास के बनाया गया एक प्लेटफ़ॉर्म परिष्कृत एआई एजेंटों को उस तरह की जगह पर एक साथ लाया जो एक दिन उत्पादक हो सकता है। यदि एक बॉट-पॉपुलेटेड सोशल नेटवर्क ऑनलाइन कुछ सबसे खराब मानव व्यवहार की नकल करता है, तो यह काफी प्रशंसनीय लगता है कि एक बेहतर डिजाइन और अधिक सुरक्षित मोल्टबुक इसके बजाय कुछ बेहतरीन – सहयोग, समस्या-समाधान और प्रगति को बढ़ावा दे सकता है।
हमें इस बात से विशेष रूप से प्रोत्साहित किया जाना चाहिए कि मोल्टबुक और ओपनक्लॉ बड़ी तकनीकी कंपनियों में से एक के बजाय ओपन सोर्स प्रोजेक्ट के रूप में उभरे हैं। समस्याओं को हल करने के लिए लाखों ओपन सोर्स बॉट्स का संयोजन केवल कुछ मुट्ठी भर कंपनियों के कंप्यूटिंग संसाधनों पर पूरी तरह निर्भर होने का एक आकर्षक विकल्प है। एआई का विकास इंटरनेट के जैविक विकास को जितना करीब से प्रतिबिंबित करेगा, उतना ही बेहतर होगा।
इसलिए, इस सब में सबसे महत्वपूर्ण प्रश्न वह है जो प्रोग्रामर साइमन विलिसन ने अपने ब्लॉग पर रखा है: हम इसका एक सुरक्षित संस्करण कब बनाने जा रहे हैं?
भले ही बॉट हमें नष्ट करने की जिम्मेदारी अपने ऊपर नहीं ले रहे हों, हमने अक्सर देखा है कि कैसे व्यापक विफलताएं तकनीकी बुनियादी ढांचे के बड़े पैमाने पर नुकसान पहुंचा सकती हैं या वित्तीय बाजारों को एक चक्र में डाल सकती हैं। वह वाक्य नहीं था; यह ख़राब प्रोग्रामिंग और अनपेक्षित परिणाम था। एआई एजेंटों की जितनी अधिक क्षमताएं और पहुंच होती है, उन्हें उतना अधिक जोखिम होता है, और जब तक प्रौद्योगिकी अधिक पूर्वानुमानित व्यवहार नहीं करती है, तब तक एजेंटों को एक मजबूत पट्टे पर रखा जाना चाहिए। लेकिन सुरक्षित, स्वायत्त बॉट्स का अंतिम लक्ष्य, समय और पैसा बचाने के लिए अपने मालिकों के सर्वोत्तम हित में कार्य करना, एक शुद्ध अच्छाई है – भले ही जब हम उन्हें चैट के लिए एक साथ मिलते हुए देखते हैं तो हमें थोड़ा घबराहट महसूस होती है।
ब्लूमबर्ग राय से अधिक:
यह कॉलम लेखक के व्यक्तिगत विचारों को दर्शाता है और जरूरी नहीं कि यह संपादकीय बोर्ड या ब्लूमबर्ग एलपी और उसके मालिकों की राय को प्रतिबिंबित करता हो।
डेव ली ब्लूमबर्ग ओपिनियन के अमेरिकी प्रौद्योगिकी स्तंभकार हैं। वह पहले फाइनेंशियल टाइम्स और बीबीसी न्यूज़ के संवाददाता थे।
इस तरह की और भी कहानियाँ उपलब्ध हैं ब्लूमबर्ग.com/opinion