टेस्ला के पूर्व एआई निदेशक और ओपनएआई के सह-संस्थापक आंद्रेज कारपैथी ने एआई सिस्टम को एक ‘एलियन टूल’ कहा है जो बिना मैनुअल के आता है। वरिष्ठ तकनीकी विशेषज्ञ, जिन्हें अक्सर टेस्ला के ऑटोपायलट और फुल सेल्फ-ड्राइविंग (एफएसडी) सिस्टम के लिए श्रेय दिया जाता है, ने यह भी कहा कि उन्होंने “एक प्रोग्रामर के रूप में इतना पीछे” महसूस नहीं किया है।
एक्स (पूर्व में ट्विटर) पर एक पोस्ट में, करपथी लिखा, “प्रोफेशन में नाटकीय रूप से बदलाव किया जा रहा है क्योंकि प्रोग्रामर द्वारा योगदान किए गए अंश तेजी से विरल और बीच में हैं। मुझे लगता है कि अगर मैं पिछले ~वर्ष में जो उपलब्ध हुआ है उसे ठीक से एक साथ जोड़ दूं तो मैं 10 गुना अधिक शक्तिशाली हो सकता हूं, और बढ़ावा देने का दावा करने में विफलता निश्चित रूप से एक कौशल मुद्दे की तरह महसूस होती है।”
इन दिनों एआई द्वारा अधिकांश कोडिंग किए जाने के साथ, करपैथी ने “मौलिक रूप से स्टोकेस्टिक, पतनशील, समझ से बाहर, और बदलती संस्थाओं के अचानक पुराने जमाने की अच्छी इंजीनियरिंग के साथ घुलमिल जाने” के नुकसान की ओर इशारा किया।
“स्पष्ट रूप से कुछ शक्तिशाली विदेशी उपकरण सौंपे गए थे, सिवाय इसके कि यह बिना किसी मैनुअल के साथ आता है और हर किसी को यह पता लगाना होगा कि इसे कैसे पकड़ना है और इसे कैसे संचालित करना है, जबकि परिणामी 9 तीव्रता का भूकंप पेशे को हिला रहा है। पीछे न रहने के लिए अपनी आस्तीन ऊपर उठाएं, “उन्होंने कहा।
क्या पूर्व ओपनएआई शोधकर्ता यहां इंगित कर रहा है कि पारंपरिक कोडिंग नियतात्मक है। यानी अगर आप किसी प्रोग्राम को एक ही कोड 1,000 बार देते हैं, तो आपको एक ही परिणाम मिलेगा। इसके अलावा, यदि कोड की एक पंक्ति टूट जाती है, तो आप यह देखने के लिए तर्क भी पढ़ सकते हैं कि प्रोग्राम में वास्तव में क्या गलत हुआ।
हालाँकि, जैसा कि करपैथी ने बताया, बड़े भाषा मॉडल (एलएलएम), वर्तमान के पीछे के बिल्डिंग ब्लॉक हैं ऐ उपकरण, स्टोकेस्टिक हैं। इसका मतलब यह है कि एलएलएम निश्चितता के बजाय संभाव्यता पर चलते हैं। इसके अलावा, ‘एलियन’ टैग ‘ब्लैक बॉक्स’ समस्या का संदर्भ हो सकता है, यानी, इन एलएलएम के डेवलपर्स की भी पूरी तरह से यह समझने में असमर्थता है कि वे किसी विशिष्ट समाधान पर कैसे पहुंचते हैं।
एआई की ब्लैक बॉक्स समस्या पर डारियो अमोदेई:
हालाँकि, करपैथी एलएलएम की गैर-नियतात्मक प्रकृति के बारे में बात करने वाले पहले व्यक्ति नहीं हैं anthropic सह संस्थापक दारियो अमोदेई पहले एआई मॉडल के ‘ब्लैक बॉक्स’ मुद्दे के बारे में चिंता जताई थी।
इस साल की शुरुआत में एक निबंध में, अमोदेई ने लिखा, “एआई प्रशिक्षण की प्रकृति यह संभव बनाती है कि एआई सिस्टम अपने आप में मनुष्यों को धोखा देने की क्षमता विकसित करेगा और इस तरह से शक्ति प्राप्त करने की प्रवृत्ति विकसित करेगा जो सामान्य नियतात्मक सॉफ्टवेयर कभी नहीं करेगा। यह उभरती प्रकृति ऐसे विकास का पता लगाना और उसे कम करना भी मुश्किल बना देती है।”
उन्होंने कहा, “ये प्रणालियाँ अर्थव्यवस्था, प्रौद्योगिकी और राष्ट्रीय सुरक्षा के लिए बिल्कुल केंद्रीय होंगी, और इतनी स्वायत्तता में सक्षम होंगी कि मैं मानवता के लिए इस बात से पूरी तरह से अनभिज्ञ होना मूल रूप से अस्वीकार्य मानता हूं कि वे कैसे काम करते हैं।”
