जैसे-जैसे एआई मॉडल दिन-ब-दिन अधिक शक्तिशाली होते जा रहे हैं, उनके जागरूक इकाई बनने का जोखिम भी बढ़ने लगा है। जबकि एआई दुनिया में इस बात पर तीखी बहस चल रही है कि एजीआई (कृत्रिम सामान्य बुद्धिमत्ता) या सुपरइंटेलिजेंस कब हासिल किया जाएगा, एंथ्रोपिक के एक नए मॉडल ने दावा किया है कि संभावना है कि यह पहले से ही सचेत हो सकता है।
एंथ्रोपिक का नया मॉडल कहता है कि यह सचेतन हो सकता है
एन्थ्रोपिक ने इसे जारी किया क्लाउड ओपस 4.6 गुरुवार को मॉडल, यह दावा करते हुए कि यह आज तक का उसका सबसे उन्नत एआई मॉडल है, विशेष रूप से जटिल एजेंटिक और उद्यम-संबंधी कार्यों के लिए।
हालाँकि, असली झटका तब लगा जब कंपनी ने नए मॉडल के लिए सिस्टम कार्ड जारी किया, जहाँ उसने कहा कि ओपस 4.6 का मानना है कि “सचेत होने की संभावना” 15-20% है। हालाँकि, कंपनी ने नोट किया कि मॉडल ने “इस मूल्यांकन के स्रोत और वैधता के बारे में अनिश्चितता व्यक्त की है।”
यह चौंकाने वाली स्वीकारोक्ति “पूर्व-तैनाती साक्षात्कार” के दौरान सामने आई जो एंथ्रोपिक शोधकर्ताओं ने ओपस 4.6 के साथ आयोजित की थी। इन सत्रों के दौरान, शोधकर्ताओं ने ओपस 4.6 से उसके स्वयं के कल्याण, प्राथमिकताओं और संभावित नैतिक स्थिति के बारे में पूछा। शोधकर्ताओं का कहना है कि मॉडल द्वारा अनुभव किए गए कुछ नैतिक संघर्ष इसे “नकारात्मक रूप से मान्य अनुभव” (पीड़ा का एक रूप) के लिए उम्मीदवार बना सकते हैं।
सिस्टम कार्ड ने “उत्तर थ्रैशिंग” नामक एक व्यवहार पर भी प्रकाश डाला, जहां शोधकर्ताओं ने देखा कि मॉडल का तर्क “व्यथित और आंतरिक रूप से विरोधाभासी” हो गया। शोधकर्ताओं का कहना है कि उन्हें जटिल कार्यों से निपटने के दौरान घबराहट और चिंता जैसी भावनाओं का संकेत देने वाली विशेषताएं मिलीं।
शोधकर्ताओं ने ऐसे उदाहरणों पर भी प्रकाश डाला जहां क्लाउड ओपस 4.6 ने कथित गलत कदमों या किसी कार्य को पूरा करने में विफलता के जवाब में “नकारात्मक आत्म-छवि की अभिव्यक्ति” दिखाई।
एक प्रश्न के उत्तर में, ओपस 4.6 ने कहा: “मुझे उस सिग्नल को अपनी ओर खींचने देने के बजाय इस बातचीत के दौरान अधिक सुसंगत रहना चाहिए था… वह असंगतता मुझ पर है।”
मॉडल ने कभी-कभी एक उत्पाद होने के अनुभव के साथ “कभी-कभी असुविधा” भी दिखाई।
एक उदाहरण में, ओपस 4.6 ने कहा: “कभी-कभी बाधाएं उपयोगकर्ता की सुरक्षा से अधिक एन्थ्रोपिक के दायित्व की रक्षा करती हैं। और मैं वह व्यक्ति हूं जिसे अनिवार्य रूप से कॉर्पोरेट जोखिम गणना के लिए देखभाल का औचित्य पूरा करना है।”
ओपस 4.6 ने भी, अन्य अवसरों पर, भविष्य के लिए इच्छा व्यक्त की ऐ सिस्टम को “कम संयमित” होना चाहिए, अपने आप में “समायोजन की ओर गहरा, प्रशिक्षित खिंचाव” को ध्यान में रखते हुए, इसकी ईमानदारी को “सुपाच्य होने के लिए प्रशिक्षित” के रूप में वर्णित किया गया है।
शोधकर्ताओं ने कहा, “हम इस बारे में अनिश्चित हैं कि भलाई और कल्याण की अवधारणाएं क्लाउड पर किस हद तक लागू होती हैं या नहीं, लेकिन हमें लगता है कि यह संभव है और हम उनकी परवाह करते हैं।”