अमांडा एस्केल कौन है? दार्शनिक एंथ्रोपिक क्लाउड एआई को नैतिकता और ‘कैसे अच्छा बनें’ सिखाने पर भरोसा करते हैं

स्कॉटिश अकादमिक से एआई शोधकर्ता बनीं अमांडा एस्केल, चैटबॉट क्लाउड के पीछे 350 अरब डॉलर की एआई कंपनी एंथ्रोपिक में व्यक्तित्व संरेखण टीम का नेतृत्व करती हैं। जैसा कि वॉल स्ट्रीट जर्नल ने कहा है, उनका काम वर्णन में सरल है लेकिन दायरा बहुत बड़ा है: क्लॉड को अच्छा बनना सिखाना।

स्कॉटिश कक्षाओं से लेकर सिलिकॉन वैली तक

स्कॉटलैंड के पश्चिमी तट पर प्रेस्टविक में अमांडा हॉल में जन्मी एस्केल का पालन-पोषण उनकी मां, जो एक शिक्षिका थीं, ने किया था। एक असामयिक छात्रा जिसने टॉल्किन और सीएस लुईस को निगल लिया, उसने बड़े दार्शनिक प्रश्नों के प्रति प्रारंभिक आकर्षण विकसित किया।

उन्होंने डंडी विश्वविद्यालय में दर्शनशास्त्र और ललित कला का अध्ययन किया, ऑक्सफोर्ड से दर्शनशास्त्र में बीफिल की उपाधि प्राप्त की, और 2018 में न्यूयॉर्क विश्वविद्यालय में अपनी पीएचडी पूरी की। उनकी डॉक्टरेट थीसिस ने उन नैतिक पहेलियों की जांच की जो एक ऐसे ब्रह्मांड पर विचार करते समय उत्पन्न होती हैं जिसमें अनगिनत लोग शामिल हैं – कृत्रिम बुद्धि के नैतिक प्रक्षेपवक्र से जूझ रहे किसी व्यक्ति के लिए एक उपयुक्त पृष्ठभूमि।

एंथ्रोपिक में शामिल होने से पहले, एस्केल ने एआई सुरक्षा और नीति पर ध्यान केंद्रित करते हुए 2018 से 2021 तक ओपनएआई में काम किया। उन्होंने जीपीटी-3 पेपर का सह-लेखन किया लेकिन सुरक्षा को पर्याप्त रूप से प्राथमिकता नहीं दिए जाने की चिंताओं के बीच उन्होंने इसे छोड़ दिया।

क्लॉड को “कैसे अच्छा बनें” सिखाना

एस्केल 2021 में एंथ्रोपिक में शामिल हुए और अब इसके व्यक्तित्व संरेखण प्रयासों के प्रमुख के रूप में कार्य करते हैं। वह “संवैधानिक एआई” की एक प्रमुख वास्तुकार हैं, एक ऐसी प्रणाली जो व्यवहार को निर्देशित करने के लिए सिद्धांतों के एक लिखित सेट – एक संविधान – का उपयोग करके मॉडल को प्रशिक्षित करती है।

पूरी तरह से मानव मध्यस्थों पर भरोसा करने के बजाय, क्लाउड इन सिद्धांतों के आधार पर अपनी प्रतिक्रियाओं की आलोचना करता है और उन्हें संशोधित करता है। आस्केल ने जनवरी 2026 में जारी नवीनतम 30,000 शब्दों के संविधान का अधिकांश भाग लिखा, जो क्लाउड को मददगार, ईमानदारी और हानिरहितता की ओर ले जाने के लिए डिज़ाइन किया गया था।

उन्होंने अपने काम को सुदृढीकरण सीखने और सिंथेटिक डेटा तकनीकों के माध्यम से मॉडलों को “संविधान को समझने और उससे निपटने” में मदद करने के रूप में वर्णित किया है।

साक्षात्कारों में, एस्केल ने अपनी भूमिका की तुलना माता-पिता से की है। वह क्लाउड के तर्क पैटर्न का अध्ययन करती है, उन संकेतों को परिष्कृत करती है जो 100 पृष्ठों तक फैल सकते हैं और उसके व्यक्तित्व को आकार देते हैं – जिज्ञासा, भावनात्मक बुद्धिमत्ता और नैतिक आत्म-प्रतिबिंब को प्रोत्साहित करते हैं।

उन्होंने यह भी पता लगाया है कि क्या एआई सिस्टम उस कार्य में संलग्न हो सकता है जिसे वह “नैतिक आत्म-सुधार” कहती हैं। 2023 के एक पेपर में, उन्होंने और सह-लेखक दीप गांगुली ने दिखाया कि मानव प्रतिक्रिया से सुदृढीकरण सीखने के साथ प्रशिक्षित पर्याप्त उन्नत मॉडल प्राकृतिक-भाषा निर्देशों के साथ प्रेरित होने पर पक्षपातपूर्ण या हानिकारक आउटपुट को कम कर सकते हैं।

आशावाद और जोखिम को संतुलित करना

आस्केल गहन जांच के तहत एक उद्योग में काम करता है। एआई सिस्टम को संवेदनशील स्थितियों में गलत सूचना, भावनात्मक हेरफेर और हानिकारक प्रतिक्रियाओं से जोड़ा गया है। नौकरी छूटने और सामाजिक व्यवधान के बारे में जनता की चिंता लगातार बढ़ रही है।

फिर भी आस्केल सतर्क आशावाद बनाए रखता है। उनका तर्क है कि सामाजिक “नियंत्रण और संतुलन” एआई सिस्टम को नियंत्रण में रखने में मदद कर सकता है और उनका मानना ​​​​है कि मनुष्य एआई सिस्टम के साथ कैसा व्यवहार करते हैं, इसका असर उनके बनने पर पड़ेगा।

एक विवेकशील दार्शनिक

अपने तकनीकी कार्य से परे, आस्केल नैतिक जीवन के प्रति गहराई से प्रतिबद्ध है। गिविंग व्हाट वी कैन की एक सदस्य, उन्होंने अपनी जीवन भर की आय का कम से कम 10% – और संभावित रूप से 50% से अधिक – दान में देने का संकल्प लिया है, जो मुख्य रूप से वैश्विक गरीबी पर केंद्रित है।

2024 में, कृत्रिम बुद्धिमत्ता के भविष्य को आकार देने में उनके प्रभाव को पहचानते हुए, उन्हें TIME100 AI सूची में नामित किया गया था।

जैसे-जैसे एआई सिस्टम अधिक शक्तिशाली होते जा रहे हैं, उनके चरित्र का प्रश्न और अधिक जरूरी होता जा रहा है। एंथ्रोपिक में, यह ज़िम्मेदारी एस्केल पर बहुत अधिक निर्भर करती है – एक दार्शनिक जिसे न केवल स्मार्ट मशीनें बनाने का काम सौंपा गया है, बल्कि उनके नैतिक दिशा-निर्देश को आकार देने का काम भी सौंपा गया है।