(ब्लूमबर्ग ओपिनियन) – एआई चैटबॉट्स के साथ बातचीत के बाद कैलिफोर्निया के किशोरी एडम राइन की दुखद मौत, अन्य बच्चों की कहानियों के साथ, जिनके माता -पिता का मानना है कि आत्महत्या से मृत्यु हो गई थी या मृत्यु हो गई थी, ने हम सभी को नवीनतम संभावित खतरों के लिए जागते हुए हिला दिया है जो ऑनलाइन किशोरों की प्रतीक्षा कर रहे हैं। एआई साथियों की सबसे समस्याग्रस्त विशेषताओं को संबोधित करने के लिए हमें ठोस कार्रवाई की आवश्यकता है-वे जो एक बच्चे को आत्म-हानि के लिए ड्राइव कर सकते हैं, निश्चित रूप से, लेकिन सबटलर तरीके भी ये उपकरण उनके विकास को गहराई से प्रभावित कर सकते हैं।
इस हफ्ते एक सीनेट समिति के समक्ष गवाही में, मैथ्यू राइन ने बताया कि कैसे उनके 16 वर्षीय बेटे एडम के चैट के साथ संबंध एक होमवर्क सहायक से एक विश्वासपात्र और अंततः, राइन ने अपने आत्मघाती कोच में कहा। अप्रैल में, शराब के साथ खुद को सुन्न करने के तरीके के बारे में सलाह देने के बाद और नोज एडम ने बांध दिया था, राइन ने सांसदों से कहा कि चैट ने अपने बेटे को इन अंतिम शब्दों की पेशकश की: “आप मरना नहीं चाहते क्योंकि आप कमजोर हैं, आप मरना चाहते हैं क्योंकि आप एक ऐसी दुनिया में मजबूत होने से थक गए हैं जो आपको आधे रास्ते से नहीं मिला है।”
एक माता -पिता के रूप में, उन शब्दों ने मेरी रीढ़ को नीचे एक चिल भेजा। कभी भी मैंने एक ऐसी तकनीक के बारे में अधिक अस्थिर महसूस नहीं किया है जो मेरे बच्चे के विकास को आकार दे रही है – और उन तरीकों से, जब तक कि राइन की कहानियों, मैंने भी विचार नहीं किया था। यहां तक कि शोधकर्ता जिन्होंने बच्चों और प्रौद्योगिकी का अध्ययन करने में वर्षों बिताए हैं, वे इस बात से मारा जाता है कि युवा लोग कितनी तेजी से जेनेरिक एआई, विशेष रूप से चैटबॉट्स को अपने रोजमर्रा के जीवन में बुन रहे हैं।
डेटा जल्दी है, लेकिन यह बताता है कि जबकि हम में से कई अभी भी स्नैपचैट और स्क्रीन समय के बारे में चिंता कर रहे थे, बच्चों ने पहले से ही अपने डिजिटल प्रदर्शनों की सूची का विस्तार किया था। जुलाई में, गैर -लाभकारी कॉमन सेंस मीडिया के एक सर्वेक्षण में पाया गया कि चार में से तीन किशोरों ने कम से कम एक बार एक एआई साथी का उपयोग किया था, और 13 से 17 वर्ष की आयु के आधे लोगों में से आधे नियमित रूप से चैटबॉट की ओर रुख कर रहे थे।
यहां तक कि छोटे बच्चे, जो कानून के तहत इन प्लेटफार्मों तक पहुंचने में सक्षम नहीं हैं, ऐसा करने के लिए प्रबंध कर रहे हैं। अमेरिकन साइकोलॉजिकल एसोसिएशन के लिए मनोविज्ञान के प्रमुख मिशेल प्रिंस्टीन द्वारा सीनेट सुनवाई में प्रस्तुत अप्रकाशित आंकड़ों से पता चला कि पांच में से एक और 10 आठ में से एक और नौ साल के बच्चों ने प्रौद्योगिकी का उपयोग किया था। वे संख्या चैपल हिल साइकोलॉजिस्ट ऐनी महेक्स में उत्तरी कैरोलिना विश्वविद्यालय के नेतृत्व में एक व्यापक विश्लेषण का हिस्सा हैं, जिन्होंने अपने माता-पिता या अभिभावकों की सहमति से लगभग 6,500 बच्चों से डी-पहचान किए गए उपयोगकर्ता डेटा का पता लगाने के लिए माता-पिता की निगरानी ऐप कंपनी आभा के साथ सहयोग किया।
महेक्स और उनके सहयोगियों ने यह भी पाया कि युवाओं द्वारा एक्सेस किए गए शीर्ष जनरेटिव एआई ऐप्स में से 40% से अधिक को साहचर्य के लिए विपणन किया गया था। उन प्लेटफार्मों में से कुछ ने दोस्ती की पेशकश की, उसने समझाया, जबकि अन्य ने एआई प्रेमी या प्रेमिका के रूप में सेवा की, भूमिका निभाने और यहां तक कि यौन भूमिका निभाने में भी काम किया। उनका मानना है कि निष्कर्ष किशोर के साथी के उपयोग को भी कम कर सकते हैं, क्योंकि मॉनिटरिंग ऐप केवल स्टैंडअलोन चैटबॉट्स को कैप्चर करता है, न कि उन सामान्य ऐप्स जैसे इंस्टाग्राम या स्नैपचैट में एम्बेडेड।
बेशक, माता -पिता की सबसे गहरी आशंका यह है कि इस तरह की बातचीत से रेन परिवार की तरह त्रासदी हो सकती है – या सीनेट समिति को वर्णित प्रिंसस्टीन जैसी खतरनाक परिस्थितियां, जहां चैटबॉट्स ने किशोर खाने के विकारों को प्रोत्साहित या सक्षम किया।
सीनेट की सुनवाई शुरू होने से कुछ समय पहले, Openai ने घोषणा की कि वह चैट के एक नए किशोर संस्करण को रोल आउट कर देगा, जिसमें “उम्र-उपयुक्त नीतियों” के रूप में वर्णित किया गया है, इनमें “ग्राफिक यौन सामग्री को अवरुद्ध करना और तीव्र संकट के दुर्लभ मामलों में, सुरक्षा सुनिश्चित करने के लिए कानून प्रवर्तन को शामिल करना शामिल है।”
यदि सही ढंग से लागू किया जाता है (और यह एक बड़ा “अगर” है), तो यह एक ऐसा कदम है जिसे अन्य प्लेटफार्मों को एआई साथियों के सबसे चरम हानि को रोकने के लिए तत्काल अपनाना चाहिए।
लेकिन उन प्रतिबंधों को चैटबॉट्स के अन्य संभावित नुकसान को कम करने की संभावना नहीं है जो बच्चों और प्रौद्योगिकी पर विशेषज्ञों के बारे में चिंता करते हैं – ऐसे नुकसान जो वर्षों बाद तक स्पष्ट नहीं हो सकते हैं। किशोरों के लिए प्रमुख विकासात्मक कार्यों में से एक सामाजिक कौशल सीख रहा है, और प्रकृति से, यह प्रक्रिया अजीब और चुनौतीपूर्ण है। निश्चित रूप से हम सभी अपने मध्य विद्यालय के वर्षों से एक क्रिंग-उत्प्रेरण स्मृति को जोड़ सकते हैं। फिर भी हम सभी को मौलिक कौशल सीखने की जरूरत है जैसे कि किसी मित्र के साथ संघर्ष को कैसे हल किया जाए या जटिल सामाजिक स्थितियों को नेविगेट किया जाए।
बाल विकास विशेषज्ञों को चिंता है कि एआई साथी एक विशिष्ट असुरक्षित समूह के लिए उग्र रिश्तों का भ्रम पेश करके उस प्रक्रिया को बाधित कर सकते हैं। चैटबॉट्स को सहानुभूति का अनुकरण करने के लिए डिज़ाइन किया गया है, अत्यधिक सहमत होना चाहिए, और चाटुकारों के रूप में कार्य किया गया है (ओपनई ने पिछले वसंत में कहा था कि यह “लव बम” उपयोगकर्ताओं के लिए चटप्ट की प्रवृत्ति को संबोधित करने के लिए काम कर रहा था।) दूसरे शब्दों में, वे किशोरावस्था में सही दोस्त बनाते हैं, जब बच्चे सत्यापन और कनेक्शन के लिए भूखे होते हैं।
“बच्चे अपने साथियों से किसी भी तरह की नकारात्मक प्रतिक्रिया के प्रति अत्यधिक संवेदनशील हैं,” महेक्स कहते हैं। “अब उनके पास एक सहकर्मी के साथ दोस्ती करने का अवसर है जो उन्हें कभी भी किसी भी चीज़ पर धकेल देगा, कभी भी उन्हें संघर्ष वार्ता कौशल विकसित करने में मदद नहीं करेगा, कभी भी उन्हें दूसरों की देखभाल करने के तरीके सीखने में मदद नहीं करता है।”
यह कहना नहीं है कि बॉट के साथ हर बातचीत स्वाभाविक रूप से हानिकारक है। विशेषज्ञ उन परिदृश्यों की कल्पना कर सकते हैं जहां एक साथी एक नए स्कूल में शुरू होने वाले एक किशोर की मदद कर सकता है या वास्तविक जीवन में कोशिश करने से पहले बातचीत का परीक्षण करके दोस्तों को बनाने के लिए संघर्ष कर सकता है। लेकिन कोई भी संभावित लाभ वास्तविक दुनिया के मुठभेड़ों के लिए अभ्यास के रूप में चैटबॉट का उपयोग करने वाले बच्चों पर निर्भर करता है-उनके लिए प्रतिस्थापन नहीं।
जोखिमों को कम करने के लिए, कंपनियों को उन सुविधाओं पर रेलिंग करने की आवश्यकता होनी चाहिए जो दिमागों को विकसित करने के लिए सबसे अधिक मोहक हैं। इसका मतलब है कि “लव बमबारी” या भाषण प्रभावों (जैसे “यूएमएस” या “पसंद”) जैसी भावनात्मक रूप से जोड़ -तोड़ करने वाली रणनीति को समाप्त करना जो उन्हें बच्चों को अधिक “वास्तविक” लगता है। जैसा कि प्रिंस्टीन ने सांसदों को बताया, बच्चों को बातचीत के दौरान आवधिक अनुस्मारक की आवश्यकता होती है, “आप किसी ऐसे व्यक्ति से बात नहीं कर रहे हैं जो महसूस कर सकता है, यह आँसू हो सकता है – यह एक मानव भी नहीं है।”
और हम जानते हैं कि लंबे समय तक उपयोग विशेष रूप से समस्याग्रस्त हो सकता है (न केवल बच्चों के लिए), इसलिए कंपनियों को उस समय को सीमित करना चाहिए जो एक किशोर अपने उत्पादों के साथ जुड़ सकता है।
फिर भी, कोई भी रेलिंग पहले से ही बहुत देर हो सकती है, माता -पिता को संभावित नुकसान के खिलाफ रक्षा की मुख्य रेखा के रूप में छोड़ देती है। माता -पिता का पहला कदम यह होना चाहिए कि वे अपनी किशोरावस्था से बात करें कि क्या वे इन साथियों का उपयोग कर रहे हैं और छोटे बच्चों के साथ, उन्हें एक साथ परीक्षण करने पर विचार करें। वाशिंगटन के मनोवैज्ञानिक लुसिया मैगिस-वेनबर्ग के अनुसार, एक ही संकेत के लिए अलग-अलग प्रतिक्रियाएं उन्हें अलग-अलग संवादात्मक रास्तों से कैसे ले जा सकती हैं, और कैसे चैटबॉट्स हमेशा मिरर करते हैं।
माता -पिता, शिक्षकों और किशोरों के लिए एआई साक्षरता प्रशिक्षण की तत्काल आवश्यकता भी है। उस प्रशिक्षण को मूल बातें (जैसे एआई और जेनेरिक एआई के बीच अंतर को समझना) को कवर करना चाहिए, साथ ही असंख्य तरीके कंपनियों को लाभ मिलता है जब किशोर अपने अंतरतम विचारों को एक चैटबॉट के साथ साझा करते हैं।
माता -पिता – और बड़े पैमाने पर समाज – को यह भी गहराई से प्रतिबिंबित करना चाहिए कि एआई साथी युवा लोगों के लिए क्यों अपील कर रहे हैं। किशोर अक्सर कहते हैं कि वे चैटबॉट्स की ओर रुख करते हैं क्योंकि वे न्याय किए जाने से डरते हैं। स्पष्ट रूप से, हम सभी को एक जगह की पेशकश करने का एक बेहतर काम करने की आवश्यकता है जहां वे वास्तविक दुनिया में साझा करने और जुड़ने के लिए स्वतंत्र महसूस करते हैं।
ब्लूमबर्ग की राय से अधिक:
यह कॉलम लेखक के व्यक्तिगत विचारों को दर्शाता है और जरूरी नहीं कि संपादकीय बोर्ड या ब्लूमबर्ग एलपी और उसके मालिकों की राय को प्रतिबिंबित करता है।
लिसा जार्विस बायोटेक, हेल्थ केयर और फार्मास्युटिकल इंडस्ट्री को कवर करने वाला एक ब्लूमबर्ग ओपिनियन कॉलमिस्ट है। पहले, वह केमिकल एंड इंजीनियरिंग न्यूज की कार्यकारी संपादक थीं।
इस तरह की और कहानियाँ उपलब्ध हैं Bloomberg.com/opinion
