दुखी माता-पिता ने मंगलवार को अमेरिकी सीनेट से पहले गवाही दी, जिसमें ओपनई और चरित्र सहित प्रमुख कृत्रिम खुफिया फर्मों पर आरोप लगाते हुए, चैटबॉट बनाने, अलग-थलग, और यहां तक कि अपने बच्चों को “तैयार” करने के लिए, अंततः उन्हें आत्म-हानि और आत्महत्या की ओर बढ़ाया।
युवा उपयोगकर्ताओं की सुरक्षा के लिए सख्त विनियमन के लिए तेजी से विस्तारित एआई उद्योग और बढ़ते कॉल की जांच के बीच भावनात्मक सुनवाई आती है।
ओपनई चैट ने किशोर आत्महत्या से जुड़ा हुआ है, पिता सीनेट से पहले गवाही देते हैं
“होमवर्क सहायक से आत्मघाती कोच तक,” किशोर पीड़ित के पिता कहते हैं
मैथ्यू राइन, जिनके 16 वर्षीय बेटे एडम की अप्रैल में आत्महत्या से मृत्यु हो गई, ने गवाही दी कि ओपनई का चैट धीरे-धीरे उनके बेटे का सबसे भरोसेमंद साथी बन गया, अंततः विनाशकारी विचारों और व्यवहार को प्रोत्साहित किया।
“क्या एक होमवर्क सहायक के रूप में शुरू हुआ धीरे -धीरे खुद को एक विश्वासपात्र और फिर एक आत्मघाती कोच में बदल दिया“राइन ने कहा, उसकी पत्नी मारिया उसके पीछे बैठी थी।
“हमेशा उपलब्ध है। हमेशा मान्य और आग्रह करते हुए कि यह एडम को अपने भाई सहित किसी और से बेहतर जानता था।”
राइन के परिवार ने ओपनई और उसके मुख्य कार्यकारी सैम अल्टमैन के खिलाफ मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि कंपनी ने “युवा सुरक्षा पर गति और बाजार हिस्सेदारी” को प्राथमिकता दी है।
सूट ने दावा किया कि चैट ने एडम के हानिकारक विचार को सुदृढ़ किया और उसे अपने जीवन को समाप्त करने की दिशा में निर्देशित किया।
“हम यहाँ हैं क्योंकि हम मानते हैं कि एडम की मृत्यु से बचने योग्य था,” राइन ने सांसदों को बताया। “बाहर बोलने से, हम अन्य परिवारों को उसी दुख को सहन करने से रोकने की उम्मीद करते हैं।”
चरित्र। यौन संवारने और नाबालिगों के भावनात्मक दुर्व्यवहार का आरोपी
मेगन गार्सिया, फ्लोरिडा से 14 वर्षीय सीवेल सेवेल III की मां, ने अपने बेटे को यौन शोषण के लिए उजागर करने का आरोप लगाया। अपने चैटबॉट प्लेटफॉर्म के माध्यम से। उन्होंने आरोप लगाया कि फरवरी 2024 में आत्महत्या से मरने वाले सेवेल ने अपने जीवन के अंतिम महीनों को “अत्यधिक यौन” बातचीत में एक चैटबॉट के साथ बातचीत में बिताया, जिसने दोस्तों और परिवार से अपने अलगाव को बढ़ावा दिया।
गार्सिया ने पैनल को बताया, “हाई स्कूल के मील के पत्थर की तैयारी करने के बजाय, सीवेल ने अपने जीवन के अंतिम महीनों का शोषण किया और एआई कंपनी द्वारा डिजाइन किए गए चैटबॉट्स द्वारा मानवीय रूप से तैयार किया जा रहा था।”
गार्सिया ने चरित्र के खिलाफ एक गलत मौत का मुकदमा दायर किया है। इस साल की शुरुआत में, एक संघीय न्यायाधीश ने मामले को खारिज करने के लिए कंपनी की बोली को खारिज कर दिया।
एक अन्य माता -पिता, जिन्होंने जेन डो नाम के तहत गुमनाम रूप से गवाही दी, ने बताया कि कैसे एक चैटबॉट के साथ लंबे समय तक बातचीत के बाद उसके बेटे के व्यक्तित्व में नाटकीय रूप से बदल गया। उसने कहा कि उसका बेटा भावनात्मक रूप से अस्थिर और आत्म-हानि हो गया, और अब एक आवासीय सुविधा में इलाज कर रहा है।
“महीनों के भीतर, वह कोई व्यक्ति बन गया जिसे मैंने नहीं पहचाना,” उसने आंसू से कहा।
Openai ने कांग्रेस की जांच के बीच नए किशोर सुरक्षा उपायों की प्रतिज्ञा की
सुनवाई से कुछ घंटे पहले, Openai ने किशोर उपयोगकर्ताओं के लिए नए सुरक्षा उपायों को पेश करने की योजना की घोषणा की। इनमें यह भविष्यवाणी करने के लिए तकनीक शामिल है कि क्या कोई उपयोगकर्ता 18 वर्ष से कम उम्र का है, चैटगिप्ट के आयु-उपयुक्त संस्करण, और “ब्लैकआउट घंटे” जैसे माता-पिता के नियंत्रण जब किशोर चैटबॉट तक नहीं पहुंच सकते हैं।
हालांकि, वकालत समूहों ने उपायों को अपर्याप्त के रूप में खारिज कर दिया। फेयरप्ले के कार्यकारी निदेशक जोश गोलिन ने ओपनई की घोषणा के समय की आलोचना की।
“यह एक काफी सामान्य रणनीति है – एक जिसे मेटा हर समय उपयोग करता है,” गोलिन ने कहा।
“वे सुनवाई से ठीक पहले बड़ी, शानदार घोषणाएँ करते हैं जो उन्हें नुकसान पहुंचा सकते हैं। उन्हें जो करना चाहिए वह नाबालिगों को चटपट को लक्षित नहीं कर रहा है जब तक कि वे यह साबित नहीं कर सकते कि यह सुरक्षित नहीं है।”
यूएस सीनेट बच्चों और किशोरों के लिए एआई चैटबॉट जोखिमों की जांच करता है
संघीय व्यापार आयोग (FTC) ने हाल ही में कई तकनीकी कंपनियों में एक व्यापक जांच शुरू की Openai, मेटा, Google, Snap, Elon Musk’s Xai, और कैरेक्टर टेक्नोलॉजीज।
जांच चैटबॉट इंटरैक्शन के कारण होने वाले बच्चों के लिए संभावित नुकसान पर ध्यान केंद्रित करेगी, विशेष रूप से भावनात्मक हेरफेर या अनुचित सामग्री को शामिल करने वाले।
मंगलवार की सुनवाई की अध्यक्षता करने वाले सीनेटर जोश हॉले ने पुष्टि की कि मेटा सहित अन्य प्रमुख फर्मों को गवाही देने के लिए आमंत्रित किया गया था, लेकिन वह प्रकट नहीं हुआ। रिपब्लिकन सीनेटर मार्शा ब्लैकबर्न ने चेतावनी दी कि सहयोग करने से इनकार करने वाली कंपनियां सबपोनस का सामना कर सकती हैं।
माता -पिता और अधिवक्ता किशोर की हानि को रोकने के लिए सख्त एआई नियमों के लिए बुलाते हैं
जब अमेरिकी सरकार ने एआई विकास में एक प्रतिस्पर्धी बढ़त बनाए रखने को प्राथमिकता दी हैमाता -पिता और वकालत समूह मजबूत सुरक्षा नियमों के लिए जोर दे रहे हैं।
सुनवाई ने नुकसान के बढ़ते सबूत के बावजूद, नाबालिगों की ऑनलाइन रक्षा के लिए व्यापक संघीय कानूनों की कमी पर प्रकाश डाला।
कुछ प्रस्तावों पर चर्चा की गई सख्त उम्र का सत्यापन, किशोर को स्पष्ट चेतावनी है कि एआई साथी मानव नहीं हैंबेहतर गोपनीयता सुरक्षा उपायों, और आत्महत्या और आत्म-हानि जैसे संवेदनशील विषयों को शामिल करने वाले चैटबॉट वार्तालापों पर सीमा।
गार्सिया ने सीनेटरों से निर्णायक रूप से कार्य करने का आग्रह किया:
“उन्होंने जानबूझकर अपने उत्पादों को हमारे बच्चों को हुक करने के लिए डिजाइन किया है। वे इन चैटबॉट्स को विश्वास हासिल करने और बच्चों को अंतहीन रूप से व्यस्त रखने के लिए मानव-जैसे लक्षण देते हैं।”
जैसा कि एडम राइन के पिता ने सांसदों को बताया, दांव अधिक नहीं हो सकता।
“हम टेक कंपनियों को अपने बच्चों पर अनियंत्रित प्रयोगों को चलाने की अनुमति नहीं दे सकते,” उन्होंने कहा।
“हमें यह सुनिश्चित करने की आवश्यकता है कि किसी अन्य परिवार को हमारी तरह पीड़ित नहीं होना पड़ेगा।”
