लेस्ली मैथिस को पता है कि उसकी बेटी ने जो कहा वह गलत था। लेकिन उसे कभी उम्मीद नहीं थी कि 13 वर्षीय लड़की को इसके लिए गिरफ्तार किया जाएगा।
किशोर लड़की ने अपने सहपाठियों के साथ ऑनलाइन चैट करते हुए एक आक्रामक मजाक बनाया, ट्रिगर किया स्कूल की निगरानी सॉफ्टवेयर।
सुबह भी खत्म होने से पहले, टेनेसी आठवें ग्रेडर को गिरफ्तार किया गया था। उससे पूछताछ की गई, स्ट्रिप-सर्च किया गया और रात को जेल की कोठरी में बिताई, उसकी मां कहती हैं।
इससे पहले दिन में, उसके दोस्तों ने किशोर को उसके तने हुए रंग के बारे में चिढ़ाया था और उसे “मैक्सिकन” कहा था, भले ही वह नहीं है। जब एक दोस्त ने पूछा कि वह गुरुवार के लिए क्या योजना बना रही है, तो उसने लिखा: “गुरुवार को हम सभी मेक्सिको को मारते हैं।”
मैथिस ने कहा कि टिप्पणियां “गलत” और “बेवकूफ” थीं, लेकिन संदर्भ से पता चला कि वे कोई खतरा नहीं थे।
“इसने मुझे ऐसा महसूस कराया, क्या यह अमेरिका है जिसमें हम रहते हैं?” मैथिस ने अपनी बेटी की गिरफ्तारी के बारे में कहा। “और यह बेवकूफ, बेवकूफ तकनीक थी जो सिर्फ यादृच्छिक शब्दों को उठा रही है और संदर्भ को नहीं देख रही है।”
अमेरिकी स्कूलों में निगरानी प्रणाली तेजी से छात्रों को स्कूल खातों और उपकरणों पर लिखने वाली हर चीज की निगरानी करती है। हजारों स्कूल जिले देश भर में बच्चों की ऑनलाइन गतिविधियों को ट्रैक करने के लिए गैगल और लाइटस्पीड अलर्ट जैसे सॉफ़्टवेयर का उपयोग करें, उन संकेतों की तलाश करें जो वे खुद को या दूसरों को चोट पहुंचा सकते हैं। की मदद से कृत्रिम होशियारीप्रौद्योगिकी ऑनलाइन बातचीत में डुबकी लगा सकती है और तुरंत स्कूल के अधिकारियों और कानून प्रवर्तन दोनों को सूचित कर सकती है।
शिक्षकों का कहना है कि प्रौद्योगिकी ने जान बचाई है। लेकिन आलोचकों ने चेतावनी दी कि यह लापरवाह शब्दों के लिए बच्चों को अपराधी बना सकता है।
सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के एक निदेशक एलिजाबेथ लेयर्ड ने कहा, “इसने कानून प्रवर्तन पहुंच और छात्रों के जीवन में उपस्थिति को नियमित किया है, जिसमें उनके घर भी शामिल है।”
स्कूल की गोलीबारी से थके हुए देश में, कई राज्यों ने स्कूलों में खतरों पर एक कठिन लाइन ली है। उनमें टेनेसी है, जिसने 2023 शून्य-सहिष्णुता कानून को पारित किया, जिसमें एक स्कूल के खिलाफ बड़े पैमाने पर हिंसा के किसी भी खतरे की आवश्यकता होती है, जिसे तुरंत कानून प्रवर्तन को सूचित किया जाए।
अगस्त 2023 में गिरफ्तार की गई 13 वर्षीय लड़की फेयरव्यू मिडिल स्कूल में अपने स्कूल के ईमेल में बंधे एक चैट फंक्शन पर दोस्तों के साथ टेक्स्टिंग कर रही थी, जो छात्रों के खातों की निगरानी के लिए गगले का उपयोग करती है। (एसोसिएटेड प्रेस अपनी गोपनीयता की रक्षा के लिए लड़की के नाम को वापस ले रहा है। स्कूल जिले ने टिप्पणी के अनुरोध का जवाब नहीं दिया।)
जेल में ले जाया गया, किशोर से पूछताछ की गई और स्ट्रिप-खोजा गया, और उसके माता-पिता को अगले दिन तक उससे बात करने की अनुमति नहीं थी, ए के अनुसार मुकदमा उन्होंने स्कूल प्रणाली के खिलाफ दायर किया। वह नहीं जानती थी कि उसके माता -पिता वहां क्यों नहीं थे।
“उसने मुझे बाद में बताया, ‘मुझे लगा कि तुम मुझसे नफरत कर रहे हो।” इस तरह का आप शिकार करते हैं, ”मैथिस ने कहा, लड़की की मां।
एक अदालत ने लड़की के लिए एक वैकल्पिक स्कूल में आठ सप्ताह की घर की गिरफ्तारी, एक मनोवैज्ञानिक मूल्यांकन और 20 दिनों का आदेश दिया।
गैगल के सीईओ, जेफ पैटरसन ने एक साक्षात्कार में कहा कि स्कूल प्रणाली ने गैगले का उपयोग नहीं किया जिस तरह से इसका इरादा है। उन्होंने कहा कि उद्देश्य शुरुआती चेतावनी के संकेतों को खोजने और कानून प्रवर्तन के लिए समस्याओं को बढ़ाने से पहले हस्तक्षेप करना है।
पैटरसन ने कहा, “मैं चाहता हूं कि एक कानून प्रवर्तन के क्षण के रूप में, न कि एक कानून के रूप में व्यवहार किया जाता।”
जो छात्र सोचते हैं कि वे दोस्तों के बीच निजी तौर पर बातचीत कर रहे हैं, उन्हें अक्सर एहसास नहीं होता है कि वे लगातार निगरानी में हैं, फ्लोरिडा के एक शिक्षा वकील शाहर पास्च ने कहा।
एक किशोर लड़की का उसने प्रतिनिधित्व किया, एक निजी स्नैपचैट कहानी पर स्कूल की शूटिंग के बारे में एक मजाक बनाया। स्नैपचैट के स्वचालित डिटेक्शन सॉफ्टवेयर ने टिप्पणी को उठाया, कंपनी ने एफबीआई को सचेत किया, और लड़की को घंटों के भीतर स्कूल के मैदान में गिरफ्तार किया गया।
16 साल की एलेक्सा मैंगानियोटिस ने कहा कि वह कितनी जल्दी सॉफ्टवेयर की निगरानी करती है। वेस्ट पाम बीच के ड्रेफोस स्कूल ऑफ द आर्ट्स, जिसमें वह भाग लेती है, पिछले साल पायलटेड लाइटस्पीड अलर्टएक निगरानी कार्यक्रम। अपने स्कूल अखबार के लिए एक शिक्षक का साक्षात्कार करते हुए, एलेक्सा ने दो छात्रों की खोज की, एक बार एक स्कूल के कंप्यूटर पर उस शिक्षक के बारे में कुछ धमकी दी, फिर इसे हटा दिया। एलेक्सा ने कहा कि लाइटस्पीड ने इसे उठाया, और “उन्हें पांच मिनट बाद ले जाया गया।”
एलेक्सा ने कहा कि किशोरों ने वयस्कों की तुलना में स्टेटर परिणामों का सामना किया, जो वे ऑनलाइन लिखते हैं, एलेक्सा ने कहा।
“अगर एक वयस्क एक सुपर नस्लवादी मजाक करता है जो उनके कंप्यूटर पर धमकी दे रहा है, तो वे इसे हटा सकते हैं, और उन्हें गिरफ्तार नहीं किया जाएगा,” उसने कहा।
लाइटस्पीड सिस्टम्स के लिए स्टाफ के प्रमुख एमी बेनेट ने कहा कि सॉफ्टवेयर बदमाशी, आत्म-हानि, हिंसा या दुरुपयोग के शुरुआती चेतावनी संकेतों की पहचान करके “दंडात्मक के बजाय सक्रिय होने” को समझने में मदद करता है।
प्रौद्योगिकी में मानसिक स्वास्थ्य संकटों के जवाब में कानून प्रवर्तन भी शामिल हो सकता है। अधिकारियों ने पब्लिक बोर्ड ऑफ एजुकेशन मीटिंग में कहा कि फ्लोरिडा के पोल्क काउंटी स्कूलों में, 100,000 से अधिक छात्रों के एक जिले में, स्कूल सुरक्षा कार्यक्रम को चार वर्षों में लगभग 500 गैगले अलर्ट प्राप्त हुए। इसने बेकर एक्ट के तहत 72 अनैच्छिक अस्पताल में भर्ती होने वाले मामलों को जन्म दिया, एक राज्य कानून जो अधिकारियों को अपनी इच्छाशक्ति के खिलाफ लोगों के लिए मानसिक स्वास्थ्य मूल्यांकन की आवश्यकता करने की अनुमति देता है यदि वे अपने या दूसरों के लिए जोखिम पैदा करते हैं।
दक्षिणी गरीबी कानून केंद्र के एक वकील सैम बॉयड ने कहा, “वास्तव में उच्च संख्या में बच्चे जो अनैच्छिक परीक्षा का अनुभव करते हैं, इसे वास्तव में दर्दनाक और हानिकारक अनुभव के रूप में याद करते हैं – ऐसा कुछ नहीं जो उन्हें उनकी मानसिक स्वास्थ्य देखभाल में मदद करता है।” पोल्क और वेस्ट पाम बीच स्कूल जिलों ने टिप्पणी नहीं दी।
जानकारी जो स्कूलों को सॉफ्टवेयर की प्रभावशीलता का आकलन करने की अनुमति दे सकती है, जैसे कि झूठे अलर्ट की दर, प्रौद्योगिकी कंपनियों द्वारा निकटता से आयोजित की जाती है और सार्वजनिक रूप से अनुपलब्ध है जब तक कि स्कूल स्वयं डेटा को ट्रैक नहीं करते हैं।
गैगल ने हाल ही में 10 महीने की अवधि में लॉरेंस, कंसास, स्कूल जिले में 1,200 से अधिक घटनाओं को सतर्क किया। सार्वजनिक रिकॉर्ड अनुरोध के माध्यम से प्राप्त आंकड़ों के एक एसोसिएटेड प्रेस विश्लेषण के अनुसार, स्कूल के अधिकारियों द्वारा लगभग दो-तिहाई अलर्ट को स्कूल के अधिकारियों द्वारा गैर-मुद्दों के रूप में समझा गया था-जिसमें छात्र होमवर्क से 200 से अधिक झूठे अलार्म शामिल थे।
एक में छात्र फोटोग्राफी वर्ग चिंताओं पर प्रिंसिपल के कार्यालय में बुलाया गया था कि गैगल ने नग्नता का पता लगाया था। फ़ोटो को स्वचालित रूप से छात्रों के Google ड्राइव से हटा दिया गया था, लेकिन जिन छात्रों के पास अपने स्वयं के उपकरणों पर ध्वजांकित छवियों का बैकअप था, यह दिखाया गया था कि यह एक गलत अलार्म था। जिला अधिकारियों ने कहा कि उन्होंने बाद में झूठे अलर्ट को कम करने के लिए सॉफ्टवेयर की सेटिंग्स को समायोजित किया।
2024 में स्नातक करने वाली नताशा टोर्कज़बान ने कहा कि उन्हें एक दोस्त के कॉलेज के निबंध को संपादित करने के लिए ध्वजांकित किया गया था क्योंकि इसमें “मानसिक स्वास्थ्य” शब्द थे।
“मुझे लगता है कि आदर्श रूप से हम एआई के एक नए और चमकदार समाधान को किशोर मानसिक स्वास्थ्य और अमेरिका में आत्महत्या की दर के एक गहरे अंकुरित मुद्दे पर नहीं छड़ी करेंगे, लेकिन यह वह जगह है जहां हम अभी हैं।” वह लॉरेंस हाई स्कूल में छात्र पत्रकारों और कलाकारों के एक समूह में से एक थी, जिन्होंने दायर किया मुकदमा पिछले हफ्ते स्कूल प्रणाली के खिलाफ, गागले ने उन्हें असंवैधानिक निगरानी के अधीन किया।
स्कूल के अधिकारियों ने कहा है कि वे गंभीरता से गग्ल के बारे में चिंता करते हैं, लेकिन यह भी कहते हैं कि प्रौद्योगिकी ने आत्महत्या या हिंसा के दर्जनों आसन्न खतरों का पता लगाया है।
जुलाई 2024 की बोर्ड की बैठक में बोर्ड ऑफ एजुकेशन के सदस्य ऐनी कोस्टेलो ने कहा, “कभी -कभी आपको अधिक से अधिक अच्छे के लिए व्यापार को देखना पड़ता है।”
उनके अध्यादेश के दो साल बाद, मैथिस ने कहा कि उसकी बेटी बेहतर कर रही है, हालांकि वह अभी भी स्कूल के अधिकारियों में से एक में भागने के लिए “भयभीत” है जिसने उसे गिरफ्तार किया था। एक उज्ज्वल स्थान, उसने कहा, उसकी बेटी के वैकल्पिक स्कूल में शिक्षकों की करुणा थी। उन्होंने हर दिन समय लिया ताकि बच्चों को अपनी भावनाओं और कुंठाओं को साझा करने के लिए, बिना निर्णय के।
मैथिस ने कहा, “यह ऐसा है जैसे हम चाहते हैं कि बच्चे इन छोटे सैनिक हों, और वे नहीं हैं।” “वे सिर्फ मनुष्य हैं।”
इस रिपोर्टिंग ने YouTube पर पोस्ट की गई स्कूल बोर्ड की बैठकों की समीक्षा की, जिला व्यू के सौजन्य से, शोधकर्ताओं टायलर सिमको, मिर्या होल्मन और रेबेका जॉनसन द्वारा बनाई गई एक डेटासेट।
