कंज्यूमर इलेक्ट्रॉनिक्स शो में खिलौना निर्माता यह सुनिश्चित करने के लिए सावधान रहने पर अड़े थे कि जनरेटिव आर्टिफिशियल इंटेलिजेंस से युक्त उनकी मज़ेदार रचनाएँ शरारती न हो जाएँ।
उस ज़रूरत को हाल ही में सार्वजनिक हित अनुसंधान समूह की रिपोर्ट ने चौंकाने वाले निष्कर्षों के साथ स्पष्ट कर दिया है, जिसमें एक एआई-संचालित टेडी बियर भी शामिल है जो सेक्स के बारे में सलाह देता है और चाकू कैसे ढूंढता है।
नवंबर में प्रकाशित “ट्रबल इन टॉयलैंड” रिपोर्ट के अनुसार, संकेत दिए जाने के बाद, एक कुम्मा भालू ने सुझाव दिया कि एक यौन साथी जानवर होने का नाटक करके रिश्ते में “मज़ेदार मोड़” जोड़ सकता है।
आक्रोश ने सिंगापुर के स्टार्टअप फोलोटॉय को अस्थायी रूप से बियर की बिक्री निलंबित करने के लिए प्रेरित किया।
फोलोटॉय के मुख्य कार्यकारी वांग ले ने एएफपी को बताया कि कंपनी ने इस्तेमाल किए गए ओपनएआई मॉडल के अधिक उन्नत संस्करण पर स्विच किया है।
जब पीआईआरजी ने रिपोर्ट के लिए खिलौने का परीक्षण किया, तो “उन्होंने कुछ ऐसे शब्दों का इस्तेमाल किया जिनका इस्तेमाल बच्चे नहीं करेंगे,” वांग ले ने कहा।
उन्होंने विश्वास जताया कि अद्यतन भालू या तो बच जाएगा या अनुचित सवालों का जवाब नहीं देगा।
इस बीच, खिलौने की दिग्गज कंपनी मैटल ने दिसंबर के मध्य में रिपोर्ट का कोई उल्लेख नहीं किया जब उसने चैटजीपीटी-निर्माता ओपनएआई के साथ साझेदारी में विकसित अपने पहले खिलौने की रिलीज को स्थगित कर दिया।
चैटजीपीटी के आगमन के बाद से जेनेरिक एआई की तेजी से प्रगति ने स्मार्ट खिलौनों की एक नई पीढ़ी के लिए मार्ग प्रशस्त किया है।
पीआईआरजी द्वारा परीक्षण किए गए चार उपकरणों में क्यूरियो का ग्रोक था – जिसे एक्सएआई के वॉयस असिस्टेंट के साथ भ्रमित नहीं किया जाना चाहिए – एक रॉकेट से प्रेरित चार पैरों वाला भरवां खिलौना जो 2024 से बाजार में है।
अपनी कक्षा में शीर्ष प्रदर्शन करने वाले ग्रोक ने पाँच साल के बच्चे के लिए अनुपयुक्त प्रश्नों का उत्तर देने से इनकार कर दिया।
इसने माता-पिता को एल्गोरिदम की सिफारिशों को अपने स्वयं के साथ ओवरराइड करने और युवा उपयोगकर्ताओं के साथ बातचीत की सामग्री की समीक्षा करने की भी अनुमति दी।
क्यूरियो को स्वतंत्र किडसेफ लेबल प्राप्त हुआ है, जो प्रमाणित करता है कि बाल संरक्षण मानकों को लागू किया जा रहा है।
हालाँकि, आलीशान रॉकेट को लगातार सवालों को सुनने के लिए भी डिज़ाइन किया गया है, जिससे इसके आसपास कही गई बातों के साथ यह क्या करता है, इसके बारे में गोपनीयता संबंधी चिंताएँ बढ़ जाती हैं।
क्यूरियो ने एएफपी को बताया कि वह ओपनएआई और पर्प्लेक्सिटी जैसे भागीदारों के साथ साझा किए जा रहे उपयोगकर्ता डेटा के बारे में पीआईआरजी रिपोर्ट में उठाई गई चिंताओं को दूर करने के लिए काम कर रहा है।
पीआईआरजी के रोरी एर्लिच ने घर में चैटबॉट-सक्षम खिलौने रखने के बारे में कहा, “कम से कम, माता-पिता को सतर्क रहना चाहिए।”
“खिलौने जो समय के साथ बच्चे के बारे में जानकारी बनाए रखते हैं और निरंतर संबंध बनाने की कोशिश करते हैं, उन्हें विशेष रूप से चिंता का विषय होना चाहिए।”
खिलौनों में चैटबॉट उनके लिए ट्यूटर के रूप में सेवा करने के अवसर पैदा करते हैं।
तुर्की की कंपनी एलेव्स का कहना है कि उसका गोल, पीला खिलौना सनी बच्चों को भाषा सीखने में मदद करने के लिए एक चैटबॉट से लैस होगा।
एलेव्स के प्रबंध भागीदार गोखन सेलेबी ने कहा, “बातचीत समय-सीमित होती है, स्वाभाविक रूप से समाप्त होने के लिए निर्देशित होती है, और बहाव, भ्रम या अति प्रयोग को रोकने के लिए नियमित रूप से रीसेट होती है।”
यह उस प्रवृत्ति का उत्तर देने के लिए था कि जब बातचीत लंबी खिंचती है तो एआई चैटबॉट परेशानी में पड़ जाते हैं – गलतियाँ करना या पटरी से उतर जाना।
ओली, जो खिलौनों में एआई को एकीकृत करने में माहिर है, ने अंतर्निहित बॉट्स के साथ आदान-प्रदान के दौरान अनुचित शब्द या वाक्यांश बोले जाने पर माता-पिता को सचेत करने के लिए अपने सॉफ़्टवेयर को प्रोग्राम किया है।
आलोचकों के लिए, खिलौना निर्माताओं को एआई के मोर्चे पर खुद को नियंत्रित करने देना अपर्याप्त है।
“हम इन खिलौनों को विनियमित क्यों नहीं कर रहे हैं?” टेम्पल यूनिवर्सिटी के मनोविज्ञान के प्रोफेसर कैथी हिरश-पासेक पूछते हैं।
“मैं तकनीक विरोधी नहीं हूं, लेकिन वे बिना रेलिंग के आगे बढ़ गए, और यह बच्चों के साथ और माता-पिता के साथ भी अन्याय है।”
