Microsoft ने MU नामक एक छोटे AI मॉडल को रोल किया है जो Copilot+ PCs पर स्थानीय रूप से चलता है। यह क्लाउड सर्वर पर भरोसा करने के बजाय डिवाइस की तंत्रिका प्रसंस्करण इकाई का उपयोग करके उपयोगकर्ताओं को तेज और सटीक सहायता देने के लिए डिज़ाइन किया गया है। MU पहले से ही Windows Insider Dev चैनल में उपयोगकर्ताओं के लिए Windows सेटिंग्स ऐप का समर्थन करता है। आप प्राकृतिक भाषा के प्रश्नों को टाइप कर सकते हैं जैसे “टर्न ऑन नाइट लाइट,” और एमयू वास्तविक समय में समझता है और प्रतिक्रिया करता है।
क्या म्यू विशेष बनाता है?
मॉडल में 330 मिलियन पैरामीटर हैं और ट्रांसफॉर्मर एनकोडर-डिकोडर सेटअप का उपयोग करता है। यह इसे इनपुट और आउटपुट को अलग से संसाधित करने की अनुमति देता है, जिससे बेहतर गति और कम देरी होती है। Microsoft का दावा है कि MU प्रति सेकंड 100 से अधिक टोकन उत्पन्न करता है और इसके आकार के अन्य मॉडलों की तुलना में बहुत कम विलंबता है।
MU को Azure A100 GPU का उपयोग करके प्रशिक्षित किया गया था और समूहीकृत-क्वेरी ध्यान और रोटरी पोजिशनल एंबेडिंग जैसे उन्नत तरीकों के साथ ट्यून किया गया था। ये सीमित हार्डवेयर पर भी मॉडल को कुशलता से काम करने में मदद करते हैं।
यह सुनिश्चित करने के लिए कि एमयू विभिन्न पीसी पर अच्छी तरह से चलता है, माइक्रोसॉफ्ट ने इंटेल, एएमडी और क्वालकॉम के साथ भागीदारी की। प्रशिक्षण के बाद की मात्रा के साथ, मॉडल को 8-बिट और 16-बिट पूर्णांक जैसे कम-सटीक प्रारूपों के साथ काम करने के लिए अनुकूलित किया गया था। सरफेस लैपटॉप 7 जैसे उपकरणों पर, म्यू 200 टोकन प्रति सेकंड से अधिक आउटपुट की गति प्राप्त करता है। प्रारंभ में, Microsoft ने Phi लोरा नामक एक बड़े मॉडल का परीक्षण किया, जो सटीक लेकिन धीमा था। म्यू, ठीक-ट्यूनिंग के बाद, सटीकता की आवश्यकताओं को पूरा करते हुए अभी भी तेजी से साबित हुआ। टीम ने म्यू के डेटासेट को 3.6 मिलियन प्रशिक्षण नमूने शामिल करने और सैकड़ों विंडोज सिस्टम सेटिंग्स के लिए समर्थन जोड़ा। प्रॉम्प्ट ट्यूनिंग और शोर इंजेक्शन जैसी सुविधाओं ने वास्तविक दुनिया के प्रश्नों को समझने के लिए मॉडल की क्षमता में सुधार किया।
MU AI सुविधाओं को सीधे डिवाइस पर लाने के लिए Microsoft के व्यापक धक्का का हिस्सा है। यह PHI और PHI सिलिका जैसे मॉडलों से पहले के शोध पर बनाता है और संभवतः विंडोज पीसी पर भविष्य के एआई अनुभवों में महत्वपूर्ण भूमिका निभाएगा।
