वेब पर एआई की ज़्यादातर सुविधाएं, सर्वर पर काम करती हैं. हालांकि, क्लाइंट-साइड एआई सीधे तौर पर उपयोगकर्ता के ब्राउज़र में काम करता है. इससे कई फ़ायदे मिलते हैं. जैसे, कम इंतज़ार, सर्वर साइड की लागत में कमी, एपीआई पासकोड की ज़रूरत नहीं पड़ना, उपयोगकर्ता की निजता को बेहतर बनाना, और ऑफ़लाइन ऐक्सेस. क्लाइंट-साइड एआई लागू किया जा सकता है, जो TensorFlow.js, Transformers.js, और MediaPipe GenAI जैसी JavaScript लाइब्रेरी के साथ सभी ब्राउज़र पर काम करता है.
क्लाइंट-साइड एआई की वजह से, परफ़ॉर्मेंस से जुड़ी समस्याएं भी आती हैं: उपयोगकर्ताओं को ज़्यादा फ़ाइलें डाउनलोड करनी पड़ती हैं और उनके ब्राउज़र को ज़्यादा काम करना पड़ता है. इसे बेहतर तरीके से काम करने के लिए, इन बातों का ध्यान रखें:
- डेटा का इस्तेमाल किस काम के लिए करना है. क्या आपकी सुविधा के लिए क्लाइंट-साइड एआई सही विकल्प है? क्या आपकी सुविधा, उपयोगकर्ता के सफ़र के दौरान किसी अहम चरण में है? अगर हां, तो क्या आपके पास फ़ॉलबैक है?
- मॉडल डाउनलोड करने और इस्तेमाल करने के सबसे सही तरीके. ज़्यादा जानने के लिए, आगे पढ़ें.
मॉडल डाउनलोड करने से पहले
माइंड लाइब्रेरी और मॉडल का साइज़
क्लाइंट-साइड एआई लागू करने के लिए, आपको एक मॉडल और आम तौर पर एक लाइब्रेरी की ज़रूरत होगी. लाइब्रेरी चुनते समय, उसके साइज़ का आकलन उसी तरह करें जिस तरह किसी दूसरे टूल का किया जाता है.
मॉडल का साइज़ भी मायने रखता है. एआई मॉडल के लिए, बड़े साइज़ का मतलब क्या है, यह कई बातों पर निर्भर करता है. 5 एमबी एक अच्छा नियम हो सकता है: यह वेब पेज के औसत साइज़ का 75वां प्रतिशत भी है. कम से कम 10 एमबी का होना चाहिए.
मॉडल के साइज़ के बारे में कुछ ज़रूरी बातें यहां दी गई हैं:
- टास्क के हिसाब से बनाए गए कई एआई मॉडल बहुत छोटे हो सकते हैं. BudouX जैसे मॉडल का साइज़, जीज़िप करने पर सिर्फ़ 9.4 केबी होता है. यह मॉडल, एशियाई भाषाओं में वर्णों को सही तरीके से बांटने के लिए इस्तेमाल किया जाता है. MediaPipe का भाषा पहचानने वाला मॉडल 315 केबी का है.
- विज़न मॉडल का साइज़ भी सही हो सकता है. Handpose मॉडल और उससे जुड़े सभी संसाधनों का कुल साइज़ 13.4 एमबी है. यह साइज़, ज़्यादातर छोटे किए गए फ़्रंटएंड पैकेज से काफ़ी ज़्यादा है. हालांकि, यह औसत वेब पेज के साइज़ के बराबर है. औसत वेब पेज का साइज़, डेस्कटॉप पर 2.2 एमबी और मोबाइल पर 2.6 एमबी होता है.
- जेन एआई मॉडल, वेब रिसॉर्स के लिए सुझाए गए साइज़ से ज़्यादा हो सकते हैं. DistilBERT का साइज़ 67 एमबी है. इसे बहुत छोटा एलएलएम या आसान एनएलपी मॉडल माना जाता है. हालांकि, इस बारे में अलग-अलग लोगों की अलग-अलग राय है. Gemma 2B जैसे छोटे एलएलएम का साइज़ भी 1.3 जीबी तक हो सकता है. यह साइज़, मीडियन वेब पेज के साइज़ से 100 गुना ज़्यादा है.
अपने ब्राउज़र के डेवलपर टूल की मदद से, उन मॉडल के डाउनलोड साइज़ का सटीक आकलन किया जा सकता है जिनका इस्तेमाल करना है.