उपकरणमा चल्ने मोडेलहरू बादल छोड्न योग्य भइरहेका छन्
साना मोडेलहरूको नयाँ लहर तपाईंको ल्यापटप वा फोनमा पूर्ण रूपमा चल्छ — छिटो, निजी, र API मिटर बिना।

वर्षौंसम्म अनुमान गरिएको थियो कि उपयोगी AI अरूको डाटा केन्द्रमा हुनुपर्छ। त्यो अनुमान चुपचाप भत्किँदैछ।
साना मोडेलहरूको नयाँ पुस्ता — केही अर्ब प्यारामिटरहरू, उपभोक्ता हार्डवेयरमा चल्न क्वान्टाइज गरिएको — अब सारांश, मस्यौदा, वर्गीकरण र कोड पूरा गर्न सञ्जाल नछुँदै पर्याप्त राम्रो छ।
पूर्वनिर्धारित रूपमा निजी
स्थानीय रूपमा चलाउँदा गोपनीयताको कथा उल्टिन्छ। केही पनि उपकरण छोड्दैन, प्रति-अनुरोध लागत छैन, र मोडेल हवाई जहाज वा तलघरमा पनि काम गरिरहन्छ।
सम्झौता क्षमता हो: सबैभन्दा ठूला फ्रन्टियर मोडेलहरू अझै पनि सबैभन्दा कठिन तर्क कार्यहरूमा जित्छन्। तर दैनिक कामहरूको लामो पुच्छरको लागि, “मेरो मेसिनमा पर्याप्त राम्रो” ले “उत्कृष्ट र नापिएको” लाई पछाडि पार्न थालेको छ।


