ഉപകരണ-അധിഷ്ഠിത മോഡലുകൾ ക്ലൗഡ് ഉപേക്ഷിക്കാൻ പറ്റിയത്ര നല്ലതായി
ചെറിയ മോഡലുകളുടെ ഒരു പുതിയ തരംഗം നിങ്ങളുടെ ലാപ്ടോപ്പിലോ ഫോണിലോ മുഴുവനായി പ്രവർത്തിക്കുന്നു — വേഗത്തിൽ, സ്വകാര്യമായി, API മീറ്ററില്ലാതെ.
വർഷങ്ങളോളം ഉപയോഗപ്രദമായ AI മറ്റൊരാളുടെ ഡാറ്റാ സെന്ററിൽ ആയിരിക്കണമെന്നായിരുന്നു അനുമാനം. ആ അനുമാനം ശാന്തമായി തകരുകയാണ്.
ചെറിയ മോഡലുകളുടെ ഏറ്റവും പുതിയ തലമുറ — ചില ബില്യൺ പാരാമീറ്ററുകൾ, ഉപഭോക്തൃ ഹാർഡ്വെയറിൽ പ്രവർത്തിക്കാൻ ക്വാണ്ടൈസ് ചെയ്തവ — ഇപ്പോൾ സംഗ്രഹത്തിനും ഡ്രാഫ്റ്റിംഗിനും ക്ലാസിഫിക്കേഷനും കോഡ് കംപ്ലീഷനും നെറ്റ്വർക്ക് സ്പർശിക്കാതെ നല്ലതാണ്.
സ്വകാര്യമായി ഡിഫോൾട്ടായി
പ്രാദേശികമായി പ്രവർത്തിക്കുന്നത് സ്വകാര്യതയുടെ കഥ മാറ്റുന്നു. ഒന്നും ഉപകരണം വിടുന്നില്ല, റിക്വസ്റ്റിന് ചെലവില്ല, മോഡൽ വിമാനത്തിലോ ബേസ്മെന്റിലോ പ്രവർത്തിക്കുന്നു.
വിട്ടുവീഴ്ച ശേഷിയാണ്: ഏറ്റവും വലിയ ഫ്രോണ്ടിയർ മോഡലുകൾ ഏറ്റവും ബുദ്ധിമുട്ടുള്ള റിസണിംഗ് ടാസ്ക്കുകളിൽ ഇപ്പോഴും ജയിക്കുന്നു. എന്നാൽ ദൈനംദിന ജോലികളുടെ നീണ്ട വാലിന്, “മതിയായതും എന്റെ മെഷീനിലും” എന്നത് “മികച്ചതും മീറ്റർ ചെയ്യപ്പെട്ടതും” എന്നതിനെ മറികടക്കാൻ തുടങ്ങുന്നു.
