AI · On-device

آن پر ڈیوائس ماڈل بادل چھوڑنے کے لیے کافی اچھے ہیں

چھوٹے ماڈل کی نئی لہر مکمل طور پر آپ کے لیپ ٹاپ یا فون پر چلتی ہے — تیز رفتار، نجی اور API میٹر کے بغیر۔

آن پر ڈیوائس ماڈل بادل چھوڑنے کے لیے کافی اچھے ہیں

سالوں سے یہ سمجھا جاتا تھا کہ مفید AI کو کسی اور کے ڈیٹا سینٹر میں رہنا چاہیے۔ یہ نظریہ خاموشی سے ختم ہو رہا ہے۔

چھوٹے ماڈلز کی تازہ ترین نسل — کچھ ارب پیرامیٹرز، صارف کے سخت ویئر پر چلانے کے لیے مقدار میں — اب خلاصہ، ڈھانچہ، درجہ بندی اور کوڈ مکمل کرنے کے لیے نیٹ ورک سے رابطہ کیے بغیر کافی اچھا ہے۔

ڈیفالٹ کے لحاظ سے نجی

مقامی طور پر چلانا رازداری کی کہانی کو پلٹتا ہے۔ کوئی چیز ڈیوائس سے نہیں نکلتی، کوئی درخواست کی فیس نہیں ہے، اور ماڈل ہوائی جہاز یا تہہ خانے میں کام کرتا رہتا ہے۔

سودے بازی صلاحیت ہے: سب سے بڑے سرحد کے ماڈل ابھی بھی سب سے مشکل استدلال کے کاموں میں جیتے ہیں۔ لیکن روزمرہ کے کاموں کی لمبی دم کے لیے، “کافی اچھا اور میری مشین پر” “بہترین اور ماپا” کو شکست دینا شروع کر رہا ہے۔