تستهلك نماذج الذكاء الاصطناعي الكثير من الذاكرة. يحتاج نموذج الذكاء الاصطناعي بـ 27 مليار بارامتر، والذي يعتبر متوسط الحجم وفقًا لمعايير الصناعة، إلى حوالي 54 جيجابايت من الذاكرة للعمل بدقة نصفية. معظم أجهزة الكمبيوتر المحمولة لا يمكنها استيعاب ذلك. وحتى بعض أجهزة الكمبيوتر المكتبية لا تستطيع.
في وقت سابق من هذا الأسبوع، أصدرت PrismML نموذجًا بحجم 3.9 جيجابايت - وهو صغير بما يكفي ليناسب جهاز iPhone.
البارامترات هي عدد الإعدادات والتعديلات التي يمكن للنموذج التعامل معها. كلما زادت البارامترات، كان النموذج أكثر كثافة وقدرة.
Bonsai 27B هو أول نموذج من فئة 27B يتجاوز سقف ذاكرة الهواتف الذكية الاستهلاكية، حيث يعمل بسرعة 11 رمزًا في الثانية على iPhone 17 Pro Max. (الرموز هي الوحدة الأساسية للمعلومات التي يمكن لنماذج الذكاء الاصطناعي التعامل معها وإنتاجها.) المتغير الثلاثي، بحجم 5.9 جيجابايت، يصل إلى حوالي 26 رمزًا في الثانية على جهاز كمبيوتر محمول M5 Pro. كلاهما متاح مجانًا بموجب ترخيص Apache 2.0.
تعمل طريقة الضغط، المبنية على ملكية فكرية من Caltech، على تقليل كل وزن في النموذج من 16 بت من دقة النقطة العائمة إلى إشارة واحدة - +1 أو -1 في البناء الثنائي، وواحدة من ثلاث قيم في البناء الثلاثي. تشارك كل مجموعة من 128 وزنًا عامل قياس 16 بت، مما يجعل المتغير الثنائي 1.125 بت لكل وزن: أصغر بـ 14 مرة من الأصل ذو الدقة الكاملة. يضيف النموذج الثلاثي حالة صفرية لقوة تعبيرية أكبر قليلاً ويستقر عند 1.71 بت.
بمعنى أسهل، هذا يعني أن نموذج الذكاء الاصطناعي الثلاثي يستخدم ثلاثة إعدادات فقط لكل قيمة داخلية - سالبة أو صفرية أو موجبة - بينما يمكن للذكاء الاصطناعي القياسي الاختيار من حوالي 65000 إعداد.
أنجزت PrismML ذلك دون فقدان كبير في جودة الإخراج.
ما يميز هذا عن نماذج "البتات المنخفضة" التقليدية هو عدم وجود مخرج عالي الدقة: فالتمثيلات (embeddings)، والانتباه (attention)، ورأس نموذج اللغة الكامل كلها مضغوطة من البداية إلى النهاية. تحتفظ معظم البنى الكمية (quantized builds) بطبقات حساسة معينة بدقة كاملة، مما يؤدي إلى زيادة حجمها كمقايضة للحصول على جودة أفضل. Bonsai لا تتبع هذه القاعدة.
هذا هو الإصدار الرئيسي الثاني في هذه الفئة. في مارس، أطلقت PrismML نموذج Bonsai 8B، وهو نموذج بحجم 1.15 جيجابايت أثبت أن بنية البت الواحدة يمكنها البقاء على قيد الحياة بـ 8 مليارات بارامتر دون انهيار منطقها. القفزة إلى 27 مليار بارامتر هي حيث تتغير الرهانات - هذا النطاق هو المكان الذي يظهر فيه التفكير المتسلسل المستمر، واستخدام الأدوات الموثوق به، والسلوك العاملي متعدد الخطوات بشكل ثابت - وهي الأشياء التي لا تزال النماذج الأصغر تتعثر فيها.
عبر 15 معيارًا تم تقييمها في وضع التفكير على وحدات معالجة الرسوميات NVIDIA H100 - تشمل المعرفة والرياضيات والبرمجة واستخدام الأدوات - يحقق Ternary Bonsai 27B متوسط 80.49، أو 94.6% من أداء النموذج ذي الدقة الكاملة. بينما يصل المتغير ذو البت الواحدة إلى 76.11.
بشكل عام، في المعايير، تقدم النماذج أداءً أفضل بكثير من Gemma 4 أو Qwen 3.6 من حيث الإمكانات التي تقدمها لحجمها.
النماذج جيدة جدًا لما تقدمه، وبالنظر إلى قلة الموارد التي تتطلبها، فإنها ترتقي بالأجهزة الصغيرة (الهواتف الذكية وأجهزة الكمبيوتر منخفضة الجودة) إلى مستوى آخر من القدرات. يحقق AIME25 و AIME26، المصممان على غرار اختبار الرياضيات الأمريكي التنافسي، نسبة 93.7% لـ Ternary Bonsai 27B مقابل 95.3% لـ Qwen 3.6B الأكبر بكثير. يسجل Bonsai 86 نقطة في البرمجة مقابل 88 لـ Qwen 3.6، و77% في المعرفة العامة مقابل 83 لـ Qwen 3.6.
يستخدم النموذج أيضًا بنية اهتمام هجينة حيث يكون ما يقرب من 75% من الطبقات خطيًا بدلاً من الاهتمام التربيعي الكامل. هذه البنية هي التي تجعل نافذة السياق بحجم 262 ألف رمز عملية على الجهاز - وهو أمر سيجعل حزمة الاهتمام القياسية مكلفة للغاية على أجهزة الهاتف.
لقد قمنا بتشغيل Bonsai 27B بأنفسنا. تتطلب البرمجة التكرار: المطالبات أحادية اللقطة لن تنافس نماذج السحابة المتطورة. كونها محلية ومجانية يجعل ذلك غير ذي صلة. بالنسبة للعبة "Zombie Type" الخاصة بنا - وهي لعبة رعب كتابة من منظور الشخص الأول تعمل على المتصفح - أنتجت جولتان من البرمجة التفاعلية اكتشاف تصادم نظيفًا ومنطق تسجيل صحيحًا ورسومات متماسكة. يستوعب النموذج البنية مبكرًا؛ وتعمل الجولة الثانية على تحسينها بدلاً من إعادة بنائها.
من المثير للاهتمام أن بعض النماذج (مثل الهياكل العظمية) بدت أكثر تفصيلاً من تلك التي أنتجتها GPT 5.6 Sol. هذا لا يعني أنها أفضل بأي حال من الأحوال، فقط في هذه المهمة أنتجت هيكلًا عظميًا لطيفًا بينما اتخذ ملك الذكاء الاصطناعي خيارًا أسلوبيًا أضعف.
اللعبة متاحة للاختبار هنا.
الكتابة الإبداعية هي قصة أكثر تأهيلاً، والمعايير أكثر ذاتية.
بشكل تقريبي، النتائج ليست إبداعية بشكل خاص إذا كان لديك طلب (prompt) أحادي دون إعداد مسبق.
ومع ذلك، ينتج Bonsai قصصًا بمنطق داخلي متسق، وتحديد وتيرة، وتسلسل أحداث - أفضل، أو على قدم المساواة مع Claude Haiku أو حتى Sonnet بجهد أقل على المطالبات المماثلة. وبالنسبة لنموذج يعمل بالكامل على جهازك الخاص دون تكاليف API، فهذا أمر يستحق الإشادة.
يمكن العثور على القصة التي أنشأتها في مستودع GitHub الخاص بنا.
تشحن PrismML أيضًا طبقة فك تشفير تخمينية (DSpark speculative decoding layer) جنبًا إلى جنب مع النموذج - وهي أداة مساعدة خفيفة الوزن تقترح كتلًا من الرموز المرشحة، والتي يتحقق منها النموذج الرئيسي في تمريرة أمامية واحدة بدلاً من التوليد رمزًا برمز. على H100 يضيف ذلك زيادة في الإنتاجية بمقدار 1.37x دون تغيير في جودة الإخراج، حيث يحافظ التحقق على التوزيع الدقيق للمخرجات. على Apple Silicon لم يتم تمكينه افتراضيًا بعد، ولكن بالنسبة لخدمة وحدات معالجة الرسوميات (GPU) فهو مكسب حقيقي.
يضيف اهتمام أبل بعدًا تجاريًا. أكد الرئيس التنفيذي لشركة PrismML، باباك حسيب، لشبكة CNBC أن الشركة تجري محادثات أولية مع أبل، التي تقوم بتقييم تقنية الضغط لاستخدامها المحتمل على الأجهزة.
قال حسيب إن نموذج Gemma المضغوط هو التالي في خط الإنتاج، يليه نماذج متطورة أكبر؛ Bonsai 27B ذو البت الواحدة متاح الآن للتنزيل المجاني بموجب ترخيص Apache 2.0. إذا كنت بحاجة إلى دليل تشغيل نماذج مثل هذه محليًا، فراجع دليلنا.
