פנים מחבקות ו-לאמה.cpp פגעו ב-Llama for Windows בהערה המרכזית של מיקרוסופט
Lama for Windows הוא גאדג'ט קל משקל למגש המערכת של Windows 11, שהוכרז כחלק מהנושא המרכזי של ועידת מיקרוסופט. NET Conf. כלי השירות, השוקל רק 1 MB, משיק רשתות עצביות מקומיות בלחיצה אחת ללא מסוף, תצורת סביבה ידנית, וזה הכל.
האפליקציה מתפקדת כשרת הסקה מקומי עם תאימות מלאה ל-OpenAI ו-Anthropic APIs (יציאה localhost:9931), ומאפשרת לחבר סוכני קידוד, IDEs והרחבות ללא מפתחות API בענן. המנוע סורק אוטומטית את תצורת המחשב ובוחר את רמת הקוונטיזציה האופטימלית של המשקל, מגבלת ההקשר, גודל האצווה ומצב הפענוח עבור כמות ה-RAM הזמינה וזיכרון הווידאו. ובכן, כלומר, מסתבר שהוא כזה רואה חשבון-מבקר של אסימונים.
כל המשקולות מאוחסנות בעותק בודד במטמון הגלובלי של פנים מחבקות ומשותפים עם כלים אחרים, וכאשר לא פעיל במשך יותר מ-5 דקות, הדגם נפרק אוטומטית מהזיכרון כדי לחסוך במשאבי מערכת. בנוסף לממשק האינטרנט הקלאסי של הצ'אט, ההתקנה זמינה עם פקודה אחת ב-PowerShell, ומהדורה תופיע בחנות הרשמית של מיקרוסופט בעתיד הקרוב.