Radar Telegram alerts باز کردن Radar

MIT به عوامل هوش مصنوعی یاد داد که به جای متن در سیستم های چند عاملی، حافظه پنهان KV را جایگزین کنند، نیاز دائمی به برقراری ارتباط بین مدل ها وجود دارد. به عنوان مثال، زمانی که یکی از ماموران بخشی از وظیفه خود را به پایان رساند و دیگری باید به کار خود ادامه دهد. معمولاً برای این کار از خلاصه متن استفاده می شود، اما ایجاد و پردازش مجدد آنها نیاز به محاسبات غیر ضروری دارد و برخی اطلاعات از بین می رود. محققان SwaT (تله پاتی ازدحام) را پیشنهاد کردند، معماری ای که به انتقال حافظه نهان KV، به معنای بافت از قبل پردازش شده، اجازه می دهد تا بین مدل ها به جای بازنویسی متن، منتقل شود. علاوه بر این، حتی بین خانواده های مختلف مدل ها نیز کار می کند. در معیارها، SwaT، همراه با فشرده سازی حافظه پنهان، به طور متوسط ​​40٪ کیفیت پاسخ بالاتر و چهار برابر سریعتر از ارسال خلاصه متن را نشان داد. نکته جالبتر این است که به این ترتیب امکان انتقال اطلاعات بصری از VLM به یک مدل متن معمولی وجود داشت.

תרגם לעברית

Data Secrets (RU) · · منبع

MIT به عوامل هوش مصنوعی یاد داد که به جای متن در سیستم های چند عاملی، حافظه پنهان KV را جایگزین کنند، نیاز دائمی به برقراری ارتباط بین مدل ها وجود دارد. به عنوان مثال، زمانی که یکی از ماموران بخشی از وظیفه خود را به پایان رساند و دیگری باید به کار خود ادامه دهد. معمولاً برای این کار از خلاصه متن استفاده می شود، اما ایجاد و پردازش مجدد آنها نیاز به محاسبات غیر ضروری دارد و برخی اطلاعات از بین می رود. محققان SwaT (تله پاتی ازدحام) را پیشنهاد کردند، معماری ای که به انتقال حافظه نهان KV، به معنای بافت از قبل پردازش شده، اجازه می دهد تا بین مدل ها به جای بازنویسی متن، منتقل شود. علاوه بر این، حتی بین خانواده های مختلف مدل ها نیز کار می کند. در معیارها، SwaT، همراه با فشرده سازی حافظه پنهان، به طور متوسط ​​40٪ کیفیت پاسخ بالاتر و چهار برابر سریعتر از ارسال خلاصه متن را نشان داد. نکته جالبتر این است که به این ترتیب امکان انتقال اطلاعات بصری از VLM به یک مدل متن معمولی وجود داشت.

MIT به عوامل هوش مصنوعی یاد داد که به جای متن در سیستم های چند عاملی، حافظه پنهان KV را جایگزین کنند، نیاز دائمی به برقراری ارتباط بین مدل ها وجود دارد. به عنوان مثال، زمانی که یکی از ماموران بخشی از وظیفه خود را به پایان رساند و دیگری باید به کار خود ادامه دهد. معمولاً برای این کار از خلاصه متن استفاده می شود، اما ایجاد و پردازش مجدد آنها نیاز به محاسبات غیر ضروری دارد و برخی اطلاعات از بین می رود. محققان SwaT (تله پاتی ازدحام) را پیشنهاد کردند، معماری ای که به انتقال حافظه نهان KV، به معنای بافت از قبل پردازش شده، اجازه می دهد تا بین مدل ها به جای بازنویسی متن، منتقل شود. علاوه بر این، حتی بین خانواده های مختلف مدل ها نیز کار می کند. در معیارها، SwaT، همراه با فشرده سازی حافظه پنهان، به طور متوسط ​​40٪ کیفیت پاسخ بالاتر و چهار برابر سریعتر از ارسال خلاصه متن را نشان داد. نکته جالبتر این است که به این ترتیب امکان انتقال اطلاعات بصری از VLM به یک مدل متن معمولی وجود داشت.

بیشتر در Radar

می‌خواهید همه گزارش‌ها را لحظه‌ای ببینید؟

صدها منبع از سراسر جهان، ترجمه‌شده به زبان شما، با هشدار برای آنچه برایتان مهم است.

ثبت‌نام رایگان
Share on WhatsApp Get alerts on Telegram