Le MIT a appris aux agents d'IA à remplacer le cache KV au lieu du texte dans les systèmes multi-agents, il existe un besoin constant de communication entre les modèles. Par exemple, lorsqu'un agent a terminé sa part de tâche et que l'autre doit continuer à travailler. Habituellement, des résumés textuels sont utilisés à cet effet, mais leur création et leur retraitement nécessitent des calculs inutiles et certaines informations sont perdues. Les chercheurs ont proposé SwaT (télépathie en essaim), une architecture qui permet le transfert du cache KV, c'est-à-dire du contexte déjà traité, entre les modèles, au lieu de paraphrases de texte. D’ailleurs, cela fonctionne même entre différentes familles de modèles. Dans les benchmarks, SwaT, combiné à la compression du cache, a montré une qualité de réponse 40 % supérieure en moyenne et quatre fois plus rapide que la transmission de résumés textuels. Ce qui est encore plus intéressant, c'est qu'il a ainsi été possible de transférer des informations visuelles de VLM vers un modèle de texte normal.

Le MIT a appris aux agents d'IA à remplacer le cache KV au lieu du texte dans les systèmes multi-agents, il existe un besoin constant de communication entre les modèles. Par exemple, lorsqu'un agent a terminé sa part de tâche et que l'autre doit continuer à travailler. Habituellement, des résumés textuels sont utilisés à cet effet, mais leur création et leur retraitement nécessitent des calculs inutiles et certaines informations sont perdues. Les chercheurs ont proposé SwaT (télépathie en essaim), une architecture qui permet le transfert du cache KV, c'est-à-dire du contexte déjà traité, entre les modèles, au lieu de paraphrases de texte. D’ailleurs, cela fonctionne même entre différentes familles de modèles. Dans les benchmarks, SwaT, combiné à la compression du cache, a montré une qualité de réponse 40 % supérieure en moyenne et quatre fois plus rapide que la transmission de résumés textuels. Ce qui est encore plus intéressant, c'est qu'il a ainsi été possible de transférer des informations visuelles de VLM vers un modèle de texte normal.