Radar Telegram alerts Ouvrir Radar

Les chercheurs ont proposé une mémoire pour le mémorandum LLM : elle lit l'intégralité de la base documentaire et agrège la requête souhaitée en 16 vecteurs. Les documents sont codés une seule fois par Qwen3-Embedding-4B, et le formateur de 194 millions de dm alimente ces 16 vecteurs directement dans les symboles d'entrée Qwen3-8B. Selon les mesures des auteurs, la méthode aboutit à 5 mesures sur 8 parmi les versions de RAG, Mem0, MemoRAG et full context. Dans FactKG, la précision est de 84,33 % contre 80,43 % en contexte complet tout en réduisant la partie document de la saisie de 108 fois. Mais sur PubMedQA Memorilla 59% contre 67-69% pour les bonnes pratiques, et sur NarrativeQA (ROUGE) et PersonnalisationV4 avant MmoRAG. Le module a également été entraîné sur des parties d'entraînement des mêmes 8 mesures, et de petits détails lors de la compression, selon les auteurs, peuvent être perdus. De plus, vous devez avoir accès à l'intégration de l'entrée du modèle, n'utilisez donc pas la méthode API de texte normale. Chaîne @neuro.

תרגם לעברית

Нейроканал (RU) · · Source

Les chercheurs ont proposé une mémoire pour le mémorandum LLM : elle lit l'intégralité de la base documentaire et agrège la requête souhaitée en 16 vecteurs. Les documents sont codés une seule fois par Qwen3-Embedding-4B, et le formateur de 194 millions de dm alimente ces 16 vecteurs directement dans les symboles d'entrée Qwen3-8B. Selon les mesures des auteurs, la méthode aboutit à 5 mesures sur 8 parmi les versions de RAG, Mem0, MemoRAG et full context. Dans FactKG, la précision est de 84,33 % contre 80,43 % en contexte complet tout en réduisant la partie document de la saisie de 108 fois. Mais sur PubMedQA Memorilla 59% contre 67-69% pour les bonnes pratiques, et sur NarrativeQA (ROUGE) et PersonnalisationV4 avant MmoRAG. Le module a également été entraîné sur des parties d'entraînement des mêmes 8 mesures, et de petits détails lors de la compression, selon les auteurs, peuvent être perdus. De plus, vous devez avoir accès à l'intégration de l'entrée du modèle, n'utilisez donc pas la méthode API de texte normale. Chaîne @neuro.

Plus sur Radar

Envie de voir tous les signalements en temps réel ?

Des centaines de sources dans le monde, traduites dans votre langue, avec des alertes sur ce qui compte pour vous.

Inscription gratuite
Share on WhatsApp Get alerts on Telegram