amemor-ai®
🧠

Випадок вивчення: 77% ентітетів втрачено — потім 100% відновлено

Опубліковані дослідження на виробничих даних: чому якість контексту перемагає розмір моделі

Коли розмова LLM виходить за межі контекстного вікна, платформи здійснюють її стиснення — і втрачають інформацію. Ми вимірювали це в своїй виробничій багатоагентній розгіні: стандартне стиснення втратило 77% іменованих ентий (осіб, рішень, інструментів, дат). Після запиту про інтеграцію платіжного процесора, обговореного 90 хвилин тому, агент відповів: "Я не знаю".

Ми замінили компакцію трьохшаровою архітектурою зворотнього звернення над структурованою пам'яттю: ентитети зберігаються повністю, а агент отримує саме те, що потрібно на поточному етапі, за запитом.

Результат, виміряний на більш ніж 16 000 повідомленнях на двох виробничих екземплярах агента: 100% відновлення попередніх рішень (у порівнянні з 43% без цього), при цьому сесія розміром 46 МБ стискається в 35 кБ робочого контексту — зменшення навантаження на токени на 99,94%. Висновок опублікованої статті залишається справедливим: не плати за кращу модель, плати за кращу пам'ять.

Повна методологія, включаючи огляд 27 останніх статей від дослідницьких груп у Західній, китайській, корейській та японській країнах, опублікована як відкрита стаття компанією GLG, a.s. (березень 2026 року) — включаючи корейську та китайську версії.

Застосування — випадки використання