Границы применимости ИИ в государственном управлении: Память LLM-агентов vs память человека
Ключевые слова:
искусственный интеллект, агентные системы, контекст, знания, ответственностьАннотация
В последние годы большие языковые модели и агентные системы на их основе рассматриваются как перспективный инструмент цифровой трансформации государственного управления. Однако практическая эффективность таких систем определяется не только качеством текстовой генерации в узком смысле (грамматической корректностью, связностью и общей осведомленностью модели), но и тем, насколько надежно они удерживают контекст, извлекают ранее полученные сведения и воспроизводят процедурные правила в условиях длительных управленческих процессов. Для государственных организаций это, как правило, особенно критично: управленческая деятельность опирается на устойчивую память о нормативных требованиях, организационных регламентах, фактах конкретных дел и их хронологии.Цель. Целью статьи является определение границ применимости в государственном управлении агентных систем, основанных на больших языковых моделях, на основе сравнительного анализа моделей памяти человека и архитектур памяти таких агентных систем.Методы. В исследовании используется сравнительно-аналитический подход.Рассматриваются базовые когнитивные модели человеческой памяти и выделяются ее характеристики, значимые для управленческой деятельности. Далее анализируются архитектурные механизмы хранения и извлечения информации в агентных системах, функционирующих на основе больших языковых моделей, как их функциональная аналогия.Результаты. Установлено, что агентные системы воспроизводят внешние функции памяти человека за счет сочетания кратковременного контекста и внешних хранилищ знаний. Одновременно выявлены принципиальные расхождения, связанные с отсутствием автобиографичности, хронологии опыта, встроенных механизмов ответственности и причинно-следственной верификации. Эти ограничения повышают риск искажения контекста и затрудняют проверку сгенерированных утверждений.Выводы. Сделан вывод о том, что на сегодняшний день агентные системы, основанные на больших языковых моделях, не могут использоваться для автономного принятия решений в ответственных управленческих процедурах. Вместе с тем они обладают значительным потенциалом как когнитивные ассистенты государственных служащих при обязательном человеческом контроле и сохранении персональной ответственности.Скачивания
Библиографические ссылки
Кабанова Е. Е. Искусственный интеллект в государственном управлении: ключевые проблемы и перспективы применения // Russian Journal of Management. 2025. Т. 13, № 2. С. 1–14. DOI: 10.29039/2500-1469-2025-13-2-1-14
Кирилловых А. А. Цифровое государство (digital state): организационно-правовые аспекты. Москва : Юрлитинформ, 2022. 184 с. ISBN 978-5-4396-2425-6.
Михальченкова Н. А. Искусственный интеллект в контексте публичного управления // Власть. 2021. Т. 29, № 5. С. 122–127. DOI: 10.31171/vlast.v29i5.8545
Троян Н. А. Искусственный интеллект и его регулирование в сфере государственного управления: правовые аспекты // Мониторинг правоприменения. 2025. № 3. С. 59–65. EDN SNUECT
Федорченко С. Н. Искусственный интеллект в сфере политики, медиапространства и государственного управления // Журнал политических исследований. 2020. Т. 4, № 2. С. 3–9. URL: https://naukaru.ru/ru/nauka/article/38587/view
Федорченко С. Н. Цифровое государство и искусственный интеллект в публичном управлении : монография. Москва : Юрайт, 2021. 256 с. DOI: 10.33910/2707-0144-2021-3-1-7
Черешнева И. А. Искусственный интеллект в государственном управлении и транспарентность: европейский опыт // Государственная служба (Public Administration). 2022. № 2 (136). С. 80–87. DOI: 10.22394/2070-8378-2022-24-2-80-87
Atkinson R. C., Shiffrin R. M. Human memory: A proposed system and its control processes. In K. W. Spence & J. T. Spence (Eds.), The Psychology of Learning and Motivation (Vol. 2, pp. 89–195). New York: Academic Press, 1968. DOI: 10.1016/S0079-7421(08)60422-3
Bartlett F. C. Remembering: A Study in Experimental and Social Psychology. Cambridge: Cambridge University Press, 1932. 317 p. URL: https://archive.org/details/rememberingstudy0000bart_u8n7
Bender E. M., Gebru T., McMillan-Major A., Shmitchell S. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? // Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT). New York, NY, USA: ACM, 2021. P. 610–623. DOI: 10.1145/3442188.3445922
Bommasani R., Hudson D. A., Adeli E., et al. On the Opportunities and Risks of Foundation Models. Stanford, CA, USA: Stanford Center for Research on Foundation Models (CRFM), Stanford University, 2021. 212 p. URL: https://arxiv.org/abs/2108.07258
Brown T. B., Mann B., Ryder N., et al. Language Models are Few-Shot Learners // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2020. Vol. 33. P. 1877–1901. URL: https://arxiv.org/abs/2005.14165
Burgess N. The hippocampus, space and viewpoints in episodic memory // Quarterly Journal of Experimental Psychology A. 2002. 55 (4), P. 1057–1080. DOI: 10.1080/02724980244000224
Cajueiro D. O., Celestino V. R. R. A comprehensive review of Artificial Intelligence regulation: Weighing ethical principles and innovation // Journal of Economy and Technology. 2026. Vol. 4. P. 77–91. DOI: 10.1016/j.ject.2025.07.001
Conway M. A., Pleydell-Pearce C. W. The Construction of Autobiographical Memories // Psychological Review. 2000. Vol. 107, No. 2. P. 261–288. DOI: 10.1037/0033-295X.107.2.261
Jia Z., Liu Q., Li H., et al. Evaluating the Long-Term Memory of Large Language Models // Findings of the Association for Computational Linguistics (ACL). 2025. 18 p. URL: https://arxiv.org/abs/2402.03300
Lewis P., Perez E., Piktus A., et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2020. Vol. 33. P. 9459–9474. URL: https://arxiv.org/abs/2005.11401
Loftus E. F. False Memories // American Psychologist. 1995. Vol. 50, No. 9. P. 720–725. DOI: 10.1037/0003-066X.50.9.720
Park J. S., O’Brien J., Cai C. J., Morris M. R., Liang P., Bernstein M. S. Generative Agents: Interactive Simulacra of Human Behavior // arXiv.org. 2023. 32 p. URL: https://arxiv.org/abs/2304.03442
Petroni F., Rocktäschel T., Riedel S., Lewis P., Bakhtin A., Wu Y., Miller A. Language Models as Knowledge Bases? // Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP). Hong Kong: Association for Computational Linguistics, 2019. P. 2463–2473. DOI: 10.18653/v1/D19-1250
Schacter D. L. The Seven Sins of Memory: Insights from Psychology and Cognitive Neuroscience // American Psychologist. 1999. Vol. 54, No. 3. P. 182–203. DOI: 10.1037/0003-066X.54.3.182
Squire L. R. Mechanisms of Memory // Science. 1986. Vol. 232, No. 4758. P. 1612–1619. DOI: 10.1126/science.3086978
Squire L. R., Zola S. M. Structure and Function of Declarative and Nondeclarative Memory Systems // Proceedings of the National Academy of Sciences of the United States of America. 1996. Vol. 93, No. 24. P. 13515–13522. DOI: 10.1073/pnas.93.24.13515
Tulving E. Elements of Episodic Memory. Oxford: Oxford University Press, 1983. 351 p. URL: https://archive.org/details/elementsofepisod0000tulv
Tulving E. Episodic and Semantic Memory // Organization of Memory / Eds. E. Tulving, W. Donaldson. New York: Academic Press, 1972. P. 381–403. DOI: 10.1016/B978-0-12-702050-2.50008-4
Vaswani A., Shazeer N., Parmar N., et al. Attention Is All You Need // Advances in Neural Information Processing Systems (NeurIPS). Red Hook, NY, USA: Curran Associates, Inc., 2017. Vol. 30. P. 5998–6008. URL: https://arxiv.org/abs/1706.03762
Zhong W., Yu S., Wu C., et al. MemoryBank: Enhancing Large Language Models with LongTerm Memory // Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto, CA, USA: AAAI Press, 2024. URL: https://arxiv.org/abs/2305.10260.
