JOURNAL OF MONETARY ECONOMICS AND MANAGEMENT JOURNAL OF MONETARY ECONOMICS AND MANAGEMENT JOURNAL OF MONETARY ECONOMICS AND MANAGEMENT 2782-4586 2949-1851 126076 10.26118/2782-4586-2026-35-42 Научные статьи SCIENTIFIC ARTICLES Научные статьи Managing information security risks in the implementation of autonomous artificial intelligence agents Управление рисками информационной безопасности при внедрении автономных агентов с искусственным интеллектом Олин Роман Александрович Olin Roman Aleksandrovich Шарипов Рифат Рашатович Sharipov Rifat Rashatovich

кандидат технических наук;

candidate of technical sciences;

 Бондаренко Владимир Владимирович Bondarenko Vladimir Vladimirovich

кандидат физико-математических наук;

candidate of physical and mathematical sciences;

 Самарский государственный экономический университет Samara State University of Economics Казанский национальный исследовательский технический университет им. А.Н. Туполева Kazan National Research Technical University named after A.N. Tupolev Самарский национальный исследовательский университет имени академика С.П. Королева Samara University 7 35 42 18 06 2026 https://doi.org/10.26118/2782-4586

В статье рассматриваются риски информационной безопасности, возникающие при внедрении автономных агентов с искусственным интеллектом в деятельность организаций. Показано, что ограниченная самостоятельность агента изменяет характер цифрового действия за счёт способности использования доступных инструментов и интерпретации поставленной цели с учётом контекста. Уделено внимание атакам через внедрение инструкций, риску превышения полномочий, ошибочной постановке задачи и другим угрозам, возникающим при внедрении автономных агентов в корпоративную информационную среду. Предложены меры снижения указанных рисков, основанные на разграничении доверенных и недоверенных фрагментов контекста, принципе минимально необходимых полномочий и закреплении ответственности за агентные сценарии. Сделан вывод о том, что автономные агенты с искусственным интеллектом способны стать значимым фактором роста производительности и конкурентным преимуществом организации только при условии безопасного проектирования и постоянного контроля их действий.

The article examines information security risks arising from the implementation of autonomous artificial intelligence agents in organizational activities. It is shown that the limited autonomy of an agent changes the nature of digital action through its ability to use available tools and interpret assigned goals with regard to the operational context. Particular attention is paid to prompt injection attacks, excessive privilege risks, incorrect task specification, and other threats associated with the deployment of autonomous agents within corporate information environments. The article proposes risk mitigation measures based on the separation of trusted and untrusted contextual information, the principle of least privilege, and the assignment of responsibility for agent-based operational scenarios. It is concluded that autonomous artificial intelligence agents can become a significant driver of productivity growth and a source of competitive advantage only under conditions of secure system design and continuous oversight of their actions.

 автономные агенты искусственный интеллект информационная безопасность агентные системы риски внедрения митигация рисков управление полномочиями цифровая трансформация autonomous agents artificial intelligence information security agent-based systems implementation risks risk mitigation privilege management digital transformation

Воропаева, Н. В. Декомпозиция разнотемповых дискретных систем управления / Н. В. Воропаева, В. А. Соболев // Мехатроника, автоматизация, управление. – 2004. – № 8. – С. 2-6. – EDN KMMQPJ. Voropaeva, N. V. Dekompoziciya raznotempovyh diskretnyh sistem upravleniya / N. V. Voropaeva, V. A. Sobolev // Mehatronika, avtomatizaciya, upravlenie. – 2004. – № 8. – S. 2-6. – EDN KMMQPJ. Воропаева, Н. В. Декомпозиция задач управления для разнотемповых систем с дискретным временем / Н. В. Воропаева // XII всероссийское совещание по проблемам управления ВСПУ-2014, Москва, 16–19 июля 2014 года / Институт проблем управления им. В.А. Трапезникова РАН. – Москва: Институт проблем управления им. В.А. Трапезникова РАН, 2014. – С. 842-848. – EDN SSIATB. Voropaeva, N. V. Dekompoziciya zadach upravleniya dlya raznotempovyh sistem s diskretnym vremenem / N. V. Voropaeva // XII vserossiyskoe soveschanie po problemam upravleniya VSPU-2014, Moskva, 16–19 iyulya 2014 goda / Institut problem upravleniya im. V.A. Trapeznikova RAN. – Moskva: Institut problem upravleniya im. V.A. Trapeznikova RAN, 2014. – S. 842-848. – EDN SSIATB. Влияние стандартизации процессов разработки ПО на достижимость конечного результата / К. В. Портнов, Б. Э. Забержинский, Г. В. Аванесян [и др.] // Актуальные проблемы общества, экономики и права в контексте глобальных вызовов : сборник материалов XX Международной научно-практической конференции., Москва, 17 мая 2023 года. Том Часть 2. – Санкт-Петербург: Печатный цех, 2023. – С. 19-23. – EDN MHRKKY. Vliyanie standartizacii processov razrabotki PO na dostizhimost' konechnogo rezul'tata / K. V. Portnov, B. E. Zaberzhinskiy, G. V. Avanesyan [i dr.] // Aktual'nye problemy obschestva, ekonomiki i prava v kontekste global'nyh vyzovov : sbornik materialov XX Mezhdunarodnoy nauchno-prakticheskoy konferencii., Moskva, 17 maya 2023 goda. Tom Chast' 2. – Sankt-Peterburg: Pechatnyy ceh, 2023. – S. 19-23. – EDN MHRKKY. A survey on large language model based autonomous agents / L. Wang, Ch. Ma, X. Feng [et al.] // Frontiers of Computer Science. – 2024. – Vol. 18, No. 6. – P. 186345. – DOI 10.1007/s11704-024-40231-1. – EDN XTFUTO. A survey on large language model based autonomous agents / L. Wang, Ch. Ma, X. Feng [et al.] // Frontiers of Computer Science. – 2024. – Vol. 18, No. 6. – P. 186345. – DOI 10.1007/s11704-024-40231-1. – EDN XTFUTO. Федина, М. Е. Использование автономных интеллектуальных агентов для персонализации образовательных траекторий / М. Е. Федина, В. Ю. Живцов, Е. О. Манякова // Математика и математическое моделирование : материалы III Всероссийской научной конференции, Самара, 20–21 ноября 2025 года. – Самара: Самарама, 2026. – С. 170-174. – EDN ZRKZXK. Fedina, M. E. Ispol'zovanie avtonomnyh intellektual'nyh agentov dlya personalizacii obrazovatel'nyh traektoriy / M. E. Fedina, V. Yu. Zhivcov, E. O. Manyakova // Matematika i matematicheskoe modelirovanie : materialy III Vserossiyskoy nauchnoy konferencii, Samara, 20–21 noyabrya 2025 goda. – Samara: Samarama, 2026. – S. 170-174. – EDN ZRKZXK. Шиверов, П. К. Доверие в контексте анализа стойкости протоколов аутентификации / П. К. Шиверов, Т. Г. Новосад, М. Н. Осипов // Ползуновский вестник. – 2014. – № 2. – С. 248-250. – EDN SYNZJZ. Shiverov, P. K. Doverie v kontekste analiza stoykosti protokolov autentifikacii / P. K. Shiverov, T. G. Novosad, M. N. Osipov // Polzunovskiy vestnik. – 2014. – № 2. – S. 248-250. – EDN SYNZJZ. Анализ методов эмерджентного искусственного интеллекта / К. В. Портнов, Б. Э. Забержинский, Р. Р. Габбасов, К. А. Агафонов // Актуальные проблемы общества, экономики и права в контексте глобальных вызовов : сборник материалов XX Международной научно-практической конференции., Москва, 17 мая 2023 года. Том Часть 2. – Санкт-Петербург: Печатный цех, 2023. – С. 30-36. – EDN GVVLER. Analiz metodov emerdzhentnogo iskusstvennogo intellekta / K. V. Portnov, B. E. Zaberzhinskiy, R. R. Gabbasov, K. A. Agafonov // Aktual'nye problemy obschestva, ekonomiki i prava v kontekste global'nyh vyzovov : sbornik materialov XX Mezhdunarodnoy nauchno-prakticheskoy konferencii., Moskva, 17 maya 2023 goda. Tom Chast' 2. – Sankt-Peterburg: Pechatnyy ceh, 2023. – S. 30-36. – EDN GVVLER. Бондаренко, В. В. Применение методов математического и функционального анализа для исследования смарт-контрактов / В. В. Бондаренко, В. Ю. Живцов, Е. О. Манякова // Математика и математическое моделирование : материалы III Всероссийской научной конференции, Самара, 20–21 ноября 2025 года. – Самара: Самарама, 2026. – С. 44-48. – EDN NYMOFM. Bondarenko, V. V. Primenenie metodov matematicheskogo i funkcional'nogo analiza dlya issledovaniya smart-kontraktov / V. V. Bondarenko, V. Yu. Zhivcov, E. O. Manyakova // Matematika i matematicheskoe modelirovanie : materialy III Vserossiyskoy nauchnoy konferencii, Samara, 20–21 noyabrya 2025 goda. – Samara: Samarama, 2026. – S. 44-48. – EDN NYMOFM. Артамонов, В. А. Обеспечение доверия при децентрализованном взаимодействии автономных агентов / В. А. Артамонов, В. Ю. Живцов // Кибернетика и информационная безопасность "КИБ-2025" : Сборник научных трудов Третьей Всероссийской научно-технической конференции. В 2-х томах, Москва, 03–04 декабря 2025 года. – Москва: Национальный исследовательский ядерный университет МИФИ, 2025. – С. 114-115. – EDN GXSYSR. Artamonov, V. A. Obespechenie doveriya pri decentralizovannom vzaimodeystvii avtonomnyh agentov / V. A. Artamonov, V. Yu. Zhivcov // Kibernetika i informacionnaya bezopasnost' "KIB-2025" : Sbornik nauchnyh trudov Tret'ey Vserossiyskoy nauchno-tehnicheskoy konferencii. V 2-h tomah, Moskva, 03–04 dekabrya 2025 goda. – Moskva: Nacional'nyy issledovatel'skiy yadernyy universitet MIFI, 2025. – S. 114-115. – EDN GXSYSR. Харитонов, Е. В. Детектирование уязвимостей на основе графовых нейронных сетей / Е. В. Харитонов, В. Ю. Живцов // Кибернетика и информационная безопасность "КИБ-2025" : Сборник научных трудов Третьей Всероссийской научно-технической конференции. В 2-х томах, Москва, 03–04 декабря 2025 года. – Москва: Национальный исследовательский ядерный университет МИФИ, 2025. – С. 72-73. – EDN IJSVEQ. Haritonov, E. V. Detektirovanie uyazvimostey na osnove grafovyh neyronnyh setey / E. V. Haritonov, V. Yu. Zhivcov // Kibernetika i informacionnaya bezopasnost' "KIB-2025" : Sbornik nauchnyh trudov Tret'ey Vserossiyskoy nauchno-tehnicheskoy konferencii. V 2-h tomah, Moskva, 03–04 dekabrya 2025 goda. – Moskva: Nacional'nyy issledovatel'skiy yadernyy universitet MIFI, 2025. – S. 72-73. – EDN IJSVEQ. Awasthi, A. Beyond pre-training: the critical role of contextual data in real-world LLM applications / A. Awasthi // International Journal of Information Technology and Management Information Systems. – 2025. – Vol. 16, No. 2. – P. 1595-1608. – DOI 10.34218/ijitmis_16_02_100. – EDN EIVUWE. Awasthi, A. Beyond pre-training: the critical role of contextual data in real-world LLM applications / A. Awasthi // International Journal of Information Technology and Management Information Systems. – 2025. – Vol. 16, No. 2. – P. 1595-1608. – DOI 10.34218/ijitmis_16_02_100. – EDN EIVUWE. Елисеев, Е. Э. Разработка адаптивного алгоритма оценки эффективности систем обнаружения вторжений для предотвращения web-угроз / Е. Э. Елисеев, М. Е. Бурлаков, М. Н. Осипов // Математическое и компьютерное моделирование : Сборник материалов IX Международной научной конференции, посвященной 85-летию профессора В.И. Потапова, Омск, 19 ноября 2021 года. – Омск: Омский государственный университет им. Ф.М. Достоевского, 2021. – С. 285-287. – EDN IQCIIN. Eliseev, E. E. Razrabotka adaptivnogo algoritma ocenki effektivnosti sistem obnaruzheniya vtorzheniy dlya predotvrascheniya web-ugroz / E. E. Eliseev, M. E. Burlakov, M. N. Osipov // Matematicheskoe i komp'yuternoe modelirovanie : Sbornik materialov IX Mezhdunarodnoy nauchnoy konferencii, posvyaschennoy 85-letiyu professora V.I. Potapova, Omsk, 19 noyabrya 2021 goda. – Omsk: Omskiy gosudarstvennyy universitet im. F.M. Dostoevskogo, 2021. – S. 285-287. – EDN IQCIIN. Бурлаков, М. Е. Акустические и виброакустические каналы утечки информации. Теоретические основы и базовый практикум / М. Е. Бурлаков, М. Н. Осипов. – Самара : Самарский национальный исследовательский университет им. акад. С.П. Королева, 2021. – 96 с. – ISBN 978-5-7883-1659-8. – EDN FJVXUU. Burlakov, M. E. Akusticheskie i vibroakusticheskie kanaly utechki informacii. Teoreticheskie osnovy i bazovyy praktikum / M. E. Burlakov, M. N. Osipov. – Samara : Samarskiy nacional'nyy issledovatel'skiy universitet im. akad. S.P. Koroleva, 2021. – 96 s. – ISBN 978-5-7883-1659-8. – EDN FJVXUU. Автоматизированный комплекс определения форм и частотных характеристик собственных колебаний / М. Н. Осипов, Н. А. Шарафутдинов, Ю. Д. Щеглов [и др.] // Известия Самарского научного центра Российской академии наук. – 2015. – Т. 17, № 2-5. – С. 1072-1075. – EDN VOCBZL. Avtomatizirovannyy kompleks opredeleniya form i chastotnyh harakteristik sobstvennyh kolebaniy / M. N. Osipov, N. A. Sharafutdinov, Yu. D. Scheglov [i dr.] // Izvestiya Samarskogo nauchnogo centra Rossiyskoy akademii nauk. – 2015. – T. 17, № 2-5. – S. 1072-1075. – EDN VOCBZL. Новиков, С. Я. Полные системы в задачах восстановления сигнала / С. Я. Новиков, М. Е. Федина // Перспективные информационные технологии (ПИТ 2015) : труды Международной научно-технической конференции, Самара, 28–30 апреля 2015 года / СГАУ. Том 1. – Самара: Самарский научный центр РАН, 2015. – С. 280-284. – EDN TZIJDP. Novikov, S. Ya. Polnye sistemy v zadachah vosstanovleniya signala / S. Ya. Novikov, M. E. Fedina // Perspektivnye informacionnye tehnologii (PIT 2015) : trudy Mezhdunarodnoy nauchno-tehnicheskoy konferencii, Samara, 28–30 aprelya 2015 goda / SGAU. Tom 1. – Samara: Samarskiy nauchnyy centr RAN, 2015. – S. 280-284. – EDN TZIJDP. Новиков, С. Я. Полные системы в задачах восстановления сигнала / С. Я. Новиков, М. Е. Федина // Известия Самарского научного центра Российской академии наук. – 2015. – Т. 17, № 2-5. – С. 1069-1071. – EDN VOCBYR. Novikov, S. Ya. Polnye sistemy v zadachah vosstanovleniya signala / S. Ya. Novikov, M. E. Fedina // Izvestiya Samarskogo nauchnogo centra Rossiyskoy akademii nauk. – 2015. – T. 17, № 2-5. – S. 1069-1071. – EDN VOCBYR. Воропаева, Н. В. Декомпозиция разнотемповых динамических систем со слабой диссипацией / Н. В. Воропаева // Вестник Самарского государственного университета. Естественнонаучная серия. – 2013. – № 9-2(110). – С. 5-10. – EDN RXWIDB. Voropaeva, N. V. Dekompoziciya raznotempovyh dinamicheskih sistem so slaboy dissipaciey / N. V. Voropaeva // Vestnik Samarskogo gosudarstvennogo universiteta. Estestvennonauchnaya seriya. – 2013. – № 9-2(110). – S. 5-10. – EDN RXWIDB. Novikov, S. Y. Boundary spaces for inclusion map between rearrangement invariant spaces / S. Y. Novikov // Collectanea Mathematica. – 1993. – Vol. 44, No. 1-3. – P. 211-216. – EDN XJBRTG. Novikov, S. Y. Boundary spaces for inclusion map between rearrangement invariant spaces / S. Y. Novikov // Collectanea Mathematica. – 1993. – Vol. 44, No. 1-3. – P. 211-216. – EDN XJBRTG. Novikov, S. Y. Singularities of embedding operators between symmetric function spaces on [0, 1] / S. Y. Novikov // Mathematical Notes. – 1997. – Vol. 62, No. 4. – P. 457-468. – DOI 10.1007/bf02358979. – EDN RQJYMB. Novikov, S. Y. Singularities of embedding operators between symmetric function spaces on [0, 1] / S. Y. Novikov // Mathematical Notes. – 1997. – Vol. 62, No. 4. – P. 457-468. – DOI 10.1007/bf02358979. – EDN RQJYMB. Новиков, С. Я. Котип и тип функциональных пространств Лоренца / С. Я. Новиков // Математические заметки. – 1982. – Т. 32, № 2. – С. 213-221. – EDN MYFHMD. Novikov, S. Ya. Kotip i tip funkcional'nyh prostranstv Lorenca / S. Ya. Novikov // Matematicheskie zametki. – 1982. – T. 32, № 2. – S. 213-221. – EDN MYFHMD. Степанова, Л. В. О геометрии области полностью поврежденного материала у вершины трещины антиплоского сдвига в связанной постановке задачи (связка "ползучесть - поврежденность") / Л. В. Степанова, М. Е. Федина // Вестник Самарского государственного университета. Естественнонаучная серия. – 2001. – № 2(20). – С. 87-114. – EDN TISNND. Stepanova, L. V. O geometrii oblasti polnost'yu povrezhdennogo materiala u vershiny treschiny antiploskogo sdviga v svyazannoy postanovke zadachi (svyazka "polzuchest' - povrezhdennost'") / L. V. Stepanova, M. E. Fedina // Vestnik Samarskogo gosudarstvennogo universiteta. Estestvennonauchnaya seriya. – 2001. – № 2(20). – S. 87-114. – EDN TISNND. Об одной модели динамического управления потоком данных в радиоканале / В. П. Цветов, Г. И. Леонович, С. Я. Новиков [и др.] // Перспективные информационные технологии (ПИТ 2015) : труды Международной научно-технической конференции, Самара, 28–30 апреля 2015 года / СГАУ. Том 1. – Самара: Самарский научный центр РАН, 2015. – С. 299-302. – EDN TZIJFN. Ob odnoy modeli dinamicheskogo upravleniya potokom dannyh v radiokanale / V. P. Cvetov, G. I. Leonovich, S. Ya. Novikov [i dr.] // Perspektivnye informacionnye tehnologii (PIT 2015) : trudy Mezhdunarodnoy nauchno-tehnicheskoy konferencii, Samara, 28–30 aprelya 2015 goda / SGAU. Tom 1. – Samara: Samarskiy nauchnyy centr RAN, 2015. – S. 299-302. – EDN TZIJFN. Каримов, Б. Ф. Проблемы адаптации генетических алгоритмов к решению задач структурно-параметрической оптимизации / Б. Ф. Каримов, К. В. Портнов // Современные исследования: теория, практика, результаты : Сборник материалов Международной научно-практической конференции, Москва, 29 декабря 2023 года. – Москва: Центр развития образования и науки, ООО "Издательство АЛЕФ", 2023. – С. 443-448. – DOI 10.26118/1590.2023.63.10.010. – EDN PUGPKI. Karimov, B. F. Problemy adaptacii geneticheskih algoritmov k resheniyu zadach strukturno-parametricheskoy optimizacii / B. F. Karimov, K. V. Portnov // Sovremennye issledovaniya: teoriya, praktika, rezul'taty : Sbornik materialov Mezhdunarodnoy nauchno-prakticheskoy konferencii, Moskva, 29 dekabrya 2023 goda. – Moskva: Centr razvitiya obrazovaniya i nauki, OOO "Izdatel'stvo ALEF", 2023. – S. 443-448. – DOI 10.26118/1590.2023.63.10.010. – EDN PUGPKI.