сотрудник
сотрудник
сотрудник
В статье рассматриваются риски информационной безопасности, возникающие при внедрении автономных агентов с искусственным интеллектом в деятельность организаций. Показано, что ограниченная самостоятельность агента изменяет характер цифрового действия за счёт способности использования доступных инструментов и интерпретации поставленной цели с учётом контекста. Уделено внимание атакам через внедрение инструкций, риску превышения полномочий, ошибочной постановке задачи и другим угрозам, возникающим при внедрении автономных агентов в корпоративную информационную среду. Предложены меры снижения указанных рисков, основанные на разграничении доверенных и недоверенных фрагментов контекста, принципе минимально необходимых полномочий и закреплении ответственности за агентные сценарии. Сделан вывод о том, что автономные агенты с искусственным интеллектом способны стать значимым фактором роста производительности и конкурентным преимуществом организации только при условии безопасного проектирования и постоянного контроля их действий.
автономные агенты, искусственный интеллект, информационная безопасность, агентные системы, риски внедрения, митигация рисков, управление полномочиями, цифровая трансформация
1. Воропаева, Н. В. Декомпозиция разнотемповых дискретных систем управления / Н. В. Воропаева, В. А. Соболев // Мехатроника, автоматизация, управление. – 2004. – № 8. – С. 2-6. – EDN KMMQPJ.
2. Воропаева, Н. В. Декомпозиция задач управления для разнотемповых систем с дискретным временем / Н. В. Воропаева // XII всероссийское совещание по проблемам управления ВСПУ-2014, Москва, 16–19 июля 2014 года / Институт проблем управления им. В.А. Трапезникова РАН. – Москва: Институт проблем управления им. В.А. Трапезникова РАН, 2014. – С. 842-848. – EDN SSIATB.
3. Влияние стандартизации процессов разработки ПО на достижимость конечного результата / К. В. Портнов, Б. Э. Забержинский, Г. В. Аванесян [и др.] // Актуальные проблемы общества, экономики и права в контексте глобальных вызовов : сборник материалов XX Международной научно-практической конференции., Москва, 17 мая 2023 года. Том Часть 2. – Санкт-Петербург: Печатный цех, 2023. – С. 19-23. – EDN MHRKKY.
4. A survey on large language model based autonomous agents / L. Wang, Ch. Ma, X. Feng [et al.] // Frontiers of Computer Science. – 2024. – Vol. 18, No. 6. – P. 186345. – DOIhttps://doi.org/10.1007/s11704-024-40231-1. – EDN XTFUTO.
5. Федина, М. Е. Использование автономных интеллектуальных агентов для персонализации образовательных траекторий / М. Е. Федина, В. Ю. Живцов, Е. О. Манякова // Математика и математическое моделирование : материалы III Всероссийской научной конференции, Самара, 20–21 ноября 2025 года. – Самара: Самарама, 2026. – С. 170-174. – EDN ZRKZXK.
6. Шиверов, П. К. Доверие в контексте анализа стойкости протоколов аутентификации / П. К. Шиверов, Т. Г. Новосад, М. Н. Осипов // Ползуновский вестник. – 2014. – № 2. – С. 248-250. – EDN SYNZJZ.
7. Анализ методов эмерджентного искусственного интеллекта / К. В. Портнов, Б. Э. Забержинский, Р. Р. Габбасов, К. А. Агафонов // Актуальные проблемы общества, экономики и права в контексте глобальных вызовов : сборник материалов XX Международной научно-практической конференции., Москва, 17 мая 2023 года. Том Часть 2. – Санкт-Петербург: Печатный цех, 2023. – С. 30-36. – EDN GVVLER.
8. Бондаренко, В. В. Применение методов математического и функционального анализа для исследования смарт-контрактов / В. В. Бондаренко, В. Ю. Живцов, Е. О. Манякова // Математика и математическое моделирование : материалы III Всероссийской научной конференции, Самара, 20–21 ноября 2025 года. – Самара: Самарама, 2026. – С. 44-48. – EDN NYMOFM.
9. Артамонов, В. А. Обеспечение доверия при децентрализованном взаимодействии автономных агентов / В. А. Артамонов, В. Ю. Живцов // Кибернетика и информационная безопасность "КИБ-2025" : Сборник научных трудов Третьей Всероссийской научно-технической конференции. В 2-х томах, Москва, 03–04 декабря 2025 года. – Москва: Национальный исследовательский ядерный университет МИФИ, 2025. – С. 114-115. – EDN GXSYSR.
10. Харитонов, Е. В. Детектирование уязвимостей на основе графовых нейронных сетей / Е. В. Харитонов, В. Ю. Живцов // Кибернетика и информационная безопасность "КИБ-2025" : Сборник научных трудов Третьей Всероссийской научно-технической конференции. В 2-х томах, Москва, 03–04 декабря 2025 года. – Москва: Национальный исследовательский ядерный университет МИФИ, 2025. – С. 72-73. – EDN IJSVEQ.
11. Awasthi, A. Beyond pre-training: the critical role of contextual data in real-world LLM applications / A. Awasthi // International Journal of Information Technology and Management Information Systems. – 2025. – Vol. 16, No. 2. – P. 1595-1608. – DOIhttps://doi.org/10.34218/ijitmis_16_02_100. – EDN EIVUWE.
12. Елисеев, Е. Э. Разработка адаптивного алгоритма оценки эффективности систем обнаружения вторжений для предотвращения web-угроз / Е. Э. Елисеев, М. Е. Бурлаков, М. Н. Осипов // Математическое и компьютерное моделирование : Сборник материалов IX Международной научной конференции, посвященной 85-летию профессора В.И. Потапова, Омск, 19 ноября 2021 года. – Омск: Омский государственный университет им. Ф.М. Достоевского, 2021. – С. 285-287. – EDN IQCIIN.
13. Бурлаков, М. Е. Акустические и виброакустические каналы утечки информации. Теоретические основы и базовый практикум / М. Е. Бурлаков, М. Н. Осипов. – Самара : Самарский национальный исследовательский университет им. акад. С.П. Королева, 2021. – 96 с. – ISBN 978-5-7883-1659-8. – EDN FJVXUU.
14. Автоматизированный комплекс определения форм и частотных характеристик собственных колебаний / М. Н. Осипов, Н. А. Шарафутдинов, Ю. Д. Щеглов [и др.] // Известия Самарского научного центра Российской академии наук. – 2015. – Т. 17, № 2-5. – С. 1072-1075. – EDN VOCBZL.
15. Новиков, С. Я. Полные системы в задачах восстановления сигнала / С. Я. Новиков, М. Е. Федина // Перспективные информационные технологии (ПИТ 2015) : труды Международной научно-технической конференции, Самара, 28–30 апреля 2015 года / СГАУ. Том 1. – Самара: Самарский научный центр РАН, 2015. – С. 280-284. – EDN TZIJDP.
16. Новиков, С. Я. Полные системы в задачах восстановления сигнала / С. Я. Новиков, М. Е. Федина // Известия Самарского научного центра Российской академии наук. – 2015. – Т. 17, № 2-5. – С. 1069-1071. – EDN VOCBYR.
17. Воропаева, Н. В. Декомпозиция разнотемповых динамических систем со слабой диссипацией / Н. В. Воропаева // Вестник Самарского государственного университета. Естественнонаучная серия. – 2013. – № 9-2(110). – С. 5-10. – EDN RXWIDB.
18. Novikov, S. Y. Boundary spaces for inclusion map between rearrangement invariant spaces / S. Y. Novikov // Collectanea Mathematica. – 1993. – Vol. 44, No. 1-3. – P. 211-216. – EDN XJBRTG.
19. Novikov, S. Y. Singularities of embedding operators between symmetric function spaces on [0, 1] / S. Y. Novikov // Mathematical Notes. – 1997. – Vol. 62, No. 4. – P. 457-468. – DOIhttps://doi.org/10.1007/bf02358979. – EDN RQJYMB.
20. Новиков, С. Я. Котип и тип функциональных пространств Лоренца / С. Я. Новиков // Математические заметки. – 1982. – Т. 32, № 2. – С. 213-221. – EDN MYFHMD.
21. Степанова, Л. В. О геометрии области полностью поврежденного материала у вершины трещины антиплоского сдвига в связанной постановке задачи (связка "ползучесть - поврежденность") / Л. В. Степанова, М. Е. Федина // Вестник Самарского государственного университета. Естественнонаучная серия. – 2001. – № 2(20). – С. 87-114. – EDN TISNND.
22. Об одной модели динамического управления потоком данных в радиоканале / В. П. Цветов, Г. И. Леонович, С. Я. Новиков [и др.] // Перспективные информационные технологии (ПИТ 2015) : труды Международной научно-технической конференции, Самара, 28–30 апреля 2015 года / СГАУ. Том 1. – Самара: Самарский научный центр РАН, 2015. – С. 299-302. – EDN TZIJFN.
23. Каримов, Б. Ф. Проблемы адаптации генетических алгоритмов к решению задач структурно-параметрической оптимизации / Б. Ф. Каримов, К. В. Портнов // Современные исследования: теория, практика, результаты : Сборник материалов Международной научно-практической конференции, Москва, 29 декабря 2023 года. – Москва: Центр развития образования и науки, ООО "Издательство АЛЕФ", 2023. – С. 443-448. – DOIhttps://doi.org/10.26118/1590.2023.63.10.010. – EDN PUGPKI.
