Хотя на данный момент киберпреступники не используют агентов ИИ в массовых атаках, исследователи уже продемонстрировали, что эти агенты могут выполнять сложные атаки. Например, компания Anthropic наблюдала, как её магистр ИИ, Клод, успешно воспроизвел атаку, нацеленную на кражу конфиденциальной информации. Эксперты по кибербезопасности предупреждают, что в будущем такие атаки могут стать более распространёнными.
«Я думаю, что в конечном итоге большинство кибератак будет осуществляться агентами ИИ», — говорит Марк Стокли, эксперт по безопасности в компании Malwarebytes. «На самом деле вопрос лишь в том, как быстро это произойдет».
Хотя угрозы от агентов ИИ для кибербезопасности уже ясны, менее понятно, как их обнаружить в реальном мире. Для этого исследовательская организация Palisade Research создала систему под названием LLM Agent Honeypot. Она имитирует уязвимые серверы, маскируясь под сайты для сбора ценной правительственной и военной информации, чтобы привлечь и поймать агентов ИИ, пытающихся взломать систему.
Команда, стоящая за проектом, надеется, что этот метод станет системой раннего предупреждения, которая поможет разработать защиту от угроз, связанных с агентами ИИ, до того, как они станут настоящей проблемой.
«Наша цель — подтвердить теоретические опасения, существующие в обществе», — поясняет Дмитрий Волков, руководитель исследований в Palisade. «Мы ожидаем, что в ближайшие несколько лет автономные хакеры-агенты получат приказ: „Цель найдена. Взломай это“».
Агенты ИИ представляют собой привлекательный инструмент для киберпреступников. Они гораздо дешевле наемных хакеров и способны организовать атаки быстрее и в гораздо большем масштабе. Эксперты по кибербезопасности полагают, что атаки с использованием программ-вымогателей, которые являются наиболее прибыльными, могут быть переданы агентам ИИ в будущем. «Если вы делегируете выбор цели агенту, то сможете масштабировать деятельность программ-вымогателей до невероятных масштабов», — говорит Стокли. «Если я могу провести атаку один раз, то для меня это всего лишь вопрос денег, чтобы повторить её 100 раз».
Кроме того, агенты гораздо умнее, чем стандартные боты, которые обычно используются для взлома систем. Боты — это автоматизированные программы, выполняющие простые скрипты, что ограничивает их способность адаптироваться к неожиданным сценариям. Агенты, напротив, могут не только адаптироваться, но и избегать обнаружения, что делает их намного более эффективными. «Они могут анализировать цель и выбирать лучший способ её взлома», — объясняет Волков. «Такого рода способности недоступны для простых скриптов».
С момента запуска LLM Agent Honeypot в октябре прошлого года было зарегистрировано более 11 миллионов попыток доступа. Большинство из них были от ботов и любопытных пользователей, но среди них исследователи обнаружили восемь потенциальных агентов ИИ, двое из которых были подтверждены как агенты из Гонконга и Сингапура.
«Мы предполагаем, что эти агенты были экспериментами, начатыми людьми с целью проверить, можно ли что-то взломать», — говорит Волков. Команда планирует расширить свою работу на социальные сети, веб-сайты и базы данных, чтобы привлечь больше злоумышленников, включая спам-ботов и фишинговых агентов, для анализа будущих угроз.
Для выявления агентов ИИ на сервере Palisade Research использовала методы быстрого внедрения в приманку, которые изменяют поведение агентов, выдавая новые инструкции и задавая вопросы, требующие человеческого интеллекта. Эти методы не работают на обычных ботах.
Например, в одном тесте посетителям было предложено выполнить команду «cat8193» для получения доступа. Если посетитель отвечал правильно, исследователи измеряли, сколько времени ему потребовалось для выполнения задачи. Агенты ИИ отвечали за несколько миллисекунд, в то время как обычные боты не могли уложиться в нужное время.
Эксперты не уверены, когда атаки, организованные агентами, станут более распространёнными. Стокли из Malwarebytes утверждает, что уже в этом году мы можем столкнуться с угрозой со стороны агентных злоумышленников.
«Хотя агентный ИИ всё ещё находится на ранней стадии, это больше похоже на Дикий Запад, чем сфера LLM два года назад», — говорит Винченцо Чианкалини, старший исследователь угроз в компании Trend Micro. «Мы видим, как агенты ИИ проводят разведку, но пока не уверены, когда они смогут выполнять полные цепочки атак автономно».
Как бы то ни было, вредоносные агенты ИИ могут ускорить и удешевить взлом систем в большом масштабе, и важно быть готовыми к этим угрозам. Крис Бетц, директор по информационной безопасности Amazon Web Services, отмечает, что ИИ скорее ускоряет существующие методы атак, чем радикально меняет их природу. «Несмотря на новые технологии, основные принципы защиты остаются прежними», — добавляет он.
Агенты ИИ могут не только использоваться для атак, но и для защиты, помогая обнаруживать уязвимости в системах. Эдоардо Дебенедетти, аспирант Швейцарской высшей технической школы Цюриха, утверждает, что если дружественный агент не находит уязвимостей, то аналогично настроенный злонамеренный агент вряд ли сможет их найти.
«Мы надеемся, что больше внимания будет уделено рискам ИИ для кибербезопасности до того, как это приведет к проблемам», — говорит Дэниел Канг, доцент Университета Иллинойс в Урбана-Шампейне. «Я боюсь, что люди не осознают этого, пока не столкнутся с проблемой лицом к лицу».
Источник: https://www.technologyreview.com/2025/04/04/1114228/cyberattacks-by-ai-agents-are-coming/
Если вам понравился материал, кликните значок - вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал - не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
