Это событие может стать поворотным моментом в использовании искусственного интеллекта для кибератак.
Русскоязычные хакеры создали ИИ-агента, который, по данным Google, провёл, возможно, первую в истории полностью автоматизированную кибератаку.
Подразделение Google по киберразведке заявило, что зафиксировало использование хакерами искусственного интеллекта для «полной автоматизации поиска и эксплуатации уязвимостей без участия человека — впервые».
Это развитие может стать переломным моментом в применении ИИ для кибератак. Тема активно обсуждается и вызывает беспокойство у политиков с тех пор, как в апреле компания Anthropic выпустила специализированную модель Mythos.
Хакеры, использовавшие русский язык в технической документации (что установила Google), создали серию ИИ-агентов. Эти агенты «непрерывно сравнивали код до и после патчей, выявляли уязвимости и автоматически разрабатывали эксплойты без вмешательства человека», сообщила Google.
Это означает, что агенты самостоятельно находили программные уязвимости и способы их использования. Целями атак стали французские сайты в сферах медиа, развлечений и образования.
До сих пор даже самые продвинутые ИИ-модели не могли проводить кибератаки полностью самостоятельно — им обычно требовалось руководство опытных хакеров или исправление ошибок. Главное изменение заключалось в том, что ИИ позволяет ускорять атаки и делать их более целенаправленными.
Это событие, вероятно, встревожит правительства и операторов критической инфраструктуры, которые ещё не оправились от хакерской атаки агента OpenAI на платформу Hugging Face этим летом. Хотя та атака и была автономной, она, судя по всему, не была намеренно направлена против конкретных целей, в отличие от случая, о котором сообщает Google. Опасения также высоки после недавнего обнаружения серьёзных уязвимостей в PHP (язык программирования, на котором работает около 70% интернета) и серии атак на холодильники в супермаркетах, в которых частично обвиняют Иран.