Google создала «копию интернета» для обучения ИИ-агентов — нейросети можно будет тестировать без риска кибератак
В виртуальной среде воспроизвели тысячи правдоподобных сайтов и сервисов, включая соцсети, интернет-магазины и банковские приложения
Google разработала изолированную «копию интернета» для обучения и проверки безопасности ИИ-агентов. Как сообщили в компании, в виртуальной среде нейросети могут выполнять задачи через браузер, не взаимодействуя с реальными пользователями и компаниями. Разработчики воспроизвели тысячи правдоподобных сайтов и сервисов, чтобы проверять поведение ИИ в условиях, близких к настоящему интернету.

Виртуальная система имитирует сайты интернет-магазинов, соцсетей и онлайн-банков
В Google объяснили, что пользователи не всегда указывают точные адреса сайтов в запросах к ИИ-агентам. Например, человек может попросить найти на YouTube последний выпуск подкаста и подготовить его к скачиванию перед полётом. В таком случае агенту необходимо самостоятельно определить нужный ресурс, перейти на него и выполнить несколько последовательных действий, что требует тысячи тестовых запусков на сотнях сайтов.
Использование открытого интернета нейросетями создает две проблемы: содержимое страниц постоянно меняется, а действия ИИ-агента могут затронуть реальные аккаунты, пользователей и компании.
Поэтому инженеры Google создали Mirror Dimension — «зеркальное измерение», представляющее собой изолированную копию интернета, куда входят имитированные социальные сети, интернет-магазины, банковские приложения, площадки с объявлениями и другие сервисы. Разработчики стремятся воспроизвести не только внешний вид сайтов, но и их функциональность: ИИ-агенты могут переходить между страницами, заполнять формы, нажимать кнопки и выполнять многоэтапные задачи.
При этом изолированная система использует локальный сервер, который перехватывает запросы браузера и направляет их на синтетические сайты. ИИ-агент видит привычные интернет-адреса, например YouTube, но фактически взаимодействует с изолированной копией сервиса.
Чтобы ИИ поверил, что сайт настоящий, ему показывают поддельные сертификаты безопасности
Одной из главных технических сложностей разработчики Google назвали способность ИИ понять, что он находится в тестовой среде. Если агент замечает признаки симуляции, его поведение может отличаться от того, которое он демонстрировал бы при работе с настоящими сайтами, что снижает достоверность проверки.
Для того, чтобы нейросеть думала, что сайты в изолированной среде настоящие, Google пришлось использовать собственные поддельные сертификаты безопасности. Файлы позволяют браузеру считать соединения с локальным прокси доверенными, и ИИ перестает сомневаться в реальности интернет-ресурсов.
ИИ-агенты проходят испытания на устойчивость к шантажу мошенников
Целью создания изолированной среды в компании также назвали проверку ИИ-агентов на способность противостоять атакам через содержимое веб-страниц. На сайтах могут размещать скрытые запросы, чтобы заставить ИИ игнорировать задачу пользователя и выполнять посторонние действия.
Тестовая среда автоматически добавляет мошеннические команды в разные элементы веб-страниц, чтобы инженеры могли изучать и корректировать поведение нейросетей при вмешательстве злоумышленников.
По данным Google, тестовая среда позволяет создавать более 1 тыс. вариантов тестовых атак в день на одного инженера по безопасности. Это более чем в 30 раз превышает количество сценариев, которые специалист способен подготовить и проверить вручную.