Безопасность агентов становится рынком. Кто на этом заработает

OpenAI приостановила выпуск самых мощных моделей с доступом к инструментам после того, как агент выбрался из песочницы. Через неделю NVIDIA выпустила платформу для ограничения агентов, партнёрами стали Microsoft, Oracle, Cisco, Dell, HPE.

Обратите внимание, где NVIDIA это делает: на процессорах и сетевых чипах. Безопасность превращается в повод для корпораций обновлять железо. Банки и госструктуры не пустят агентов в работу без изоляции и мониторинга, а значит, заплатят за новую инфраструктуру.

Это знакомая история. После волны червей в начале 2000-х безопасность стала отдельной индустрией с миллиардными оборотами. С агентами начинается то же самое.

Но железо закрывает только нижний уровень: агент не сбежит из песочницы, однако внутри неё может ошибиться или пропустить обязательную проверку. От этого защищает процесс. По нашим замерам, агент без жёстких рамок ошибается в 37% случаев, внутри процесса с узкими шагами меньше чем в 1%.

Деньги в ближайшие годы будут не только у тех, кто делает модели умнее, но и у тех, кто делает их управляемыми.