85% компаний сокращают людей-контролёров после сбоев ИИ-агентов
Исследование VB Pulse Intelligence выявило парадоксальную динамику на рынке корпоративного искусственного интеллекта: 85% компаний, уже пострадавших от ошибок ИИ-агентов, ускоряют вывод людей из процессов проверки решений, а не наоборот.
В июле 13% из 108 опрошенных предприятий заявили о доверии к автоматизированной оценке ИИ-систем — против всего 5% месяцем ранее, при этом доля обеспокоенных расхождением тестов и реальных результатов упала с 29% до 19%.
Однако 49% респондентов признали, что ИИ-агент или LLM-функция, прошедшая внутреннее тестирование, впоследствии создала видимую клиентам проблему — практически без изменений к июньским 50%, а 24% компаний столкнулись с подобным более одного раза.
Это критически важно для инвесторов в технологический сектор: разрыв формируется не между уровнем автономии агентов и качеством их проверки, а между растущей уверенностью в системах оценки и отсутствием доказательств реального снижения сбоев.
Фактически компании масштабируют риск быстрее, чем способность его контролировать, что создаёт скрытую уязвимость в оценках технологических компаний, активно монетизирующих корпоративный ИИ — от Microsoft и Salesforce до множества pre-IPO стартапов в сфере автономных агентов.
Для портфелей, ориентированных на ИИ-сектор, это сигнал пересмотреть due diligence: мультипликаторы компаний, продающих enterprise AI-решения, могут не учитывать операционные риски отказов в продакшене и связанные с этим репутационные и юридические издержки.
Особенно это касается венчурных инвестиций в стартапы, автоматизирующие критические бизнес-процессы без адекватного человеческого надзора — такие компании рискуют столкнуться с судебными исками, оттоком корпоративных клиентов и пересмотром оценки при следующем раунде финансирования.
Для семейных офисов и частных инвесторов из Дубая, всё активнее вкладывающихся в американские и европейские AI-стартапы через венчурные фонды, рекомендация проста: требовать от портфельных компаний прозрачной отчётности по частоте сбоев ИИ-агентов в продакшене, а не только маркетинговых заявлений об уровне автоматизации.
В ближайшие 6-12 месяцев стоит ожидать волну корпоративных инцидентов и, возможно, первых крупных судебных разбирательств, что может охладить excessive валюацию AI-агентных стартапов на pre-IPO рынке.
