Итальянский архитектор Эгициаго Чоффи, глава компании SynSphere Italia и партнёр Microsoft, обнаружил критическую уязвимость в собственном ИИ-ассистенте на базе Azure OpenAI, который автоматически закрывал около 60% входящих клиентских запросов по email.
Проверив систему учётной записью с низкими правами доступа, он получил ответы с содержимым SharePoint, которое пользователь не мог бы открыть напрямую — при этом все стандартные тесты и оценки качества система проходила безупречно.
Проблема оказалась системной: во многих продакшн-развёртываниях технологии генерации ответов с извлечением данных (RAG, retrieval-augmented generation) агент отвечает с правами индексатора, а не запрашивающего пользователя, что создаёт риск утечки конфиденциальной информации.
Это важный сигнал для рынка корпоративного ИИ: компании массово внедряют автономных агентов, но архитектура безопасности часто отстаёт от скорости развёртывания, и стандартные метрики оценки не выявляют такие бреши.
Для инвесторов в технологический сектор и владельцев бизнесов в ОАЭ, активно цифровизирующих клиентский сервис через Microsoft Azure и аналогичные платформы, это означает необходимость аудита систем контроля доступа (permission-aware retrieval) перед масштабированием ИИ-агентов, особенно в банковском, юридическом и риэлторском секторах Дубая, где обрабатываются чувствительные данные клиентов.
Регуляторы, включая VARA и DIFC, всё активнее фокусируются на комплаенсе искусственного интеллекта, и подобные инциденты ускорят требования к обязательному аудиту ИИ-инфраструктуры.
Решение проблемы, по данным Чоффи, не потребовало новой платформы идентификации — хватило одного фильтра и более узко настроенного ассистента, что подчёркивает: риски часто устраняются точечными архитектурными решениями, а не дорогостоящей заменой инфраструктуры.
Для портфельных инвесторов в Microsoft и поставщиков корпоративного ИИ это фактор риска репутации и потенциальных судебных издержек, но не повод для пересмотра долгосрочных позиций.
Ожидайте роста спроса на решения по кибербезопасности ИИ-агентов и услуги аудита RAG-систем — это новая ниша для консалтинга и venture-инвестиций в 2026 году.
Если материал натолкнул на мысль — старший партнёр Result разберёт идею применительно к вашему портфелю: недвижимость Дубая, Pre-IPO, банковские решения. Бесплатно и без обязательств.
