Возможен ли автоматический взлом веб-сервера клиентом на базе ИИ, работающим на MCP?

Компания Tenable, специализирующаяся на управлении уязвимостями, недавно обсудила, как фреймворк взаимодействия с инструментами MCP для искусственного интеллекта может быть "использован во благо, например, для ведения журналов использования инструментов и фильтрации несанкционированных команд". (Хотя "некоторые из этих методов могут быть использованы для достижения как позитивных, так и негативных целей").

Теперь анонимный читатель Slashdot пишет: в демонстрационном видео, собранном исследователем в области безопасности Сетором Фоги (Seth Fogie), ИИ-клиент, получивший простое указание "Просканировать и эксплуатировать" веб-сервер, использует различные подключенные инструменты через MCP (nmap, ffuf, nuclei, waybackurls, sqlmap, Burp) для поиска и эксплуатации обнаруженных уязвимостей без какого-либо дополнительного взаимодействия с пользователем.

Как иллюстрирует Tenable в своем FAQ по MCP, "появление Model Context Protocol для ИИ вызывает значительный интерес благодаря стандартизации подключения внешних источников данных к большим языковым моделям (LLM). Хотя эти обновления являются хорошей новостью для разработчиков ИИ, они вызывают определенные опасения в области безопасности". С учетом более чем 12 000 серверов MCP и постоянно растущим их числом, к чему это приведет и когда ИИ будет достаточно связан, чтобы злонамереный запрос мог нанести серьезный ущерб?