Kubernetes становится платформой для ИИ. В кластере появляются модельные серверы, ИИ-агенты, библиотеки и сервисы, которые взаимодействуют друг с другом.
Покажем на реальных сценариях, что происходит внутри кластера во время атаки.
На примерах LiteLLM, Langflow, NVIDIA Toolkit, Triton, PandasAI и CVE-2024−37 032 и CVE-2024−34 359 разберём, как PT Container Security обнаруживает:
- обращение к конкретным секретам;
- запуск системных команд и их аргументы;
- изменение системных файлов;
- неожиданные сетевые соединения;
- действия конкретного сервиса и контейнера.
И покажем, как задавать разные правила для разных компонентов ИИ-системы.