Notes

Как будущие устройства со встроенными LLM станут проблемой безопасности, так как злоумышленники смогут “жить за счёт LLM” (Living Off the LLM, LOLLM)

Руководство по проектированию безопасных корпоративных ИИ-агентов с использованием MCP от IBM c верификацией от Anthropic

Новый класс атак, когда отдельно текст и изображение выглядят безопасно, но их совместное сочетание несёт злонамеренный смысл

Pruning модели может быть использован злоумышленником

В работе исследован новый класс атак на системы типа RAG

Статья рассказывает об уязвимости систем тонкой настройки больших языковых моделей в условиях, максимально приближённых к реальной эксплуатации

Никто не любит провода, все любят Wi-Fi

Атака на выбор инструментов в агентных системах

Новая атака, основанная на отравлении библиотеки функций, которая позволяет подменять поведение агентов без изменения их моделей

MCP - критическая и уязвимая точка в цепочке доверия LLM-агентов