Shell or Nothing
Статья о фреймворке на базе LLM и его результатах получения доступа к shell
Cybersecurity
Битовая инверсия как атака на LLM
Статья описывает проблему малоизученных аппаратных атак на LLM - битовых инверсий (Bit-Flip Attacks, BFA)
Cuckoo Attack
Разбор новой атаки на IDE с LLM-агентами: как ИИ-помощники могут стать инструментом для скрытного закрепления злоумышленника в системе.
Многоагентный pipeline для защиты LLM от prompt injection
Разбор архитектуры многоагентной защиты, которая позволяет снизить успешность атак типа prompt injection за счет разделения ролей между агентами.