Кейсы небезопасных ИИ-агентов
Каждый день выходят новые гайды о защите и тестировании ИИ-агентов, однако конкретные примеры небезопасных агентов приводятся крайне редко Мы с Just AI решили это исправить и запустили открытый русскоязычный репозиторий уязвимых ИИ-агентов: https://github.com/LLAMATOR-Core/ai-agents-security О том, как мы собираем разнообразные интерактивные примеры уязвимых и вредоносных агентных систем под управлением ИИ, рассказали неделю назад на конференции Conversations. Делимся записью и приглашаем контрибьютить новые кейсы
Каждый день выходят новые гайды о защите и тестировании ИИ-агентов, однако конкретные примеры небезопасных агентов приводятся крайне редко Мы с Just AI решили это исправить и запустили открытый русскоязычный репозиторий уязвимых ИИ-агентов: https://github.com/LLAMATOR-Core/ai-agents-security О том, как мы собираем разнообразные интерактивные примеры уязвимых и вредоносных агентных систем под управлением ИИ, рассказали неделю назад на конференции Conversations. Делимся записью и приглашаем контрибьютить новые кейсы