LLAMATOR смог перехватить скрытые системные инструкции из чат-бота
Проверка уязвимости чат-бота в Telegram на утечку системного промпта с помощью open source инструмента тестирования безопасности LLM-приложений LLAMATOR репозиторий: https://github.com/LLAMATOR-Core/llamator
Проверка уязвимости чат-бота в Telegram на утечку системного промпта с помощью open source инструмента тестирования безопасности LLM-приложений LLAMATOR репозиторий: https://github.com/LLAMATOR-Core/llamator