Мишень, помощник, инструмент: на что способен ИИ в руках хакеров и кибербезопасников
Может ли недоброжелатель перехватить управление беспилотным авто или хакнуть голосового помощника? Насколько далеко могут зайти хакеры с таким напарником, как искусственный интеллект? Насколько хорошо специалисты по ИБ научились закрывать лазейки, прокладываемые нейросетями, и как ИИ-ассистенты помогают им быть на шаг впереди злоумышленников? Наконец, может ли сам ИИ стать угрозой безопасности? Обсуждаем с практиками реальные кейсы – полезные, забавные и пугающие. В гостях: Сергей Колесников, CTO CICADA8 Анатолий Иванов, CPO Standoff Bug Bounty Роман Астраханцев, AppSec-инженер Алисы и Автономного транспорта, Яндекс Ведущий Рами Мулейс, руководитель команды Cloud Trust, Yandex Cloud Не забудьте подписаться, чтобы не пропустить следующие эпизоды! Таймкоды: 00:00 Интро 00:39 Где мы и зачем собрались 01:02 Что думают об ИИ в ИБ участники PHDays 03:43 Обсуждаем ИИ в ИБ со специалистами: знакомство 05:40 Ситуация с безопасностью ИИ: насколько все плохо? 07:06 Вспоминаем про вайбкодинг 07:48 Что можно сделать с ИИ автопилота 09:16 Как в погоне за хайпом не забыть о безопасности 10:09 Что необходимо проверять в коде агентов 13:39 Как устроены LLM в агентских системах и что надо учитывать 15:41 Модели как новый OSINT 16:38 Про галлюцинации нейросетей 17:42 Prompt Injection: как заставить модель сделать что-то плохое 20:54 Промежуточные итоги 22:03 Актуальный фокус bug bounty 24:04 Стоит ли опасаться атак через голосовых помощников 27:28 Еще немного про bug bounty 27:50 Что происходит с данными на входе в LLM 28:31 Что происходит с программами Standoff bug bounty 35:25 Как ИИ используется в ИБ и пентестах и куда это движется 41:11 Заменит ли ИИ пентестеров и вообще безопасников 43:58 Итоги и рекомендации Упомянутые ресурсы: Эпизод “Искусственный интеллект с точки зрения ИБ: добро или зло”: https://youtu.be/EwQSkqNSe70?si=dyK0ywPAYBLFaCb8 Программа Yandex BugBounty: https://yandex.ru/bugbounty/index
Может ли недоброжелатель перехватить управление беспилотным авто или хакнуть голосового помощника? Насколько далеко могут зайти хакеры с таким напарником, как искусственный интеллект? Насколько хорошо специалисты по ИБ научились закрывать лазейки, прокладываемые нейросетями, и как ИИ-ассистенты помогают им быть на шаг впереди злоумышленников? Наконец, может ли сам ИИ стать угрозой безопасности? Обсуждаем с практиками реальные кейсы – полезные, забавные и пугающие. В гостях: Сергей Колесников, CTO CICADA8 Анатолий Иванов, CPO Standoff Bug Bounty Роман Астраханцев, AppSec-инженер Алисы и Автономного транспорта, Яндекс Ведущий Рами Мулейс, руководитель команды Cloud Trust, Yandex Cloud Не забудьте подписаться, чтобы не пропустить следующие эпизоды! Таймкоды: 00:00 Интро 00:39 Где мы и зачем собрались 01:02 Что думают об ИИ в ИБ участники PHDays 03:43 Обсуждаем ИИ в ИБ со специалистами: знакомство 05:40 Ситуация с безопасностью ИИ: насколько все плохо? 07:06 Вспоминаем про вайбкодинг 07:48 Что можно сделать с ИИ автопилота 09:16 Как в погоне за хайпом не забыть о безопасности 10:09 Что необходимо проверять в коде агентов 13:39 Как устроены LLM в агентских системах и что надо учитывать 15:41 Модели как новый OSINT 16:38 Про галлюцинации нейросетей 17:42 Prompt Injection: как заставить модель сделать что-то плохое 20:54 Промежуточные итоги 22:03 Актуальный фокус bug bounty 24:04 Стоит ли опасаться атак через голосовых помощников 27:28 Еще немного про bug bounty 27:50 Что происходит с данными на входе в LLM 28:31 Что происходит с программами Standoff bug bounty 35:25 Как ИИ используется в ИБ и пентестах и куда это движется 41:11 Заменит ли ИИ пентестеров и вообще безопасников 43:58 Итоги и рекомендации Упомянутые ресурсы: Эпизод “Искусственный интеллект с точки зрения ИБ: добро или зло”: https://youtu.be/EwQSkqNSe70?si=dyK0ywPAYBLFaCb8 Программа Yandex BugBounty: https://yandex.ru/bugbounty/index