Предупреждён — вооружён: как хакеры могут взломать ваш чат-бот | Тимур Низамов

В ходе доклада рассмотрим: - наиболее популярные уязвимости систем на базе больших языковых моделей - какие техники позволяют вовремя выявить уязвимости: PAIR, Crescendo, BoN, suffix - какие open-source решения позволяют автоматизировать процесс тестирования О спикере Разработчик приложений с применением ML, с 2024 года углубился в проблему безопасности систем с генеративным ИИ. Магистрант AI Talent Hub Университета ИТМО, автор Open-source фреймворка тестирования безопасности LLM LLAMATOR.