Автор: udemy, Start-Tech Academy
Название: Тестирование на проникновение моделей GenAI LLM: защита больших языковых моделей (2025)
Описание:
Чему вы научитесь:
9 разделов • 53 лекций • Общая продолжительность 3 ч 21 мин
Red Teaming & Penetration Testing for LLMs — это тщательно структурированный курс, предназначенный для специалистов по безопасности, разработчиков ИИ и этичных хакеров, стремящихся защитить генеративные приложения ИИ. От основополагающих концепций безопасности LLM до продвинутых методов red teaming, этот курс снабжает вас как знаниями, так и практическими навыками для защиты систем LLM.
На протяжении всего курса вы будете заниматься практическими кейсами и моделированием атак, включая демонстрации по быстрому внедрению, раскрытию конфиденциальных данных, обработке галлюцинаций, отказу в обслуживании модели и небезопасному поведению плагина. Вы также научитесь использовать инструменты, процессы и фреймворки, такие как MITRE ATT&CK, для оценки рисков приложений ИИ структурированным образом.
К концу этого курса вы сможете выявлять и использовать уязвимости в программах LLM, а также разрабатывать стратегии смягчения последствий и отчетности, соответствующие отраслевым стандартам.
Подробнее:
Скачать:
Название: Тестирование на проникновение моделей GenAI LLM: защита больших языковых моделей (2025)
Описание:
Чему вы научитесь:
- Понимать уникальные уязвимости больших языковых моделей (LLM) в реальных приложениях.
- Изучите основные концепции тестирования на проникновение и их применение в системах генеративного ИИ.
- Освоите процесс Red Teaming для LLM, используя практические приемы и моделирование реальных атак.
- Проанализируете, почему традиционные тесты не обеспечивают достаточной безопасности GenAI, и изучите более эффективные методы оценки.
- Изучите основные уязвимости, такие как немедленная инъекция, галлюцинации, предвзятые реакции и многое другое.
- Используете фреймворк MITRE ATT&CK для разработки тактики противодействия, направленной против LLM.
- Выявите и устраните угрозы, характерные для конкретных моделей, такие как чрезмерное агентство, кража моделей и небезопасная обработка
- Проведение и предоставление отчетов по результатам эксплуатации приложений на основе LLM
9 разделов • 53 лекций • Общая продолжительность 3 ч 21 мин
- Введение
- Введение в LLM Security & Penetration Testing
- Обзор уязвимостей LLM
- Основы тестирования на проникновение и Red Teaming
- Red Teaming для LLM
- Стратегии отчетности и смягчения последствий
- Структура MITRE ATT&CK для студентов LLM
- Уязвимости приложений LLM
- Заключение
Red Teaming & Penetration Testing for LLMs — это тщательно структурированный курс, предназначенный для специалистов по безопасности, разработчиков ИИ и этичных хакеров, стремящихся защитить генеративные приложения ИИ. От основополагающих концепций безопасности LLM до продвинутых методов red teaming, этот курс снабжает вас как знаниями, так и практическими навыками для защиты систем LLM.
На протяжении всего курса вы будете заниматься практическими кейсами и моделированием атак, включая демонстрации по быстрому внедрению, раскрытию конфиденциальных данных, обработке галлюцинаций, отказу в обслуживании модели и небезопасному поведению плагина. Вы также научитесь использовать инструменты, процессы и фреймворки, такие как MITRE ATT&CK, для оценки рисков приложений ИИ структурированным образом.
К концу этого курса вы сможете выявлять и использовать уязвимости в программах LLM, а также разрабатывать стратегии смягчения последствий и отчетности, соответствующие отраслевым стандартам.
Подробнее:
Для просмотра скрытого содержимого необходимо Войти или Зарегистрироваться.
Скачать:
Для просмотра скрытого содержимого необходимо Войти или Зарегистрироваться.