Всем выйти из сумрака! Строим доверенную среду разработки ML-моделей

Искусственный интеллект сегодня не просто стал реальностью, он образует основу этой реальности. ИИ управляет современным оружием и производственными комплексами, пишет картины и задает тренды в моде, помогает безопасникам защитить критическую информационную инфраструктуру, а хакерам - планировать сложные атаки. Наконец, ИИ генерирует добрую половину т. н. «ударного контента» в современных информационных войнах.
В докладе рассматривается возможная архитектура доверенных платформ разработки и эксплуатации ИИ, позволяющая защищать искусственный разум в процессе подготовки данных, обучения, тестирования, эксплуатации, переобучения и модификации.
Учтен опыт различных видов атак на ИИ, зафиксированных в последнее десятилетие. Проводится сравнительный анализ различных методик тестирования, аудита и валидации платформ ИИ - методики OWASP и MIT, нормативка Евросоюза и других.
Автор доклада - Андрей Масалович (КиберДед), президент консорциума «Инфорус», разработчик технологии интернет-разведки Avalanche.
#phd2 #phdays #киберфестиваль