По результатам исследований специалистам центра удалось систематизировать механизмы реализации угроз исследования вычислительных моделей ИИ и машинного обучения
В рамках реализации ключевого проекта «Комплекс технологических решений по защите систем искусственного интеллекта и машинного обучения от компрометации результатов их работы» перед разработчиками центра компетенций «Технологии доверенного взаимодействия» стояла задача создать новый метод защиты от атак исследования вычислительных моделей ИИ и машинного обучения, направленные на воссоздание у нарушителя обучающих наборов и извлечение моделей.
С целью реализации поставленной задачи, был проведен большой комплекс работ по анализу угроз исследования вычислительных моделей ИИ и машинного обучения, направленных на воссоздание обучающих наборов и извлечение моделей, а также подходов к защите от них.
По результатам исследований специалистам центра удалось систематизировать механизмы реализации угроз исследования вычислительных моделей ИИ и машинного обучения, направленных на воссоздание у нарушителя обучающих наборов и извлечение моделей, а также существующие методы защиты от них и разработать новый метод защиты от атак исследования вычислительных моделей ИИ и машинного обучения.
Экспериментально подтверждена эффективность разработанных методов.
© 2021 Центр компетенций НТИ «Технологии доверенного взаимодействия»
При использовании материалов сайта активная ссылка на источник обязательна
Контакты:
По результатам исследований специалистам центра удалось систематизировать механизмы реализации угроз исследования вычислительных моделей ИИ и машинного обучения
На заседании Томского консорциума научно-образовательных организаций исследовательские институты, вузы Томска подписали соглашение о создании первой за Уралом межуниверситетской квантовой сети. Индустриальным партнером […]
В рамках научно-деловой программы Международного военно-технического форума «Армия-2023» по инициативе Томского госуниверситета систем управления и радиоэлектроники прошло обсуждение вопросов использования искусственного интеллекта […]
ТУСУР представил итоги первого полугодия реализации программы Центра компетенций Национальной технологической инициативы «Технологии доверенного взаимодействия».
Команда ЦК НТИ «Технологии доверенного взаимодействия» приняла участие в главном событии года по запуску новых рынков, инициатив и отраслей.