Широко известна проблема триггерных атак на искусственные нейронные сети (BadChain, DT-Base, DT-COT, DarkMind и др.). Поиск эффективных методов защиты от них является одной из "горячих'' тем в сфере безопасности ИНС и доверия к результатам работы. Как реализуются триггерные атаки на ИНС, предназначенные для распознавания изображений? Какие они могут иметь последствия? Можно ли от них защититься и, если да, то каким образом? Ученые из ИПМ им. М.В. Келдыша и ФИЦ ИУ РАН предприняли попытку взглянуть комплексно на этот участок общей проблемы и в результате смогли предложить новый способ борьбы с триггерными атаками, позволяющий распознавать триггеры на изображении на этапе машинного обучении ИНС. Подробнее о результатах исследований читайте в новом номере журнала "Информационные технологии и вычислительные системы".
Содержание выпуска № 1 за 2025 год размещено по ссылке.
Журнал выходит ежеквартально. Включен в Перечень ВАК Минобрнауки России и "Белый список".
