ivdon3@bk.ru
Данная статья посвящена сравнительному анализу устойчивости нейронных сетей архитектуры ResNet18 и ResNet50 к состязательным атакам на обучающие множества. Рассмотрен вопрос важности обеспечения безопасности обучающих множеств с учетом роста сфер применения искусственного интеллекта. Описан процесс проведения состязательной атаки на примере задачи распознавания животных. Проанализированы результаты двух экспериментов. Целью первого эксперимента стало выявление зависимости числа эпох, необходимых для успешного совершения состязательной атаки на обучающее множество, от версии нейронной сети архитектуры ResNet на примере ResNet18 и ResNet50. Целью второго эксперимента стало получение ответа на вопрос: на сколько успешны атаки на одну нейронную сеть с помощью модифицированных изображений второй нейронной сетью. Анализ результатов экспериментов показал, что ResNet50 более стоек к состязательным атакам, но дальнейшее совершенствование все же необходимо.
Ключевые слова: искусственный интеллект, компьютерное зрение, ResNet, ResNet18, ResNet50, состязательные атаки, обучающее множество, безопасность обучающего множества, нейронные сети, сравнительный анализ
2.3.1 - Системный анализ, управление и обработка информации , 2.3.6 - Методы и системы защиты информации, информационная безопасность