18+

Исследования ученого ТГУ помогут отражать хакерские атаки

Молодой ученый Института прикладной математики и компьютерных наук ТГУ Антон Николаев исследует атаки на системы, созданные на основе машинного обучения, и механизмы их предотвращения. Результаты его работы должны стать основой для создания новых подходов защиты нейронных сетей от хакерских нападений.

Машинное обучение учит компьютер самостоятельно находить решения различных задач с помощью заранее загруженных данных и специальных алгоритмов. Сейчас его методы все активнее используются в самых разных областях человеческой деятельности.

«Те или иные методы и алгоритмы, работающие в данных областях, подвержены всевозможным атакам. Сложность (как для атакующего, так и для защищающего) заключается в том, что обозначенные системы крайне сложны в своем устройстве, и защита, как и нападение, требуют сложного многоуровневого подхода на всех этапах взаимодействия системы с пользователем», - говорит аспирант ИПМКН ТГУ Антон Николаев.

Успешная атака на систему, работающую на базе машинного обучения и различных обучающихся алгоритмов, может привести к критичным последствиям разной степени опасности. Так, например, внедрение в биометрические коды может открыть доступ к секретным данным или даже финансовым счетам в онлайн-банках, а взлом систем автономного вождения и вовсе привести к возникновению реальной угрозы человеческой жизни.

Механизмы атак могут быть самыми разными.

«Самые популярные включают генерацию некоторых небольших изменений в объекте (звуке, изображении, тексте) или, проще говоря, специального «шума», который ведет к тому, что система неправильно распознает или классифицирует данный объект, – объясняет Антон Николаев. – Например, определенного рода наклейка на дорожный знак может заставить систему распознавания дорожных знаков увидеть вместо одного знака другой. Или же специальный макияж на лице может заставить систему распознавания лиц увидеть в одном человеке другого».

Замещать одни результаты другими злоумышленникам удается из-за «зазоров», появление которых не исключено в процессе машинного обучения. Задача аспиранта ИПМКН ТГУ – выявить наиболее эффективные методы приближения к границам таких «зазоров» или пограничных значений. Это позволить понять, каким образом можно снизить число подобных «слабых звеньев» при атаках и в эксплуатации. На основе итогов исследований молодой ученый создаст новые алгоритмы для защиты методов машинного обучения от внешнего влияния.

Новости Томской области - в Вайбере. Только эксклюзив! Подписывайтесь!

Читайте нас в Одноклассниках!

Читайте нас в Телеграме!

URL: https://m.babr24.com/?IDE=219436

bytes: 2587 / 2440

Обсудить на форуме Бабра в Telegram

Поделиться в соцсетях:

Другие статьи и новости в рубрике "Наука и технологии" (Томск)

Долой страдания: в мире появились изделия из грибной кожи

Ежегодно только ради кожаных изделий погибает более 1,5 миллиарда животных.

Автор: Миша Ковальски.

Источник: Babr24.com.

Наука и технологии, Экология

Мир

5604

03.12.2021

Молодые ученые ТГУ разработают технологии функционального питания

На химическом факультете ТГУ открыли новую научную лабораторию исследования и применения сверхкритических флюидных технологий в агропищевых ...

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии, Молодежь, Здоровье

Томск

5478

01.12.2021

В Томске разрабатывают алгоритм машинного обучения для предсказания свойств химических соединений

Молодой ученый ТПУ Борис Пякилля разрабатывает алгоритм, который сможет строить модели, предсказывающие молекулярные свойства малых органических ...

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии, Интернет и ИТ

Томск

6067

29.11.2021

Бивень мамонта обнаружили на дне океана

Два года назад – в докоронавирусном 2019-м – группа учёных исследовала глубины Тихого океана.

Автор: Миша Ковальски.

Источник: Babr24.com.

Наука и технологии, История

Мир

2151

28.11.2021

Томские физики разработали сплав для экологичных холодильников

В лаборатории физики высокопрочных кристаллов Томского государственного университета разработали сплав для создания твердотельных систем охлаждения – ...

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии, Экология

Томск

6185

28.11.2021

Томские ученые будут создавать новые материалы с помощью цифрового моделирования

ТГУ в составе междисциплинарного консорциума разработает новые материалы с помощью прорывных технологий цифрового и экспериментального ...

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии, Экономика и бизнес

Томск

10187

27.11.2021

«Мы не каракатицы!»: в Великобритании обдумывают закон о защите омаров, осьминогов и им подобных

Супермаркет, рыбный отдел. Посередине стоит аквариум с живым «товаром». Для детей это развлечение – можно посмотреть на морских гадов.

Автор: Миша Ковальски.

Источник: Babr24.com.

Наука и технологии, Экология

Мир

9412

26.11.2021

Ледники на учете и международное признание: как томские ученые исследуют горно-ледниковые массивы на Алтае

Криосфера Алтая — своего рода «термометр», фиксирующий изменения климата в Евразии и дающий понимание о трансформация горного оледенения и ландшафтов.

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии, Гео, Экология

Томск, Россия

8682

25.11.2021

Блогнот. Алиса в области чудес

До чего техника дошла!

Автор: Андрей Игнатьев.

Источник: Babr24.

Наука и технологии, Общество

Томск

1459

24.11.2021

Ученые из ТГУ и Малайзии работают над оптимизацией добычи нефти

Ученый ТГУ и аспирант из Малайзии ищут методы увеличения нефтедобычи.

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии, Молодежь

Томск

11956

19.11.2021

СФТИ представил новые сенсоры для распознавания опасных концентраций водорода

Сотрудники лаборатории оптических материалов и покрытий СФТИ разработали малогабаритные и дешевые сенсоры для обнаружения довзывоопасных концентраций ...

Автор: Пепел.

Источник: Babr24.com.

Наука и технологии

Томск

7147

15.11.2021

В ТГУ улучшили технологическую линию для «КДВ-групп»

Группа ученых Базового центра проектирования Томского государственного университета модернизировала производственную конструкцию в компании «КДВ ...