18+

Исследования ученого ТГУ помогут отражать хакерские атаки

Молодой ученый Института прикладной математики и компьютерных наук ТГУ Антон Николаев исследует атаки на системы, созданные на основе машинного обучения, и механизмы их предотвращения. Результаты его работы должны стать основой для создания новых подходов защиты нейронных сетей от хакерских нападений.

Машинное обучение учит компьютер самостоятельно находить решения различных задач с помощью заранее загруженных данных и специальных алгоритмов. Сейчас его методы все активнее используются в самых разных областях человеческой деятельности.

«Те или иные методы и алгоритмы, работающие в данных областях, подвержены всевозможным атакам. Сложность (как для атакующего, так и для защищающего) заключается в том, что обозначенные системы крайне сложны в своем устройстве, и защита, как и нападение, требуют сложного многоуровневого подхода на всех этапах взаимодействия системы с пользователем», - говорит аспирант ИПМКН ТГУ Антон Николаев.

Успешная атака на систему, работающую на базе машинного обучения и различных обучающихся алгоритмов, может привести к критичным последствиям разной степени опасности. Так, например, внедрение в биометрические коды может открыть доступ к секретным данным или даже финансовым счетам в онлайн-банках, а взлом систем автономного вождения и вовсе привести к возникновению реальной угрозы человеческой жизни.

Механизмы атак могут быть самыми разными.

«Самые популярные включают генерацию некоторых небольших изменений в объекте (звуке, изображении, тексте) или, проще говоря, специального «шума», который ведет к тому, что система неправильно распознает или классифицирует данный объект, – объясняет Антон Николаев. – Например, определенного рода наклейка на дорожный знак может заставить систему распознавания дорожных знаков увидеть вместо одного знака другой. Или же специальный макияж на лице может заставить систему распознавания лиц увидеть в одном человеке другого».

Замещать одни результаты другими злоумышленникам удается из-за «зазоров», появление которых не исключено в процессе машинного обучения. Задача аспиранта ИПМКН ТГУ – выявить наиболее эффективные методы приближения к границам таких «зазоров» или пограничных значений. Это позволить понять, каким образом можно снизить число подобных «слабых звеньев» при атаках и в эксплуатации. На основе итогов исследований молодой ученый создаст новые алгоритмы для защиты методов машинного обучения от внешнего влияния.

URL: https://m.babr24.com/?IDE=219436

bytes: 2587 / 2440

Поделиться в соцсетях:

Экслюзив от Бабра в соцсетях:
- Телеграм
- ВКонтакте
- Вайбер
- Одноклассники

Связаться с редакцией Бабра в Томской области:
[email protected]

Другие статьи и новости в рубрике "Наука и технологии" (Томск)

В ТГУ предложили собирать кедровую шишку с помощью дронов

Томский госуниверситет и компания «Сибирский кедр» (ОГРН 1067017179888) заключили соглашение о сотрудничестве.

В Бакчарском районе Томской области проводят облёты перед запуском ракеты-носителя «Союз-2.1б»

Специалисты Томской областной ПСС, регионального департамента природных ресурсов и охраны окружающей среды, МЧС России обсудили вопросы обеспечения ...

В Бакчарском районе Томской области ожидают падения частей ракеты-носителя «Союз-2.1б»

16 декабря с космодрома «Байконур» планируется пуск ракеты-носителя «Союз-2.1б» с космическим аппаратом «Арктика-М» №2.

Поликлиники томской детской горбольницы №2 получили аппараты УЗИ нового поколения

В Томске в поликлиники детской городской больницы №2 на улицах Смирнова, 31, Пушкина, 27 «д» и Кулагина, 37 поступили современные аппараты УЗИ, ...

Специалисты ТГАСУ обследовали объекты культурного наследия региона

Специалисты Томского государственного архитектурно-строительного университета обследовали ценность объектов культурного наследия и ценных ...

Первое в России приложение для планирования нейтронной терапии зарегистрировано в Томске

Пресс-служба Томского политехнического университета сообщила 5 октября 2023 года о создании совместно учёными Томского политехнического университета ...

Автор: Яна Ледина.

Источник: Babr24.com.

Наука и технологии, События, Общество

Томск

9841

07.10.2023

В Томске появилась интеллектуальная транспортная система

В Томске начали внедрять интеллектуальную транспортную систему для уменьшения пробок и контролирования светофоров.

Очевидное – невероятное, или Стартап молодых учёных из ТГУ

Молодые учёные ТГУ реализуют стартап, направленный на разработку искусственных кровеносных сосудов, на средства гранта, полученного в рамках ...

Автор: Яна Ледина.

Источник: Babr24.com.

Наука и технологии, Общество, События

Томск

6573

14.08.2023

Технологии геномного реагирования разрабатывают томские учёные

Во времена глобальных климатических и социальных катаклизмов тяжело выживать не только человеку. Растениям тоже приходится непросто.

Автор: Яна Ледина.

Источник: Babr24.com.

Наука и технологии, Общество, События

Томск

4776

27.06.2023

Под крылом самолёта… не должно быть птиц, решили томские учёные

Воронка из птиц наверняка ассоциируется у соотечественников с кадрами из фильма «Ночной дозор», где ярко и образно было показано, как эта самая ...

Автор: Яна Ледина.

Источник: Babr24.com.

Наука и технологии, Общество, События

Томск

4679

24.05.2023

Все флаги в гости были к нам… на завершившейся в ТПУ апрельской конференции

В четверг, 27 апреля в Томском политехническом университете завершилась третья международная научно-практическая конференция «Научная инициатива ...

Автор: Яна Ледина.

Источник: Babr24.com.

Наука и технологии, Образование, Молодежь

Томск

47734

28.04.2023

Новый вид: у чернобыльских собак выявили уникальные изменения в ДНК

Прошло 37 лет с момента катастрофы, но территорию бывшей Чернобыльской АЭС продолжают исследовать.

Автор: Миша Ковальски.

Источник: Babr24.com.

Наука и технологии, Братья меньшие

Мир

4927

17.03.2023