Ученый БГТУ им. Шухова назвал главные вызовы кибербезопасности в эпоху ИИ
Кибербезопасность давно вышла за рамки представлений о хакерах из кинофильмов. Сегодня это одна из наиболее востребованных и быстро развивающихся сфер, требующая практической подготовки специалистов и постоянного совершенствования методов защиты.
Старший преподаватель кафедры программного обеспечения вычислительной техники и автоматизированных систем Института информационных технологий и управляющих систем БГТУ имени В.Г. Шухова Андрей Киселев рассказал о современных подходах к подготовке специалистов по кибербезопасности. В образовательном процессе используются киберполигоны, изучаются методы защиты искусственного интеллекта, а также ведётся работа по решению кадрового дефицита в отрасли, который в отдельных направлениях достигает 97%.
Киберполигон как инструмент практической подготовки
Одним из ключевых элементов подготовки специалистов является киберполигон — цифровая среда, позволяющая моделировать реальные условия работы информационных систем.
В одной из лабораторий создана гибридная инфраструктура, включающая физические серверы, маршрутизаторы и виртуальные машины. На ее базе студенты строят модели сетей различных организаций, включая больницы и банки, после чего отрабатывают сценарии атак и защиты.
Первоначально планировалось использовать систему Eve-NG. Однако бесплатная версия позволяла работать только одному пользователю одновременно, а версия Enterprise оказалась слишком дорогостоящей. В результате был выбран открытый базовый пакет Pinet Lab, который развернули на собственном сервере. Это позволило организовать одновременную работу групп численностью от 20 до 30 человек.
В настоящее время на полигоне создано более 25 лабораторных работ. Также регулярно проводятся практические учения, в ходе которых одна команда выполняет роль атакующей стороны, а другая занимается защитой инфраструктуры.
Безопасная разработка и дефицит кадров
По словам Андрея Киселева, сегодня недостаточно просто уметь писать программный код. Все большее значение приобретает безопасная разработка программного обеспечения.
Это направление сформировалось сравнительно недавно. Его развитие связано с широким распространением открытых репозиториев, таких как GitHub и GitLab, а также автоматизированных систем сборки программного обеспечения. В современных условиях злоумышленники могут внедрять уязвимости ещё на этапе создания программного продукта.
«Нехватка специалистов по безопасной разработке достигает 95–97%», — отметил Андрей Киселев.
Для подготовки кадров создается специальный полигон безопасной разработки на базе общедоступных инструментов. Кроме того, ведется сотрудничество с Институтом системного программирования РАН и российскими разработчиками программного обеспечения. Планируется использование унифицированной среды разработки, в которой студенты смогут выявлять ошибки и потенциальные уязвимости на ранних этапах создания программ.
Искусственный интеллект: новые возможности и новые угрозы
Одним из главных технологических трендов остается искусственный интеллект. Сегодня технологии ИИ активно применяются для анализа данных, поиска научной информации и решения задач в медицине. Однако вместе с преимуществами появляются и новые риски.
Одна из угроз связана с возможностью намеренного обучения нейросетей таким образом, чтобы они выдавали недостоверные или вводящие в заблуждение ответы.
Отдельную опасность представляет атака типа Model Inversion («инверсия модели»). В этом случае злоумышленник анализирует ответы нейросети и пытается восстановить данные, использованные для её обучения.
В качестве примера приводится медицинская сфера. Если система искусственного интеллекта была обучена на данных пациентов, включая информацию о сердечных ритмах, снимках тканей и других параметрах, то в результате такой атаки злоумышленник потенциально может получить сведения о наличии у конкретного человека редкого заболевания. Это затрагивает вопросы врачебной тайны и защиты персональных данных.
Поэтому одной из важных задач становится обеспечение устойчивости разрабатываемых моделей искусственного интеллекта к подобным видам атак.
Подготовка специалистов и технологический суверенитет
По мнению Андрея Киселева, подготовка квалифицированных специалистов является важным вкладом в обеспечение технологической безопасности страны.
При этом уже наблюдаются конкретные результаты. Если ранее по специальности в сфере безопасности трудоустраивались около 20–30% выпускников, то в текущем году этот показатель превысил 60%.
Рекомендации для пользователей
Ученый отмечает, что одним из наиболее эффективных способов защиты остаётся получение базовых знаний в области кибербезопасности. Андрей Киселев рекомендует не передавать конфиденциальные документы в публичные нейросети. Если модель развернута не на собственном сервере пользователя, существует вероятность доступа к этим данным со стороны разработчиков системы или злоумышленников.
Кроме того, эксперт советует избегать самостоятельных решений в вопросах информационной безопасности без достаточной подготовки. По его словам, профильные регуляторы уделяют большое внимание данной сфере и разрабатывают соответствующие правила, следование которым является наиболее рациональным подходом.
Сегодня кибербезопасность включает не только использование сложных паролей или защиту персональных устройств. Это направление охватывает подготовку специалистов на киберполигонах, разработку безопасного программного обеспечения и защиту систем искусственного интеллекта от современных угроз.
По мере развития цифровых технологий значение квалифицированных специалистов продолжает расти, а вопросы защиты данных становятся актуальными не только для организаций, но и для обычных пользователей.
Подписывайтесь на канал БГТУ им. В.Г. Шухова в MAX.
