Поводом для обсуждения стало 5-летие с момента принятия национальной стратегии развития искусственного интеллекта на период до 2030 год, а также поправки, внесенные в документ в 2024 году. К дискуссии присоединились заместитель министра цифрового развития Свердловской области Роман Маточкин, начальник финансово-экономического управления департамента городского хозяйства Тюмени Светлана Крафт и руководитель управления по цифровым регионам «Ростелекома» на Урале Александр Золотовский.
От лица UDV Group в круглом столе принял участие Юрий Чернышов, руководитель исследовательского центра UDV Group.
Юрий рассказал о том, как нейросети меняют информационную безопасность и что помогает справляться с новыми вызовами:
«Несмотря на то, что технологии ИИ активно проникают во многие производственные задачи, сейчас в информационной безопасности по-прежнему высока роль квалифицированного человека-эксперта. В практических задачах ИБ большинство событий обрабатывается «правилами реагирования», написанными человеком. Искусственный интеллект пока еще играет вспомогательную роль, однако его роль как на стороне атаки, так и на стороне защиты становится все более значимой. Отдельные технологии ИИ в ИБ используются достаточно давно, например, при анализе сетевого трафика, служебных сообщений (логов) в производственных системах, исследовании контента информационных материалов. Подобные решения наша компания создает и внедряет, например, для анализа производственного трафика (включая АСУТП) в продукте UDV NTA, для анализа логов в решении UDV Industrial Kit, при исследовании параметров работы ИТ с применением UDV ITM и в других решениях. Подобные технологии основаны на анализе данных и статистике, в них применяются модели с относительно небольшим количеством обучаемых параметров.
Применение этих подходов давно уже перешло из разряда «искусство» в «ремесло». Однако в самом ближайшем будущем ситуация поменяется, потому что ИИ-модели научились удивительным вещам, например, понимать «символы», с помощью которых общаются люди: письменность, изображения, звуки. И огромные модели, которые состоят из миллиардов параметров, начинают демонстрировать настоящую «магию» в понимании содержания текста и изображений. Поэтому технологически нет ограничений для того, чтобы ИИ модели «выучили» все, что создало человечество, в том числе и в сфере кибербезопасности.
Это происходит уже сейчас. Модели демонстрируют такой высокий уровень генерации текста и изображений, потому что они очень много всего «видели», «прочитали» интернет и «поняли», что для человека выглядит реальным. Впечатляющим результатом является то, что мы уже не можем отличить контент, который сгенерировала модель, от того, что создал человек. Поэтому технологии уже сейчас позволяют ИИ-моделям выполнять задачи на уровне человека, но самое интересное начнется, если модели начнут демонстрировать качество, превышающее возможности человека. В 2016 году искусственный интеллект обыграл человека в го, которая считается гораздо более сложной, чем шахматы. В игре ИИ против многократного чемпиона мира Ли Седоля был очень интересный момент: в одной из партий компьютер совершил ход (его номер был «37»), который сначала никто из специалистов не понял, а потом эксперты назвали его самым дальновидным, самым красивым, самым эффектным. Машина сделала такой ход, который многим людям был не по силам. И когда в сфере кибербезопасности ИИ сделает «37-й ход», многим специалистами по безопасности придется искать работу. Но хорошая новость в том, что пока до этого далеко: качественное образование и кадры являются основной для решения задач информационной безопасности, а искусственный интеллект – перспективной вспомогательной технологией.»
