В рамках деловой программы выставки «Национальная безопасность. Беларусь-2026» состоялась панельная дискуссия на тему «Научно-техническое и инновационное обеспечение национальной безопасности государства». В мероприятии приняли участие эксперты Объединённого института проблем информатики НАН Беларуси.

Андрей Михайлович Бондоловский, заведующий лабораторией распознавания и синтеза речи, выступил с докладом на тему «Создание больших языковых моделей: важный фактор информационной безопасности страны». Эксперт выделил четыре ключевых измерения информационной безопасности, связанных с использованием больших языковых моделей:

• модель обрабатывает данные запросов: передача данных за рубеж (переписки, кода, аналитики и персональных данных) создает риски утечки информации;
• инфраструктура модели: зависимость от внешних сервисов делает инфраструктуру уязвимой: отключение или отказ таких сервисов может стать инструментом давления;
• формирование восприятия мира: языковые модели формируют отношение и оценки в ответах, что может служить инструментом мягкой силы и информационного воздействия, влияя на общественное мнение;
• модель может содержать «закладки» – скрытые уязвимости или неправильные настройки, обнаружить которые зачастую трудно без доступа к внутренним весам и данным модели. В этом случае доверие к системе становится ключевым.

Василий Алексеевич Ковалёв, ведущий научный сотрудник лаборатории анализа биомедицинских изображений, представил доклад «Проблемы безопасности нейросетевых решений: новые вызовы в эпоху ИИ». Он подчеркнул, что угроза утечки и неправомерного использования личных данных незаметно и постепенно проникает в нашу жизнь, и осознание этой проблемы – первый шаг к её решению. Эксперт отметил, что в области искусственного интеллекта и нейросетевых решений существует множество уязвимостей, связанных с атаками на модели. Защита ИИ-решений – сложная задача, требующая постоянных усилий. В ОИПИ НАН Беларуси уже более 10 лет ведутся работы по созданию систем защиты нейросетей, включая процессы «иммунизации» моделей – тестирование и обучение их против потенциальных атак, чтобы снизить риск их ввода в заблуждение злоумышленниками. Василий Алексеевич добавил, что очень важно не только разрабатывать защищённые системы, но и внедрять процедуры постоянного тестирования и аудита их безопасности, чтобы обеспечить высокий уровень устойчивости к внешним угрозам.

Проведённые дискуссии на выставке «Национальная безопасность. Беларусь-2026» подчеркнули острую актуальность вопросов информационной безопасности в современных условиях. Разработка надёжных технологий защиты данных, создание устойчивых систем и осознание потенциальных рисков – это ключевые задачи для науки и государства в обеспечении национальной безопасности.