Дискуссии об этических аспектах искусственного интеллекта сопровождают развитие данной области с момента появления первых алгоритмов машинного обучения. Однако в условиях, когда ИИ-системы демонстрируют способность превосходить человеческие возможности в решении задач, традиционно относящихся к исключительной компетенции людей, этические соображения приобретают особую актуальность.

Разрабатываемый стандарт «Обзор этических и социальных проблем» направлен на повышение предсказуемости и безопасности ИИ за счёт системного подхода к предотвращению неэтичного использования алгоритмов. Основные риски концентрируются вокруг практик сбора и использования информации, включая неавторизованный доступ к ней и обучение на необъективных, неточных или нерепрезентативных данных. Феномен «черного ящика», характеризующийся невозможностью понимания механизмов принятия решений ИИ, усугубляется отсутствием прозрачности в отслеживании данных, процессов и результатов работы алгоритмов. Неполное понимание долгосрочного воздействия искусственного интеллекта на общественные структуры дополняет спектр этических вызовов.

Разрабатываемый стандарт не предполагает продвижения какой-либо конкретной системы ценностей. Он охватывает широкий спектр критериев от подотчетности и недискриминации до защиты персональных данных.

Управляемость ИИ

Стандарт «Управляемость автоматизированных систем искусственного интеллекта» приобретает особое значение в контексте применения ИИ в медицине, юриспруденции и транспорте. Нейронные сети зачастую принимают решения, логика которых не поддается объяснению, что вызывает вопросы о механизмах передачи управления от ИИ к человеку в критических ситуациях и о проверке надежности алгоритмов.

Стандарт устанавливает требования к наблюдаемости ИИ, включая возможность мониторинга их состояния в режиме реального времени. Протоколы передачи контроля определяют условия и процедуры человеческого вмешательства в автоматизированные процессы. Особое внимание при разработке стандарта уделяется алгоритмам реагирования на неопределенность – важному элементу для обеспечения безопасности в непредвиденных обстоятельствах.

Безопасность и конфиденциальность ИИ

Стандарт «Безопасность и конфиденциальность при использовании искусственного интеллекта» отвечает на ключевые вызовы цифровой эпохи: защиту персональных данных и предотвращение злоупотреблений возможностями ИИ. Стандарт предлагает системный подход к предотвращению утечек персональных данных, которые ИИ может непреднамеренно раскрыть или восстановить по косвенным признакам.

Определение уязвимостей в архитектуре ИИ, потенциально используемых в противоправных целях, составляет важный компонент стандарта. Разработка методик оценки рисков и внедрение защитных механизмов формируют комплексную систему обеспечения кибербезопасности ИИ-технологий.

ИИ и окружающая среда 

Одной из отличительных особенностей белорусского подхода к стандартизации ИИ стало внимание к лучшим практикам применения искусственного интеллекта в сфере управления природными ресурсами и охраны окружающей среды. ИИ показывает высокую эффективность в выявлении участков лесных массивов, благоприятных для распространения насекомых-переносчиков зоонозных заболеваний, что имеет критическое значение для предотвращения эпидемий инфекционных заболеваний, передающихся от животных к человеку.

Так, в Мозамбике при поддержке ПРООН была внедрена программа на базе ИИ Zzapp Malaria, которая помогла снизить заболеваемость малярией на 52%. Решение оказалось вдвое эффективнее обычных противомоскитных сеток и может быть адаптировано для других регионов с похожим климатом.

Кроме того, использование ИИ существенно повышает эффективность превентивных мер и систем раннего предупреждения о природных катастрофах. Например, подразделение ПРООН SDG AI Lab разработало прототипы систем для оповещения сельского населения Мадагаскара о приближающейся засухе и расчета безопасных маршрутов эвакуации при землетрясениях в Стамбуле, Турция. 

Следующие шаги

Работа ПРООН способствовала формированию экспертного сообщества для создания технического комитета «Искусственный интеллект», ответственного за рассмотрение и утверждение стандартов ИИ. 

В перспективе это станет основой для формирования межгосударственного технического комитета по гармонизации стандартов различных юрисдикций. Планируется расширять взаимодействие с частным сектором и неправительственными организациями, развивать программы цифрового образования в области стандартизации ИИ с привлечением экспертного потенциала Стамбульского регионального центра ПРООН.

Координация усилий государственных институтов, научного сообщества и международных партнеров создает надежную институциональную основу для развития технологий будущего в качестве акселератора достижения ЦУР. 

Белорусский опыт стандартизации искусственного интеллекта демонстрирует возможность гармоничного сочетания технологических инноваций с принципами устойчивого и этичного развития, что может стать ориентиром для других государств, стремящихся к построению ответственной цифровой экономики будущего.