Наталья Касперская на форуме «Армия-2021»: развивая технологии искусственного интеллекта, необходимо учитывать все риски

На международном военно-техническом форуме «Армия-2021», проходящем с 22 по 28 августа в подмосковной Кубинке, президент ГК InfoWatch приняла участие как эксперт по технологиям искусственного интеллекта. В первый день мероприятия Наталья Касперская выступила модератором секции «Социогуманитарные основы формирования государственной политики с применением технологий искусственного интеллекта» на конференции «Гуманитарные и социокультурные аспекты развития и применения технологий искусственного интеллекта». Организаторами конференции стали Министерство обороны РФ и Сколковский институт науки и технологий.

«В последнее время очень много говорят об искусственном интеллекте. У нас есть и национальная стратегия по развитию искусственного интеллекта, и отдельный федеральный проект «Искусственный интеллект» в рамках нацпрограммы «Цифровая экономика РФ». И вообще – искусственный интеллект сейчас везде. Но что вообще искусственный интеллект значит для человечества, люди не очень задумываются. При планировании этой секции мы с Андреем Михайловичем Ильницким, советником министра обороны РФ, естественно, хотели поднять и острые вопросы рисков использования искусственного интеллекта, и вопросы того, как вообще искусственный интеллект может изменить жизнь человечества в будущем. Потому что уже сейчас мы видим довольно много серьезных изменений», – поделилась мнением президент ГК InfoWatch, председатель правления АРПП «Отечественный софт» Наталья Касперская.

В конференции в рамках форума «Армия-2021» приняли участие ведущие российские эксперты, работающие с технологиями искусственного интеллекта. Среди них начальник управления президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева, научный руководитель ИПМ им. Келдыша Борис Четверушкин, президент МФТИ Николай Кудрявцев и другие.

Участники конференции отметили высокую актуальность поднятых тем, необходимость их продвижения на уровне внешней и внутренней политики России, с целью создания системы, обеспечивающей эффективное и безопасное развитие технологий искусственного интеллекта. По их мнению, широкое внедрение технологий искусственного интеллекта, способно обеспечить серьезные преимущества государству, корпорациям и обществу сразу во многих сферах.

В то же время перевод экономических и социальных отношений в стране на новый технологический уклад несет в себе не только значительные возможности, но и серьезные риски, связанные с влиянием высоких технологий на разные сферы жизни: социальную, гуманитарную, правовую. Участники конференции определили большую группу технологических, социальных, правовых, криминальных и иных рисков использования технологий искусственного интеллекта. Среди них отдельно выделяются риски использования иностранных платформ и ограничения, связанные с отсутствием единой государственной стратегии в ИИ, учитывающей национальную безопасность страны. Другие риски – размытие границ между человеком и машиной – способны подорвать саму основу человечества как вида.

Эти риски и угрозы усугубляются тем, что техническое и нормативно-правовое регулирование технологий ИИ в России и мире серьезно отстают от темпов развития и внедрения таких технологий в экономике, государственном управлении и обществе в целом. Главной задачей участники конференции считают формирование собственной российской идеологии и стратегии развития технологий ИИ в упреждающем темпе.

Кроме того, многие участники мероприятия отметили необходимость законодательного закрепления крайне важного при использовании систем ИИ принципа: конечное решение должно оставаться за человеком и приниматься с учетом этических и моральных норм российского общества.

По общему мнению участников конференции, главной задачей всех сторон, заинтересованных в эффективном и безопасном развитии российского сектора ИИ, должно стать определение четких и безопасных рамок дальнейшей цифровой трансформации страны с фокусом на защиту ее суверенитета, человеческого, научного и культурного потенциала по формуле «технологии для людей», а не наоборот.

По итогам конференции было вынесено несколько рекомендаций. Среди них – строгая государственная экспертиза проектов, подразумевающих использование технологий ИИ; рост статуса высшего и среднего образования в целях технологического прорыва; обеспечение высокой информационно-психологической и ментальной устойчивости общества в условиях цифровизации; комплексное исследование использования ИИ-технологий против РФ (Минобороны РФ и другие заинтересованные ведомства); возможность создания координирующего органа по проблематике ИИ для консолидации усилий госсектора, научно-экспертного и делового сообщества по защите цифрового суверенитета РФ; формирование межотраслевого пула российских экспертов в сфере ИИ при Министерстве Обороны, его привлечение к решению актуальных проблем внедрения и регулирования ИИ в России и мире.

Рубрики: Регулирование, Безопасность

Ключевые слова: информационная безопасность, InfoWatch, Искусственный интеллект