Глава ГК InfoWatch рассказала о рисках ИИ на «Армии-2021»

Помимо Натальи Касперской в секции приняли участие:

Игорь Каляев — российский учёный, специалист в области многопроцессорных вычислительных и управляющих систем, академик РАН; Сергей Желтов, российский учёный, специалист в области процессов управления, обработки информации в сложных системах управления, доктор технических наук, академик РАН; Александр Осадчук, заместитель руководителя департамента информационных систем Министерства обороны РФ; Максим Вакштейн, заместитель генерального директора Фонда перспективных исследований, руководитель направления информационных исследований; Дмитрий Онтоев, начальник аналитического управления департамента информационных технологий (ДИТ) г. Москвы; Павел Голосов, декан факультета ИТ и анализа данных Института ЭМИТ РАНХиГС и другие ключевые эксперты по заявленным темам.

Глава ГК InfoWatch посчитала общим для России риском отставание по внедрениям и развитию искусственного интеллекта (ИИ) от других стран и возможную уязвимость в военном отношении. Дополнительную опасность, по ее мнению, несут зависимость от иностранных технологий, разнообразные технологические и социально-экономические риски.

При этом главными технологическими рисками Наталья Касперская считает ситуацию «черного ящика и низкое качество работы ИИ на больших объемах данных в «боевом» применении.

«Основная нерешенная проблема – черный ящик. Мне бы хотелось, чтобы мы на форуме пришли к каким-то подходам по решению этой проблемы. До тех пор, пока у нас «черный ящик», использование ИИ в военных системах очень опасно», - сказала президент ГК InfoWatch, председатель правления АРПП «Отечественный софт».

По мнению Наталья Ивановны, в государстве нужно иметь четкую систематизацию рисков ИИ и понимание как с ними работать. России также нужна целостная национальная программа по ИИ, отражающая не только экономические вопросы, но и вопросы национальной безопасности.