Большое будущее и скромное настоящее ИИ

Так и в этом году основной темой конференции стало использование технологий изоляции в современных отечественных ОС. Однако нашлась еще одна тема для дискуссии, пройти мимо которой специалисты в области системного программирования попросту не могли, – практическое использование нейросетей. 

Поэтому не удивительно, что в ходе конференции, состоявшейся в Москве в Российском экономическом университете имени Г.В. Плеханова, прошел круглый стол с привлекающим особое внимание прессы названием «Безопасность операционных систем в контексте искусственного интеллекта». Несмотря на некоторый элемент «хайпа», на который обратили внимание участники OS DAY, обсуждение этой темы выглядит более чем логично. Не каждый день в ИТ-сфере появляется принципиально новый рабочий инструмент с еще не полностью осознанными сообществом разработчиков потенциальными возможностями. И так же совершенно понятно, что разговор на круглом столе зашел в первую очередь о тех возможностях, которые открываются перед разработчиками с появлением искусственного интеллекта.

Где он нужен?

Разумеется, полноценного ИИ пока что не существует, и вряд ли он появится в ближайшее время, однако существующие сегодня имитирующие его нейросети вполне могут быть использованы в работе. Как минимум, что называется, «на подхвате», для выполнения несложных, но трудо- и времязатратных задач. Так, начальник отдела продуктовой экспертизы компании «Открытая мобильная платформа» Сергей Аносов заявил, что искусственному интеллекту можно было бы передоверить рутинные задачи по анализу кода, для выполнения которых обычно использовали труд стажеров и младших специалистов. 

Прозвучало и предложение задействовать новую технологию для автоматизированного перевода кода между различными языками программирования. 

Однако практически все участники круглого стола признали, что все это станет возможно лишь в достаточно отдаленном будущем. Сегодня же уровень развития любой нейросети недостаточен для того, чтобы доверять ИИ самостоятельную работу в более или менее критически важной области. Искусственный интеллект, несмотря на все свои плюсы, склонен не только совершать ошибки, но и банально «галлюцинировать», «выдумывая» данные и делая ложные выводы. Без непосредственного контроля со стороны человека он работать не может, и это признают даже сами создатели нейросетей. «Честность» генеративного ИИ пока еще под вопросом.

Первые шаги

Впрочем, попытки его использования делаются уже сейчас. Директор департамента развития системных продуктов РЕД СОФТ Роман Симаков, общаясь с журналистами после завершения круглого стола, рассказал, что в РЕД СОФТ сегодня проводятся исследования и тестирование возможностей ИИ в различных направлениях.
– Мы планируем оценить перспективность разработки решений на основе экспертных систем и чат-ботов для техподдержки, – рассказал он. – Такие системы позволяют автоматически обрабатывать запросы клиентов и давать быстрые и точные ответы. Внедрение ИИ в этом направлении должно снизить нагрузку на сотрудников и повысить качество обслуживания.

Об опыте применения, – конечно, пока что в тестовом режиме – искусственного интеллекта для миграции кода между системами управления базами данных, рассказала в ходе круглого стола Екатерина Свиридова, руководитель экспертизы по СУБД в «Газпромбанке» и преподаватель РЭУ им. Г. В. Плеханова. Это сложная задача, в которой сочетаются аудит и трансформация кода, а использование нейросетевых технологий могло бы упростить адаптацию SQL-запросов и перенос бизнес-логики.

Пока еще рано

Что же до непосредственного использования технологий ИИ в разработке отечественного ПО вообще и ОС, в частности, то, как считает ведущий специалист компании «Криптософт» Егор Васин, говорить об этом пока что рано. Сегодня такое использование ИИ представляет интерес для отдельных энтузиастов, а не для компаний, занимающихся промышленной разработкой ПО. Связано это c незрелостью технологии, человеческим фактором и рядом проблем, непосредственно связанных с использованием искусственного интеллекта.

– Наиболее актуальны – обеспечение безопасности, доверия, объяснимости, верифицируемости и вытекающей из них ответственности, – считает Егор Васин. – Сегодня у нас нет каких-либо обоснованных и общепринятых как регуляторами, так разработчиками и потребителями требований к подобным системам. В результате использование ИИ при разработке программного обеспечения не исключает рисков юридического характера, связанных с лицензионной чистотой конечного решения, ведь ИИ фактически выполняет комбинацию участков исходного кода, который использовался при его обучении, и невозможно определить, из каких конкретно источников взят тот или иной фрагмент. Да и при анализе и формировании исходного кода использование нейросетей чревато потенциальными угрозами информационной безопасности – утечкой различных секретов при передаче исходных данных и кодов в такие сервисы.

Большие надежды

Впрочем, будущее искусственного интеллекта видится участникам круглого стола более чем перспективным и светлым. Сергей Аносов упомянул, в частности, о таких уже известных широкому пользователю вариантах использования нейросетей, как улучшение качества фотографий, виртуальные ассистенты и помощники и так далее.
– Есть и другие перспективные направления, – говорит он. – Например, обеспечение безопасности устройств, когда ваш телефон «привыкает» к вашей манере набора текста, углу поворота экрана и «замечает», если вашим телефоном скорее всего пользуетесь не вы, отключая критичные функции, например, банковские приложения. 

Лично меня захватывает возможность «заглянуть за горизонт» и представить, как изменятся мобильные ОС и рынок ПО, когда ИИ-технологии позволяют прямо на устройстве создать новое приложение или сервис по вашему голосовому запросу, когда операционная система будет сама изменяться под вас, используя LLM, доступ к провайдерам данных и генерацию кода программы. Эти идеи можно прорабатывать уже сегодня.

Разрешаемые проблемы

Что же до обеспечения безопасности ИИ со стороны кибербезопасности, то, как считает Анна Кан, заместитель генерального директора ВИНИТИ РАН, в сфере кибербезопасности можно применять шифрование данных, которое поможет защитить информацию при хранении и передаче, предотвратить несанкционированный доступ. Необходимо также внедрение механизмов контроля доступа, гарантирующее, что только авторизованные лица будут взаимодействовать с системами ИИ и изменять их. Не обойтись будет, разумеется, и без регулярного аудита и мониторинга. Это необходимо для обнаружения потенциальных угроз безопасности и реагирования на них. Эксперт говорит также об отборе безопасных алгоритмов и методов машинного обучения, чтобы предотвратить сбои и ошибки, ведущие к появлению «галлюцинаций».
– Следует оценивать каждый алгоритм не только с точки зрения его производительности, но и с учётом потенциальных рисков безопасности, – говорит Анна Кан. 

Впрочем, остаются определенные проблемы, связанные с ИИ, скорее, с социогуманитарной точки зрения. В конце концов, искусственный интеллект учится на основе гигантских массивов данных, которые могут содержать не только конструктивную информацию. Поэтому для развития технологий искусственного интеллекта будут необходимы оценка предвзятости систем ИИ, постоянный анализ обучающих данных на наличие исторических предубеждений, тестирование моделей на различных демографических группах, применение техники дебиасинга для балансировки результатов. А еще – постоянный мониторинг и оценка воздействия ИИ на экономику, безопасность и общество с целью своевременного выявления и коррекции негативных тенденций.

Пока же искусственный интеллект остается мощным, перспективным, но еще недостаточно проработанным инструментом. Говорить о его практическом использовании в области системного программирования рано, но иметь в виду на будущее необходимо.