За бота о клиенте: ЦБ задумался о регулировании искусственного интеллекта

Кролик, беги

На ближайшие 10 лет главным технологическим трендом на финрынке, единогласно заявили участники сессии на конференции, будет искусственный интеллект. Соответственно, встает и вопрос о его регулировании. Это станет новым вызовом для мегарегулятора на перспективу очередной десятилетки, отметил председатель набсовета Мосбиржи Сергей Швецов.

По его мнению, этот период будет временем выстраивания механизмов (в том числе регуляторных) взаимодействия с искусственным интеллектом.

— Если сейчас мы беспокоимся о кибербезопасности, то следующие 10 лет будем беспокоиться о том, насколько управляем ИИ, не превратит ли восстание машин нас в подопытных кроликов, — считает Сергей Швецов.

В Центробанке не возражают. Как сообщила Ольга Скоробогатова, вопрос о регулировании ИИ — одна из ключевых задач на обозримую перспективу. Правда, и торопиться в этом вопросе Центробанк не намерен. До конца года, по словам первого зампреда ЦБ, планируется выпустить консультативный доклад. Это делается, чтобы обсудить с участниками рынка, в каких областях они планируют использовать искусственный интеллект, какие видят риски и бизнес-кейсы в будущем, уточнила она.

— Сейчас мы видим только вершину айсберга по рискам. Не очень понятно, где искусственный интеллект может использоваться, а где мы сами не хотим, чтобы он использовался. Эти вопросы совместно с участниками рынка мы будем обсуждать, какие подходы должны быть, и в первую очередь с точки зрения безопасности (данных и операций. — «Известия») клиента, — подчеркнула она.

«Вопрос доверия к аватарам, цифровым помощникам, роботам — по-разному можно называть — является ключевым», добавила первый зампред ЦБ.

— Если человек не будет доверять, то и пользоваться ими не будет. Обеспечить это доверие может только регулятор вместе с участниками финансового рынка, — уверена Ольга Скоробогатова.

Уже на основе обратной связи ЦБ намерен до конца следующего года выработать подходы по регулированию ИИ.

Новое электричество — не игрушка

Что же по вопросу регулирования ИИ и его актуальности думают участники рынка, инфраструктуры и эксперты? Так, старший вице-президент, руководитель блока «Технологии» «Сбера» Андрей Белевцев также отметил значимость безопасности решений, которые будут использоваться в финансовом секторе. Он уверен, что определяющим тенденции на рынке будет ИИ. Представитель банка напомнил фразу, которая успела стать расхожей, что «искусственный интеллект — новое электричество».

И речь прежде всего идет о генеративном ИИ и о том, как его внедрение приведет к трансформации «цифровых помощников», которые уже сейчас используются финсектором.

— Нынешние помощники достаточно глупые. Их можно попросить о чем-то простом. С генеративным интеллектом мы встали на путь к сильному взаимодействию. Любую задачу, которую решает человек, в целом можно сформулировать естественным человеческим языком, — сказал Андрей Белевцев.

Сергей Швецов видит развитие в этом сегменте в распространении приложений, которые клиенты будут покупать у финтех-платформ, чтобы они вместо человека взаимодействовали с фининститутами. Проще говоря, гражданин покупает программу, которая ведет его личные финансы, и доверяет ей этот процесс. Пользователь выбирает настройки, и далее его деньгами управляет программа.

— Технологии направлены на высвобождение времени, поэтому взаимодействие самого человека с финансовым сектором будет гораздо ниже. Но сами взаимодействия внутри финансового сектора будут гораздо выше — благодаря тому, что на стороне человека будет «аватар», — пояснил глава набсовета Мосбиржи.

Зампред правления ВТБ Вадим Кулик тоже уверен, что рынок ожидает тектоническая революция — причем как участников, так и регулятора. Он предположил, что «цифровой помощник» станет одним из важнейших трендов, когда финтехи начнут давать доступ к дистанционному банковскому обслуживанию через приложения.

— Это некие компании, которые торгуют «аватарами» банков. На этих платформах можно будет купить программы цифровых помощников. Их сильная сторона будет состоять в том, что рекомендовать они станут не продукт в этом банке, а работать на клиента, — пояснил Вадим Кулик.

По его мнению, из области фантастики в реальность такой сценарий переместится, если найти способ передать деньги, которыми сейчас обладают банки, на сторону финплатформ.

— Регулятор переосмысливает свою роль тоже, поскольку в основе всех этих процессов лежат данные, а также способы данными обмениваться. И чем их больше, тем умнее модели и тем быстрее ты развиваешься. То же самое происходит с регуляторикой. Надзор качественно меняется — центробанки переосмысливают доступ к данным и способы регулирования. Взаимодействие банков как субъектов тоже претерпит изменения, — уверен эксперт.

Большой вопрос

Как сказал «Известиям» Сергей Швецов, отвечая на вопрос, неизбежно ли регулирование ИИ на финрынке, «неизбежно пройти путь, который описала Ольга Скоробогатова (доклад, обсуждение, определение подходов. — «Известия»).

— Вопрос — на каком уровне. На уровне Банка России — большой вопрос. На уровне государства — тоже большой вопрос. На уровне саморегулируемой организации — тоже. Для этого и планируется консультативный доклад, — заявил глава набсовета Мосбиржи «Известиям».

Возможно, регулирование и нужно — в плане определения информирования клиентов, кто и на основании чего им предлагает и кто будет нести ответственность и риски после использования, считает вице-президент Ассоциации банков России Алексей Войлуков. ​

Речь идет не о регулировании технологии ИИ, добавил руководитель Лаборатории блокчейна и финтеха Школы управления «Сколково» Егор Кривошея. По его мнению, в этом нет смысла.

— Но применение регулирования на финансовом рынке вполне возможно, так как неясно, каким именно может быть ИИ влияние на финансовое поведение россиян, — отметил эксперт. — Форматы регулирования могут быть разные, но в любом случае полномочия ЦБ по регулированию этой сферы ограничатся только финансовыми рынками.

Учитывая широту нынешнего применения алгоритмов машинного обучения в разных сферах, предположил он, межведомственный формат регулирования может оказаться более эффективным.

Анна Каледина