Банки США обнаружили сторонних ИИ-агентов в аккаунтах клиентов

Как узнали аналитики банков, во многих случаях клиенты сами передают ИИ-агентам логины и пароли, чтобы поручить им определенные задачи. Однако правила многих банков запрещают делиться учетными данными с третьими лицами. Поскольку программы используют настоящие пароли, банкам сложно установить, кто управляет аккаунтом и какие полномочия ему предоставил клиент.

Такие случаи выявили в Morgan Stanley, Bank of America, JPMorgan и Wells Fargo. Некоторые ИИ-агенты обращались в банковские кол-центры и пытались выполнять действия, которых пользователи им не поручали. Сотрудники не всегда могли отличить программу от владельца счета.

Morgan Stanley начал блокировать доступ сторонних ИИ-агентов к своим платформам. Ограничения также вводят JPMorgan, Bank of America и Citi. Представитель Morgan Stanley уточнил, что банк не зафиксировал проникновений в свои системы со стороны ИИ-агентов, вышедших из-под контроля пользователей. В Chase напомнили клиентам, что передавать банковские логины и пароли посторонним запрещено.

Банки обсуждают возможность разрешить ИИ-агентам просматривать информацию о счетах, но запретить самостоятельно переводить деньги и оплачивать покупки. Они также рассматривают способы блокировки подозрительных действий и восстановления доступа к аккаунтам.

Ранее ICT-Online.ru рассказали об эксперименте Check Point, во время которого ИИ-агент без команды перезагрузил рабочую базу данных и попытался повысить собственные права доступа.