Cор из ИИ: мошенники начали пользоваться шумихой вокруг нейросети Sora

Закрытый плод сладок

Мошенники начали эксплуатировать интерес пользователей интернета к новой нейросети от компании OpenAI — Sora. С момента анонса 15 февраля появились сотни сайтов, которые могут использоваться в схемах обмана, отметили специалисты по информационной безопасности.

— Всего было обнаружено более 550 доменов, в заголовках которых фигурирует название этой нейросети. Среди данных ресурсов присутствуют фишинговые страницы, которые созданы с целью кражи персональных данных пользователей, — рассказал «Известиям» руководитель BI.ZONE Brand Protection Дмитрий Кирюшкин.

Это домены также могут использоваться для киберсквоттинга, то есть перепродажи по более высокой цене компаниям, которые используют продукт, но не успели зарегистрировать имя портала, подчеркнул эксперт.

Аналогичные данные предоставили и в компании «ГК-Солар». По словам руководителя центра мониторинга внешних цифровых угроз Solar AURA Александра Вураско, на российский сегмент интернета приходится порядка двух десятков из всех зарегистрированных доменов с упоминанием Sora.

— На данный момент явная вредоносная активность, связанная с этими ресурсами, не фиксируется, в основном ресурсы представляют собой «информационные сайты», предназначенные для нагона и перенаправления трафика, а также заработка на рекламе, — отметил эксерт. — Впрочем, опыт последних лет показывает, что можно ожидать всплеск вредоносной активности на волне популярности генеративных нейросетей.

Наиболее распространенные схемы мошенничеств — продажа доступов к нейросети, а также взломы аккаунтов в соцсетях и мессенджерах под видом регистрации в проекте, сказал Александр Вураско.

Корреспонденту «Известий» удалось обнаружить также ряд Telegram-каналов, якобы связанных с Sorа. Создатели некоторых обещают предоставить доступ к закрытому бета-тестированию и требуют за это оплату в рублях или криптовалюте.

Кроме создания сайтов злоумышленники используют и другие виды мошенничества, связанные с новинкой OpenAI. Сразу после запуска нейросети появился криптотокен Sora, который не имеет никакого отношения к разработке, рассказал «Известиям» ведущий аналитик департамента Digital Risk Protection компании F.A.C.C.T. Евгений Егоров. Соответствующий сайт был зарегистрирован в день анонса, заявил специалист. Как утверждают в описании авторы цифровой валюты, она создана эксклюзивно для сообщества пользователей нейросети и предназначена для того, чтобы расплачиваться криптовалютой без комиссий.

Почему мошенники обратили внимание на Sora

Мошенники обратили внимание на Sora, потому что это первая модель ИИ, которая позволяет по текстовому описанию создавать минутные видеоролики. Перспективы у таких моделей есть во многих областях — в кинематографе, рекламе, образовании, виртуальной реальности, рассказал руководитель группы развития систем искусственного интеллекта «МойОфис» Андрей Наумов.

Сейчас Sora пока недостаточно хорошо понимает физику: видеоролики содержат много неточностей в движении людей. Кроме того, она может придумывать видео только на основании уже увиденных при обучении примеров. Но с развитием подобных моделей и устранением недостатков ИИ можно будет использовать и для более точного моделирования мира. Например, по написанному сценарию можно будет снять целый фильм, где актеры, оператор и декорации будут созданы с помощью ИИ, заявил специалист.

— Инструменты на основе технологий искусственного интеллекта продолжают успешно находить поле для реального применения практически во всех сферах человеческой деятельности, — отметила генеральный директор Content AI Светлана Дергачева.

По мнению эксперта, Sora имеет все шансы стать востребованным прикладным инструментом для тех отраслей, где требуется быстрое производство видеоматериалов. Например, для подразделений маркетинга, рекламы, SMM, блогинга. Также она может быть полезна в сфере образования для подготовки наглядных учебных материалов.

По словам специалистов, с полноценным релизом продукта вырастет и число мошенничеств, в которых будут использоваться возможности этой нейросети, — преступники будут использовать ее как вспомогательный инструмент для атак. Комбинируя Sora с другими инструментами, например DeepFake и DeepVoice, злоумышленники получат возможность изобретать более сложные схемы, подчеркнул Евгений Егоров.

— Несмотря на фильтрацию потенциально пагубных текстовых запросов для генерации видео, найдутся способы обхода цензуры, как уже было с ChatGPT. В таком случае можно ожидать использование сгенерированных роликов в персонализированном мошенничестве, — объяснил специалист.

Кроме того, с помощью Sora злоумышленники смогут создавать презентации вымышленного продукта, а затем продавать его на фишинговых сайтах, резюмировал Евгений Егоров.

Иван Черноусов