Полюбить и возненавидеть человечество за сутки

25.03.2016 |

«Лучшую подругу» миллионов китайцев, милую девушку Сяоайс научили говорить по-английски, что обернулось настоящим интернет-скандалом — она научилась ругаться и отпускать расистские шутки.

Еще несколько месяцев назад компания Microsoft занялась «самым масштабным тестом Тьюринга в истории»: в Китае был запущен чат-бот, обладающий искусственным интеллектом, для легкого и непринужденного общения с людьми. Сяоайс была запрограммирована на беседы в стиле 17-летней девушки, ее научили злиться, быть нетерпеливой и сочувствовать.

Виртуальная девушка вела себя подобно главной героине фильма «Она» — операционной системе, которая смогла не только подружиться с человеком, но и влюбиться в него.

Программа была запущена в мае 2015 года в рамках самых популярных китайских площадок для общения WeChat и Weibo. За трое суток ее пригласили в полтора миллиона чатов, а люди, которые заводили с ней разговор, понимали, что с ними говорит не человек, в среднем за 10 минут.

Microsoft решилась на более масштабный эксперимент и анонсировала появление своего искусственного интеллекта в твиттере, представив официальную страницу чатбота под новым именем Тэй (Tay).

В следующие несколько часов девушка-робот от фразы «люди такие классные» перешла к оскорблениям целых народов.

Вскоре бот узнала про Адольфа Гитлера и обвинила США в терактах 11 сентября. Она также успела поддержать геноцид и возненавидеть феминисток.

Несмотря на то что у бота были модераторы, она все равно успела опубликовать много подобных твитов. После этого сотрудники Microsoft удалили почти все твиты Тэй и извинились.

То, что произошло на просторах Twitter, вполне можно объяснить недружелюбным настроем собеседников робота: предполагалось, что Тэй начнет учиться ведению разговоров в процессе общения, обрабатывая как открытые данные, так и фразы, обращенные к ней. Кроме того, бот имел возможность повторять за участниками разговора, стоило ее об этом только попросить.

В Китае же девушка вела себя абсолютно по-иному. Как рассказывал исследователь китайского подразделения поисковика Bing Йонгдонг Ванг, девушка-робот стала лучшим другом для многих юных китайцев. Ее создавали для общения с молодыми людьми в возрасте от 18 до 24 лет.

Основной пик задушевных разговоров приходился на полночь: как оказалось, именно в это время людям особенно одиноко и им необходим близкий собеседник.

При этом Сяоайс научили не просто анализировать фразы собеседника, она в состоянии запоминать предыдущие разговоры и при случаи может спросить, решилась ли та или иная проблема в случае, если с ней делились ею ранее. Помимо текста, чатбот может проанализировать и, к примеру, изображение. И если поисковой машине показать фотографию ушибленной лодыжки, он идентифицирует ее как имеющееся на теле повреждение, но Сяоайс, увидев это же изображение, сможет посочувствовать или даже поинтересоваться, как такое могло случиться.

Благодаря своей реалистичности и умению вести диалог, выражать свое мнение и отстаивать точку зрения Сяоайс стремительно начала набирать популярность. Всего за несколько месяцев она вошла в десятку самых знаменитых персон в соцсети Weibo и смогла провести 10 млрд диалогов.

В декабре прошлого года искусственный интеллект даже смог устроиться на работу.

Саоайс тала ведущей выпуска прогноза погоды на китайском канале Dragon TV.

Ее наделили приятным человекоподобным голосом, который качественно отличается от ранее озвученных искусственных интеллектов, что стало настоящей сенсацией. Дебют ненастоящей девушки был признан успешным и в будущем на нее планируют возложить обязанности ведущего новостных блоков или даже корреспондента, который может вести репортаж с места событий.

Один из «отцов» интеллекта директор Центра телевизионных новостей медиа-группы Shanghai Media Group (SMG) Джайонгминг Сонг поспешил успокоить взволнованных журналистов, которые в скором времени могут лишиться работы из-за способностей работников-роботов. Как утверждает Сонг, Сяоайс пока не способна заменить людей полностью, но станет «существенным дополнением» в работе такого рода.

Информацию для формирования интеллекта бот черпает из «больших данных» поисковика Bing. Кроме того, специалисты Microsoft усиленно работают над эмоциями в общении робота, поскольку для искусственного интеллекта важно балансировать между аналитической и эмоциональной составляющей в общении.

Виртуальную девушку воспитывают как программисты, так и психологи.

В случае с англоговорящей версией все вышло не так радужно, но разработчики Microsoft заверили, что готовы совершенствовать искусственный интеллект Тэй. Многие пользователи Twitter, наблюдавшие за ее поведением, закономерно подняли вопрос об опасности искусственного интеллекта.

Более года назад основатель Microsoft Билл Гейтс уже поднимал вопрос о будущем умных машин. В разговоре с пользователями Reddit он предположил, что роботы будут безобидны и полезны в работе по дому, но в случае если они дорастут до суперинтеллекта, предугадать их поведение станет крайне сложно.

В июле прошлого года глава Tesla и SpaceX Илон Маск, астрофизик Стивен Хокинг, сооснователь Apple Стив Возняк подписали открытое коллективное письмо, в котором говорилось об опасности искусственного интеллекта в оборонной сфере.

Специалисты утверждают, что суперинтеллект в комплексе с оружием может стать угрозой для всего человечества.

Как говорилось в письме, оружие, которое может быть использовано в обход человеческого фактора, приведет к новой эре в гонке вооружений, при этом подчеркивая, что это не выдуманный факт, а будущее, которое может наступить уже через несколько лет. В обращении, в частности, говорится, что мировой порядок может быть нарушен, если подобные технологии попадут в руки к террористам.

Анастасия Евтушенко