Мир как воля и представление. Будущее с оглядкой на AI

На этой неофициальной, закрытой встрече технологии, искусство и философия слились воедино в нейроспектакле-размышлении. Чем является для человечества искусственный интеллект: подарком или оружием страшнее атомной бомбы? Будущее – это новые возможности или барьер, за который человеку не перешагнуть? Во время представления ответы на эти вопросы каждому предстояло осмыслить лично.

В глазах смотрящего

Сто лет назад искусственный интеллект был вымыслом фантастов, затем он попал на страницы диссертаций и, наконец, стал реальностью, превратившись в товар. А любое отношение к товарам делит общество на два лагеря, говорит президент Cognitive Technologies. В этом лагере есть те, кто замотивирован ленью и те, кто скован страхом.

«Страх это очень сильная мотивация, – продолжает Ольга Ускова под джазовую импровизацию. –  О чем этот страх? Это страх людей потерять доминирующее положение, которое человечество сохраняло на протяжении тысячелетий. И мы, разработчики, стараемся всеми силами не допустить победы искусственного интеллекта над нашими не самыми лучшими манерами».

«Люди давно пытаются переложить работу на других: рабы, крестьяне, пленные, заключенные. Для таких людей превалирующая мотивация – лень. Сейчас появился кремниевый «организм», на который можно свалить работу. В других случаях это либо уголовно наказуемо, либо грозит укорами совести», – монолог Ольги Усковой прерывается выходом уличной труппы, которая является частью этого представления. В их руках подарочная коробка в форме сердца, открыв её актеры смотрят в лицо зрителю. Какова наша реакция?

Новый организм

Судьба искусственного интеллекта очень похожа на судьбу растущего человека. Этот организм имеет преставления о мире, уверенно сегментирует все классы объектов и понимает их назначения. Ольга Ускова добавляет, что научить робота понимать мир непросто. Но дальше он хочет развиваться подобно великому специалисту, по конкретно выбранному направлению.

«Но кто задает это направление? Человечество пишет программы и ставит задачи.

Если взять реальный рынок продаж ИИ, то продается узконаправленный искусственный интеллект, который выполняет определенную задачу: собирает урожай, моет пол и т.д. И не надо, чтобы ИИ одновременно решал разные задачи: играл в шахматы, создавал романы и водил машину. Какое направление мы зададим, в том направлении мир и пойдет», – поясняла ранее Ольга Ускова в интервью Софико Шеварднадзе.

Если мы хотим создать ученика с необычными способностями, нам нужен очень необычный учитель. Представление продолжается: «Учителя Cognitive Pilot научили нас вычленять суть из общей массы вещей: нам не нужны детали, мы хотим видеть главное без выстраивания длинной и нудной логической цепи. Тому же мы обучили и ИИ – видеть главное. Cognitive Pilot, раз увидев человека, сможет его определить даже в условиях плохой видимости. Это называется интуиция. А интуиция - это способность на основании общей картины и деталей делать вывод без выстраивания логической цепи».

85% времени человек производит действия «на автомате». Мы живем с этой нейронной сетью внутри себя, и это нас не пугает, не останавливает наших действий.

«Мы можем представить, что это такое, если поймем, как работает наш мозг, – объясняет Ольга Ускова. – Когда в темной комнате нам мерещатся силуэты – исходя из контуров, освещения и имеющихся знаний об объекте мы принимаем пальто, одеяло и т.д. за монстров. Так и работает нейронная сеть: мозг провел анализ и выдал изображение». Потому, к примеру, движущийся в условиях низкой видимости локомотив, оснащенный системой искусственного интеллекта, остановится перед человеком, скрытым под покрывалом тумана или стеной дождя. На нейроспектакле мы увидели не только ИИ своими глазами, но и как ИИ видит нас.

Что нас ждет

Компонентами нейронного представления были мысли-опасения людей: «Компьютеры – наше будущее. Только какое будущее рядом с этими компьютерами ждет нас? С одной стороны, это безумно интересно, а с другой – пугает неизвестность. Что же нас ждет и как это на нас повлияет? Не хочется, чтобы люди теряли работу. Я боюсь, ведь машины могут завоевать весь мир и людей», – разными голосами звучат со сцены знакомые слова. 

Приход мощного general ИИ не просто так называют сингулярностью, как процессы внутри черной дыры. «Мы не знаем, что от него ожидать. ИИ это не обязательно плохо, но есть и такая вероятность», –  обмолвился Илон Маск во время интервью на вручении премии Axel Springer 2020. Если, к примеру, не ограничить возможностей ИИ в области военно-промышленного комплекса, то техническая сингулярность окажется не такой фантастической. 

«Опасность в том, что искусственный интеллект развивается с огромной скоростью и становится все более мощным. Есть основания опасаться, что у него появится что-то вроде личности и, поскольку он считает и думает быстрее, чем мы, он может выйти из-под контроля человека. Искусственный интеллект нельзя допустить до ситуации, когда он будет принимать решения. – говорит доктор наук, профессор СПбГУ Татьяна Черниговская.

Опасения высказываются не только простыми людьми, но многими известными учеными и безнесменами. Какой ответ на эти опасения дают нам разработчики? Маск создает Neuralink, подтверждая знаменитую поговорку «не можешь победить, присоединяйся». На мировом уровне начинают разрабатываться правовые основы сосуществования человека и искусственного интеллекта.

«Возникла очень сложна этическая, социальная и моральная дилеммы: что же с нами потом будет?» – говорит Ускова со сцены «МИСиС». Ранее в лектории «Прямая речь» Ольга Ускова рассказывала о ключе к решению этой проблемы.

Наша самозащита – это самоосознание и совершенствование собственного я

На аукционе Christie's в 2018 году картина, нарисованная с участием искусственного интеллекта, была продана за 28 млн рублей. В Китае машина, управляемая искусственным интеллектом, в экстренной ситуации собьет человека, который обладает низким социальным рейтингом. Мораль и область применения ИИ – это вопрос всеобщего договора.

Уже сейчас необходимо установить моральное разграничение: где мы хотим видеть ИИ, насколько мы хотим освободить себя от работы и для чего. Ожидать, что человечество, освобожденное от работы, возьмется за кисти и перо – глупо. То, на что человек тратит жизнь, зависит от образования и контроля со стороны государства. То, как мы видим ИИ, есть наше представление и то, как мы будем им распоряжаться – воля.

«Мы считали, что земля плоская. Потом нас расстроили, сказали, что земля круглая и состоит из атомов. Недавно мы поняли, что наш мир состоит из пикселей и мы сами его создаем. Человек –  творец своего будущего», в завершении нейроспектакля произносит Ольга Ускова.