video-trainings.ru

Я считаю, что будущего у нас не будет вообще, если мы не разберемся со своим внутренним миром. Мы попали в такой сложный мир, что у нас должна быть внутренняя опора, которая не даст нам разрушиться.

Даже если интеллект будет иметь конечной целью расчет числа Пи, то для реализации своей цели ему нужно будет контролировать все ресурсы. Поэтому некоторые считают, что, пытаясь контролировать ресурсы, искусственный интеллект может начать контролировать и нас.

Про каждого из нас известно, где мы находимся, что мы ели, если мы с кем-то были в ресторане, какие сумки покупаем. Я думаю, это всем понятно. Мир сверхбыстрый, он гибридный, и он мерцает. Люди, с которыми вы общаетесь по сетям, вы уверены, что это люди, а сколько их?

И они говорят, что сверхразум возможен, искусственный интеллект – это путь к сверхразуму. Отмечу три возможных пути того, как мы можем прийти к сверхразуму. Первый путь – это эмуляция головного мозга. Мы знаем, что мозг – это колоссально сложная конструкция, состоящая приблизительно из ста миллиарда модулей. При этом эти нейроны соединены между собой гигантским количеством связей. Это сложнейшая структура, которую очень сложно эмулировать. Но сложно – не значит невозможно. И первый способ – мы можем эмулировать работу мозга на машинах с 39 квадриллионами операций в секунду.

Lakhta View – международный просветительский проект, проходящий в формате масштабных публичных лекций. Сегодня он включает в себя восемь тематических дискуссионных сессий, в рамках которых раз в месяц ведущие мировые эксперты рассуждают об актуальных аспектах проектирования городской среды, анализируют настоящее и будущее и размышляют о том, как создать наиболее комфортное взаимодействие человека с окружающей его действительностью в физическом и идейном смыслах.

Это заставляет задуматься всерьез – является ли это хорошей идеей создавать думающие машины или нет. Мы понимаем, что нужно привлечь и этиков, и философ, и футурологов, чтобы об этом подумать.

Мы ускорялись сначала миллионами лет, потом тысячами, потом сотнями, потом десятками, а теперь это чуть ли не минуты. То есть мы очень быстро разогнались. Я вижу основную опасность в скорости изменений. Мы не успеваем приспособиться. Ты только привык к какой-то ситуации, а она уже другая. Ты снова привык, а она снова другая. Организм-то наш выдержит? А наша психика?

Но что это означает для нас, если такое будущее вероятно? Связан ли интеллект с конечными целями? Наши критерии интеллектуальности вряд ли применимы к искусственному интеллекту. Он не будет проходить наш эволюционный путь. Возможно, машина, способная мыслить, будет иметь совершенно абсурдные для нас цели. Она, конечно, может заняться произведением универсального, абсолютно идеального произведения искусства. Или она может попробовать рассчитывать число Пи до бесконечности. Или эта машина может попытаться спасти человечество от катастроф. Или она может решить, что необходимо превратить всю вселенную в скрепки. Цели и интеллект не связаны между собой.

Машины, которые сегодня обладают некими зачатками экспертных знаний в некоторых отраслях, со временем научатся мыслить и об общих вещах. И эти машины действительно через некоторое время будут более интеллектуальны, чем люди. Вот об этой возможности все больше и больше стали говорить как философы, так и те, кто занимается технологическими проектами, например, Илон Маск.

Мир стал «нечеловекомерен». Не только люди, но и любые существа не живут в пространстве наносекунд и нанометров. Там никто не живет. Меж тем системы искусственного интеллекта принимают решения, а дальше будут принимать ещё больше, особенно если мы хоть немножко утратим контроль. Они будут это делать в такие времена, какие мы даже не успеем заметить. Ну и, наконец, цифровой мир может жить автономно. У нас ещё есть место в этом мире?

И это нас успокаивает. Может, мы повлияем на эти цели, и сделаем так, чтобы эти цели были похожи на наши. Но есть другой тезис, который может заставить нас поволноваться. Это тезис об инструментальной конвергенции. И некоторые философы, в частности Ник Бостром, считают, что у интеллекта могут быть разные конечные цели, но обязательно будут одинаковые инструментальные цели. Какие? Одна из целей – увеличение или сохранение своего интеллекта. Второе – искусственному интеллекту потребуется технологическое совершенствование. Робот будет стремиться получить большую степень свободы, получить большие возможности передвигаться, управлять чем-то и так далее. И, наконец, самая страшная цель – контроль ресурсов. Именно она может оказаться для нас губительной.

Обложка: робот Софи / Wikimedia Commons

Сегодня у нас Google-generation: не те люди, которые, как мы, переучились, а те, которые родились в этой реальности. Они ушли в параллельные миры целиком. Они сидят в компьютере, где нет боли, нет страдания, где все возвращается. Нет навыка социального общения, нет навыка флирта. У них огромные психологические проблемы. Также происходят изменения в сером и белом веществе. Вы меня правильно поймите: ничего не изменится. Мы в этом мире цифровом живем и будем жить и дальше. Но нужно вытаскивать детей, потому что мы сильно рискуем.

Что делать с правом? Если беспилотная машина на кого-то наезжает, то кто виноват? Кто-то должен вложить в нее ответственность и понимание этических норм? Если это искусственный интеллект, значит его надо признать субъектом права. Значит, я не могу его стереть, потому что это убийство, не могу его выключить, потому что у него есть свои права. Ну, наконец, масса людей освободится от работы. И что они будут делать? Когда мне говорят, что они будут играть на лютне и писать сонеты, это вызывает недоумение. Поэтому я считаю, что мы пришли в мир, в котором нам нужно остановиться, зажечь камин, взять напиток в руку и сильно подумать, куда мы попали, и как с этим дальше жить.

Маклюэн говорил, что следующим видом будет homo sapiens autocreator, то есть самосоздаваемый вид. Руки-ноги переломали, их заменили. Печенку, изъеденную циррозом, заменили, почки, сердце, уши, глаза – это все реальность уже сейчас. А также вставили в голову чип, который, во-первых, делает вашу память больше, во-вторых, увеличивает скорость протекания процессов. Мы ещё люди?

Мы находимся в цивилизационном сломе. Это не алармизм, это факт. Это имеет глобальное значение, и оно необратимо. Поэтому нам придется выбирать между свободой и безопасностью.

Второй способ – создание простой машины, которая сможет самообучаться. Уже сейчас машины самообучаются. И если мы продолжим эту тенденцию, мы сможем прийти к машинам, которые будут жить вместе с нами и продолжать развивать свой интеллект. Сначала нужно попробовать сделать машину с интеллектом, скажем, кузнечика, потом мышки, потом может быть человека. Этот тренд будет развиваться не последовательно, а как хоккейная клюшка, то есть он будет все время ускоряться. И точка, к которой мы можем прийти, – это так называемая точка сингулярности. Когда развитие интеллекта будет бесконечным.

Это будет становиться мощным социальным разделяющим фактором, потому что будут те, которые смогут себе это позволить, и те, которые не смогут. И это уже расы. Это два разных биологических вида. Те, кто допущен к цифровому миру по разным причинам, и те, кто по-прежнему траву косит.

Понимаете, бессмысленно устраивать любые научные прорывы и делать чудесные механизмы, если при этом, скажем, мы скоро все тронемся умом. В некоторых странах уже обсуждается вопрос, не объявить ли пандемию психических болезней. Я не шучу. Количество людей с психическими нарушениями растет.