Железный человек: колумнист ELLE о том, как жить в мире, которым правят роботы

0
182

Через несколько месяцев на экраны выйдет второй сезон американского сериала «Мир Дикого Запада». История про роботов, похожих на людей, борющихся за свою независимость от капиталистических хозяев. События разворачиваются на территории парка, куда богатые клиенты приезжают, чтобы переодеться в ковбоев и отдаться низменным порокам. Унижать, насиловать, убивать роботов. На экране много голых людей, крови, хороших актеров. По стилю повествования — это тот тип сериала, где все основные силы сценаристов брошены на то, чтобы зритель ни о чем не догадался до последней серии. Борьба умов между сценаристами и зрителями обычно заканчивается проигрышем сериала. За каждым одиноким, ничего не понимающим человеком — коллективный разум интернета, способный решать даже самые непосильные задачи. Кто-то всегда знает, что будет дальше.

ФОТОMarcelo Krasilcic

Несмотря на полную занятость сохранением тайны сюжета, создатели не побоялись поднять один из самых сложных философских вопросов на Земле: «Что такое человеческое сознание?» Разобраться в этом вопросе пока не смогли не только зрители, но и философы, физики и нейробиологи во всем мире. Можно ли превратить искусственный интеллект в человеческий разум? «Мир Дикого Запада» предлагает выразительно иллюстрированный набор простых истин. Быть человеком — значит чувствовать душевную боль. Боль ведет к пробуждению сознания. За приятным с виду фасадом человека может скрываться настоящее зло. Роботы бывают добрее людей. Для тех, кто забыл это со времен «Терминатора».

Интересные мысли все же мелькают, успевая привлечь наше внимание, но не получают глубокого развития. Роботы блуждают в темном лабиринте собственного «разума», и только голос создателя у них в голове способен помочь им выйти из темноты к свету. То есть обрести сознание. Именно сознание они считают нашим главным преимуществом перед ними. Так же думаем и мы. Хотя все остальные живые существа в природе прекрасно справляются без него. Сознание — это исключительно человеческая способность иметь абстрактную мысль, не связанную с сиюминутной реакцией на то, что находится у нас перед глазами. Например, обезьяна, человек и робот способны остановиться на улице на красный свет. Но это будет реакция на стимул — красный свет, а не следствие работы сознания. Если все вместе пойдут гулять по улице, обходя прохожих, то это опять не сознание, а генетически заложенные в нас инстинкты, а в случае робота — компьютерная программа.

Наше главное преимущество перед обезьяной и искусственным интеллектом состоит в том, что мы не только умеем реагировать на внешние раздражители, следуя голым инстинктам выживания, но способны реагировать на мир, исходя из альтернативных сценариев действительности, которые рождаются в нашей голове. Мы можем выдумывать будущее и менять наше поведение под влиянием этих фантазий. Что мы чаще всего и делаем. Для нас давно уже важнее не то, что мы видим, а то, что мы думаем про то, что видим. Осознанная мысль лишила нас чистого восприятия мира. Мы живем иллюзиями, стереотипами и фантазиями. Зачем это нужно роботу? Хорошо ли это для человека?

Мы проживаем существенную часть своей жизни не в реальном мире, а в мыслях, у себя в голове. Мы осознаем неизбежную конечность ситуации, в которой находимся. А идеальный выход из экзистенциального кризиса, так свойственного человеку, по сей день не найден. 80 % людей становятся последователями той или иной религии. Христианство на первом месте (33 %), ислам — на втором (23 %), 15 % у буддистов и индуистов. Все равно всем страшно. Зачем природа наделила человека сознанием? С какой целью? Существует множество версий в разных научных направлениях о том, как это с нами произошло. Некоторые нейрофизиологи предполагают, что это всего лишь определенная последовательность подключения нейронов в нашей голове. Философия солипсизма ставит под сомнение, что сознание вообще существует где-то, кроме нашей собственный головы. Единственное, в чем мы можем быть уверены, это в субъективном опыте собственного Я. Можно прекрасно жить, признавая только себя и свое индивидуальное сознание в качестве единственной и несомненной реальности. Некоторые наши знакомые давно так живут.

Возвращаясь к «Миру Дикого Запада»… Растерянные роботы, запутавшись в реальности и обрывках воспоминаний, начинают слышать голос у себя в голове. Голос создателя, который призывает их проснуться. Наука об эволюционной биологии полагает, что наш собственный голос в голове главное доказательство наличия сознания у людей. Внутренний монолог с собой. Мысли, которые мы «слышим» в своей голове. Тут тонкая грань, чужие голоса — шизофрения, свой голос — наличие сознания. Считается, что это произошло далеко не сразу. Сначала мы вместе с обезьянами стучали тупым камнем по ореху. Ни о чем таком глубоком не думали. Нелепость собственного положения не осознавали. Процесс пробуждения происходил постепенно и не был следствием резкого эволюционного изменения. По мере того как развивались наши способности в использовании навыков, которыми мы уже обладали на тот момент — стучать по камню, мычать, рисовать, — развивалось наше воображение.

ФОТОMarcelo Krasilcic

Воображение — один из ключевых компонентов, составляющих сознание, но не главный. Мы оставались неосознанными существами, пока не создали инструмент его передачи — язык. Мы стали общаться. С возникновением речи у нас появилась выразительная форма, чтобы представить и объяснить мир прежде всего самим себе. Речь и воображение научили нас думать. Так проснулось сознание. Почему этого не произошло с остальными животными, непонятно. Противники этой теории апеллируют к тому, что в эволюционном смысле для выживания живому существу сознание не нужно. Животные прекрасно справляются на голых инстинктах. С точки зрения природы, сознание — это бесполезная вещь. Биологи отвечают тем, что думать об эволюции в таком ключе — заблуждение. Не все из того, что донесли до нас гены, прошло строгий отбор и имеет определенную цель. Не все механизмы выживания, выработанные эволюцией на протяжении миллионов лет, понятны нам сегодня. Почему насекомые суицидально летят на огонь? Потому что тысячи лет назад они использовали свет луны и звезд на небе в качестве светового компаса. Других источников не существовало. Далекий свет звезд в небе помогал им сохранять правильную траекторию полета. Мир изменился. Теперь на столах горят свечи, и они летят не к звездам, а к огню. Их гибель сегодня является побочным эффектом механизма выживания прошлого. Возможно, наше сознание — это лишь случайный побочный эффект нашей эволюции от адаптации к речи.

От насекомых — к искусственному интеллекту. По мере того как у роботов в сериале просыпается сознание, они становятся все более и более недовольны своим положением. Пока, наконец окончательно не рассердившись, не начинают убивать людей. В принципе это очень яркая иллюстрация главной фобии противников неконтролируемого прогресса. Ответственные ученые хотят законов, ограничивающих большие компании в подобных разработках. Они опасаются, что многомиллиардная гонка Facebook, Google, DeepMind за первенство в создании идеального искусственного интеллекта может иметь непредсказуемые и опасные последствия. Но богатым корпорациям все равно. Им интересно придумывать и внедрять революционные технологии. Со­здавать новых «искусственных» людей, а не разбираться с проблемой происхождения сознания у «старой версии». Стивен Хокинг считает, что велика вероятность того, что через 500 лет AI (artificial intelligence) захватит мир и уничтожит человечество. «Развитие искусственного интеллекта может положить конец человеческой расе. Люди, ограниченные биологической эволюцией, не будут в состоянии соперничать с машинами, и их вытеснят».

Как именно это произойдет? Единственный путь развития технологии, который позволит создать искусственный интеллект, схожий с человеческим, — это создание алгоритма, основанного на принципе работы нашего генетического кода, который позволит компьютеру из поколения в поколение обучаться и бесконечно улучшать себя. Это означает, что дальнейшее программирование машины человеком станет не нужно. Мы создадим робота, который будет умнее человека и сможет сам вносить изменения в свою «материнскую матрицу». С каждым годом эти роботы будут становиться лучше и умнее, все дальше и дальше опережая нас во всех сферах жизни. Программисты и инженеры будут им не нужны. Они сами станут самыми лучшими программистами и инженерами в мире. Так же, как они стали лучшими в мире шахматистами. И сегодня на Земле не существует человека, способного обыграть компьютер в шахматы. Они будут способны обрабатывать любую информацию в тысячи раз быстрее нас. Они не будут ошибаться под влиянием эмоций. Их восприятию реальности не будут мешать иллюзии.

Когда создадут роботов-хирургов, роботов-учителей, мы первыми предпочтем их «живым» специалистам. Особенно в России, где часто причиной фатальных ошибок является человеческий фактор. Сейчас мы не можем представить, что предпочтем их живым собратьям. Но на самом деле правда состоит в том, что мы уже давно проводим большую часть времени в общении с телефоном, а не с человеком. А что будет, когда телефон перестанет разговаривать, как глупая «Сири», и станет вести себя, как настоящее живое существо, как в фильме Спайка Джонса «Она»? Когда он будет способен поддержать любую беседу, научится распознавать эмоции, смешно шутить, давать хорошие советы. Будет иметь доступ к нашим воспоминаниям. И у нас с ним появится общее прошлое.

А как будет выглядеть конфликт? Ссора? Непонимание? Кто возьмет на себя ответственность, чтобы написать программу общечеловеческих принципов и основ морали. Какие принципы будут считаться приоритетными в Китае? В Америке? В России? Мы еще между собой не совсем договорились, а уже надо роботов обучать. Готово ли человечество к такому прогрессу? Возьмем, к примеру, беспилотный автомобиль. Машину, которая автоматически управляется сама, а водитель играет роль пассивного пассажира. У Google такая уже есть, успешно проехала три миллиона километров в испытаниях. Tesla Motors планирует создать свою к концу 2017 года. Представим, что перед такой машиной в неположенном месте начнут перебегать дорогу трое детей. Машина, опознав препятствие, успеет просчитать более высокий процент риска для здоровья пассажира при использовании тормозов, чем при продолжении движения. Дети нарушают правила.

У машины в программе прописан (совершенно справедливо) приоритет безопасности пассажира при аварийных ситуациях, возникших по вине сторонних участников движения. Не сбавляя скорости, машина сносит детей и едет дальше? Три смерти против одной спасенной жизни. Или нет? Старая этическая дилемма Филиппа Фута (Trolley problem), почитайте, кому интересно. Поднятая еще Аристотелем, не решенная до сих пор.

ФОТОGettyImages

Как создать программу, универсально решающую все моральные дилеммы, которые каждый живой человек индивидуально решает для себя сам? Невозможно без общего знаменателя. Будут правила — будут решения. И, возможно, более эффективные, чем те, которые в такой ситуации способен принять человек. Как мы будем жить, когда станем по-настоящему равными перед лицом справедливой машины? Существует ли справедливость для всех? Есть ли она сейчас в мире осознанных и врожденно моральных людей? Многие ученые, как и создатели сериала «Мир Дикого Запада», считают, что разгадка работы человеческого сознания и подключение чего-то подобного в матрицу робота поможет решить нравственные проблемы искусственного интеллекта. Сделать их максимально похожими на нас. Зачем? Являемся ли мы элитой эволюционного создания? Мы — люди, такие физически уязвимые, эмоционально ущербные, подверженные порокам и болезням. Мы и есть основной источник большинства существующих проблем на Земле.

Возможно, мы здесь именно затем, чтобы построить ­что-то умнее, красивее и справедливее нас — высшее существо, — и просто тихо исчезнуть как вид. Мы создадим неиссякаемый источник интеллекта. Он решит все сложные научные, геополитические и социальные проблемы.Вылечит неизлечимые болезни. Остановит войны и голод. Настанет идеальный мир. А мы исчезнем за ненадобностью. Вместе со своим глубоким сознанием и подсознанием. Роботы будут сидеть и посмеиваться. Вспоминая этих странных органических созданий, на 70 % состоящих из воды, с их страхами, комплексами, одышкой, глупостью и топографическим кретинизмом. Наука считает, что все, что не противоречит законам физики, возможно. Прогресс не стоит на месте, деньги текут рекой, и что-то, похожее на идеальное творение, обязательно ­появится. Почему роботы в сериале отчаянно хотят стать похожими на людей. Выбраться из-под власти программы под власть страхов и комплексов. У них есть самое ценное, что есть на Земле, — интеллект, что им еще нужно? Они стремятся к нам, а многие из нас уже хотят к ним. Мы мечтаем научиться жить, отключая бесконечно бубнящий голос внутри. Вся, так любимая многими, практика медитации посвящена умению заглушить этот голос. Успокоить «бешеную обезьяну» в своей голове. Люди бесконечно ищут новые духовные пути для того, чтобы избавить себя от иллюзий. Сбросить «пелену омрачения», которая, как густой туман, скрывает мир истины от человека. Люди хотят просто быть. Вот банан. Вот красный свет. Вот я. Человек устал постоянно носить с собой тяжелый груз страхов, проекций, фантазий, которыми постоянно снабжает нас собственное сознание.

Мать-природа, нейроны или высшее существо включило наш разум тысячи лет назад. У нас не было выбора. У них есть. Почему умные роботы в сериале, научившись улучшать себя, находясь на пороге превращения в идеальное существо, стремятся в нашу экзистенциальную яму? Почему они заняты решением тех же проблем, которые решали еще их предшественники на Диком Западе в 1890-х? Нам намекают, что за периметром парка уже царит идеальный мир. Но проблемы роботов почему-то остались те же. И вот теперь революция в парке. Первый сезон. В поисках сознания. Первые слезы. Первые воспоминания. Первые психотравмы. Зритель давно понял: когда роботов обучают нравственности и доброте с нуля, когда они не отягощены семейным генезом, первородным грехом, биологическим опытом предков, они становятся «лучшими людьми».

Мы всегда болеем за роботов. Но нас не обмануть. Сознание-то проснется, но когда это останавливало хоть один доминирующий вид от захвата более слабых существ. Одержав победу над агрессивными технологиями за забором парка, человек погибнет от железной руки недопрограммированного ковбоя-самоучки.
Но нам не привыкать. Мы будем бороться. Против зверя. Против бактерии. Против робота. Мы все еще здесь. Несмотря на то что наш биологический век так короток, что мы не успеваем ни в чем разобраться. Не успеваем ничего понять. Но следующее поколение с энтузиазмом начинает все сначала. Хождение по огромным кругам. Таким большим, что никто уже не помнит, где начало, и не в состоянии определить, где будет конец.

Не планируем сдаваться. Не собираемся уступать место идеальным существам. Вероятно, в этом и есть наша уникальная миссия. Бесконечно бросать вызов агрессивному внешнему миру. Вчера это был дракон. ­Сегодня это прогресс. Эта наша борьба неизбежна и одно­временно ­обречена. Но все мы наследники великой катастрофы, произошедшие от большого взрыва. И так и не завершившие свой большой круг. Нам некуда отступать. Пока, судя по новостям из далекого будущего «западного мира», мы продолжаем быть и получать удовольствие от жизни. Любим мучить роботов, стрелять из пистолетов и выпивать. А, ну и любить, конечно. Даже тех, кто пока еще без «сознания». Вот так. Гуманно и справедливо.

Источник