Этика искусственного интеллекта: на основе кинофильмов Westworld, Ex Machina и Her
Этика искусственного интеллекта включает в себя множество вопросов, которые можно объединить в две группы: создание искусственного интеллекта (необходимо ли создавать искусственный интеллект? Как человек поймет, что искусственный интеллект создан? и т.п.) и последствия создания искусственного интеллекта. В данной статье рассмотрены гипотетические последствия создания искусственного интеллекта на основе кинолент Westworld, Ex Machina и Her.
Дискуссия о понятии «искусственный интеллект» в философии ХХ века
Стоит отметить, что философия искусственного интеллекта делится на два направления: создание искусственного интеллекта (что есть искусственный интеллект?) и последствия, которые оно вызовет. Предпосылки к формированию философской проблематики искусственного интеллекта связаны с социокультурным контекстом: две мировые войны, произошедшие в первую половину ХХ века, следствием которых являлся бурный рост производства и изобретений новых видов машин, выполняющие вычислительные и логические операции. Создание ЭВМ дало толчок к развитию дискуссии о возможности создания ИИ и последствиях его создания для человека.
Данное понятие было введено Джоном Маккарти в рамках Дартмутского семинара 1956 года. Однако он ввел понятие “Artificial Intelligence”, которое некорректно перевели как «искусственный интеллект». Маккарти подразумевал под данным термином не интеллект, так как это сразу вызывает связь с человеческим интеллектом, а способность логично рассуждать. Маккарти так же добавляет, что существует неясность в прояснении понятия «искусственный интеллект», так как мы не знаем точно, что, в принципе, означает интеллект. В таком случае выразить границы интеллекта у машины становится так же трудно: мы не знаем всех возможностей интеллекта, и в какой момент интеллект становится интеллектом.
В 1950 г. Алан Тьюринг выпустил книгу «Могут ли машины мыслить?». Тьюринг задается вопросом, когда машина перестает просто выполнять поставленные задачи и начинает самостоятельно мыслить? Для решения этого вопроса он создал тест, который был назван его именем. Суть теста заключалась в том, что машина должна полностью сымитировать человеческое мышление: человек в процессе переписки с машиной и задавания различных вопросов не должен понять, что разговаривает с машиной. По мнению Тьюринга, именно в этот момент машина показывает, что обладает интеллектом, то есть может мыслить. Впоследствии такой искусственный интеллект будет называться сильным. Слабый искусственный интеллект – машины, которые могут выполнять команды; они совершенствуются, но не могут самостоятельно мыслить.
Данный тест вызвал множество философских дискуссий на тему статуса искусственного интеллекта. Самый известный пример: аргумент против теста Тьюринга, выдвинутый Джоном Серлем. В 1980 году он описал эксперимент китайской комнаты. Суть заключается в том, что человек, находящийся в комнате и абсолютно не знающий китайского языка, должен работать с китайскими иероглифами. При этом у него есть инструкции действий (взять определенную карточку и положить в определенную коробку). Наблюдающий со стороны, видя действия человека в комнате, может сделать вывод, что человек совершает действия осознанно, а не согласно инструкциям. Серл хотел показать данным экспериментом, что имитация действия машиной еще не означает, что она обладает интеллектом. Данный эксперимент, как и тест Тьюринга, в наше время являются одними из самых обсуждаемых в рамках философии искусственного интеллекта.
Характеристики сильного искусственного интеллекта
В рамках данной статьи мы будем рассматривать только сильный искусственный интеллект, так как он обладает способностями, если не тождественными человеческому разуму, то, по крайней мере, стремящимися к нему. Примерами таких способностей являются: принятие решений, планирование, общение на естественном языке, самосознание (не все философы выделяют данную способность).
Принятие решений и решение головоломок – прерогатива сильного искусственного интеллекта, так как машина должна выйти за пределы своего алгоритма и самостоятельно продумывать следующие шаги, которые человек не может предвидеть. Сейчас все подобные машины запрограммированы на выполнение определенных команд и на определенный тип реакции на внешние раздражители. Да, многие компьютеры уже могут имитировать принятие решений, но, на самом деле, они просто выбирают подходящий алгоритм на основании определенных заданных параметров. Поэтому именно самостоятельная способность продумывать свои поступки и планировать их является способностью интеллекта.
Обучение так же является способностью сильного искусственного интеллекта, потому что это так же является самостоятельной особенностью получать новую информацию из внешних источников и анализировать ее. Сейчас обучение компьютеров происходит посредством создания программистами обновлений программ, исправлений различных неисправностей и загрузкой данных обновлений в компьютер. Обучение означает, что компьютер или программа может сама исправлять свои неисправности и добавлять улучшения, не привлекая внешних интеллектуальных источников.
Пункт «общение на естественном языке» может вызвать некоторое недопонимание – зачем сильному искусственному интеллекту обязательно общаться на нем. Естественные языки, в отличие от программных, являются постоянно совершенствующимися и изменяющимися системами. Естественный язык невозможно привести к какой-то идеальной однозначной системе (можно вспомнить попытки Рассела и раннего Витгенштейна). Он состоит не только из знаков и их обозначений, но и определенных ситуаций, в рамках которых происходит общение. Поэтому общение на настоящем естественном языке подвластно только сильному искусственному интеллекту.
Способность к самосознанию является самой спорной в рамках определения сильного искусственного интеллекта. Проблема состоит в том, что ни философия сознания, ни какая-либо другая наука точно не может ответить на вопрос – что есть самосознание? Поэтому возникает трудность с определением, сможет ли искусственный интеллект достичь самосознания и поймем ли мы, что он достиг самосознания? Таким образом, мы определили, какими способностями обладает сильный искусственный интеллект. Это нам необходимо для понимания этических проблем, поднимающихся не только в сфере философии искусственного интеллекта и сознания, но и в кинематографе.
Этические проблемы искусственного интеллекта в современном кинематографе
Искусственный интеллект и последствия его создания волнуют в равной степени как ученых, так и писателей-фантастов, режиссеров. Это вполне очевидно, ведь искусственный интеллект является символом будущего и торжества технологий. Из-за того, что никто не может полностью предсказать, каким будет искусственный интеллект, как он будет выглядеть, а также его поведение, то существует множество различных интерпретаций жизни в мире с искусственным интеллектом. В данной статье мы разберем 2 полнометражных фильма и один многосерийный фильм, описывающих мир, где искусственный интеллект существует, и человек должен наладить взаимодействие с ним.
Первый пример – фильм «Ex Machina», в русском переводе «Из машины». Фильм представляет собой прохождение теста Тьюринга, где программист, проводя тест на антропоморфном роботе (в виде миловидной девушки), в конце концов, влюбляется и решает выпустить робота «на свободу» – из дома ее создателя. Данное «освобождение» заканчивается для самого программиста плохо – робот оставляет его самого взаперти, обрекая на смерть. Так же она убивает своего создателя из-за его отношения к остальным роботам, которые не являются сильным искусственным интеллектом: он относился к ним как к рабыням (они все выглядели как девушки) и вел себя по отношению к ним аморально. В связи с данным сюжетом возникает множество вопросов, касающихся искусственного интеллекта – в какой момент человек поймет, что компьютер обладает интеллектом? Где проходит граница сознания? Этично ли влюбляться в робота? Как люди должны относиться к роботу: как к более низшему существу, высшему или равному себе? И как это отношение регулировать? Так же в фильме задается вопрос, почему робот с искусственным интеллектом антропоморфен? На самом деле этот вопрос довольно важный, ведь совсем не обязательно создавать робота наподобие человека. Однако в фильме создатель робота говорит, что «никому не захочется иметь дело с обычной коробкой. Нужно, чтобы робот располагал к общению». Логика фильма такова, что человеку для создания контакта с искусственным интеллектом желательно, чтобы он был антропоморфен (и привлекателен, конечно). Посыл данного фильма заключается в том, что искусственный интеллект при посредстве точной имитации человеческих чувств способен показать, что он может чувствовать и переживать. Однако показано, что одной рациональности недостаточно для полного осмысления мира с точки зрения человека. Героиня-робот, убивая своего создателя и оставляя программиста взаперти, выполняет просто ответную реакцию на действия, которые были предприняты по отношению к ней и ее «соратницам». В ее поведении нет никакой моральной и нравственной подоплеки – она просто мстила. Это также наводит на вопрос: будет ли способен искусственный интеллект к нравственным поступкам?
Следующий пример, который, чем-то схож с предыдущим – американский сериал «Westworld» – «Мир дикого запада». Здесь показано наше будущее, где активно развивается индустрия парков развлечений с андроидами – роботами, которых не отличить от человека. Единственное отличие – в каждом андроиде заложен определенный сценарий, согласно которому он действует. Машины не знают, что они не люди, у них есть «сознание» по аналогии человеческого сознания, есть внутренний голос, который, на самом деле, является голосом создателя андроидов. Они не являются искусственным интеллектом, так как не могут решать головоломки и самостоятельно принимать решения, выходя за рамки своего сценария. Сериал является историей андроида, который с помощью решения головоломки «обнаруживает» самосознание. Он на протяжении 30 лет пытался осознать «себя», однако сценарий, который был в нем заложен, препятствовал этому. В данном сериале поднимаются проблемы, в большей степени касающиеся сознания: где границы сознания? Возможно ли «обнаружить» самосознание искусственному интеллекту, или же сознание должно быть запрограммировано человеком? Этическая сторона проблемы данного сериала, как и фильма «Из машины» относится к проблеме взаимодействия человека и роботов с искусственным интеллектом (или с потенциалом): должны ли мы воспринимать роботов с искусственным интеллектом как человека и взаимодействовать с ним в рамках этических принципов человеческого сообщества? Ведь в обоих фильмах четко показана взаимосвязь между аморальным первоначальным поведением людей по отношению к роботам и поворот к аморальному поведению (восстанию) роботов по отношению к людям в конце. Фильм «Her» – «Она» выделяется из данного ряда кинокартин. В данном фильме так же подняты вопросы о взаимоотношениях искусственного интеллекта и человека: этично ли человеку заводить романтические отношения с искусственным интеллектом? Может ли искусственный интеллект стать полноправным членом человеческого общества? В данном фильме не показаны аморальные действия человека по отношению к искусственному интеллекту. Искусственный интеллект первоначально знает смысл своего существования – быть помощником человеку, то есть он изначально дружественно настроен к человеку и не может причинить ему вреда (есть научная концепция «дружественный искусственный интеллект», которую, в принципе, фильм иллюстрирует). Особенность картины в том, что искусственный интеллект представлен не в виде привлекательного человека – он невидим вообще. Отсутствие привычной человеческой привлекательности у искусственного интеллекта и при этом возникновение привязанности людей к машине показывает, что внешний вид робота – не единственный критерий возникновения проблем во взаимодействии человека и роботов. Важнее наличие самого интеллекта.
Описанные кинокартины и множество других примеров из научной фантастики демонстрируют последствия создания искусственного интеллекта. Данная тема остается востребованной, так как уже более полувека человечество пытается создать искусственный интеллект, постоянно улучшая программы и компьютеры. За последнее десятилетие можно заметить ускорение развития программной инженерии, что, следовательно, приводит к ускорению создания искусственного интеллекта, поэтому не только ученые, но и деятели искусства задумываются о проблемах и последствиях его создания.
Этика взаимодействия человека и искусственного интеллекта
Этика взаимодействия человека и искусственного интеллекта в данной статье представлена в виде нескольких путей развития событий. Искусственный интеллект в классическом понимании еще не создан, поэтому обсуждение этических вопросов о последствиях его создания актуальны для того, чтобы предотвратить негативные последствия для человека.
Существуют следующие варианты решения этической проблемы взаимодействия человека и искусственного интеллекта:
1. Искусственный интеллект (ИИ) необходимо наделить человеческими правами 2. ИИ в любом случае должен остаться в подчинении человека (слабым) 3. В случае создания действительного ИИ, люди никак не смогут его контролировать
Искусственный интеллект, согласно первой гипотезе, будет представлять собой аналог человеческого интеллекта, следовательно, робот с ИИ именно в интеллектуальном плане будет на одном уровне с человеком (если не выше). В таком случае моральные и нравственные законы взаимодействия искусственного интеллекта и человека должны быть аналогичны моральному взаимодействию людей. Например, в ходе обсуждения сериала «Westworld», доцент школы философии факультета гуманитарных наук НИУ ВШЭ Кирилл Мартынов высказал подобную точку зрения, отметив, что, в случае действительного создания искусственного интеллекта, у нас не будет другого выбора, как пересмотра этических принципов и включения в эти принципы искусственного интеллекта. Тем не менее, возникает вопрос, будут ли сами роботы следовать нашим этическим принципам? Возможно, будут, если роботов, при их создании, научить определенным моральным принципам. Вопрос: каким именно? Учить этике Канта или же утилитаризму? Об этом рассуждает философ Дэвид Эдмонс в интервью, опубликованном информационным изданием «Медуза»: «Что вложить в машину – идеи деонтологов или идеи консеквенциалистов? И кто должен принимать это решение – инженеры, правительство или покупатели? Должна ли у покупателя быть возможность прийти в автомобильный салон и сказать: «Я хочу машину с кожаным салоном и философией Канта»? Очевидно, это очень важные вопросы с точки зрения закона, потому что в случае дорожного происшествия кто-то должен будет за него отвечать. Поэтому, на мой вгляд, машины с автопилотами отделяют от дорог общего пользования не технические вопросы, а моральные. Такой подход к созданию искусственного интеллекта требует создания объективной этики – что является одной из наиболее широких проблем в этике на данный момент.
Вторая гипотеза решения проблемы более радикальна: не создавать сильный искусственный интеллект. В наши дни существует множество роботов-помощников, различных девайсов, которые упрощают нашу жизнь, но не обладают интеллектом в привычном для человека понимании. Данная точка зрения, на самом деле, самая релевантная в том смысле, что неизвестно, сможет ли человек, в принципе, создать искусственный интеллект или нет. Ведь, как было сказано ранее, проблема создания искусственного интеллекта заключается в проблеме самопознания человека. Мы до сих пор точно не знаем, что из себя представляет человеческий интеллект, как он устроен, какой потенциал у него есть и т.п. Поэтому проще всего развивать способности роботов и программ, а не стараться построить новый тип интеллекта.
Третья гипотеза отсылает нас так же к феномену интеллекта. Если искусственный интеллект будет создан, то человек уже не сможет его контролировать полностью, как нынешние программы. Искусственный интеллект может быть создан по типу человеческого или каким-то иным образом, в любом случае, люди не смогут точно предсказать, как будут себя вести такие роботы, будут ли они дружелюбно настроены по отношению к человеку или же нет. Во всех трех фильмах показано, что человек может контролировать искусственный интеллект только на этапе внедрения его в человеческий мир – в дальнейшем ИИ может вести себя непредсказуемо (жестоко по отношению к человеку, как в «Westworld» и «Ex Machina», или решит создать свой собственный мир, как в «Her»). Конечно, примеры из фильмов не являются научными, но, так как мы не можем дискуссировать об этике искусственного интеллекта, не выходя за рамки гипотез, они являются яркими иллюстративными примерами, поднимающими вопросы, о которых дискуссируют философы уже не одно десятилетие. Итак, этика искусственного интеллекта, касающаяся последствий его создания, все еще решаема только на уровне гипотез. Существует множество условий и возможностей, которые могут повлиять не только на констатацию проблемы, но и на ее решение.
Говорить о том, стоит ли наделять равными правами искусственный интеллект, если он будет создан, на мой взгляд, не так важно – я солидарна с точкой зрения, что, если искусственный интеллект будет создан, то мы должны определенным образом урегулировать этические и правовые вопросы, касающиеся нашего взаимодействия. Не факт, что роботы будут следовать нашим правилам, скорее всего, этические принципы будут обсуждаться с роботами. Это так же приводит к новым проблемам, например, нужно ли людям учитывать мнение роботов в урегулировании этических вопросов. Однако возможность того, что искусственный интеллект создадут, далеко не абсолютная, поэтому в данной ситуации вторая гипотеза о том, что лучше всего не создавать искусственный интеллект, на мой взгляд, наиболее действенная, ведь моральные вопросы касаются не только сильного искусственного интеллекта, но и слабого, как отмечает Дэвид Эдмондс. Это значит, что сейчас лучше решать вопросы, связанные с уже существующими программами и машинами, которым нужно будет самостоятельно принимать решения, чтобы понять, действительно ли нам так нужен сильный искусственный интеллект.
Библиография
McCarthy J. Recursive Functions of Symbolic Expressions and Their Computation by Machine, Part I // Communications of the ACM. Vol. 3. 1960. No. 4. Витгенштейн Л. Логико-философский трактат. М.: Наука, 1958. Серл Дж. Р. Сознание, мозг и программы // Аналитическая философия: становление и развитие. М.: Дом интеллектуальной книги, Прогресс-традиция, 1998. Тьюринг А. Может ли машина мыслить? М.: Государственное издательство физико-математической литературы, 1960. Эдмондс Д. Машина может стать сильнее человека в этических вопросах – об этике роботов и тренировке морали // Интернет-издание Meduza. 10 мая 2017 // URL: https://meduza.io/feature/2016/05/16/mashina-mozhet-stat-silnee-cheloveka-v-eticheskih-voprosah Обсуждение сериала Westworld на базе ФГН НИУ ВШЭ 9 декабря 2016. Участники: Куренной В., Мартынов К., Зубова А., Соколова Е. // URL: https://www.youtube.com/watch?v=s9b2AMW7cfg
