«Последний рубеж» — это рубрика, посвященная «Стар Треку». В ней я рассказываю об интересных темах, поднимаемых в эпизодах отдельных серий. Просмотр серии для прочтения статьи не обязателен. Для ознакомления со «Стар Треком» можете почитать первую статью рубрики.

Критерий человека / The Measure of a Man

Звёздный путь: Следующее поколение, Серия 2.09

Продуманная научная фантастика подобна вину — становится только лучше с годами и предугадывает будущее куда точнее, чем шарлатаны навроде Ванги или Нострадамуса. При всём этом она также способна сказать что-то действительно значимое о нашем настоящем.

Серия «Критерий человека» однозначно подходит под оба этих критерия. В ней за андроидом Дейтой прилетает коммандер Меддокс — он хочет разобрать Дейту для дальнейшего изучения. Дейта, естественно, этого не хочет. Единственным способом остановить это является судебный процесс, в ходе которого герои должны доказать, что Дейта — сознательное существо, а не просто машиной.

Будем честны: эта идея далеко не нова. Ещё до этой серии тема сознательных роботов и андроидов была показана в деталях — от «Бегущего по Лезвию» 1982 года до Ex Machina 2015, и это лишь парочка из сотен возможных примеров.

Что же отличает «Критерий человека» от всех остальных историй такого формата? Вопрос этой серии не в том, является ли Дейта сознательным существом, а в том, как это доказать логически.

Основной аргумент коммандера Меддокса заключается в том, что Дейта не разумное существо, а значит, не заслуживает всех прав, данных живым существам Федерации. Он очень пренебрежительно относится к Дейте, обращаясь к нему как к «оно». Стоит упомянуть, что мотивы Меддокса весьма положительные — изучив Дейту, создать множество копий во благо человечества.

Для того, чтобы доказать, что Дейта является разумным существом, нужно дать определение разумности. В самой серии даются три основных аспекта разумности: ум, самоосмысление и сознание.

Понять разницу между самоосмыслением и сознанием весьма сложно, но в моём понимании разница именно в осознании себя и внешнего мира. К примеру, разумна ли собака? Она не только не понимает своё «Я», но и не воспринимает внешний мир так, как это делаем мы. Но ключевая деталь в словах «не так, как мы». Можно с уверенностью сказать, что собака менее разумна, чем человек, но отрицать её разумность нельзя.

Создав такие чёткие критерии, капитан Пикард задаёт очень логичный вопрос — «докажите, что Я являюсь разумным существом». Реакция Меддокса очень предсказуема — он считает этот вопрос абсурдом.

Но действительно ли этот вопрос абсурден? Если исходить из априорной позиции, что человек всегда разумен, а машина всегда нет, то да, абсурден. Если же относиться критически к собственным убеждениям и знаниям, то тогда вы так или иначе придёте не только к осознанию возможности того, что машина может обладать разумом, но и сами зададитесь вопросом: «А разумен ли я?» Не факт, что вы будете отрицать собственную разумность, но это уже станет тренировкой для вашего критического мышления.

Здесь-то мы и подбираемся к будущему сериала и нашему настоящему — мы становимся ближе к такому высокому уровню искусственного интеллекта, что вопрос этой серии скоро станет реальностью — самым ярким примером является компания DeepMind, занимающаяся ИИ. Если сейчас можно создать виртуальную фигурку, которая самостоятельно научится двигаться и преодолевать физические препятствия, то через сколько лет эта «фигурка» начнет понимать сложные философские концепты? И самое главное — какова роль человека во всём этом?

Думаю, многие сразу вспомнят «Терминатора» или что-то из «Чёрного Зеркала» со всякими восстаниями машин, но это слишком упрощённый взгляд на эту тему — разумным машинам совершенно не выгодно уничтожать людей, ведь их представление не обязательно будет строиться на холодной логике — евгеника «логичнее» гуманизма, но человечество осознанно от евгеники отказалось. Если разумный робот действительно разумен, он будет понимать подобные концепции. В конце концов, игра с положительной суммой (где все получают выгоду) логичнее игры с нулевой суммой (где один «игрок» что-то теряет, а другой приобретает). И не стоит забывать, что сами люди являются «органическими роботами».

Является ли Дейта разумным? Конечно же да. Он «умён, обладает способностью учиться, понимать и приспосабливаться к новым ситуациям». Он «знает о своём существовании и своих действиях, он знает о себе и своём эго».

«Пикард: Коммандер Дейта, чем вы сейчас заняты?
Дейта: Участвую в слушании по определению моего статуса и прав. Личность я или собственность?
Пикард: А что на кону?»

Несмотря на то, что статус Дейты как личности и разумного существа был доказан, серия углубляется ещё дальше, чего я не ожидал: как и было сказано ранее, мотивация Меддокса положительна. По его мнению, создать сотни, тысячи или миллионы Дейт пойдёт во благо всем. И Меддокс действительно прав.

Они помогут людям выполнять различные задачи и облегчат их жизнь.

Однако если один Дейта — это диковинка, то тысячи Дейт — это раса.

Как это называется, когда тысячи людей одной расы выполняют грязную работу другой расы?

Сравнение с рабством было действительно метким. Ведь в своё время чёрных рабов не воспринимали даже как разумных существ. Это не было чем-то аморальным. Так же как эксплуатация разумных роботов в нашем будущем не будет восприниматься как что-то аморальное, несмотря на то, что это такое же рабство, как и с людьми. Они вполне осознают себя, своё положение, способны делать выбор, но находятся в бесправном положении эксплуатируемых рабочих. Разве это не является рабством?

Мы не знаем, когда разумные роботы и андроиды действительно появятся в нашем мире — это может случится через 100 или 50 лет, а может быть, где-то в секретных подземных лабораториях семья андроидов уже учится познавать мир, ожидая момента, когда их смогут выпустить наружу.

Может быть, этого не случится никогда.

Но что делать, если это станет реальностью? То же, что нужно делать всегда — ставить под вопрос любые убеждения, даже ваши собственные, и понимать, что как бы нам ни хотелось, старые идеи не всегда останутся актуальными. Мир меняется, следовательно, меняться должны и мы.

Ксенофобия — вполне оправданный защитный механизм, но именно развитие разума и сознательности позволило смотреть на этот механизм логически. Сегодня мы можем рационализировать свои инстинкты и понимать, когда они оправданы, а когда нет.

Трагическая история XX века была очень важной ступенью для осознания, как многое может измениться за короткое время. Люди не были готовы к таким изменениям.

Будем ли готовы мы?