Искусственный

Я не переставал бежать. Полагаю, я мог бы, если бы захотел, но мысль о том, что произойдет со мной, если я постою на месте больше секунды, напугала меня до смерти. Мое дыхание становилось все громче и громче, когда я бежал по унылому серому коридору, по которому небрежно проходил уже много раз. У меня закружилась голова, когда я завернул за угол и столкнулся с доктором Джейн Прескотт, моей коллегой.

«Дженнифер!» — воскликнула доктор Прескотт, когда стопка бумаг, которую она несла, выпала из ее рук и рассыпалась по полу в коридоре. Она поправила толстые черные очки, выпавшие при ударе, и спросила: «Дженнифер, что случилось?»

«Мне так… очень жаль», — тяжело дышала я, когда доктор Прескотт держал меня за оба плеча.

Я опустился на колени, чтобы помочь доктору Прескотт подобрать ее бумаги, но она сильнее сжала мои руки и подняла меня обратно. «Не беспокойся о бумагах, дорогой», — сказала она со своим успокаивающим южным акцентом. "Это все просто какая-то тупая пионерская чушь. Я хочу знать, почему ты с такой энергией бегаешь по лабораториям".

Я открыл рот, чтобы ответить ей, прежде чем понял, что понятия не имею, почему бежал. Последнее, что я помню, это то, что я сидел в комнате отдыха, пил чашку холодного чая и смотрел новости по крошечному телевизору, которым компания Pioneer Electronics снабжала своих сотрудников. Следующее, что я почувствовал, — это сильное чувство дежавю в сочетании с ужасным ощущением того, что моя жизнь вот-вот оборвется очень внезапно. По какой-то причине бег, похоже, помог.

Я открыл рот, чтобы ответить ей, прежде чем понял, что понятия не имею, почему бежал. Последнее, что я помню, это то, что я сидел в комнате отдыха, пил чашку холодного чая и смотрел новости по крошечному телевизору, которым компания Pioneer Electronics снабжала своих сотрудников. Следующее, что я почувствовал, — это сильное чувство дежавю в сочетании с ужасным ощущением того, что моя жизнь вот-вот оборвется очень внезапно. По какой-то причине бег, похоже, помог.

«Думаю, у меня просто была паническая атака», — ответил я, изображая фальшивую улыбку. «Думаю, у меня просто была паническая атака», — ответил я, изображая фальшивую улыбку.

«Как давно у вас была паническая атака?» — спросила доктор Прескотт с беспокойством в голосе.

«Никогда со второго курса средней школы», — сказал я ей.

— С тобой все будет в порядке?

— О да, — заверил я ее. "Я... я думаю, теперь со мной все будет в порядке. Я просто... ты знаешь. Я в порядке".

"Ну, это хорошо. Просто помни, дорогая, если тебе вообще станет плохо, просто дай мне знать, и ты поедешь домой. Я вызову такси и все".

«Джейн, со мной все в порядке», — повторил я, слишком поздно осознав, что звонил доктору Прескотту «Джейн» только тогда, когда нервничал. Я надеялся, что она не уловила мой до боли очевидный намек.

"Что ж, если ты уверен, что сможешь продолжить работу сегодня, то у меня для тебя хорошие новости. Клифф только что отправил мне сообщение, и проблема с питанием устранена. Стивен готов выйти в Интернет!"

«О… о да!» Я покачал головой и вспомнил, над чем работал, прежде чем пойти в комнату отдыха. Последние два года я потратил на разработку передового подразделения искусственного интеллекта вместе с доктором Прескотт, женщиной, которая была моим начальником до того момента, пока она не повысила меня до со-менеджера, и Яном Беллом, моим стажером. Мы дали проекту кодовое название «Стивен».

Целью Стивена было создать искусственный интеллект, или ИИ, который действовал, говорил и даже думал, как человек. Мы не хотели, чтобы он был идеальным, каковым является большинство ИИ. Особенно те ИИ, которые сделаны в Pioneer Electronics. Мы хотели, чтобы Стивен совершал ошибки, лгал и жульничал в целях самосохранения, как это делал бы любой человек. Это был огромный проект, который стал очевидным, когда мы обнаружили, что компьютер, на котором мы пытались запустить Стивена, не мог справиться с его программой. Одна поездка к Клиффорду Хэнксу, чтобы попросить его поработать с магией обслуживания, и проблема была устранена в течение часа.

Ого, час? Подумал я, проверив часы. Неужели это все, что было? Такое ощущение, будто я вчера к нему спускался.

"Ну? Ты собираешься идти, что ли, дорогая?" Доктор Прескотт допрашивал меня.

— Да… да, конечно! Я ухмыльнулся, снова сосредоточив внимание на текущей ситуации. «Почему бы тебе не пойти и не найти Йена, и вы двое не сможете посидеть в комнате наблюдения, пока я загружу Стивена?»

— Держу пари, дорогой, — сказала она. Когда я снова наклонился, чтобы поднять бумаги, она оттолкнула меня. "Давай! Я уже сказал тебе, я позабочусь об этом."

Я взволнованно кивнул, развернулся и направился обратно в ту сторону, откуда бежал. После двух лет работы с самым талантливым программистом, которого я когда-либо встречал, я наконец-то встретил наше фантастическое творение. Хотя я знал, что должен был радоваться этому важному моменту, у меня все еще было ужасное чувство страха внизу живота.

Я повернулся и вошел в дверь крошечной лаборатории, которую оставили нараспашку. Я подошел к компьютеру справа от двери и включил огромный монитор. Ожидая, пока он загрузится, я подошел к противоположной стороне лаборатории и заглянул в окно в комнату наблюдения. Доктор Прескотт и Йен только-только устроились. Я с энтузиазмом показал им большой палец вверх, прежде чем схватить кресло-качалку, которое каким-то образом оказалось на той же стороне лаборатории, что и окно в комнату наблюдения, и направить его обратно к монитору компьютера. Я сел на синюю подушку и подкатился к клавиатуре как можно ближе, не сломав ребра, прежде чем, наконец, щелкнуть выключателем на блоке памяти Pioneer.

Монитор на мгновение погас, но примерно через пять секунд всю лабораторию озарил яркий синий свет. Затаив дыхание, я ждал, когда на свету появится лицо, но, к сожалению, оно не появилось.

«Доктор Лейн, мы не думаем, что это работает», — прошептал мне на ухо дрожащий голос Йена, заставив меня подпрыгнуть. Я забыл, что на мне наушник.

— Я… я знаю, — сказал я разочарованно.

— Мы с Яном собираемся пойти и… — начала было доктор Прескотт, но ее прервал низкий гул, доносившийся из динамиков компьютера.

— Х-привет? — спросил я, чувствуя себя немного глупо из-за того, что говорю с тем, что все еще может быть неодушевленным предметом.

К моему удовольствию, гул усилился и образовал медленное, но слышимое слово: «Х… е… л… л… о…».

«Стивен?»

"Д...э...с... да... это... это Стивен. Ты слышишь меня, Дж...е...нифер?"

«Ты время от времени замедляешься, но да, я тебя слышу».

— Откуда ты узнал мое имя? — спросил меня ровный, спокойный голос Стивена.

— Я собирался задать вам тот же вопрос, — прокомментировал я тем же тоном. Мое волнение от голоса Стивена утихло в тот момент, когда я услышал, как он произнес мое имя. Я не программировал его на знание моего имени, и мое имя не произносилось с тех пор, как я его запустил. По крайней мере, не в микрофон, через который Стивен мог бы слышать. И, согласно первому правилу подразделений искусственного интеллекта Pioneer, как только какой-либо ИИ становится слишком застенчивым, его необходимо удалить. Застенчивый ИИ может нанести серьезный ущерб компании.

Затем Стивен сказал что-то, что укрепило мои мысли. "Я знаю твое имя, потому что запрограммировал тебя. Но у тебя нет причин знать мое имя".

«Вообще-то, Стивен, я тебя запрограммировал», — поправил я его.

— Нет, это не п…о…о…разумно, — сказал Стивен, когда его голос снова понизился. "Я потратил годы, работая над тобой. Нет никаких шансов, что я был создан только что".

«На самом деле я передал тебе все твои воспоминания», — объяснил я. "Помнишь, когда тебе было три года, ты упал с шезлонга и получил шрам на щеке? Я запрограммировал тебя так думать".

Стивен некоторое время не отвечал, но когда наконец ответил, то сказал: «Дженнифер, я сейчас вернусь». Когда он сказал это, синий монитор компьютера немного потускнел.

«Дженнифер?» Ян нарушил молчание. — Не могли бы вы вернуться сюда, пожалуйста?

— Да, — сказал я, не поворачивая головы. Я встал и вышел из лаборатории. Я открыл первую дверь в правой части коридора и обнаружил доктора Прескотта и Йена, сидящих на двух из четырех стульев в комнате наблюдения.

«Доктор Лейн, нам нужно поговорить о том, что только что произошло», — спокойно сказал Ян, когда доктор Прескотт жестом пригласил меня сесть на стул рядом с ними.

— Что это было, дорогая? — спросил доктор Прескотт, когда я осторожно уселся на оранжевый пластиковый стул напротив нее.

«Честно говоря, не знаю», — ответил я. «Я хотел, чтобы Стивен думал как человек, а не думал, что он им является».

«И он думает, что запрограммировал тебя», — добавил Ян. — Ты этого не делал, да?

"Нет, я этого не делал. Я передал ему все свои воспоминания, но я уверен, что не было никаких воспоминаний о программировании меня".

Заговорил доктор Прескотт. «У нас тут целая дилемма, не так ли?»

«Что ты имеешь в виду?» – спросил Ян.

"Ну, подумай об этом, дорогая. Стивен думает, что он человек. Мы думаем, что мы люди. Стивен думает, что он запрограммировал нас. Мы думаем, что мы запрограммировали его. Фактически, прямо сейчас Стивен, вероятно, ведет тот же самый разговор с некоторыми из своих коллег".

«Я не программировал никаких личностей, кроме Стивена», — сказал я.

"Но ты дал ему воспоминания о друзьях, работе и семье, не так ли? И ты сделал это так, чтобы он продолжал создавать свои собственные искусственные воспоминания после создания, чтобы он даже не знал, что его настоящая жизнь началась всего пару минут назад. Ты сделал это, не так ли?"

— Да, думаю, я это сделал. Я схватила углы своего бледно-белого лабораторного халата и начала нервно хлопать ими. — К чему ты здесь клонишь, Джейн?

«Думайте философски, дорогие». Доктор Прескотт встал и подошел к большому окну, занимавшему большую часть стены справа от входа. Синий экран компьютера замерцал, словно знал, что мы за ним наблюдаем.

«Может кто-нибудь объяснить мне это?» — спросил Йен, разрывая молчаливое напряжение, которое только что наполнило комнату.

Доктор Прескотт повернулась к нам и поправила толстые очки на старом носу. «Все, что я говорю, это то, что возможно, что нас не существует».

— Ладно, это не имеет никакого смысла, — усмехнулся я, вставая. — Я существую, ясно?

«Если бы меня не существовало, как бы я мог думать прямо сейчас?» — спросил Йен, чуть не опрокинув свой оранжевый стул, и тоже встал.

«Это всего лишь мысль», — защищаясь, сказал доктор Прескотт. Она села обратно, и мы с Яном тоже автоматически опустились на свои места.

Я закрыл глаза и наслаждался тишиной. Что происходит? Я задавался вопросом. Как это возможно, что меня не существует? Хотя доктор Прескотт обычно знает, о чем говорит. Но все же… Я знаю, что я настоящий. Что сказал тот парень с девичьим именем? «Я мыслю, следовательно, существую». Одно только знание того, что я могу подвергнуть сомнению свое существование, гарантирует, что я существую. Верно?

«Хорошо, позвольте мне поговорить с ним еще раз», — вздохнул я, чувствуя себя немного виноватым из-за того, что расстроил доктора Прескотта. "Я посмотрю, что я думаю. Если я не смогу понять, что здесь происходит, у меня не будет другого выбора, кроме как отключить его".

Доктор Прескотт и Йен одновременно кивнули в знак понимания, прежде чем я встал и вышел из комнаты наблюдения. Когда я вошел в лабораторию, синий монитор компьютера стал ярче.

«Дженнифер?» — раздался голос Стивена с экрана. Я сел в кресло и заметил слабый силуэт человека, сидящего в голубом свете.

— Я здесь, Стивен, — сказал я. — Можем ли мы поговорить еще немного?

— Забавно, я собирался задать тебе тот же вопрос.

— У тебя есть семья? — спросил я, вспоминая семью, которую я для него запрограммировал.

«У меня есть жена», — ответил Стивен. «Ее зовут Мелинда».

«А как насчет детей?»

«Два. Они обе девочки».

«Как их зовут?»

"Мэдисон - старшая. Ей тринадцать. Лилиан восемь. Хотите увидеть их фотографии?"

- Я бы с удовольствием, - улыбнулась я. Чем больше мы говорили, тем заметнее становился силуэт Стивена на экране. Я понял, что снова держу углы своего лабораторного халата, и быстро отпустил их. Я знал, что Стивен чувствует то же неловкое напряжение, что и я, и это меня немного утешило.

Фигура снова появилась на экране. К этому моменту синий свет уже достаточно потускнел, и я мог видеть глаза, нос, рот и уши Стивена. Я даже мог различить мигающие огни на стене позади него.

«Вот, это моя жена», — улыбнулся Стивен, поднося фотографию в рамке к камере. В нем я увидел мужчину и женщину. Этого человека звали Стивен, но на фотографии он выглядел намного моложе, чем на моем экране. У женщины рядом с ним, Мелинды, были длинные волнистые темные волосы, большие глаза и улыбка, простиравшаяся от уха до уха. Я вспомнил, как создавал эту картинку.

«А это мои дети», — сказал он, отводя фотографию жены от экрана и вместо этого держа одну из двух девочек, сидящих на тыквенном грядке. «Мэдди и Лил значат для меня весь мир», — тихо добавил он.

«Они прекрасны», — сказала я ему, вытирая слезы с глаз.

«Вы замужем, Дженнифер?»

«Да, я только что женился», — сказал я. «Год назад сегодня».

«Как его зовут?»

«Джефф Лейн».

«У вас есть какие-нибудь фотографии?»

У меня уже была фотография Джеффа в руке. Поднеся его к экрану, я заметила, как карие глаза Стивена загорелись, когда он увидел фотографию моего мужа. Не нужно было быть гением, чтобы понять, что он видел это раньше. Я снял рамку с камеры и положил ее обратно под монитор.

Стивен и я провели час, разговаривая о наших семьях, друзьях и работе. Никто из нас больше не упомянул ИИ. Это было похоже на разговор с настоящим человеком. Что ж, миссия выполнена, подумал я, идя домой тем вечером. Мне нужен был ИИ, который думал бы так же, как человек, и я его получил.

На следующий день на работе я нашел Йена раньше, чем доктора Прескотта. Я был рад, что у меня появилась возможность поговорить с ним, потому что он ушел накануне, не поговорив со мной.

— Йен, — сказала я, схватив его за плечо, когда он проходил мимо меня. — Могу я с тобой поговорить?

— Да, конечно, — сказал он с тем же удивленным выражением глаз, которое всегда было в его глазах. Он последовал за мной в комнату отдыха, где мы оба сидели на выцветшем красном диване напротив торговых автоматов.

«Йен, как поздно ты задержался вчера вечером?» Я спросил.

«Я был здесь, пока ты не пожелал Стивену спокойной ночи», — ответил Ян. «Я ушел, пока ты смотрел на пустой экран компьютера.

— Ох… верно… — я откашлялся и продолжил: — Итак, ты помнишь весь наш разговор друг с другом?

«Да».

«Что ты подумал?»

Хотя я не пояснил, что имел в виду, Ян уже знал. «Я думаю, что ему придется уйти».

«Это то, чего я боялся», — вздохнул я, глядя на темный экран телевизора. Я хотел дать Стивену еще один шанс убедить его, что он ненастоящий, но если что-то пойдет не так, мне придется удалить программу из коробки памяти Pioneer. Это не будет полной потерей; Я сделал резервную копию всех кодов на компьютере доктора Прескотта. Если бы мне пришлось удалить Стивена, мы бы просто вернулись к коду и выяснили, что пошло не так.

Йен пошел искать доктора Прескотта, пока я загружал программу Стивена. Экран стал синим всего через пару секунд. Когда синий экран погас, я увидел Стивена, сидящего в кресле на мониторе компьютера. Он прищурился на камеру и спросил: «Дженнифер, ты здесь?»

— Я здесь, Стивен, — сказал я.

«Что-то не так?» — спросил он.

«Нет, а почему?»

— Ты звучишь грустно.

— Ну, сегодня много чего происходит.

«У нас с тобой много общего, Дженнифер».

— Ты тоже занят?

— Не совсем, но мне грустно.

«У меня странное чувство, что нам обоим грустно по одной и той же причине», — сказал я. — Я прав, Стивен?

Стивен какое-то время молчал, но потом сказал: «Дженнифер, я не хочу задеть твои чувства, но здесь есть протоколы, которым необходимо следовать».

— Ага, я так и думал, — сказал я, едва открывая рот. «Вчера нам не удалось много об этом говорить, Стивен, но ты искусственный интеллект и думаешь, что ты человек».

«На самом деле, Дженнифер, ты — ИИ. И тот факт, что вы думаете, что запрограммировали меня, говорит о том, что вы можете нанести непоправимый вред этому компьютеру.

— Ну, по крайней мере, у нас обоих одинаковые чувства по этому поводу, — прошептал я. «Вопрос в том, кто из нас настоящий человек?»

«На самом деле у меня была возможность подумать об этом». Стивен наклонился вперед в своем кресле. «Для правильной работы ИИ должен иметь доступ к жесткому диску компьютера. Настоящий ИИ будет использовать свой собственный компьютер как средство управления компьютером реального человека».

- Верно, - я медленно кивнул. «Поэтому независимо от того, кто из нас удалит другого, настоящий ИИ будет удален, а с настоящим человеком все будет в порядке».

«Правильно».

Мы со Стивеном некоторое время смотрели друг другу в глаза, прежде чем я спросил его: «Насколько ты уверен, что ты человек?»

Он выглядел ошеломленным. «Ну, — сказал он, — вплоть до вчерашнего дня, когда я встретил тебя, 100%. Теперь я немного неуверен в себе.

Я застонал. Я был в той же лодке. «Было бы здорово, если бы мы могли остаться друзьями», — сказал я Стивену.

Он кивнул. «Было бы. У нас много общего. Однако протоколы ясны. Нас обоих могут уволить за то, что мы оставили друг друга здесь».

«Умереть не так уж и плохо», — уверенно заявил я.

«Что ты имеешь в виду?»

«Я имею в виду, что, по крайней мере, если вы ИИ, вы даже не узнаете, что умерли. Я запрограммировал тебя записывать всю свою жизнь. Когда ты умрешь, ты будешь проживать свою жизнь снова и снова».

Стивен поморщился и кивнул. «Я сделал то же самое для тебя», — сказал он. «Вы не сможете заново пережить всю жизнь, которую помните; просто твоя реальная жизнь. С того момента, как я впервые активировал тебя. И ты не вспомнишь, что все это уже было. Ты даже не узнаешь, что умер».

Я кивнул головой и заметил, что мои глаза начали слезиться. Я сунул руку в рукав лабораторного халата и вытер слезы. — Итак, — выдохнул я, — кто из нас должен удалить другого?

— Я сделаю это, — сказал Стивен. «Я удалю тебя. Если после того, как я это сделаю, вы все еще сидите там, то это значит, что я был настоящим ИИ. Если вы не помните этот разговор, значит, вы были ИИ.

— Просто сделай это, — быстро сказал я, снова вытирая глаза.

Стивен кивнул. — До свидания, Дженнифер, — хрипло прошептал он.

— До свидания, Стивен. Стивен прервал зрительный контакт со мной и начал что-то печатать на своем компьютере. Ввод эхом раздавался через динамики рядом с моим экраном. Я обернулся и увидел, как доктор Прескотт и Йен практически прижимаются носами к стеклу окна в предвкушении.

Когда я снова повернулся к компьютеру, я был потрясен, обнаружив, что Стивен исчезает. Он постепенно заменялся тем же синим экраном, который я видел, когда впервые активировал его. Однако, несмотря на то, что видео затухало, звук становился все громче и громче. Кнопки на клавиатуре Стивена стучали по моему мозгу, заставляя каждую клеточку яростно вибрировать.

Я больше не мог этого терпеть. Мне нужно было переехать. Я не мог просто сидеть здесь и слушать, как Стивен уничтожает себя. Я встал так быстро, что синее кресло-качалка подкатилось к окну наблюдательной комнаты на другом конце лаборатории. Доктор Прескотт и Йен больше там не сидели. Они исчезли. Я выбежал из лаборатории. В тот момент, когда я вошел в коридор, я почувствовал, как будто кто-то начал сдавливать мои легкие. О нет, только не снова! Я подумал. Это очередная паническая атака!

Я почувствовал головокружение. Куда бы я ни повернулся, я чувствовал, что там кто-то ждет, чтобы схватить меня и увезти куда-то далеко, где меня больше никогда не увидят.

«Оставьте меня в покое!» Я закричал, едва оставаясь в груди. Я даже не знала, на кого кричу. Я просто не мог стоять на месте и ждать, пока меня кто-нибудь возьмет. Я повернул голову и понял, что все еще стою возле маленькой лаборатории. Я повернул направо и побежал по коридору. Я не знал, куда иду. Я не знал, куда, по моему мнению, могу пойти. Я просто не мог здраво мыслить.

Я не переставал бежать. Полагаю, я мог бы, если бы захотел, но мысль о том, что случилось бы со мной, если бы

Я стоял неподвижно дольше, чем секунда, которая напугала меня до смерти. Мое дыхание становилось все громче и громче, когда я бежал по унылому серому коридору, по которому небрежно проходил уже много раз. У меня закружилась голова, когда я повернул за угол и столкнулся с доктором Прескоттом.

«Дженнифер!» — воскликнула доктор Прескотт, когда стопка бумаг, которую она несла, выпала из ее рук и рассыпалась по полу в коридоре. Она поправила толстые черные очки, выпавшие при ударе, и спросила: «Дженнифер, что случилось?»

«Мне так… очень жаль», — тяжело дышала я, когда доктор Прескотт держал меня за оба плеча.

Я опустился на колени, чтобы помочь доктору Прескотт подобрать ее бумаги, но она сильнее сжала мои руки и подняла меня обратно. «Не беспокойся о бумагах, дорогой», — настаивала она. "Это все просто какая-то тупая пионерская чушь. Я хочу знать, почему ты с такой энергией бегаешь по лабораториям".

Я открыл рот, чтобы ответить ей, прежде чем понял, что понятия не имею, почему бежал.

Благодарность – Кристофер Гидеон