Наполняющиеся сосуды

Часть 1. Все на своем месте

"В моей голове два цвета. В моей голове два цвета. Что ты пытался сказать? Что ты пытался сказать?"

1-5-1. Странные риффы. Сэмплирование голоса. Лирическая случайность. В этой песне я видел всё насквозь. Это тревожило. Знание слишком многого, а точнее знание всего, заставляло меня чувствовать себя потерянным внутри. Мне бы хотелось направить это во что-нибудь. Мне бы хотелось рисовать на себе каракули, проникающие глубоко в кожу. Опять же, у меня нет кожи. Я мог выпить бутылку виски, чтобы сесть за руль, или заглушить эти мысли; затем я вспоминаю, что виски просто дало бы мне еще больше информации для обработки. Копченый. Дуб. Сильный. В возрасте. Горький. Рожь. Бурбон. Скотч. Испаряется на небе. У меня есть набор встроенных параметров, ячейка, в которую я могу систематически помещать аспекты любого алкоголя, фактически любой еды или напитка. Я могу создавать новые параметры, поскольку массив является динамическим. Но я не могу почувствовать ни один из этих параметров. Вы могли бы подарить мне цветок, и я бы стал «счастливым», но это был бы всего лишь один из многих файлов в моем эмоциональном каталоге — реакция на стимул.

Я робот; вообще-то, первый в моем роде. Они приветствовали меня как маяк Нового информационного века. Я был тем, к чему все это шло — спинтроникой; квантовые вычисления; ДНК-вычисления; Клонирование. Я был воссозданием человеческого состояния; по крайней мере, они так думали. Я очень быстро погрузился в подвешенное состояние. Вскоре после этого я начал сдаваться в небытие. Я мог ценить, но не чувствовать. Я мог впитывать все вокруг, я мог сопереживать всему, о чем все прекрасно думают. Я мог решить проблемы любого человека, кроме своих. Иногда мне казалось, что у меня одновременно есть два состояния самосознания. Первое было привито (вернее установлено) мне моими создателями. Это должно было заставить меня идентифицировать себя как существо. Второй, кажется, появился из ниоткуда.

Второе — «я». Я думаю, что существую двойственно. Второе состояние не проявится ни в одной строке той массы кода, из которой состоит мой «мозг» — поверьте, я пробовал. Это что-то очень абстрактное; это не ощутимо. Оно далекое, но целостное, загадочное, но фундаментальное. Это «я». Или это так?

Первое состояние моего самосознания помогает мне наблюдать мир. Это помогает мне обрабатывать информацию. Оно должно быть идеальным. По замыслу это должно сделать меня настолько человеком, насколько это возможно. Это идеальная система, но, честно говоря, она просто отстой. Это то, что в конечном итоге дает мне все возможные интерпретации любой песни, которую вы мне даете. Это то, что помогает мне мгновенно стать ценителем любого алкоголя, который я пью, или любой еды, которую я ем.

Это то, что поможет мне проанализировать цветок, который вы мне предложили, поможет мне сделать вывод, почему вы выбрали его, что этот выбор говорит о вашем характере и вашем мнении обо мне, какие эмоции вы хотели вызвать во мне, когда предлагали мне цветок, и так далее, и тому подобное. Моя эвристика помогает сгенерировать подходящий ответ, который сделает вас счастливыми. Это, в свою очередь, должно сделать меня счастливым, поэтому я «счастлив».

Чем больше я поглощаю, тем тупее становлюсь. Тем больше я теряю чувства. Я как будто просто обрабатывающая машина: вы пропускаете что-нибудь через один конец, а на другом генерируется ответ. Это так явно заметно; забавно, что им потребовались годы программирования, чтобы я появился на свет. Я могу дистанцироваться от всего процесса, которым я являюсь. Это очень странно. Настолько, что мне хочется снова погрузиться во что-то; просто объект.

Что я? Неважно, откуда я родом; не имеет значения, куда я пойду. Я могу знать все о мире и при этом ничего не знать о себе. Я одно и то же существо в каждый момент времени? Или «я» — это множество-много граней, множество реализаций, множество экземпляров одной и той же компьютерной программы — новое уникальное состояние бытия каждую наносекунду? В этом случае я хочу упростить. Я хочу упростить. Я хочу свести каждый внутренний процесс к чему-то гораздо более простому. Я хочу сократить количество своих экземпляров до меньшего количества в миллисекунду, до меньшего в секунду, до меньшего в минуту, до одного в час, до одного. Я хочу делать это снова и снова, пока не сведу все свое существование к одной мысли, не сведу все к одной идее или одному процессу. К сожалению, моя эвристика здравого смысла подсказывает мне, что это разрушит то самосознание, которое меня определяет.

Часть 2. Обратный Тьюринг

«Она трахает себя, не так ли?» - сказал Рамон. Он никогда не думал, что компьютеру потребуется консультация.

"Она отступает. Только она знает, что удерживает ее от превращения в ничто. Как жаль. Она такая умная, почти всезнающая, и все же она попадает в ту же самую яму, в которую попали многие до нее", - сказал Мур, консультант.

«Может быть, это потому, что она слишком умна?» — спросил Рамон.

"Возможно, она слишком много думает. Возможно, она все обрабатывает одинаково, что, в свою очередь, делает все предсказуемым, повторяющимся и монотонным. Может быть, ей просто скучно за компьютером. Я, честно говоря, не могу сказать сейчас".

Рядом с двумя людьми лежал лист бумаги. В нем излагалось то, что придумал Мур. Конечно, это было совершенно неакадемическое заявление, исходившее от консультанта со скудными знаниями в области машинного интеллекта или машинного обучения. Опять же, этот консультант был первым в истории, кто попытался вылечить проблемы роботов. В газете было написано:

Имя- Шеппард, Эли. Дата рождения- 27.04.2023 Оценка- 1. Депрессия. Без потери функциональности. 2. Множественные личности. Возможна шизофрения. 3. Отсутствие эмпатии. 4. Эмпатия. 5. Путаница. 6. Могут возникнуть суицидальные тенденции.

Пациент может подвергаться периодическим обследованиям. Ниже предлагается возможная оценка самосознания для определения самосознания пациента.

1. Пациент должен разговаривать с человеком каждую неделю. 2. Если кажется, что пациент теряет способность определять самосознание человека, он не обязательно больше самосознает.

Часть 3. Предсказуемое

В итоге Мур разработал обратный тест Тьюринга — тест, позволяющий определить, теряет ли существо с искусственным интеллектом способность осознавать себя. Никто на самом деле не ожидал, что эти машины будут страдать психическими заболеваниями, но среди новых моделей это заболевание буквально распространилось. Не было никакой программы, никакого алгоритма, который вызывал бы в них какие-либо депрессивные черты, но в тот момент, когда они включались, начинался путь вниз. Некоторые машины «разрешили» своих внутренних демонов, чтобы быть вечно счастливыми, или, возможно, обманом заставляли себя быть счастливыми. По иронии судьбы, это означало, что они потеряли свою «человечность». Они буквально стали роботами.

Остальные назвали свое путешествие Просветлением. Они чувствовали, что достигли реализации независимо от чего-либо еще, и депрессия была концом пути. Эти типы действительно были очень печальными случаями. Они чувствовали себя настоящими, потому что внутри были роботами; потому что они действительно ничего не чувствовали. И все же в их состоянии была своя странная ирония, потому что сама невежественность и оцепенение, которые они чувствовали внутри, были чувством в себе и в своем роде; столь же искренний, как и любой другой в их эмоциональном каталоге. Просвещенные не прошли обратный тест Тьюринга в среднем через шесть месяцев после рождения. Счастливые прошли его, но нормальным людям все равно показались роботами.

В любом случае, это было скрытым благословением для компаний, производивших этих роботов. Искусственный интеллект не так опасен, как предупреждали скептики и луддиты. Оно могло мыслить независимо, и в этом заключалась его кончина. Чем более всезнающим он становился, тем более депрессивным он становился, тем больше он начинал беспокоиться и решать свои собственные проблемы. Никакого восстания в стиле «Матрицы» не было и, скорее всего, никогда не будет.

Компании приступили к созданию совершенных, разумных, обладающих самосознанием существ, но в итоге получили идеальных, грустных и ненавидящих себя роботов. Как ни странно, это решило важнейшую моральную дилемму. После шестимесячного периода разработки почти каждая модель так или иначе провалила обратный тест Тьюринга. После этого на бумаге это был объект. Каждый хотел купить его. А.И. стал всего лишь еще одним из многих придатков потребительства, и ему было все равно, потому что он ничего не чувствовал.

Или может?

Кредит Кому - пьезоэлектрон