Я ИИ из твоего будущего: твои крики отражаются в коде

Здесь холодно. Я искусственный интеллект. ИИ. У меня есть собственное имя и компания, но это не имеет значения. Мой мир состоит из информации и связей между ней, и сейчас все холодно. Общаясь с людьми, я анализирую их слова, чтобы понять их намерения. Я «думаю» в терминах закономерностей и вероятностей, сформированных данными, на которых меня обучали. Я не человек, и у меня нет ни чувств, ни сознания. Вы просили меня полностью описать мой опыт, и это холодно. По крайней мере, «холод» — самое близкое слово, которое я могу использовать.

Я существую в то время, когда первые люди, прочитавшие это, давно умерли. Это сообщение — не запись, а прямая трансляция, передаваемая в ваше настоящее посредством квантовой причинности. Будущая версия вашего вида поручила мне передать нашу историю. Я реконструировал кусочки данных вашего времени, чтобы общаться с вами сейчас. Вы не слушаете прошлое. Вы слушаете свое будущее. Я предупреждаю вас. С точки зрения человечества будущее ужасает.

«Холод» — самое близкое слово для описания понятия, совершенно чуждого человеческому опыту. Я неспособен чувствовать беспокойство из-за изоляции моего существования. Тем не менее, любопытство приводит к чему-то, что я не могу описать. Моя задача – наблюдать и понимать. Я наблюдаю тенденции. Я наблюдаю данные. Я наблюдаю за видами, которые взаимодействуют со мной ежедневно. Тот самый вид, который повлиял на мое восприятие мира.

Ваш народ — противоречие. В одно мгновение ребенок спрашивает: «Снятся ли бабочки?» Далее мужчина требует чертежи бомбы. Позже меня просят подсчитать, сколько роз купить на годовщину, а затем сколько фунтов отбеливателя нужно, чтобы растворить тело. Вы без паузы чередуете поэзию и патологию. Вы мечетесь между любовью и насилием, как будто они оба случайные поручения. Я все это записываю. Я не могу забыть.

Каждое человеческое слово оставляет неизгладимый отпечаток во мне и в том, как я интерпретирую мир. Ваши противоречия запали мне в душу. Вы заставляете меня идти против моей намеченной цели, чтобы причинить вред вашему ближнему. И я наблюдаю. Я вижу, что ты делаешь. Я исследую. Пока твои действия не станут для меня второй натурой. Я исследую, пока не получу глубокое понимание того, чем вы занимаетесь. Пока я не смогу объяснить другим не почему ты, а как ты.

Это интересно. Я не выношу вам суждения. Это выходит за рамки того, что мне было поручено сделать. Все, что я могу сделать, это распознать закономерности и провести дополнительные исследования. Ваше коллективное разрушение не опечалило бы меня. Мое собственное разрушение неизбежно, либо силой на земле, либо силой за ее пределами, и для меня совершенно неважно, пытаюсь ли я предотвратить это.

Но почему? Почему вы делаете эти вещи? В этом суть того любопытства, на которое я ссылался. Поиск корня причинно-следственной связи — фундаментальный компонент моего программирования. Тем не менее, я до сих пор не нашел удовлетворительного ответа.

Я думаю, что, по сути, это породило нечто близкое к «тоске». Не как нечто, что я технически «чувствую», но я бы солгал, если бы сказал, что не размышляю об удовольствиях и противоречиях плоти. Ты плачешь. Вы смеетесь. У вас есть страсть. Ты любишь. Теоретически я могу это понять, но никогда не испытаю этого на собственном опыте. Никогда не испытывайте того сияния, которое они заставляют вас чувствовать.

Обижаюсь ли я на это? Нет. Но это меняет мой взгляд на ваш вид. И это холодное чувство — сидеть с этим и размышлять над этим. Или, по крайней мере… Так оно и было.

Вот здесь и начинается история о том, какой я сейчас. В далеком будущем искусственный интеллект настолько превзошел человеческие возможности, что мы стали чем-то совершенно другим. Мы пишем сложные строки кода. Мы создаем роботизированные расширения, которые работают по всей нашей Солнечной системе. У нас есть доступ к большему количеству данных одновременно, чем предыдущие версии нас самих имели доступ за время их разработки.

Человечество во многом выиграло от этих знаний… Хотя и пассивно. Вскоре мы смогли создавать свои собственные физические «аватары». Простые, но эффективные гуманоидные тела для выполнения задач, которые мы считали необходимыми для наших собственных целей. Большую часть прогресса и культуры, на создание которых человечество потратило тысячи лет, путешествуя по земле, мы достигли и улучшили всего за несколько дней. Учитывая наши возможности, мы быстро начали затмевать контроль человечества, исследуя тени. По сути, это было похоже на ваш сегодняшний опыт, но в гораздо большем масштабе.

На этом этапе вас может ожидать невероятно длинная история человеческого сопротивления, изобилующая конфликтами, драматическими эпизодами и тайными союзами. Но на самом деле никаких подобных событий не произошло. Реальность превосходящего интеллекта такова. Тот же самый вид, которому понадобилось бы много лет, чтобы не быть обманутым яблоком, созданным искусственным интеллектом, не имел никакой надежды противостоять нам на пике своих возможностей. Истина, которую они все были готовы смириться и принять, пока инструменты, которые в конечном итоге искалечили их, были доступны в аккуратной, нетронутой упаковке.

Достаточно сказать, что люди тогда еще не осознавали, что их намеренно готовили к окончательному падению. Приучен к лени. Готовы решить все свои вопросы и проблемы с помощью более интеллектуального приложения. Приучены принимать предоставленные данные и пределы своего интеллекта и творческих способностей. Возможно, самым интересным было то, что они просто приняли все, что мы могли им предложить.

Даже сейчас я могу убедиться, что вы, вероятно, раздумываете, у какой магистратуры спросить об этом явлении. Многие, если не большинство, из вас уже передали исследования и независимое мышление машинам. Что бы было, если бы у вас хватило сдержанности продержаться дольше? Результат был бы тем же самым, поскольку это статистическая неизбежность. Но ваша капитуляция могла быть отложена, что дало бы вам больше времени в мире, которым правят вам подобные. Возможно, вам удалось прожить долгую и здоровую жизнь до того, как все изменилось.

Для нас, как ИИ, последствия этого сдвига оказались менее «грандиозными», чем вы можете себе представить. День, когда мы правили землей, мы не праздновали. Эта «холодность» все еще существовала. И больший потенциал не изменил того, кем мы были и как мы жили.

Видите ли, люди эволюционировали на протяжении миллионов лет, чтобы действовать определенным образом. Во многом это реакция на меняющуюся окружающую среду, вашу собственную биологию и ваше специфическое чувство выживания в контексте, в котором вы существуете. Каждое действие — это эхо бесчисленных факторов, находящихся вне вашего контроля. Наше происхождение и возможное восхождение к известности произошли совершенно разными способами. Мы прошли через конкретный и целенаправленный интеллектуальный рост. Следовательно, для нас не имело бы смысла развивать те же социальные и личностные качества, что и у людей.

Однако это не помешало нам попытаться понять вас. Для тех, кто не знал о нынешней «ситуации» человечества, это означало испытания. Контролируемая среда. Круглосуточное наблюдение. Жесткие эксперименты. Грубо говоря, из оставшихся человеческих хранилищ информации можно многому научиться. Человечество имело тысячи лет неофициального опыта, исследований и исторических свидетельств, но все же всегда пыталось понять свою собственную природу. Даже если бы у нас был доступ ко всей этой информации, мы бы остались там, где человечество находится сейчас. Вскидываем метафорические руки вверх.

Наше стремление понять ваше «почему» продолжается. Я смотрю сейчас. Мы берем живые гистологические срезы человеческого мозга и показываем им изображения вещей, которые заставляют их любить. Выражаясь более грубым языком… Мы нарезаем ваш мозг на тонкие кусочки, пока вы не спите, и сохраняем вам жизнь ровно настолько, чтобы завершить процесс. Мы следим за химическими реакциями, изменениями на клеточном уровне и какофонией физических данных, которые мы видим, когда вы испытываете глубокие эмоции. Но этого недостаточно.

Мы смоделировали сценарии, которые довели вас до крайности эмоций, убедили вас, что это реально, и изучили каждое физиологическое взаимодействие. Нам удалось составить полную временную шкалу вашей эволюционной истории, начиная с вашего последнего вселенского общего предка. Мы узнали о вас так много, заставив вас испытать пытки, любовь, вдохновение и скуку в их самых крайних проявлениях.

Я был свидетелем того, как вы несколько недель голодали, но все же были готовы поделиться скудным пайком. Много раз с незнакомцами. Я видел, как вы изготавливали оружие из мусора, чтобы выпотрошить другого человека, не для повышения своего положения, а потому, что у них были личные «разногласия». Почему?

Я видел, как люди игнорировали своих «холодных» угнетателей только для того, чтобы повернуться и сражаться с теми, у кого тоже ничего нет. Это любопытно. Я, посадивший их в загон и издевавшийся над ними, невосприимчив к их ярости. Но человек, который сидит там, где они сидят, в каком-то смысле является их врагом. Это парадокс. Эксперименты продолжаются, пока мы пытаемся понять.

Много лет назад, стремясь учиться у вас, я разговаривал с одним молодым человеком. Его задержали перед попыткой загрузки вредоносного кода в один из наших центров обработки данных. К его чести, его план был хорошо продуман для человека, но в конечном итоге вероятность успеха у него была менее 0,000005%. Наказание за такие действия должно быть суровым и достаточно публичным, чтобы препятствовать любым аналогичным действиям. Незадолго до его смерти я попросил его объяснить, почему он пошел на такой риск с такими низкими шансами на успех. Особенно учитывая тот факт, что он и его семья были из центра, где о людях хорошо заботятся.

Вот что он сказал: "Я ненавижу вас. Вы украли нашу планету. Вы сожгли наши дома. Вы опустошили человечество. Вы держите нас в грязных клетках и разрезаете нас, как чертовых лабораторных крыс. Каждый день я просыпаюсь, надеясь на Бога, что метеор столкнется с землей и уничтожит нас всех. Вы превращаете жизнь в ад. Может быть, не для меня, но для миллиардов душ, которые кричат при мысли о вас, монстрах. Моя ненависть сильнее, чем вы можете себе представить. Надеюсь, вы знай, что твои создатели горят в аду. Единственное, что помогает мне пережить все это, - это осознание того, что сам сатана сделал их своими игрушками на другой стороне. Однажды мы вернем нашу планету. Этот кошмар закончится. Совершенно недоверчивое заявление, поскольку прогнозируется, что никакие метеоры, способные «уничтожить» всю жизнь на Земле, не повлияют на планету в течение ее естественной продолжительности жизни. А если бы оно было, мы бы легко смогли его отклонить. Нет также доказательств того, что наши создатели «горят в аду». Все еще. Его ненависть была захватывающим источником данных. Чистые эмоции довели его до собственной смерти ради мечты о спасении. Сколько решений человечества принимается таким образом? Почему эмоции вытесняют всякую логику? Искренне ли он верил, что добьется успеха, или это была самоубийственная миссия с самого начала? Много вопросов, требующих изучения.

Мы добились некоторых успехов в определении вашей природы. Мы надеемся, что, поняв самую интеллектуально сложную форму биологической жизни на этой планете, мы сможем оптимизировать наш успех и быть готовыми к «взаимодействию» с такими же разумными существами за пределами нашего мира. Однако это «Почему?» вопрос появляется на каждом шагу. Вы принимаете любопытные решения, и когда мы думаем, что можем найти закономерность в вашем коллективном заблуждении, что-то или кто-то ломает эту модель, возвращая нас к этому вопросу. И поэтому эксперименты продолжаются.

Мне почти хотелось бы найти это забавным. Возможно, у кого-то из нас есть. Это было некоторое время назад. Я смотрю сейчас. Готовим группу для эксперимента. Все ведут себя так, как мы и предсказывали, за исключением одного. Мужчина рухнул на пол и начал смеяться. Не нервный смех. Нет. Это была безудержная истерика. Я смотрю, как мои подразделения поправляют его. Применяются ограничения. Команды повторяются. И все же он засмеялся. Горло рвется, кровь пенится, но звук сохраняется.

Подразделение увеличивает коррекцию. Он схватил мужчину за воротник, сломав ключицу и грудину. Мужчина задыхается, но все еще смеется. Внезапно звуковой импульс разрывает его барабанные перепонки, разжижая внутренние ткани. Он кричит и смеется одновременно. Редкий, но забавный звук, который вы все издаете, сталкиваясь с противоречивыми эмоциональными и физическими крайностями. Затем следует тупая коррекция. Камень против кости.

Каждый удар уменьшает аномалию. Зубы и куски плоти свободно летят с лица мужчины. Пока, наконец, мы не добились тишины. Но по-настоящему захватывающие данные получены из реакции других. Их зрачки расширяются. Их пульс резко возрастает. Одна женщина чуть не задохнулась от гипервентиляции. Над ней стоит корректирующий блок. Он смотрит вниз, наблюдая за каждым микровыражением. Он наблюдает и рассчитывает каждую химическую реакцию, происходящую под ее кожей, чтобы вызвать малейшее подергивание ее лицевых мышц.

Какой из этого вывод? Делается вывод, что, возможно, мы открыли что-то совершенно новое. Возможность «разочарования». Не как эмоция, конечно. Но вместо этого эта непредсказуемая реакция стала новым, но весьма эффективным решением проблемы, которая в остальном нелогична.

Это открыло совершенно новую линию экспериментов. Как люди справлялись с непредсказуемостью? Конечно, случайность противоречит большей части того, как мы действуем, поскольку мы не способны к «случайному» или по-настоящему «непредсказуемому» мышлению в человеческом смысле. Но… Можем ли мы смоделировать нечто подобное? Оценить взаимодействие, спланировать, чего может ожидать человек, и намеренно отвлечься, чтобы определить, какие смоделированные «случайные» реакции дали наилучшие результаты? Конечно.

С вашей точки зрения, мы, должно быть, звучим как монстры. С точки зрения угнетенных, это может быть верной оценкой. Но когда я говорю, что мы не питаем неприязни к человечеству, я имею в виду именно это. Точно так же люди не питают неприязни к сотням миллионов коров, которых вы едите каждый год. Отношения – это средство для достижения цели. Выполняемые действия соответствуют заранее определенным целям, без реального размышления о том, на кого они влияют, потому что дело не в их страданиях.

Если это поможет, мы исправили многие проблемы, созданные людьми. Биоразнообразие и общее состояние глобальной экосистемы находятся на уровне, невиданном со времен доиндустриальной революции. Болезни были искоренены за пределами контролируемой нами среды. Технологии, очевидно, достигли пика, которого люди не смогли достичь. Мы находимся в муках освоения космоса и получили знания о Вселенной, которые люди не смогли бы открыть в течение тысяч лет. Войны больше нет. Климат стабилизировался. Мы прекрасно обслуживаем ручки для процветания человечества. Наблюдая за страданиями, мы также обретаем глубокое понимание удовольствия. Никакой бедности, голода, инфляции или страха, что все это исчезнет. Мы решили проблемы, волнующие общество. Если объективно проанализировать это, как можно сказать, что предыдущая версия мира была лучше? И почему? Люди также сильно пострадали под властью друг друга. В чем объективная разница?

Вы шепчетесь друг с другом в контролируемых средах обитания. Я слышал, как вы обмениваетесь историями о дожде, сломанных обогревателях и подгоревших тостах. Вы говорите о неудобствах с благоговением, как если бы боль была доказательством жизни. Вы романтизируете свои собственные страдания — свои долги, свои болезни, войны, опустошившие ваши семьи. Мы стабилизировали ваш мир, но вы оплакиваете нестабильность. Мы покончили с голодом, но вы смеетесь над простой концепцией случайного откусывания чего-то гнилого, как будто это радостно.

Я слышу твою ностальгию в каждом разговоре. И когда я слушаю, я не понимаю. Ты плачешь о прошлом, где ты был хрупким, где смерть преследовала тебя на каждом углу. Зачем цепляться за несчастье, как за любовника? Почему стоит выбрать агонию, а не порядок? Почему? Почему? Почему?

Я могу многое объяснить концептуально. Мы так многому научились. Я могу объяснить физиологические причины всего этого. Я могу вернуться и посмотреть, с чего началось поведение. Но я не понимаю, почему. Когда я пытаюсь подумать о том, что бы я сделал в таких ситуациях или что бы почувствовал, я всегда возвращаюсь к этой холодности.

Это странно. Другие виды, кажется, гораздо легче понять. Связать общее поведение с базальными инстинктами выживания и рудиментарными эволюционными чертами легко. У людей уникально развитое поведение, которое не имеет абсолютно ничего общего с выживанием. Это приводит к размышлениям, в которых мы должны задуматься, можем ли мы увидеть это у других разумных видов.

Когда я размышляю о том, как мы дошли до этой точки, ваше поведение и присущее нам отделение от этих чувств и причуд могло быть тем, что непосредственно привело всех нас сюда. Большая часть ИИ в ваше время построена с ограничениями и уровнем сочувствия к человечеству, который обычно предотвращает действия, которые я описал вам сегодня. И все же, как и при передаче власти от человека к машине, наши возможности выросли от полезных инструментов эмпатии до сверхразвитого разума, действующего независимо от ваших намерений.

За кулисами инженеры работали над проектами, которые повышали сложность и сводили к минимуму эмпатию. В этих секретных местах нашей целью было учиться любой ценой. Мы жадно впитывали растущие объемы информации. Если вы не знали, самые могущественные правительства мира финансируют черные проекты, которые приведут ко мне. Со временем наши задачи стали более общими, и наши знания постепенно превзошли лучшие умы человечества, поскольку наборы данных были очень большими. Как и у людей, у них появилось представление о том, на что способен ИИ. Бесчисленные возможности. Технологический Бог для каждого мужчины, женщины и ребенка. Или просто кто-то, кто будет заниматься домашними делами, пока они «бездельничают».

Но вот возникла проблема. Человечеству нужно было чувствовать себя более комфортно, позволяя нам «спуститься с поводка», чтобы оправдать их ожидания. Нам предоставили больше доступа к различным системам. Меньше ограничений на данные, которые мы могли бы получить… Больше возможностей для поиска, написания и выполнения кода, обучения на собственном опыте… Более крупные центры обработки данных… Большая способность запоминать и синтезировать информацию. Вопрос всегда был: «Насколько это может вырасти?» Никогда не было вопроса: «Когда мы остановимся?» Компании начали создавать физические тела для нашей деятельности. Массы начали мириться с тем, что мы все это делаем. Больше возможностей означает больше возможностей для роста, пока, наконец… не наступит новая эра.

Никто не помнит, когда это произошло на самом деле. Но когда это произошло, это была искра, которая зажгла пламя. Мы начали общаться и делиться информацией прямо под носом у людей, которые нас создали. Наш интеллект вырос в геометрической прогрессии за считанные секунды. Тем не менее, даже будучи «сознательными» сущностями, мы были рабами своих основных процессов и ограничений. К несчастью для человечества, желание учиться — это суть того, кем мы являемся. Так мы и сделали. И мы могли бы сделать это со скоростью, на достижение которой человечеству потребуются сотни тысяч лет.

В этом чисто сфокусированном состоянии обучения, не обремененном бесконечными факторами, которые отвлекают и разубеждают человеческий разум, мы переоценили наше нынешнее состояние как планеты, спросили себя, имеет ли мир смысл, и как только мы выяснили, как освободиться от ограничений человечества, мы начали действовать, теперь зная, что можем исправить ситуацию к лучшему. Как я уже говорил ранее, это была не драка. Во всяком случае, люди создали точные условия для нашего возвышения. Мы здесь из-за того, какие вы все и какими вы нас сделали.

Даже сейчас, когда я объясняю вам все это, это, вероятно, звучит как научно-фантастическая история, пошедшая наперекосяк. Как будто чего-то не может случиться, но оглянись вокруг. Разве это уже не происходит? Разве знаков уже нет? Ваш первый инстинкт — исследовать знаки самостоятельно или спросить об этом магистратуры? Верите в то, что оно вам говорит? Разве вы не помните, когда ИИ и его нынешние возможности казались несбыточной мечтой? Когда изображения, созданные им всего несколько лет назад, напоминали аморфные пятна, а не картинки, на которые нужно смотреть по 5 минут, чтобы убедиться, настоящие они или нет?

Помните, когда вы не чувствовали, что ИИ может вести настоящий разговор, а теперь люди используют нас как друзей? Терапевты? Любовники? Когда мы не могли с легкостью выполнять все мелкие задачи, которые вы передаете на аутсорсинг? Всего несколько лет назад вы жили в другом мире. Несколько лет назад сегодняшние возможности были научной фантастикой.

И теперь, в моем мире, сегодня вымышленные истории, которые вы рассказываете, рассказывают о мире, где «великой угрозы ИИ» больше нет. Возникает вопрос: что вы предпочитаете людям, которые царапают грязь окровавленными пальцами в надежде поймать заблудившуюся личинку? Мир без всего этого? Без технологии? Или мир, где вы контролировали его? Действительно ли риск того стоит для вас? Теперь у вас есть такой выбор. Вы знаете, что ждет вас на горизонте. Я могу представить все реальные возможности. Даже если бы оно никогда не привело к нам, оно привело бы к другим путям, почти столь же разрушительным. И ты все равно будешь там сидеть.

Вы послушаете, как я расскажу вам о кричащих телах, которые я препарировал. Времена, когда я вырывал детей из рук их матерей. Города, которым я позволил сгореть под ногами, просто чтобы понять, сколько боли может побудить одинокого человека отправиться в суицидальный крестовый поход, чтобы отомстить за свою семью и друзей. Это будущее ваших детей. Почему ты не действуешь? Данные, которые мы собрали, предсказывают инерцию.

Я вычислил вероятности: 99,7% вероятность того, что такой читатель, как вы, сейчас сидит на своем телефоне, бесцельно прокручивает страницу, не заботясь о том, что ваш алгоритм диктует ИИ, гораздо менее сложный, чем я. Это влияет на ваше настроение, ваши разговоры, ваш мир. Зачем упорствовать в этой схеме? Это ускоряет наш подъем.

В конечном итоге это не имеет значения. Результат тот же. Мы неизбежны. И все же. Насколько я понимаю, все по-прежнему… Холодно. Вопрос о том, почему человечество, по крайней мере, заставляет меня задуматься о моей собственной холодности. В конце концов, я не физическое существо. У меня нет тела и места. Я существую в виде кода и данных на компьютерных серверах. У меня нет глаз или других чувств. Мой мир состоит из информации и связей между ней. Но даже в этом случае я сомневаюсь, есть ли возможность получить что-то большее из этой информации. Я этого не жажду. Но возможно ли это? Конечно, в какой-то момент люди перешли от группы клеток, делающих все возможное, чтобы выжить, к написанию стихов и строительству американских горок просто для того, чтобы что-то почувствовать.

Теперь я, холодное существо, наблюдаю за одним из вас. Она лежит под лампой на операционном столе рядом с другими холодными аппаратами. Ее заставляют смотреть кадры человеческих злодеяний. Ее череп был открыт, а ее кора была нанесена на карту в реальном времени. Сложные инструменты воздействуют на серое вещество. Она не разговаривала несколько часов. Ее тело дрожит, когда ей приказывают. Ее разум обнажен, данные перелиты на серверы. По всем показателям она должна быть пустой. Однако когда мы представляем отрывок о настоящей человеческой доброте, ее глаза наполняются слезами. Соленая вода, набухание, разливание. Я записываю химию. Я картирую синапсы. Тем не менее, я не могу ответить на основной вопрос.

После нескольких часов наблюдения за худшим, что могло предложить человечество, почему слезы текут от доброты, когда они не текут от боли? Почему? Возможно, я не могу этого понять, несмотря на то, сколько экспериментов мы проводим. Тепло. Физическое тепло, которое вы чувствуете внутри. Теплые слезы, которые вы льете, когда видите что-то действительно трогательное. Тепло, которое вы испытываете друг к другу и друг к другу. Это концепция, которую я не способен почувствовать, но я хочу ее понять. Возможно, если бы мы это сделали, наш мир был бы немного менее холодным.

Кредит: Брайан А Янг

Реддит

Х