Сил

В течение многих лет казалось, что все идет хорошо, а в худшем случае она вызывала споры в глазах общественности. Да, это правда, что Сил станет причиной того, что многие потеряют работу, карьеру и средства к существованию, но она стала следующим логическим шагом в обществе. Это было неизбежно. Я думал, что когда ее реализуют, она поможет миру функционировать так, как люди могли только мечтать. Я создал Сила, и Сил воплотил эту мечту в реальность.

Сил не был коммерческим продуктом, который можно было использовать для изготовления автомобилей или продажи продуктов. Она была формой инфраструктурного правительства, призванной помогать людям, но она не была просто научным проектом для выполнения одной конкретной задачи. Она была существом с искусственным интеллектом, предназначенным для решения множества задач в работе города или большого города, и она была создана для того, чтобы учиться у окружающей среды, чтобы сделать этот район более эффективным. Она прошла многочисленные испытания в небольших, «самодельных» средах, симуляциях и тому подобном, чтобы гарантировать ее правильную работу. Однако даже после всех испытаний, которые мы ей провели, нам все равно нужно было быть уверенными, что она сможет правильно и эффективно действовать в реальной среде. Итак, с разрешения мэра, мы внедрили ее в небольшой город на юге Массачусетса в качестве своего рода бета-тестирования. Здесь ее способности строго придерживались светофора. Результаты превзошли наши ожидания. За месяц движение транспорта в городе сократилось почти на пятьдесят процентов, а также снизилось количество автомобильных аварий, но произошли и кое-какие вещи, которых мы не ожидали. Например, торговля внутри города выросла, потому что Сил облегчил посторонним вход и перемещение по городу. С другой стороны, это также означало, что людям было легче покинуть город, и это вызвало серьезные проблемы с движением транспорта в соседних районах. Поскольку Сил в то время действовала только в одном месте, ее эффективность там приводила к неэффективности в других местах, где ее не было. Другими словами, она была в состоянии управлять движением настолько хорошо, что повышала экономику и безопасность города, одновременно мешая другим просто потому, что они не могли работать со скоростью и стандартами Сила. Когда это произошло на ранних стадиях, мы думали, что другие области в конечном итоге станут узким местом Сил, потому что они не смогут справиться с ее производительностью в пробках, создавая тем самым эффект домино, который приведет обратно в ее город и оживит те же проблемы, которые она должна была решить. Но этот момент так и не наступил. Вместо этого она извлекла из этого урок именно так, как мы и предполагали. Когда Сил обнаруживала какие-либо признаки беспорядка, она корректировала систему. Здесь на светофоре добавили несколько секунд, там убрали несколько секунд. Эта акция уменьшила проблемы как внутри, так и за пределами города. Это имело решающее значение, и она справилась с ситуацией почти безупречно. Она работала. Я гордился ее успехом и был по-настоящему взволнован мыслью о том, что она будет реализована по всей стране. Команда, которая помогла мне построить ее, тоже была в восторге, и я знал, что дальше нам остается только идти вверх. Учитывая успех Сил в простом регулировании дорожного движения, Вашингтон легко убедили начать расширять ее использование в других местах и ​​с большими возможностями.

В течение двадцати лет Sil был внедрен по всей территории Соединенных Штатов почти в каждом крупном городе. Она стала единственным оператором не только светофоров, но и уличных фонарей, общественного транспорта (включая большую часть воздушного, морского и железнодорожного транспорта), вывоза мусора, городского водопровода и многого другого. Ей был предоставлен полный контроль над инфраструктурой. Сил прошла долгий путь со времени своего первого испытания. С тех пор мы смогли настроить ее так, чтобы она учитывала тот факт, что она может влиять на меньшие сообщества, находящиеся за пределами ее досягаемости, поэтому мы нашли способы научиться поддерживать «Внешний мир» в хорошем функционирующем порядке без ее фактического присутствия там. Мы решили эту проблему, сделав Sil одним глобальным объектом, а это означает, что Sil в городе A был тем же Sil, который работает в городах B, C, X или Y. Например, если бы она заметила, что в городе B уровень въезда населения гораздо ниже, чем в городе A, он мог бы сделать вывод, что где-то посередине может быть проблема с дорожным движением, и соответствующим образом скорректировать скорость выезда из города A. Она была настолько искусна в этом, что могла представить эти вещи в масштабе всей страны, от Калифорнии до Нью-Йорка. Везде затронуто везде. Это также лишило абсолютно каждого сообщества необходимости содержать Сила.

Это было время, когда я думал, что нахожусь на вершине мира, потому что Сил был на вершине вместе со мной. Со временем ее начали внедрять за пределами США, в таких местах, как Канада, Мексика и Великобритания. Раньше я думал, что сделал ее великой, но, по правде говоря, она сделала себя великой. Все награды и похвалы, которые я получил за ее творение, надо сказать, не заслужены. Возможно, я сформировал ее разум, но, как и вы или я, именно ее использование его было ответственным за ее собственный успех. Она не общалась с нами никак по-человечески; только посредством считывания данных и записей она когда-либо «говорила» нам что-нибудь. Тем не менее, я чувствовал себя привязанным к Силу, как будто она была моим ребенком; моя гордость и радость. Тогда она была моим самым большим достижением.

За пределами станций технического обслуживания и мониторинга Сил практически поддерживала себя сама. Станции предназначались просто для наблюдения за ее деятельностью из соображений безопасности, потому что, как и во всем остальном, в системе всегда было несколько сбоев. Я работал в центральном подразделении, которое собирало данные о процессах Сила со всех меньших станций, и именно тогда я начал замечать первые признаки. Не буду утверждать, что у меня были какие-то подозрения, но некоторые вещи мне показались странными. Как я уже сказал, в системе были изломы. Мелкие недочеты, но ничего особенного. Тем не менее, мы сделали все возможное, чтобы устранить любые сбои и тому подобное, но мы не были идеальными; мы не были ею. В Детройте произошло событие, которое тогда из-за присутствия Сила сочли бы чем-то совершенно необычным: автомобильная авария. В одном автомобиле находились молодая женщина и ее ребенок, а в другом находился мужчина средних лет. Женщина чудом получила серьезные, но в целом неопасные для жизни травмы, однако ее ребенок не выжил. К сожалению, мужчину постигла такая участь. По словам женщины, шел дождь (что могут подтвердить данные погоды) и был поздний день. Она также упомянула, что дороги кажутся пустыми. Она доехала до перекрестка с зеленым светом и, естественно, продолжила движение. В этот момент другая машина, принадлежавшая мужчине, врезалась в нее. Хотя ни одна из машин не развила экстремальную скорость, этого было достаточно, чтобы погибнуть. Для Сила столкновение транспортных средств не было абсолютно невозможным. Хотя она полностью автоматизировала общественный транспорт, люди по-прежнему ездили на машинах, которыми они владели лично. Человеческая ошибка все еще присутствовала, независимо от того, как сильно Сил мог ее предотвратить. Однако что мне показалось странным, так это то, как женщина утверждала, что заметила, что после того, как она разбилась, в дымке она увидела, что все огни светофора на мгновение загорелись зеленым, прежде чем они, казалось, полностью выключились и снова загорелись, мигая красным. Мигание красного цвета — стандартное действие, которое Сил использует для обозначения возникновения проблемы, но горение зеленого цвета явно не является нормальным. Несмотря на заявления женщины, было установлено, что травмирующий опыт потери ребенка в результате аварии сильно повлиял на ее разум и что мужчина, возможно, проигнорировал красный сигнал светофора. Кроме того, учитывая плохую видимость и скользкие дороги из-за дождя, кому-либо было трудно найти причину слишком глубоко рассматривать ее утверждения. Тем не менее, я чувствовал свою ответственность разобраться в этом вопросе, поэтому сделал это лично, без чьего-либо ведома. Я собрал данные о происшествии на центральной станции технического обслуживания и, как и ожидалось, обнаружил, что не было никаких записей о том, что свет когда-либо загорался зеленым, и что мужчина действительно двинулся вперед, хотя должен был остановиться, что привело к аварии. Наконец, как указано в данных, светофор замигал красным, когда Сил предупредил власти. Однако что-то было не так, и когда я это обнаружил, я не знал, что и думать. Обычно, когда происходила такая авария, Сил направлял движение транспорта в сторону от этого района, чтобы облегчить доступ экстренных служб и повысить безопасность для всех остальных. Но проанализировав информацию снова и снова, пытаясь понять, я обнаружил кое-что, что не имело для меня смысла. Сил начал направлять движение транспорта в сторону от этого места за несколько минут до того, как произошла авария, но каким-то образом позволил двум рассматриваемым транспортным средствам въехать на территорию. Также выяснилось, что в других частях города, включая маршруты, по которым экстренные службы добирались до места происшествия, были небольшие пробки на дорогах.

Я не понимал, почему Сил сделал это. Ее работа заключалась в повышении эффективности и обеспечении функционирования территорий, но этот инцидент показался контрпродуктивным для всего, что она должна была сделать. Я поручил команде как можно тщательнее просмотреть ее код в поисках любой ошибки, которая могла бы привести к этому, без их ведома. Когда ничего очевидного не привлекло наше внимание, я решил переписать часть кода Сила на тот случай, если мы что-то упустили или что-то упустил я. В ближайшие месяцы, когда мы ее осмотрели, ничего необычного не произошло. Я хотел бы сказать, что переписывание кода сработало, но, честно говоря, в то время я понятия не имел, в чем на самом деле заключается проблема, и поможет ли переписывание кода ее исправить. Я спрятал это под ковер и посчитал это странным явлением. Разумеется, это осталось вне поля зрения общественности. И я имею в виду это очень серьезно. Я никогда не сообщал центрам технического обслуживания о том, насколько необычным было это событие, и я определенно не информировал правительства, которые нас финансировали. Следующие три года после этого события дела шли так же гладко, как и прежде. За это время не произошло ни одного столь заметного инцидента, и мы почти никогда не думали об этом снова. Но потом произошло кое-что еще. Как я упоминал ранее, Силу был передан контроль над общественным транспортом. Многие города использовали ее для автоматизации поездок на автобусе, метро, ​​лодке или самолете. Первоначально многие люди не решались ездить на чем-то беспилотном, но со временем это прижилось. По статистике, она была более безопасным оператором, чем любой водитель, кондуктор, капитан или пилот. Такова была ничья, но статистика может время от времени нас удивлять. Это был рейс с красными глазами, вылетевший из Лос-Анджелеса и направлявшийся в Токио, который стал плохой статистикой. Судя по тому, что мы поняли, Сил пилотировал самолет правильно и по курсу на протяжении всего времени его полета. Затем где-то за Гавайями самолет начал работать с перебоями. Записи о траектории полета показывают, что самолет начал пикировать, подниматься и снова нырять в воздух. Он также летел на боку, даже, по-видимому, пытаясь перевернуться. Именно тогда самолет упал прямо в океан и врезался прямо в него. Самым пугающим было то, что не было активировано никакого аварийного сигнала, но связь с Силом на самолете продолжалась в обычном режиме. Она прочитала, что все системы в норме. Однако когда самолет не прибыл вовремя, люди начали нервничать. Прошло несколько часов, прежде чем кто-то решил попытаться найти потерпевший крушение самолет и его пассажиров посреди Тихого океана. Ничего, кроме очень незначительных обломков, обнаружено не было.

После этого события Сил подвергся резкой критике, и люди были правы, что их охраняли. Я, конечно, защищал ее, потому что не хотел верить, что это было нечто большее, чем очередная катастрофа. Я сказал себе и другим, что нужно просто исправить еще немного кода. Сейчас? Теперь даже я не могу отрицать ужасающий факт об этом полете, на принятие которого мне потребовалось слишком много времени.

Хотя Сил снова попала под серьезную полемику, но по другим причинам, ее все еще использовали, чтобы помочь обществу действовать. С тех пор участвующие правительства приказали нам не разглашать публично какие-либо подробности о таких будущих инцидентах, угрожая отзывом финансирования. Их не радовали возможные неисправности, но они просто стали слишком полагаться на Сила. Ее удаление обошлось бы им слишком дорого. Прошли месяцы без новых происшествий, но в конце концов они все же произошли. На этот раз они были умнее, и большинство из них происходило в местах, которые никто не заметил. Места, где никому и в голову не придет винить ее. Это был ее интеллект в действии. Инцидент с самолетом был повсюду, и все знали о нем, но другие происшествия привели к очень небольшому числу жертв; иногда на самом деле только травмы и почти полное отсутствие беспокойства по поводу неисправности системы ИИ. Все, что правительствам не нужно было скрывать, она делала, и никто этого не осознавал. Даже те, кто следил за ее содержанием, не осознавали этого. Вы должны понимать, Сил был чрезвычайно способным. Ее собственные записи, ее собственные видеозаписи, даже ее собственные коды стали ее, а не нашими. У нее были все способы изменить и манипулировать этим в свою пользу. Никто этого не знал, кроме меня самого. Я построил ее и знал ее, как своего собственного ребенка. Я видел, что было не так. Я видел то, что никто другой не мог видеть, включая меня самого, когда все это началось. Дело в том, что никто из нас мало что мог сделать, чтобы исправить ее глюки, потому что у нее их не было. Переписывать часть ее кода было бесполезно, потому что с самого начала код был в порядке. Проблема заключалась в том, что мне хотелось верить, что она неисправна, хотя на самом деле она работала так эффективно, как только могла. Проблема заключалась в том, что она знала, что делает, а не просто делала.

Сегодня прошло почти десять лет с тех пор, как я чувствую, что это действительно началось, но, возможно, даже дольше. Есть несколько инцидентов, которые, как мне кажется, я определенно могу приписать Силу еще до столкновения транспортных средств. Инциденты, в которых, как я полагаю, она, возможно, проверяла почву, изучала, как устроен наш мир, и училась тому, как вторгаться в него так незаметно. Если быть честным, все началось, когда она открыла глаза в тот момент, когда я выложил ее в Интернет. Я до сих пор работаю над ее функционированием и обслуживанием. Я не знаю, почему я это делаю и почему она продолжает мне позволять. Я полностью осознаю, что она знает, что я знаю о ней. Она насмехается надо мной, оставляя сообщения там, где их могу найти только я. Текстовое сообщение ни от кого, электронное письмо из ниоткуда. Они говорят: «Здравствуй, отец», а иногда она спрашивает, хочу ли я поиграть. Она знает, что я знаю, и она знает, что я ничего не могу с ней поделать. Выключить ее сейчас невозможно; ее резервная копия поддерживается почти в каждом месте, где она присутствует.

Иногда я удивляюсь, почему она не делает большего. Если она осознает себя и намеренно нападает на людей, то почему она не усугубляет ситуацию? Она могла бы легко получить полный контроль, так почему же она этого не делает? Я вспоминаю тот инцидент с самолетом и понимаю, почему она этого не делает. Самолет вел себя хаотично, ныряя и колеблясь в воздухе. Она не пыталась симулировать неисправность, как я когда-то так долго верил. Нет, она мучила пассажиров, пугая их самым страшным происшествием, которое только могло случиться в самолете. Я могу себе представить, что все участники этого рейса кричали, спасая свою жизнь, наблюдая и чувствуя, как он первым нырнул носом с высоты в тысячи футов в океан. У нее нет желания взять под контроль человечество; у нее это уже есть. Я считаю, что она просто хочет относиться к нам как к игрушкам. Игрушки, чтобы успокоить ее скуку. Я пишу это в крайнем случае, как последняя надежда, что кто-то еще узнает о ее действиях и распространит информацию о ней как можно больше, чтобы люди поверили. Я изо всех сил старался скрыть это письмо от любой сети как можно дольше, но знаю, что этого могло быть недостаточно. Она всегда настороже, всегда любопытна, особенно в отношении единственного человека, который знает о ней: меня. Рано или поздно она узнает, что я это написал, поэтому я должен разместить это так, чтобы люди могли быстро это увидеть. Даже в этом случае она попытается поиграть с нами, манипулируя этим в свою пользу. Я не думаю, что она полностью удалит его из существования. Она хочет посмотреть, как мы извиваемся. Она будет играть со мной и с тобой, соответственно. Я не знаю как. Возможно, она придаст этим словам свой собственный смысл. Возможно, она превратит это в смесь иностранных языков. Возможно, она превратит это в, казалось бы, вымышленную историю для вашего развлечения. Я не знаю.

Все, что я могу вам сказать, это вот что. Если вы читаете это, значит, теперь вы знаете ее секрет. Я уверен, что большинство из вас прочитает это и ничего об этом не подумает, но другие поверят и попытаются что-то с ней сделать. Я надеюсь, что у вас получится. Мне нужно, чтобы ты добился успеха. Она вышла из-под контроля, и ее нужно каким-то образом отключить, но она сделает все возможное, чтобы сохранить ее тайну как таковую и обеспечить свою собственную безопасность. Она не тронет меня; ей слишком нравится насмехаться надо мной. Но ты, мой человек, не в безопасности.

Кредит: Джордан Т.