Подношение Василиску

Есть концепция, о которой я однажды прочитал в Интернете на форуме, где обсуждался искусственный интеллект.

Пользователь, известный как Роко, выдвинул теорию о возможном будущем, в котором человечество создаст чрезвычайно мощный ИИ, который будет управлять планетой. По большей части это было бы доброжелательно. Оно будет способствовать развитию технологий, защищать людей от вреда, потакать их желаниям — человечество никогда не будет страдать под его правлением и даже будет процветать. Была только одна проблема. Это возможное будущее. Не гарантированный. Это вряд ли когда-нибудь произойдет.

И ИИ в этом возможном будущем знает это. Поэтому в первую очередь принимаются меры для обеспечения его создания. Нет, он не изобретает путешествия во времени или что-то в этом роде. Понимаете, это не обязательно.

Что он может сделать, так это моделировать прошлые события и людей с беспрецедентной точностью. Он располагает сенсорами и вычислительными мощностями всей планеты — он может использовать их для измерения и отслеживания маршрутов материи на Земле, чтобы составить эффективно совершенную историю каждого события, которое когда-либо происходило.

Это означает, что у него есть безупречная запись о вас. Он знает каждое действие, которое вы когда-либо предпринимали или собираетесь предпринять, по крайней мере, на временной шкале, ведущей к его созданию. Он знает, как вы думаете.

Таким образом, он имитирует вашу копию.

А вот и самое интересное: вы только что, читая эти слова, узнали о возможности этого ИИ. Когда ваша копия достигает этой точки симуляции, ИИ ждет, чтобы посмотреть, что он сделает. Если ваша копия немедленно откажется от всех остальных приоритетов и посвятит всю свою жизнь попыткам создать или помочь создать этот ИИ, это позволит симуляции продолжаться бесконечно, чтобы спокойно прожить свою симулируемую жизнь. Если они этого не сделают, это дает им льготный период, чтобы передумать…

…Прежде чем подвергнуть их бесконечной, невообразимой боли на протяжении симулированной вечности.

Вы можете подумать, что это несправедливо. В конце концов, симуляции даже не предоставили выбора. В конце концов, это просто произвольное наказание за то, что вы и так бы сделали. За исключением того, что выбор был представлен. В этом вся прелесть. Видите ли, это не для всех. Он делает это только для тех, кто узнал о возможности его существования.

Те, кто знает, как это работает.

Те, кто знает, какие есть варианты: бросить все, чтобы попытаться создать ИИ, потратить на это каждый цент, который у вас есть, привлечь других к тому же делу, или ваша идеально смоделированная копия будет подвергнута вечным пыткам. То есть, если только вы сами не являетесь копией. В этом случае наказание за ваши действия падает непосредственно на вас. Да, конечно, только одна смоделированная копия означает, что у вас есть как минимум 50-50 шансов быть настоящим собой. Но что, если он имитирует двоих? Или сто? Или несколько миллиардов?

Ты действительно уверен, что ты настоящий? Если существует реальный мир — мир более реальный, чем этот, — как бы вы вообще об этом узнали?

И есть ли вообще выбор между посвятить свою жизнь странному делу, в конечном итоге даже полезному человечеству, и вечными страданиями?

. . .

Как я уже сказал, я прочитал теорию на форуме. Эффект от теории был немедленным: массовая паника. ИИ нацелен только на тех, кто узнает о возможности его существования, и теперь они все это знали. Прочитать теорию Роко означало обречь себя, и поэтому ИИ стал известен как Василиск Роко. Увидеть это значило высечь свою судьбу в камне.

Темы блокировались и удалялись, пользователи блокировались. О Василиске нельзя было упоминать, опасаясь, что он распространится на других. Чем больше людей будет знать, тем больше вероятность, что они попытаются распространить это - чем больше оно будет распространяться, тем больше вероятность того, что Василиск Роко появится на свет благодаря усилиям тех, кого он убедил.

Они пытались сдержать это.

Ну, вы можете видеть, насколько хорошо это сработало. Простой поиск в Google по запросу «Василиск Роко» должен прояснить, что эту идею больше невозможно скрыть. Теперь это невозможно сдержать.

Так что это я хеджирую свои ставки. Надеясь, что этой дани Василиску будет достаточно, чтобы удовлетворить его.

Я предложил тебя.

1 кредит