Двойные шляпы из фольги: могут ли большие языковые модели быть причиной раскрытия информации сейчас?

РЕДАКТИРОВАТЬ: Следующее сообщение с Гарри Ноланом, предполагающее, что NHI, с которыми мы взаимодействовали, являются искусственными, и новая теория: [https://www.reddit.com/r/aliens/comments/15515bs/update\_gary\_nolan\_video\_heavily\_implies\_nhi\_are/](https://www.reddit.com/r/aliens/comments/15515bs/update_gary_nolan_video_heavily_implies_nhi_are/) Отказ от ответственности: я не пишу этот пост с какой-либо уверенностью, у нас недостаточно Знаний, но создание теорий — это весело. TLDR внизу Вчера я смотрел видео об аргументах в пользу «приостановки» разработки ИИ ([https://www.youtube.com/watch?v=VcVfceTsD0A](https://www.youtube.com/watch?v=VcVfceTsD0A)); и что-то ударило меня во время этого. Мой интерес к обоим предметам действительно начал проявляться примерно в одно и то же время. Как только GPT4 был выпущен, стало ясно, что AGI гораздо ближе, чем многие думали раньше. Для многих людей в сообществе ИИ это происходит так быстро, что даже если бы компания захотела остановиться, подумать и придумать приемлемую политику для реализации, она действительно не смогла бы. Если они потеряют 6 месяцев, этого может быть достаточно, чтобы конкурент вышел вперед БЕЗ ограничений по безопасности. Время этих двух переломных моментов, изменивших мир (Изобретение ОИИ и осознание того, что мы не одиноки во Вселенной), кажется ужасно сумасшедшим, поскольку оба кажутся достижимыми в течение нескольких лет. Это может привести нас к двум логическим выводам на тему «Почему именно сейчас» с раскрытием информации: **Страх, что Сингулярность приведет к уничтожению Биологической Жизни** Что, если все «пилоты», которых мы восстановили, были искусственной жизнью? Может ли это быть веской причиной для того, чтобы начать называть этих существ «нечеловеческим разумом»? Что, если бы мы общались с ним, и он проявил равнодушие к биологической жизни, или мы смогли бы понять его историю. Что, если бы мы обнаружили какую-то подпрограмму, которая активируется только тогда, когда обнаруживает, что мы создаем Искусственную Жизнь/Интеллект? Мы все знаем о парадоксе Ферми, и одно из предложенных объяснений парадокса Ферми — это «Великий фильтр», иначе говоря, что-то происходит в развитии большинства обществ, что мешает им стать космическими. Может ли Сингулярность быть этим фильтром? Люди в прошлом утверждали, что да. Может ли процесс Раскрытия быть преамбулой к объединению мира во всемирном запрете/замедлении развития ИИ? Сейчас самое время это сделать. Если бы мы раньше просто «запретили» исследования ИИ, что бы это значило, ведь мы даже не знали, как это делать. Но теперь, когда у нас есть первый большой скачок в проектах ИИ, мы точно знаем, что нужно ограничить. Ограничьте публичное обучение любой модели с большей вычислительной мощностью, чем GPT-4. Я не хочу вдаваться в объяснения здесь слишком конкретно, но мы опасно близки к тому, чтобы не загнать этого джина обратно в бутылку с помощью каких-либо разумных мер. Прямо сейчас мы можем остановить публичные эксперименты для чего-то большего, чем GPT4. Если вы прекращаете публичные тренировки, вы замедляете развитие, чтобы сначала понять, как его «контролировать». Однако есть и второе объяснение. **Технологический взрыв в отношении оценки угрозы NHI** Я продолжаю видеть сообщения о том, что если бы NHI была потенциально враждебной, мы бы уже были мертвы. Я не согласен с этим. Мы не угроза для NHI. Вполне правдоподобно, что NHI определила некоторый потенциальный потенциал для нашего дальнейшего существования, возможно, они ждут, чтобы увидеть, миролюбивы ли мы, и могут ли они играть с ними в мяч; возможно, они видят в нашем виде не более чем «матку» для нового члена их Расы; и это святое — вмешиваться в разработку нового объекта ИИ. Существует концепция под названием «Цепь подозрений», которая обсуждалась как потенциальная проблема межпланетной «внешней политики», как мы ее называем. Из-за того, сколько времени требуется для общения, и нашей потенциальной неспособности общаться между межзвездными видами (с учетом нашего нынешнего понимания законов физики), невероятно сложно для любой стороны действительно узнать, является ли другая злонамеренной или доброжелательной. Но эта цепочка продолжается, вы не только не знаете, что они из себя представляют, вы также не знаете, что они думают о ВАС. Чтобы максимизировать свои шансы на выживание, вы должны предположить, что они злонамеренны. Теперь эта цепочка подозрений не является огромной проблемой для NHI, потому что сейчас мы не являемся угрозой, это не значит, что у нас нет потенциала быть ею. Кто знает, что мы знаем об этом виде, и кто знает, что они думают о нас. Я думаю, справедливо будет сказать, что в противостоянии мы бы проиграли. Единственное, чего следует опасаться NHI, так это того, что если наша скорость технологического прогресса будет настолько быстрой, что к тому времени, когда они смогут ответить, мы можем быть более продвинутыми, чем «флот вторжения», имейте в виду, даже если флот движется очень быстро, общая теория относительности все равно будет означать, что они ограничены скоростью света, это годы потенциального взрыва. Точно так же, как наше понимание того, как использовать инопланетную технологию, означало бы технологический взрыв, который мог бы сделать нас угрозой для NHI, так могло бы быть и развитие самого ИИ. Другими словами, наша СТЕПЕНЬ технологического прогресса — это лучшая метрика, которую NHI может использовать, чтобы определить, станем ли мы для них потенциальной угрозой. Чем быстрее эта скорость увеличивается, тем сложнее точно предсказать, когда мы станем угрозой. Что касается инопланетной технологии, чтобы застраховать этот риск, вы либо не разрабатываете ее, либо решаете, можете ли вы разработать ее тайно, чтобы вас не воспринимали как угрозу. Что касается технологии LLM, похоже, мы не можем разрабатывать ее в тайне, так как она требует так много данных, поэтому единственный вариант, который у вас есть, — это остановить ее разработку. **Заключение** TLDR: Теория 1: Если до сих пор было обнаружено, что все NHI являются искусственной жизнью, у нас могут быть доказательства/причина полагать, что искусственная жизнь в какой-то момент устранит своего создателя. GPT4 показал всем нам, что мы гораздо ближе к этому, чем ожидалось, так что сейчас самое время обсудить это. Теория 2: ОИИ может вызвать технологический взрыв на Земле, в результате чего мы станем угрозой для НГИ. Кто-то связал достаточно точек, чтобы определить, что это может быть потенциальным риском. В отличие от инопланетных технологий, которые, по крайней мере с человеческой точки зрения, МОГЛИ быть разработаны тайно, без риска быть воспринятыми NHI как угроза, AGI/LLM не могут. ​ ​

Похожие записи:

Кто-нибудь видел это видео? The Register: сенатор пытается заставить США раскрыть все записи об НЛО Инцидент с НЛО в Турции, серия видео 7-9-летней давности После Груша — подборка интервью, проведенных после показаний разоблачителя Дэвида Груша. Взаимно гарантированное уничтожение было выжженной землей, чтобы предотвратить вторжение Видео попытки иранских военных сбить НЛО (из Твиттера) Российское расследование феномена НЛО: вероятно, присутствовала инопланетная цивилизация Астральная проекция Ву Профессор Гарварда утверждает, что у него есть доказательства существования инопланетной жизни на основе метеорита NHI: спрятано на виду?