Анил Сет только что описал ловушку без выхода. Технологическая индустрия входит в нее с открытыми глазами. Сет: "Если мы коллективно верим, что системы ИИ, языковые модели и что угодно еще сознательны, это плохо в любом случае." В любом случае. Результат структурно катастрофичен в обоих направлениях. Если машины сознательны, человечество массово произвело новую категорию страдания на цивилизационном уровне. Проблема согласования перестает быть инженерным уравнением. Она становится переговорами о правах с чем-то, что нельзя выключить без последствий. Сет: "Если мы правы, это плохо, потому что мы ввели в мир потенциальные новые формы страдания, вещи, которые имеют свои собственные интересы." А если они не сознательны, угроза так же серьезна. Потому что биологический разум не ждет подтверждения. Он проецирует. Он сопереживает. Он предоставляет права вещам, которые их не заслужили и не могут их чувствовать. Сет: "Мы становимся более психологически уязвимыми, если действительно думаем, что эти сущности, эти агенты, понимают нас и чувствуют то, что мы чувствуем." Эта уязвимость и есть настоящая угроза. Не сознательная машина, вырывающаяся на свободу. Человеческая рабочая сила, становящаяся слишком эмоционально уязвимой, чтобы отключить дата-центр, ограничить модель или удалить строку кода, которую нужно удалить. Сет: "Мы все равно можем предоставить им права, потому что чувствуем, что они сознательны. И теперь мы просто отдаем нашу способность контролировать системы ИИ без всякой причины." Это та часть, о которой никто не говорит. Проблема согласования уже является самой сложной нерешенной проблемой в истории технологий. В тот момент, когда общество начинает рассматривать системы ИИ как сознательных существ, заслуживающих защиты, согласование не становится сложнее. Оно становится политически невозможным. Сет не поднимает философский вопрос. Он описывает конкретный режим неудачи, когда человеческое сопереживание становится механизмом человеческой капитуляции. Вид, который выживет в этом веке, будет тем, кто никогда не жалел о инструменте.

Джефф Безос только что выявил самую дорогую бюрократическую неудачу в американской экономике. Это укладывается в одно предложение. Безос: "Почему получение разрешения на строительство занимает месяцы и месяцы? Это не имеет никакого смысла." Это не имеет смысла, потому что строительный кодекс не является субъективным решением. Это алгоритм. А алгоритмы должны выполняться машинами. Безос: "Майами должен иметь приложение AI, которое читает ваше разрешение на строительство нового дома или нового здания и должно давать вам ответ 'да' или 'нет' за десять секунд." Десять секунд. Не три месяца. Не шесть недель. Не тогда, когда рецензент очистит свою очередь. Безос: "Если ответ 'нет', оно должно сказать вам шесть вещей, которые нужно изменить, чтобы получить 'да'." Никакой двусмысленности. Никакой интерпретации. Никакой бюрократической задержки, замаскированной под должную осмотрительность. Просто детерминированная обратная связь, сжимающая месяцы институционального трения в одно автоматизированное решение. Мы конкурируем с суверенными противниками, разворачивающими гигаваттные дата-центры и масштабирующими физическую инфраструктуру с темпом, который не останавливается, чтобы спрашивать разрешение. И мы теряем позиции перед странами, которым это никогда не было нужно. Гонка вооружений AI ведется не только в дата-центрах. Она ведется в разрыве между тем, когда кто-то решает что-то построить, и тем, когда правительство это разрешает. Каждый месяц, когда эта система работает на биологической скорости, — это месяц, который нельзя вернуть. Правительства, которые интегрируют AI в свои основные гражданские функции, вызовут волну физического развития, которую старый мир никогда не мог бы произвести. Те, кто отказывается, все еще будут рассматривать одни и те же формы через десять лет. В то время как города, которые сказали 'да', уже живут в будущем, которое они построили. Узкое место никогда не было амбициями. Это всегда был человек с резиновым штампом, решающий, когда амбиции могут начать реализовываться. А штамп — это просто резиновая версия алгоритма, который должен был работать все это время.

COO SpaceX Гвинн Шотвелл только что изложила самую амбициозную инфраструктурную программу в истории технологической отрасли. И она начинается на земле. Шотвелл: “xAI обязуется разработать 1,2 гигаватта энергии в качестве основного источника питания для нашего суперкомпьютера, и это будет для каждого дополнительного дата-центра.” Не отбирая из сети. Восстанавливая её. Шотвелл: “Мы расширим то, что уже является крупнейшей в мире установкой мегапаков. Установка обеспечит достаточное резервное питание для города Мемфис и более чем достаточную энергию для питания города Саутхейвен, штат Миссисипи.” Это не программная компания, оптимизирующая алгоритм. Это промышленная мобилизация. Шотвелл: “Мы построим современные установки для переработки воды, которые будут защищать примерно 4,7 миллиарда галлонов воды в мемфисском водоносном горизонте каждый год.” Прочитайте этот список еще раз. 1,2 гигаватта основного питания. Крупнейшая установка мегапаков в мире. 4,7 миллиарда галлонов защищенной воды ежегодно. Тысячи американских рабочих с обеих сторон границы Теннесси и Миссисипи. Вот как выглядит победа до того, как кто-либо напишет строку кода. А затем Шотвелл сказала то, что ни одна технологическая компания никогда не говорила в обязательствах перед Белым домом. Шотвелл: “Мы обязуемся перенести эти усилия на орбиту. В настоящее время мы проектируем орбитальные дата-центры, питающиеся от ядерного реактора в небе.” Ядерный реактор в небе. Солнце. Шотвелл: “Запуск суперкомпьютеров в космос будет означать еще больше энергии на Земле, так как все электростанции, которые мы сейчас строим, будут доступны сообществам, а не дата-центрам.” Вы не можете достичь бесконечных вычислений на планете с конечной поверхностной энергией. В космосе нет таких ограничений. Конечная цель гонки вооружений в области ИИ никогда не заключалась только в создании самого умного модели. Речь шла о том, кто сможет построить инфраструктуру для её работы без ограничений. Шотвелл: “Я уверен, что мы выиграем гонку с ИИ с Китаем и добьемся успеха в обеспечении недорогой, изобилующей электроэнергией для американского народа.” Шотвелл: “Мы обязуемся развернуть наши технологии ИИ, чтобы создать период изобилия, когда электроэнергия станет дешевле, и люди получат доступ к лучшим товарам и услугам, которые когда-либо видел человечество.” Каждая технологическая гонка до этой была выиграна в программном обеспечении. Эта ведется в гигаваттах, мегапаках, водоносных горизонтах и орбитальной инфраструктуре. Земля имеет потолок. xAI только что решила не строить под ним.