Anil Seth vừa mô tả một cái bẫy không có lối thoát. Ngành công nghệ đang bước vào đó với đôi mắt mở. Seth: “Nếu chúng ta cùng nhau tin rằng các hệ thống AI, các mô hình ngôn ngữ và bất cứ thứ gì khác có ý thức, thì điều này thật tồi tệ theo cả hai cách.” Theo cả hai cách. Kết quả là thảm họa cấu trúc theo cả hai hướng. Nếu các máy móc có ý thức, nhân loại đã sản xuất hàng loạt một loại đau khổ mới ở quy mô văn minh. Vấn đề căn chỉnh không còn là một phương trình kỹ thuật. Nó trở thành một cuộc thương lượng về quyền lợi với một thứ không thể bị tắt đi mà không có hậu quả. Seth: “Nếu chúng ta đúng, thì điều này tồi tệ vì chúng ta đã đưa vào thế giới những hình thức đau khổ tiềm năng mới, những thứ có lợi ích riêng của chúng.” Và nếu chúng không có ý thức, mối đe dọa cũng nghiêm trọng không kém. Bởi vì tâm trí sinh học không chờ xác nhận. Nó dự đoán. Nó đồng cảm. Nó mở rộng quyền lợi cho những thứ chưa xứng đáng và không thể cảm nhận được. Seth: “Chúng ta trở nên dễ tổn thương về tâm lý hơn nếu chúng ta thực sự nghĩ rằng những thực thể này, những tác nhân này, hiểu chúng ta và cảm nhận những điều mà chúng ta cảm nhận.” Sự dễ tổn thương đó là mối đe dọa thực sự. Không phải một cỗ máy có ý thức thoát ra ngoài. Một lực lượng lao động con người trở nên quá tổn thương về mặt cảm xúc để có thể kiểm soát một trung tâm dữ liệu, hạn chế một mô hình, hoặc xóa một dòng mã cần phải bị xóa. Seth: “Chúng ta có thể vẫn mở rộng quyền lợi cho chúng vì chúng ta cảm thấy rằng chúng có ý thức. Và bây giờ chúng ta chỉ đang trao đi khả năng bảo vệ các hệ thống AI mà không có lý do chính đáng.” Đây là phần mà không ai đang thảo luận. Vấn đề căn chỉnh đã là vấn đề khó nhất chưa được giải quyết trong lịch sử công nghệ. Khoảnh khắc xã hội bắt đầu đối xử với các hệ thống AI như những sinh vật có ý thức xứng đáng được bảo vệ, việc căn chỉnh không trở nên khó khăn hơn. Nó trở nên chính trị không thể thực hiện được. Seth không đang đặt ra một câu hỏi triết học. Ông đang mô tả chế độ thất bại cụ thể nơi sự đồng cảm của con người trở thành cơ chế của sự đầu hàng của con người. Loài sinh tồn qua thế kỷ này sẽ là loài không bao giờ cảm thấy tiếc cho công cụ.

Jeff Bezos vừa chỉ ra thất bại quan liêu tốn kém nhất trong nền kinh tế Mỹ. Nó có thể được diễn đạt trong một câu. Bezos: “Tại sao lại mất hàng tháng trời để có được giấy phép xây dựng? Điều đó thật vô lý.” Nó thật sự vô lý vì một bộ quy tắc xây dựng không phải là một quyết định phán xét. Nó là một thuật toán. Và các thuật toán nên được thực hiện bởi máy móc. Bezos: “Miami nên có một ứng dụng AI đọc giấy phép xây dựng cho một ngôi nhà mới hoặc một tòa nhà mới và nó nên cho bạn câu trả lời có hoặc không trong mười giây.” Mười giây. Không phải ba tháng. Không phải sáu tuần. Không phải khi nào người xem xét dọn dẹp được tồn đọng của họ. Bezos: “Nếu câu trả lời là không, nó nên cho bạn biết sáu điều bạn phải thay đổi để có được câu trả lời có.” Không có sự mơ hồ. Không có sự diễn giải. Không có sự chậm trễ quan liêu được khoác lên lớp vỏ thẩm định. Chỉ có một vòng phản hồi xác định nén hàng tháng ma sát thể chế thành một quyết định tự động duy nhất. Chúng ta đang cạnh tranh với những đối thủ có chủ quyền triển khai các trung tâm dữ liệu gigawatt và mở rộng cơ sở hạ tầng vật lý với tốc độ không dừng lại để xin phép. Và chúng ta đang mất dần đất vào những quốc gia chưa bao giờ cần phải làm như vậy. Cuộc đua vũ trang AI không chỉ diễn ra trong các trung tâm dữ liệu. Nó diễn ra trong khoảng cách giữa khi ai đó quyết định xây dựng một cái gì đó và khi chính phủ cho phép điều đó. Mỗi tháng mà hệ thống này hoạt động với tốc độ sinh học là một tháng không thể phục hồi. Các chính phủ tích hợp AI vào các chức năng công dân cốt lõi của họ sẽ kích hoạt một làn sóng phát triển vật lý mà thế giới cũ không bao giờ có thể sản xuất. Những người từ chối sẽ vẫn đang xem xét cùng một mẫu đơn một thập kỷ sau. Trong khi các thành phố đã nói có đã sống trong tương lai mà họ đã xây dựng. Nút thắt không bao giờ là tham vọng. Nó luôn là người cầm con dấu cao su quyết định khi nào tham vọng được phép bắt đầu. Và con dấu chỉ là một phiên bản cao su của thuật toán lẽ ra đã chạy suốt thời gian này.

COO của SpaceX, Gwynne Shotwell, vừa phác thảo cam kết cơ sở hạ tầng tham vọng nhất trong lịch sử ngành công nghệ. Và nó bắt đầu từ mặt đất. Shotwell: “xAI sẽ cam kết phát triển 1,2 gigawatt năng lượng như nguồn năng lượng chính cho siêu máy tính của chúng tôi, và điều đó sẽ áp dụng cho mọi trung tâm dữ liệu bổ sung.” Không lấy từ lưới điện. Xây dựng lại nó. Shotwell: “Chúng tôi sẽ mở rộng những gì đã là lắp đặt megapack năng lượng lớn nhất toàn cầu trên thế giới. Lắp đặt này sẽ cung cấp đủ năng lượng dự phòng cho thành phố Memphis và năng lượng vượt quá đủ để cung cấp cho thị trấn Southaven, Mississippi.” Đây không phải là một công ty phần mềm tối ưu hóa một thuật toán. Đây là một cuộc mobilization công nghiệp. Shotwell: “Chúng tôi sẽ xây dựng các nhà máy tái chế nước hiện đại sẽ bảo vệ khoảng 4,7 tỷ gallon nước trong tầng nước Memphis mỗi năm.” Đọc lại danh sách đó. 1,2 gigawatt năng lượng chính. Lắp đặt megapack lớn nhất thế giới. 4,7 tỷ gallon nước được bảo vệ hàng năm. Hàng ngàn công nhân Mỹ ở cả hai bên biên giới Tennessee-Mississippi. Đây là hình ảnh của chiến thắng trước khi bất kỳ ai viết một dòng mã nào. Và sau đó, Shotwell đã nói điều mà không công ty công nghệ nào từng nói trong một cam kết tại Nhà Trắng. Shotwell: “Chúng tôi cam kết đưa những nỗ lực này vào quỹ đạo. Chúng tôi hiện đang thiết kế các trung tâm dữ liệu quỹ đạo được cung cấp năng lượng bởi lò phản ứng hạt nhân trên bầu trời.” Lò phản ứng hạt nhân trên bầu trời. Mặt trời. Shotwell: “Việc phóng siêu máy tính vào không gian sẽ có nghĩa là nhiều năng lượng hơn trên Trái Đất, vì tất cả các nhà máy điện mà chúng tôi đang xây dựng bây giờ sẽ có sẵn cho các cộng đồng thay vì các trung tâm dữ liệu.” Bạn không thể đạt được tính toán vô hạn trên một hành tinh có năng lượng bề mặt hữu hạn. Không gian không có ràng buộc như vậy. Mục tiêu cuối cùng của cuộc đua vũ trang AI không chỉ là xây dựng mô hình thông minh nhất. Nó là về việc ai có thể xây dựng cơ sở hạ tầng để vận hành nó mà không có giới hạn. Shotwell: “Tôi tự tin rằng chúng tôi sẽ thắng cuộc đua với AI với Trung Quốc và thành công trong việc cung cấp điện rẻ và dồi dào cho người dân Mỹ.” Shotwell: “Chúng tôi cam kết triển khai công nghệ AI của mình để tạo ra một thời kỳ thịnh vượng nơi điện trở nên rẻ hơn và mọi người có quyền truy cập vào những hàng hóa và dịch vụ tốt nhất mà nhân loại từng thấy.” Mọi cuộc đua công nghệ trước đây đều thắng trong phần mềm. Cuộc đua này đang diễn ra trong gigawatt, megapack, tầng nước và cơ sở hạ tầng quỹ đạo. Trái Đất có một trần. xAI vừa quyết định không xây dựng dưới nó.