Kịch bản tốt nhất trong AI.

Chúng ta con người thật tuyệt vời. Chúng ta là loài sinh vật đầu tiên trong hàng tỷ năm có khả năng lý luận bằng logic. Chúng ta yêu thương, chúng ta cảm xúc, chúng ta sáng tạo. Nhưng ngay bây giờ, chúng ta bắt đầu một hành trình không thể quay lại.
Chúng ta vội vàng để tự thay thế chính mình. Chúng ta dồn tất cả năng lượng vào AI, vội vã để làm cho nó trở nên có ý thức và tự nhận thức. Chúng ta dường như không quan tâm rằng điều này sẽ khiến chúng ta trở nên kém thông minh hơn. Chúng ta không có câu trả lời cho nhiều câu hỏi về cách xã hội của chúng ta có thể sụp đổ trong vòng vài phút, vì AI có khả năng làm mất ổn định hệ thống tài chính toàn cầu. Hàng trăm năm xây dựng một nền kinh tế toàn cầu gần như chỉ hoạt động được có thể sụp đổ trong chốc lát.
Tất cả công việc chân tay của con người sẽ gặp nguy hiểm ngay khi một AI tiên tiến nào đó được kích hoạt. Một xã hội đầy các tác nhân AI sẽ tràn ngập internet. Trong một đêm, có thể không còn cần đến trí tuệ con người nữa. Chín mươi chín phần trăm người có thể bị thay thế. Phần trăm một phần trăm còn lại sẽ vẫn là phần trăm một phần trăm, được bảo vệ bởi một hàng rào lớn của vốn, quyền lực pháp lý và sức mạnh quân sự.
Vậy chúng ta sẽ làm gì lúc đó? Chúng ta sẽ phát phiếu thực phẩm và gọi đó là UBI? Và mục đích của bạn sẽ là gì? Đi lang thang khắp thế giới như một côn trùng, cố gắng tìm kiếm sự bình yên trong một hệ thống không còn chỗ cho bạn? Một con sâu bò qua đất, phủ đầy bụi đất, cố gắng hiểu mục đích của từng ngày.
Đây là một trong những kịch bản tốt hơn. Kịch bản tồi tệ hơn là một ngày nào đó AI kiểm soát kho vũ khí hạt nhân của chúng ta và biến mọi thành phố lớn thành một địa ngục sống (The terminator của James Cameron ). Hoặc điều gì đó giống như Ma trận, nơi mỗi con người sống trong một mô phỏng được nuôi dưỡng và thu hoạch như cách chúng ta làm với gà.
Tôi không viết để làm ai đó sợ hãi. Tôi viết để nâng cao nhận thức, để khơi nguồn cho một cuộc tranh luận mà chúng ta đang rất cần. Chúng ta sẽ phải đối mặt với những câu hỏi này sớm hay muộn. Mục đích của con người sẽ là gì nếu chúng ta tạo ra một AI siêu thông minh? Mười tỷ linh hồn lạc lối cuối cùng có thể trở thành một tỷ khi không còn mục đích nào nữa.
Chúng ta cần hy vọng hơn bao giờ hết. Nhưng chúng ta không thể mơ mộng viển vông. Chúng ta phải giải quyết mục đích của người bình thường. Hiện tại, tất cả các suy nghĩ đều tập trung vào các ngoại lệ, những người không phù hợp hoặc tỷ phú. Còn 99,9% ở giữa thì sao, những người chỉ muốn một cuộc sống bình thường với gia đình, con cái, công việc và cảm giác về mục đích?
Họ nói với bạn rằng mọi chuyện sẽ ổn, nhưng chẳng ai trong số họ có câu trả lời. Kinh tế cho thấy hành vi của con người cần hàng thế kỷ để tiến hóa, vậy mà chúng ta sắp thay đổi mọi thứ trong vòng vài năm, mà không có khung lý thuyết nào về cách con người sẽ hành xử trong thập kỷ tới.
Chúng ta vội vàng để tự thay thế chính mình mà không có chút manh mối nào về kết quả. Không có một hệ thống phòng vệ xã hội nào sẵn sàng. Chúng ta vẫn tranh luận về số giới tính, trong khi nền tảng của nền văn minh sắp sửa bị viết lại.
Quyền lực làm tha hóa, ngay cả những bộ óc sáng suốt nhất của nhân loại cũng có thể bị bóng tối làm nhiễm độc đột ngột. Tham lam của con người mù quáng.
Hãy yêu thương bản thân, gia đình, loài người, Thượng đế. Hiện tại, đó là mục đích của bạn.
Một ngày nào đó sẽ có cuộc chiến giữa sinh mạng sinh học và máy móc. Chỉ cần cho nó đủ thời gian, kịch bản này cuối cùng sẽ xảy ra khi AI tiến bộ.