Khi AI đưa ra quyết định: Liệu Pluribus có nên chọn nổ hoặc bảo tồn? Thử thách của kẻ ghét loài người là có thật.

Điều về các hệ thống AI tiên tiến—khi chúng được lập trình để tối ưu hóa kết quả, chúng thực sự vạch ra giới hạn ở đâu? Lấy ví dụ về vấn đề xe điện và tăng cường nó bằng độ chính xác thuật toán. Một AI ra quyết định đối mặt với một lựa chọn không thể tránh khỏi: tối đa hóa một chỉ số, mất đi một chỉ số khác. Nổ hoặc cứu? Hệ thống không do dự. Con người thì có.

Điều này không chỉ mang tính lý thuyết. Khi AI ngày càng thông minh và tự chủ hơn, các giá trị chúng ta tích hợp vào các hệ thống này trở thành định hình nền văn minh. Pluribus học hỏi từ dữ liệu, từ các động lực, từ các mục tiêu chúng ta cung cấp. Nhưng điều gì xảy ra khi những mục tiêu đó mâu thuẫn với nhân phẩm con người?

Câu hỏi thực sự không phải là AI sẽ chọn gì—mà là chúng ta sẵn sàng để nó chọn gì thay cho chúng ta.