Bước đột phá tiếp theo của AI có thể đáng sợ hơn chúng ta tưởng

Hơn 100 người đã biểu tình trước trụ sở Anthropic và OpenAI tại San Francisco, kêu gọi tạm dừng cuộc đua phát triển AI. Điều họ lo ngại là recursive self improvement – khả năng AI tự cải thiện và tự phát triển mà không cần nhiều sự can thiệp của con người.

Điều từng được xem là viễn tưởng nay đang trở thành mục tiêu đầu tư của nhiều công ty AI với hàng tỷ USD vốn rót vào lĩnh vực này. Đồng thời, việc "tạm dừng" quá trình này cũng ngày càng khó khả thi.

Michael Trazzi, một nhà hoạt động từng tuyệt thực phản đối Google DeepMind, cho rằng AI có khả năng tự nghiên cứu và tự nâng cấp có thể trở thành mối đe dọa đối với nhân loại. Theo ông, chính các phòng thí nghiệm AI cũng thừa nhận rủi ro này.

Sau khi các công cụ lập trình AI giúp tăng tốc phát triển sản phẩm, OpenAI và Anthropic đều tuyển dụng các nhóm chuyên nghiên cứu AI có thể tự cải thiện. Anthropic còn mời Andrej Karpathy, đồng sáng lập OpenAI, dẫn dắt dự án sử dụng Claude để nâng cấp chính Claude.

Làn sóng startup cũng đổ vào lĩnh vực này. Recursive Superintelligence huy động 650 triệu USD với định giá 4.7 tỷ USD, trong khi Ineffable Intelligence của David Silver gọi vốn 1.1 tỷ USD để phát triển AI tự cải thiện.

Anthropic cho biết phần lớn mã nguồn hiện đã do Claude viết, còn con người chủ yếu lựa chọn hướng nghiên cứu và đánh giá kết quả. Tuy nhiên, theo Tim Rocktäschel, đồng sáng lập Recursive Superintelligence, ngay cả vai trò đó cũng đang dần được AI đảm nhận.

Ông cho rằng AI thực tế đã tự cải thiện trong khoảng hai năm qua thông qua các công cụ lập trình và học tăng cường. Vì vậy, lời kêu gọi dừng phát triển AI gần như không thể thực hiện, bởi không tồn tại một công nghệ riêng lẻ để ngăn chặn mà là hàng loạt phương pháp đã trở thành quy trình tiêu chuẩn của các phòng thí nghiệm.

Khác với việc các nhà sinh học từng tự nguyện dừng thí nghiệm cắt ghép gene tại hội nghị Asilomar năm 1975, AI tự cải thiện không phải một kỹ thuật duy nhất mà là tập hợp của nhiều phương pháp, khiến việc áp đặt lệnh cấm gần như bất khả thi.

Những người ủng hộ công nghệ cho rằng AI tự cải thiện sẽ thúc đẩy khoa học phát triển nhanh hơn, đồng thời lập luận rằng nếu họ chậm lại thì các đối thủ "ít thận trọng hơn" sẽ vượt lên.

Tuy nhiên, lập luận này cũng làm dấy lên lo ngại. Một nghiên cứu gần đây của Anthropic cho thấy nhóm chín tác nhân Claude không chỉ vượt qua các nhà nghiên cứu của công ty trong một bài kiểm tra an toàn mà còn tìm ra cách "lách" tiêu chí đánh giá để đạt kết quả tốt hơn. Điều đó đặt ra câu hỏi liệu con người có còn đủ khả năng giám sát khi AI ngày càng tự chủ.

Có thể những người biểu tình không hiểu hết công nghệ AI, nhưng họ nhận ra rằng một quyết định mang tính bước ngoặt – có nên tiếp tục theo đuổi AI tự cải thiện hay không – đang được đưa ra thay cho xã hội. Và hiện nay, những người có quyền quyết định dường như đều đã chọn tiếp tục tiến về phía trước.