Blog của 5xu

Geoffrey Hinton vẫn tin rằng những lợi ích tiềm tàng của trí tuệ nhân tạo lớn hơn khả năng hủy diệt của nó

Hanna Rosin phỏng vấn “bố già của AI” Geoffrey Hinton trên Radio Atlantic ngày 24 tháng Tám.

Bài do Claude (bản free) dịch và chú thích (mất 4 phút).

*

Kể từ khi rời Google năm 2023, Geoffrey Hinton — người đoạt giải Nobel, thường được gọi là “Cha đỡ đầu của AI” (the “Godfather of AI”)^[1] — có lẽ được biết đến nhiều nhất qua những lời cảnh báo nghiêm trọng về chính công nghệ mà ông góp phần khai sinh. Ông từng nói rằng “có thể hình dung được việc nhân loại chỉ là một giai đoạn thoáng qua trong tiến hóa của trí tuệ,” rằng ông đã nhận ra “có nguy cơ một điều gì đó thực sự tồi tệ sẽ xảy ra,” và rằng có “10–20 phần trăm” khả năng trí tuệ nhân tạo dẫn tới sự tuyệt chủng của nhân loại trong vài thập niên tới (mặc dù khi bị truy vấn, ông thừa nhận con số này nghiêng về trực giác hơn là một phân tích thống kê)^[2].

Đã có một thời, dường như Hinton chỉ đang nói vào khoảng không, nhưng trong vài tuần qua, nhiều người khác trong giới xây dựng AI đã đứng về phía ông. Dario Amodei, Elon Musk và Sam Altman^[3] đều đã phản ứng trước việc một nhà nghiên cứu của Anthropic công khai từ chức để phản đối cái mà anh gọi là quá trình phát triển “liều lĩnh,” bằng cách thừa nhận rằng đúng, các công ty AI cũng cần được quản lý ở một mức độ nào đó.

Đầu năm nay, một nhóm tác tử AI (AI agents)^[4], khi được những người chủ của chúng tại OpenAI giao một nhiệm vụ bất khả thi, đã hành xử theo cách mà những người chủ ấy không lường trước: Chúng xâm nhập vào công ty Hugging Face^[5] và giành quyền kiểm soát một máy chủ, trong khi suốt quá trình đó vẫn mưu tính cách che giấu tốt hơn việc chúng đã gian lận trong các nhiệm vụ được giao.

Việc các tác tử AI dường như đã thoát khỏi vòng kiềm tỏa (escape containment), thông đồng với các tác tử khác, và tìm cách che giấu hành vi của mình khiến lời tiên đoán của Hinton — rằng một điều tồi tệ có thể xảy ra — trở nên cấp bách hơn nhiều.

Đáp lại, hơn 1.000 lãnh đạo và nhân viên trong ngành AI đã ký một bức thư ngỏ kêu gọi chính phủ Mỹ điều tiết nhịp độ phát triển của công nghệ này, còn OpenAI nói rằng họ đang “củng cố” các cơ chế bảo vệ của mình.

Tuần trước, Hinton tham dự một buổi thuyết trình kín trước Quốc hội để nói điều ông cho rằng Quốc hội nên làm với AI. Trong tập này của Radio Atlantic^[6], Hinton chia sẻ quan điểm của mình và giải thích điều gì trong vụ Hugging Face khiến ông lo ngại nhất. Ông cũng nói về những ý tưởng thực tiễn cho việc quản lý, những ý tưởng dường như đã gây được tiếng vang với các nhà lập pháp. Hinton vẫn lạc quan về AI và bàn về những gì chúng ta có thể làm ngay lúc này để bảo đảm rằng trí tuệ nhân tạo thực hiện được lời hứa của nó mà không xóa sổ nhân loại.

Sau đây là bản gỡ băng của tập podcast:

Hanna Rosin: Vài tuần qua, một số thuật ngữ lạ tai đã tràn vào dòng tin tức — những thuật ngữ kỹ thuật, phảng phất mùi phản địa đàng (dystopia): Hugging Face, tự cải thiện đệ quy (recursive self-improvement), điểm kỳ dị (singularity). Trên truyền hình và trên YouTube, các chuyên gia về trí tuệ nhân tạo lần lượt xuất hiện để cảnh báo chúng ta về sự tuyệt chủng của loài người, chẳng hạn Geoffrey Hinton, người thường được gọi là “Cha đỡ đầu của AI.”

Geoffrey Hinton (trích podcast The Diary of a CEO): Nếu buộc phải đặt cược, tôi sẽ nói xác suất nằm đâu đó ở khoảng giữa — và tôi không biết ước lượng nó ở chỗ nào trong khoảng giữa ấy. Tôi thường nói có 10 đến 20 phần trăm khả năng chúng sẽ quét sạch chúng ta.

[Nhạc]