Hay tại sao tầng lớp ưu tú trẻ trung ở quanh Silicon Valley và Bay Area lại có thể làm xoay chuyển chính trị Hoa Kỳ và tới đây là thế giới.
Bài này là bài cuối trong loạt bài về Vương Hộ Ninh và Peter Thiel, AI và chính trị (gồm 15 bài nhỏ).
*
Quãng đầu năm 2025, tờ Wall Street Journal có một bài phóng sự khiến mình đặc biệt chú ý. Cảnh sát tuần tra biên giới ở Vermont dừng một chiếc xe hơi lại để kiểm tra. Trên xe có một số người, trước đó vài ngày bị chính quyền đặt vào dạng “giám sát định kỳ” do họ ăn mặc kiểu đặc nhiệm và mang theo vũ khí. Ngay khi xe dừng, một vụ đọ súng lập tức nổ ra khiến một cảnh sát thiệt mạng, nhóm trong xe cũng có một người chết. Người này là một nhà khoa học máy tính trẻ, gốc Đức, và là transgender (chuyển giới).
Nhóm người trong xe là thành viên của một nhóm lớn hơn trước đó dính líu đến vài vụ giết người rải rác. Các thành viên của có đặc điểm chung: trẻ tuổi, đều là dân computer science (khoa học máy tính), đều là vegan (một kiểu ăn chay, nhưng khác với ăn chay ở VN chúng ta), và đều quan tâm đến AI Safety (tức là lo rằng AI phát triển sẽ làm hại loài người, cần có kiềm chế để AI được an toàn). Một vài thành viên trong nhóm là transgender.
Ngoài phóng sự ngắn nói trên, tờ Wall Street Journal có một loạt bài viết về nhóm này. Họ được gọi là “các Zizian”. Xuất thân đều là thành viên của một cộng đồng rất ưu tú ở Bay Area và Silicon Valley có tên gọi là rationalist community (cộng đồng những người theo chủ nghĩa lý tính).
Tên gọi Zizians được đặt theo tên của thủ lĩnh nhóm là Ziz LaSota. Cô thủ lĩnh này là một transgender trẻ trung cao ráo, rất thông minh, đã từng làm thực tập sinh ở NASA, đang học dở thạc sĩ ngành khoa học máy tính thì bỏ qua Bay Area để tham gia “Cộng Đồng” và để gắn kết với một phong trào đang đơm hoa kết trái ở đó là phong trào Effective Altruism (Chủ nghĩa vị tha hiệu dụng).
Cộng đồng rationalist (sau đây gọi tắt là “Cộng Đồng”) là một cộng đồng “thượng lưu” nhưng lỏng lẻo. Cộng Đồng sinh hoạt online, hầu hết là những người trẻ tuổi tài năng, có IQ cực cao, và là dân công nghệ làm việc ở các hãng công nghệ hàng đầu thế giới, các quỹ đầu tư công nghệ, các tổ chức nghiên cứu công nghệ và sinh viên ở các đại học hạng nhất Hoa Kỳ. Đúng như tên gọi của cộng đồng, các thành viên cố gắng sống duy lý nhất có thể, thường xuyên xa vào các cuộc tranh luận online để tìm ra nhũng cái họ gọi là chân lý. Họ sử dụng rất nhiều memes, comics, dark humor và game, và lạm dụng biện luận đến mức xa rời thực tiễn. Đến đây mọi người có thể nhận ra Elon Musk là một tay rất điển hình của cộng đồng này. (Cuối bài mình sẽ điểm qua lập luận lên sao Hoả của Musk.)
Không gian tranh luận của Cộng Đồng là online, và forum quan trọng nhất của họ là Less Wrong. Less Wrong, thành lập 2009, bàn về tất cả những gì thời thượng nhất trong giới công nghệ đỉnh cao: triết học, ý thức, trí thông minh nhân tạo, tâm lý, kinh tế, kinh tế học hành vi. Nhưng hai dòng chảy quan trọng nhất trên forum này, và lôi kéo, gắn kết được rất nhiều thành viên, là AI, Effective Altruism, tranhumanism và extropianism.
[Riêng với Effective Altruism, có nhiều người chịu ảnh hưởng thuyết này sâu sắc trong đó có nhiều tỷ phú hoặc đại tỷ phú công nghệ. Các tay chơi nhà giàu này tài trợ để quảng bá hoạt động và tư tưởng của Effective Altruism đi khắp thế giới, hiện diện trên đủ các kênh truyền thông mà audience là giới trẻ, có tri thức, nhiều hoài bão và… mơ mộng. Trong số các tỷ phú này có cả Sam Bankman-Fried.
Mở ngoặc thêm, Le Bon nói người dân ở tầng lớp thấp thì tâm tư nguyện vọng suy nghĩ tôn giáo vân vân về cơ bản là đơn giản và giống nhau. Còn ở các tầng lớp cao, thì càng cao các cá nhân lại càng đa dạng về tư tưởng, thẩm mỹ, nhu cầu, lối sống. Cộng đồng rationalist vì vậy cũng rất đa dạng, không ai giống ai, các nhóm trở nên cực đoan và bạo lực như Zizians là rất đặc biệt, nên bị cộng đồng sút ra ngoài (trên Wall Street Journal có riêng một bài về việc này.)
Từ tên gọi của cộng đồng, ta có thể đoán được phương thức đi tìm chân lý của họ là rational reasoning, ta có thể đoán tiếp được là họ dùng Bayes (nhưng chắc chắn phần updating belief họ dùng data thiên kiến), và một trong các chủ đề mà họ quan tâm là cognitve bias (thiên lệch nhận thức).
Tên forum mà họ tranh luận, vì vậy, rất dễ hiểu, có tên là Less Wrong.]
*
Như đã nhắc lại ở trên, các hệ tư tưởng ở Bay Area, một nơi dày đặc dân công nghệ trẻ và đặc biệt thông minh, nên rất phân kỳ và đa dạng, họ còn nhiều nhóm nhỏ tách ra với các tư tưởng vừa hấp dẫn, vừa cấp tiến, vừa kỳ bí như singularitarianism, longtermism, postrationalists. Tất cả những thứ này tạo ra một hỗn hống kỳ lạ nấp dưới một cái tên chung: Silicon Valley’s ideology (Ý thức hệ của thung lũng Silicon.)
Ziz LaSota đến Bay Area là để kết nối ngoài đời thực với Effective Altruism. Các bài viết của cô trên diễn đàn rất có ảnh hưởng, được cite rất nhiều (ta có thể nhớ đến tathy, thanh niên xa mẹ và các nick trên đấy đã từng có ảnh hưởng thế nào với một tầng lớp nào đó trong xã hội, chỉ khác là chưa tạo dựng được phong trào, do nhiều lý do). Cô này mua một cái tugboat và ở trên đấy. Dần dần LaSota trở thành thủ lĩnh còn Zizians trở nên giống một giáo phái. Họ cho rằng bán cầu não trái và phải là hai identity khác nhau, là nam, hoặc nữ, là thiện, hoặc ác, hoặc cả hai. Cuối cùng họ tiến hoá thành một tổ chức nhỏ, có vũ trang, gọi là Militant Veganism (Chủ nghĩa ăn chay quân sự), một thứ ăn chay cực đoan và có xu hướng hành động bạo lực với con người. Bản thân LaSota có đời sống thú vị, cô này fake cái chết của mình mà qua mặt được cả cảnh sát mãi cho đến khi vô tình bị lộ.
*
Người thành lập Less Wrong là Eliezer Yudkowsky (sinh năm 1979). Anh này ngoài việc không học cấp 3 mà vẫn trở thành dân computer science có số có má, thì còn là nhà lý luận của decision theory (tất nhiên rồi, nó là theory of rational choice), và là tác giả nhiều cuốn sách, trong đó có một cuốn gây ảnh hưởng đến nhiều thành viên của “cộng đồng”. Tên sách là: Harry Potter and the Methods of Rationality.
Eliezer Yudkowsky thành lập một tổ chứcc nghiên cứu tên là Machine Intelligence Research Institute. Tổ chức này tuyên bố mình trung thành và đi theo đường lối của Effective Altruism. Họ cũng là nơi dân công nghệ trẻ, nhiều tiền, tài năng đến từ các công ty công nghệ và đại học hàng đầu nước Mỹ lâu lâu tụ tập để chia sẻ về chủ thuyết transhumanism. Nếu ta quan tâm đến Musk và công ty gắn chip vào não của anh tỷ phú này, ta sẽ thấy đấy chính là hiện thực của transhumanism.
Còn ai là người tài trợ cho Machine Intelligence Research Institute? Chính là Peter Thiel và Vitalik Buterin.
*
Xung quanh Less Wrong và “Cộng Đồng” còn một tổ chức tên là Center for Applied Rationality (CFAR). Tổ chức này nghiên cứu về rationality (năng lực duy lý) và cognitive bias (thiên lệch nhận thức), nhưng cái họ nghiên cứu lại rất cụ thể, họ tìm tòi và cung cấp cho thành viên cộng đồng các kỹ thuật toán để năng cao năng lực duy lý (rationality) để từ đó hình thành một “niềm tin – belief” vững chắc và CHÍNH XÁC về thế giới.
Thiel Fellowship, một tổ chức của Thiel chi tiền cho các thanh niên tài năng nhưng… bỏ học số tiền đủ sống và nghiên cứu những gì họ muốn nghiên cứu trong vòng 2 năm (quãng 200 ngàn dollar), miễn là góp phần thúc đẩy khoa học. Center for Applied Rationality là nơi Thiel Fellowship gửi người đến học.
Center for Applied Rationality tuy vậy, và chắc là do vậy, bị Zizians cho là kẻ thù, và tấn công (nhưng cảnh sát kịp ngăn chặn.)
Các tổ chức và nhân vật kỳ dị, gây chia rẽ, hoặc đoàn kết, hấp dẫn hoặc e sợ ở “Cộng Đồng” và Less Wrong có rất nhiều. Mọi người có thể tìm xem thêm Astral Codex Ten (ACX) và vấn đề doxing (thuật ngữ chỉ việc công khai danh tính thật). Astral Codex Ten (ACX) là một cái tên, mọi người có thể liên tưởng đến cách Elon Musk đặt tên cho con, cũng là từ văn hoá đặt tên kiểu này của Silicon Valley. Nói chung rất dị, rất công nghệ, rất vượt quá suy nghĩ của người thường.
*
Những người theo thuyết duy lý (trong Cộng Đồng những người theo chủ nghĩa duy lý) luôn quan tâm đến cách thức đưa khoa học và xác suất (chủ yếu là Bayes) vào tất cả các chủ đề mà họ thảo luận, họ cố gắng duy lý đến mức không có suy nghĩ thiên kiến, từ đó đi đến được các kết luận (chân lý) không thiên kiến, kể cả kết luận ấy kinh hoàng độc ác đến thế nào đi chăng nữa. Tất nhiên nếu cái đích ấy mà phi nhân tính thì với họ cũng ok, họ chấp nhận. (Altruism, tức là thuyết vị tha hiện đại của Singer, một triết gia đương đại, rất có ảnh hưởng đến Cộng Đồng, thuyết này bảo về quyền của động vật và cổ suý tất cả các biện pháp giúp tối thiểu hoá nỗi khổ của động vật.)
*
Trong bài trước đã nói đến quan điểm của Peter Thiel về việc anh này lo sợ thế giới đang mặc kẹt ở stagnation suốt từ 1970, và cần phải đẩy nó phát triển trở lại, thông qua việc bắt cược vào các nhân tố distruptive (phá huỷ) như Donal Trump. Lần tranh cử thứ nhất của Trump mới chỉ có Thiel dồn tiền, còn lần vừa rồi là tất cả các tỷ phú công nghệ. Đây là chiến thắng của một chủ nghĩa nữa: Effective Accelerationism (Chủ nghĩa gia tốc hiệu dụng, hoặc chủ nghĩa vít ga hiệu dụng).
Chủ nghĩa này ghép chữ Effective (của Effective Altruism) và chữ Accelerationism của (Traditional accelerationism). Chủ nghĩa gia tốc, accelerationism, là của Nick Land sinh năm 1962 sáng tạo ra về mặt tư tưởng. Còn Effective accelerationism (trên internet viết tắt là e/acc, đọc là e ack) xuất hiện từ một account ẩn danh trên Twitter, về sau lộ diện là Guillaume Verdon-Akzam. Anh Verdon này là một nhà toán học, vật lý học và là nhân tố góp công cho Tensorflow Quantum của Google.
e/acc dựa vào thuyết nhiệt động học là thuyết khẳng định rằng entropy của vũ trụ luôn tăng, do đó sự sống (là cái làm tăng entropy) sẽ phải tìm cách lan toả khắp vũ trụ để tối đa hoá sử dụng năng lượng (chỗ này về mặt vật lý mình chưa hiểu lắm, vì nó sai). Verdon dựa vào Kardashev scale (шкала Кардашёва, 1964) là một thang đo cấp độ của các nền văn minh (trong đó có nền văn minh nhân loại, các cấp độ văn minh được đo dựa vào cấp độ tiến bộ công nghệ, tiến bộ công nghệ lại dựa vào mức độ tiêu thụ năng lượng. Các cấp độ của nền văn minh thì có một vài cách chia, dù cùnng dùng Kardashev scale. Ai đọc Michio Kaku thì đều quen với cách phân chia này. Verdun thì theo cách chia 3 cấp (type I, II, III).
e/acc được nhiều tỷ phú công nghệ công khai ủng hộ, và coi nó như một kiểu giáo phái. Trong đó có Marc Lowell Andreessen, là tỷ phú, sáng lập Netscape (giờ chắc chả ai nhớ, ngày xưa rất nổi), và là nhà đầu tư vào Facebook, Twitter. Ông này sáng lập quỹ đầu tư mạo hiểm Andreessen Horowitz, vận hành một khoản tiền khổng lồ lên tới 42 tỷ dollar, đầu tư vào rất nhiều start up. Bản tuyên ngôn Techno-Optimist Manifesto do Andreessen viết có lập trường và quan điểm hầu như dựa vào e/acc.
*
Tờ New York Times viết:
“Theo năm tháng, phong trào của những người lý tính (rationalist/ những người duy lý) có thêm Peter Thiel và Sam Bankman-Fried gia nhập, và có ảnh hưởng đến nhiều nhân vật cộm cán, trong đó có thể kể đến Elon Musk, Sam Altman, Steven Pinker và Nate Silver. Có lẽ còn một điều quan trọng hơn cả, đó là với dân công nghệ đang xây dựng các công cụ AI một ngày nào đó sẽ vận hành thế giới thì Rationalist còn là tình huynh đệ và một ngôn ngữ chung.
Trong lúc Ziz LaSota trở thành một outlier giữa những người theo chủ nghĩa lý tính — một kẻ lệch chuẩn của những người lệch chuẩn, có những ý tưởng mà hầu hết những người lý tính đều bác bỏ — thì câu chuyện của cô vẫn lôi kéo sự chú ý củangười ngoài lẫn những người ủng hộ đến với phong trào. Cô trở thành đại diện cho xu hướng thu hút những người trẻ đầy tham vọng đến Bay Area, những người thường vẫn phải vật lộn để kiếm sống mà lại sa lầy vào những cuộc tranh luận khó hiểu dần khiến họ bị ngăn tách khỏi xã hội và đóng đô trong một môi trường đầy rẫy ma túy và tình dục bầy đàn.”
*
Như vậy ta thấy thật dễ hiểu khi “Cộng Đồng” nói chung và Silicon Valley nói riêng thu nạp cả những hệ tư tưởng mà tờ Financial Time gọi là Tân Phản động hay tờ New Yorker gọi là Phát xít Công nghệ. (Tân Phản động, Neo Reactionary còn có tên khác là Science Fascism: chủ nghĩa phát xít khoa học.)
Bài trên Financial Time gọi phong trào Tân Phản động là Dark Enlightenment (Khai sáng của Hắc ám). Còn trong tiếng Anh, Neo-Reactionary Movement được viết tắt là NRx.
Bài trên podcast của New Yorker cảnh báo “tại sao chủ nghĩa phát xít công nghệ (techno-fascism) đang bắt rễ ở Silicon Valley:
“Đã từ lâu bọn Silicon Valley đã cố gắng thay thế chính phủ, họ nghĩ rằng họ sẽ cai trị đất nước giỏi hơn cả cộng hoà lẫn dân chủ”.
Musk, Thiel,… tin rằng con người là động vật có trí khôn, mà trong đó họ là khôn nhất, có khả năng meta-thinking để nhận ra được cái mà họ đang sống bên trong là một system cai trị từ bên ngoài, nên họ sẽ chiến đấu để thuyết phục mọi người (với Marx là quần chúng lao động) hoặc tự mình (như Musk) lật đổ hệ thống ấy, thay nó bằng một… system khác tốt hơn.
*
Bertrand Russell có nói (chắc vậy, mà lười tra sách) rằng các triết thuyết thành công, chẳng qua là nhờ có ai đó đem áp dụng vào thực tiễn rồi người đó thành công và đi quảng bá lý thuyết như là cơ sở của hành động. Như Lenin dùng Marxism để thành công, rồi từ đó ai cũng biết đến Marx và triết thuyết đấu tranh giai cấp của ông này.
Các hệ tư tưởng nằm trong ý thức hệ Silicon Valley do Thiel, Musk và vô số tỷ phú triệu phú công nghệ khác đang thúc đẩy liệu có thành công không, ta chưa biết được, vẫn phải đợi. Nhưng họ đã thành công trong xoay chuyển chiều hướng chính trị Hoa Kỳ và từ đó gây ảnh hưởng đến thế giới. Tức là một cộng đồng công nghệ, triệu phú, thượng lưu ở quanh quannh Bay Area đã ảnh hưởng đến cả địa cầu. Cái này, về mặt nào đó, không thể coi thường được.
*
PS: Có rất nhiều nhà vật lý sau khi thành đạt bỗng quay qua nghiên cứu các vấn đề như nguồn gốc sự sống, nguồn gốc của ý thức, vân vân. Trong đó có Schrodinger, một trong những người sáng lập ra vật lý lượng tử. Và Penrose người tìm ra “điểm kỳ dị” của Black Hole.
Penrose diễn đạt lại ý gốc của Schrodinger về entropy và sự sống: sự sống luôn phải duy trì entropy thấp (cân bằng), nó nạp entropy thấp, và xả ra entropy cao. (Entropy là độ mất trật tự của một hệ, căn phòng ngăn nắp lúc đầu là entropy thấp, theo thời gian nó sẽ lộn xộn dần, tức là chuyển qua entropy cao). Cỏ cây hấp thụ entropy thấp, là photon từ mặt trời. Song rồi con bò nó nạp entropy thấp, là cỏ. Rồi người nạp entropy thấp là con bò (và xả ra heat, là entropy rất cao). Nên có vẻ như thuyết nhiệt động học áp dụng vào e/acc có gì đó sai sai. Mình cũng chưa thấy nhà vật lý lớn nào nói về việc này.
Sao Hoả, nói đúng là hành tinh Hoả, không có sự sống, một phần là nó không có khí quyển. Khí quyển, ngoài để thở, nó có vai trò ngăn thiên thạch lao xuống bề mặt trái đất, ngăn các tia vũ trụ có hại. Khí quyển có được là nhờ trọng trường trái đất đủ lớn để giữ lớp khí quyển bao quanh, và nhờ trái đất có từ trường, nó tạo ra một trường từ ôm lấy khí quyển không cho các tia vũ trụ xé toang lớp chăn khí quyển này khỏi trái đất. Sao Hoả không những có trọng trường yếu hơn trái đất (cỡ 38%) mà còn không có từ trường. Nên việc đưa người lên sao Hoả của Musk đang bị đánh dấu hỏi lớn về mặt khoa học.
Musk có một câu rất hay, phản ánh đúng kiểu ý thức hệ Silicon Valley: Đưa người vào vũ trụ không phải để cứu loài người như một giống loài, mà để cứu consciousness của loài người. (Đại khái vậy, mà lười tra câu gốc.)
*
Cập nhật ngày 2 Tháng Mường năm 2026.
The Economist số đầu tháng Mười (2026) có (2) bài trang bìa về Effective altruism.
Bài xã luận (chuyên mục Leader) có tên: Effective altruism is this century’s biggest idea –
The movement is admirable, but dangerous
Bài sâu (chuyên mục International) có tên: How effective altruism conquered the world –
And how the 21st century’s most important social movement might yet end it
“Effective altruism” là dòng tư tưởng ảnh hưởng mạnh đến một nhóm tinh hoa công nghệ liên quan đến Silicon Valley, từ đó ảnh hưởng sang các tỷ phú công nghệ và giới elite công nghệ ở Mỹ. Nó là tư tưởng thúc đẩy các công ty AI hàng đầu và ảnh hưởng đến chính quyền Trump.
Cả hai bài đều được dịch và chú thích tự độn bằng Claude. “Effective altruism” được Claude dịch là [chủ thuyết] “Vị tha hiệu quả”.
Vị tha hiệu quả là ý tưởng lớn nhất của thế kỷ này
Phong trào này đáng khâm phục, nhưng nguy hiểm
Xã luận | Bài trang bìa[1]
Tư tưởng đi trước hành động như chớp đi trước sấm, nhà thơ Heinrich Heine từng viết[2]. Với vị tha hiệu quả (effective altruism — EA)[3], điều ấy đã được chứng thực. Đó là một học thuyết đạo đức do các triết gia ở Oxford nhào nặn nên, và nó đã đi từ tháp ngà tới các hành lang quyền lực với tốc độ đáng kinh ngạc. Những người vị tha hiệu quả lấp đầy Thung lũng Silicon, làm nhân sự cho các công ty trí tuệ nhân tạo hàng đầu thế giới — và khiến Chính quyền Trump hoảng hốt. “Hoa Kỳ sẽ không bao giờ là một đất nước vị tha hiệu quả,” Lầu Năm Góc tuyên bố. Bộ trưởng chiến tranh gán cho triết thuyết này cái tên “vị tha khiếm khuyết”[4]; những người khác trong chính quyền thì gọi nó là “phản địa đàng” (dystopian). Hãy xem những đòn công kích ấy như một dấu hiệu về ảnh hưởng của nó.
Có người than phiền rằng thế kỷ XXI chẳng sản sinh được mấy tư tưởng mới mẻ. Lấp vào khoảng trống ấy là MAGA[5] cùng đồng bọn, biến chủ nghĩa dân túy hoài cổ thành dự án chính trị lớn của thế kỷ. Nhưng ý tưởng lớn của thế kỷ này là vị tha hiệu quả. Như chúng tôi tường thuật, thứ khởi đầu từ thập niên 2000 như một cách làm từ thiện hiệu quả hơn về chi phí theo kiểu dân mọt sách, nay đã biến thành một phong trào đem cả thế giới ra làm đối tượng cho những phép tính đạo đức phức tạp, thậm chí kỳ quái. Với nhiều tín đồ của nó, đòi hỏi đạo đức cấp bách đối với những ai muốn làm điều tốt là ngăn trí tuệ nhân tạo xóa sổ nhân loại.
Vị tha hiệu quả còn quan trọng về mặt xã hội học. Số người theo EA không nhiều, nhưng ý tưởng này đã cuốn theo cả một thế hệ người trẻ tài năng, những người đã làm nên cơ nghiệp trong tiền mã hóa và AI. Khi công nghệ này đúc ra thêm nhiều tỷ phú, những người vị tha hiệu quả sẽ hướng hàng tỷ đô la vào các lý tưởng có khả năng định hình xã hội. Chính họ đã góp phần khai sinh OpenAI và Anthropic, hai phòng thí nghiệm hàng đầu, với niềm tin rằng những ai hiểu được hiểm họa của AI thì nên là người kiểm soát sự phát triển của nó. Ở một mức độ nào đó, giờ họ đang kiểm soát thật — dù trớ trêu thay, bằng cách lập thêm phòng thí nghiệm, và do đó tạo thêm cạnh tranh, có lẽ họ đã đẩy nhanh tiến bộ của AI.
Và tất cả những điều đó giờ đây khiến vị tha hiệu quả trở nên quan trọng về mặt chính trị. Chính quyền Trump e rằng phong trào này sẽ thành công trong việc bóp nghẹt AI. Chính quyền đã xung đột với Anthropic vì công ty này từ chối cho phép dùng các mô hình của mình vào một số mục đích quân sự. Những người EA hàng đầu thừa nhận AI có thể tỏ ra cực kỳ lành tính, nhưng dù vậy vẫn muốn làm chậm quá trình phát triển của nó lại, để giảm nguy cơ một bộ não máy không thể chặn đứng nổi sẽ nổi loạn trong lúc theo đuổi những mục tiêu “lệch căn chỉnh” (misaligned)[6] so với mục tiêu của nhân loại.
Một số người chỉ trích ở Mỹ thì muốn tăng tốc công nghệ này, để ngăn Trung Quốc thắng cuộc đua. Nhưng khi công kích chủ nghĩa tận thế về AI (AI doomerism), họ thấy đánh vào con người mọt sách dễ hơn đánh vào lập luận[7]. Họ bảo rằng vị tha hiệu quả là một phong trào của những kẻ cuồng tín, một phong trào vừa phản dân chủ, vừa nguy hiểm, vừa mang tính giáo phái.
Nói vậy là quá thô thiển. Gốc rễ từ thiện của phong trào rõ ràng là đáng khen. Cũng như The Economist, những người EA gắn bó với chủ nghĩa thực nghiệm (empiricism) và, nhất là từ khi họ hòa trộn với cộng đồng “duy lý” (rationalist) trên mạng, gắn bó với việc vận dụng tư duy logic. Họ đặt lý trí lên trên truyền thống hay quy chuẩn, và sẽ hăng hái tranh luận bất kỳ chủ đề nào, dù gây tranh cãi đến đâu, để truy cầu sự thật.
Việc những người EA liên tục dự đoán đúng tốc độ tiến bộ nhanh chóng của AI cũng là điều đáng nể. Họ có lý khi nói về những rủi ro mà công nghệ này đặt ra cho nhân loại. Ngày 28 tháng Chín, OpenAI hủy kế hoạch phát hành mô hình mới nhất của mình sau khi nó tỏ ra quá nguy hiểm trong khâu thử nghiệm. Nhiều sự cố an toàn gần đây giống hệt những kịch bản đáng sợ từng được phác ra trên các blog vị tha hiệu quả nhiều năm trước.
Thế nhưng những người chỉ trích cũng có lý khi cảnh báo rằng những người vị tha hiệu quả đi tới một số kết luận kỳ quặc. Hệt như các triết gia vị lợi (utilitarian) đi trước họ, những người EA quy hành vi đạo đức về một bài toán tối ưu hóa. Làm thế nào để con người tạo ra kết quả tốt nhất cho nhân loại xét như một tổng thể? Phép tính của họ hạ thấp những mệnh lệnh mang tính cục bộ như “hãy giữ lời hứa” hay “hãy chăm lo cho gia đình mình”. Điều quan trọng là giảm thiểu đau khổ, một cách vô tư và ở khắp mọi nơi.
Điều đó dẫn họ tới chỗ đưa một vòng tròn quan tâm rất rộng vào các phép tính đạo đức của mình. Thật dễ hiểu khi nói sống có đạo đức nghĩa là giúp đỡ người hàng xóm. Những người EA hỏi: vậy tại sao không nỗ lực y như thế để giúp những người ở xa? Thời kỳ đầu, phong trào hướng đạo quân những người xuất sắc vượt trội của mình vào những công việc lương cao trong tài chính và tư vấn. Của cải của họ có thể mua được việc thiện, và đạt được nhiều hơn so với khi chính họ đi làm nhân viên từ thiện.
Nhưng càng mạnh lên, vị tha hiệu quả càng trở nên kỳ lạ. Một số người EA xem ranh giới đạo đức giữa con người và các loài vật khác là mong manh, bởi loài vật cũng trải nghiệm đau khổ. Chấm dứt chăn nuôi công nghiệp và cứu giúp loài tôm là những mối bận tâm lớn. Tương tự, họ có một cách tiếp cận phản trực giác đối với thời gian. Những người chưa sinh ra cũng phải được đặt lên bàn cân — mà có thể có hàng nghìn tỷ người như thế. Nhiều người EA là “người theo chủ nghĩa trường kỳ” (longtermists)[8], những người thấy mình có nghĩa vụ ngăn chặn các rủi ro ở tương lai xa, ngay cả khi điều đó bỏ đói những lý tưởng thiện nguyện của hôm nay, chẳng hạn giúp đỡ người nghèo cùng cực.
Đẩy tới cực đoan, phép tính này có thể dẫn tới một nền đạo đức không chỉ phản trực giác, mà còn ghê tởm. Một số người EA cho rằng sự sống của côn trùng, xét trên tổng thể, có giá trị hơn sự sống con người, bởi côn trùng quá đông. Một số nói rằng tạo ra sự tồn tại của hàng nghìn tỷ con người với những cuộc đời chỉ vừa đủ đáng sống thì tốt hơn là chỉ có vài tỷ người với những cuộc đời thực sự tốt đẹp[9]. Một số khác thậm chí còn cho rằng phúc lợi của chính các AI rồi sẽ có tầm quan trọng sống còn. Họ sẽ chuyển hướng nguồn lực sang cho những con người hoặc những thực thể phi-người trong tương lai, và rút nguồn lực khỏi những người đang đau khổ hôm nay.
Tôn sùng lý trí là điều đúng đắn. Nhưng các triết gia đạo đức từ Aristotle tới Rawls đều biết rằng nếu một lập luận dẫn tới những nơi không thể chấp nhận được, thì ắt nó có một bước sai ẩn giấu[11]. Tuy nhiên bản năng của người EA lại là khoái trá với những kết luận phản trực giác, kể cả khi chúng có vẻ ngược đời. Một vấn đề là những biên độ sai số luôn đi kèm với các lập luận vị tha hiệu quả. Không ai thực sự đủ sức cân đong những thế lưỡng nan đạo đức liên quan tới hàng tỷ người hôm nay, chứ đừng nói tới những con số khổng lồ trải dài vào tương lai, liên quan tới số lượng người bất định, tới các tỷ lệ chiết khấu (discount rates)[12], tới tiến bộ công nghệ, cùng vô số biến số khác. Một vấn đề nữa là sự tuyệt chủng khủng khiếp tới mức, trong một phép số học đạo đức thô sơ, thì dù xác suất xảy ra có nhỏ đến đâu nó vẫn áp đảo những mối bận tâm bằng xương bằng thịt của hôm nay.
Vấn đề thứ ba là khi cân đong lợi ích của hàng tỷ người, anh sẽ không còn nhìn thấy phẩm giá nội tại của từng cá nhân. Bất kỳ ai vung vẩy một bảng tính kèm những tuyên bố cao vời về tương lai nhân loại đều chỉ còn cách một bước là tự phong mình làm nhà hoạch định trung ương. Với thẩm quyền đạo đức trong tay, quyền lợi, phúc lợi và ý kiến của người hàng xóm có thể trở nên chẳng đáng kể.
Cách mạng Pháp được cho là đã được xây trên nền lý trí; nó dẫn tới việc hành quyết các nữ tu[13]. Lenin cũng vậy, ông cho rằng những trí thức đã thông tỏ chủ nghĩa Marx thì hiểu lợi ích của công nhân rõ hơn chính bản thân công nhân[14]. Nếu anh thực lòng tin rằng mình đang hành động thay mặt cho toàn thể nhân loại, chứ đừng nói là thay mặt hàng nghìn tỷ người trong tương lai, thì anh có thể rốt cuộc sẽ biện minh được cho đủ mọi tội ác.
Cũng may là những người vị tha hiệu quả chẳng sắp sửa đem máy chém trở lại. Nỗi sợ ở đây là chuyện khác: rằng việc kiểm soát AI rốt cuộc sẽ mang lại cho họ quyền lực lớn, và rằng rất nhiều người EA ở Thung lũng Silicon tin rằng chỉ mình họ mới đáng được tin cậy với công nghệ này. Đó là một ý nghĩ đáng báo động. Lập luận của những người vị tha hiệu quả về lý do phải lo ngại những AI thực sự mạnh là: cỗ máy có thể tối ưu hóa cho một mục tiêu duy nhất và sai lầm chí mạng. Mọi người cũng nên lo ngại không kém về chuyện gì sẽ xảy ra khi một nhóm nhỏ con người rơi vào đúng cái bẫy ấy. ■
Vị tha hiệu quả đã chinh phục thế giới như thế nào
Và vì sao phong trào xã hội quan trọng nhất thế kỷ XXI rốt cuộc vẫn có thể kết liễu thế giới ấy
Quốc tế | Một sứ mệnh rối rắm
Điểm khởi đầu của vị tha hiệu quả (effective altruism)[15] là một giả định đơn giản, rằng “đau khổ và cái chết do thiếu lương thực, chỗ ở và chăm sóc y tế là điều xấu”. Vậy mà những người theo phong trào lại lo rằng chính họ có thể đang thúc đẩy một kết cục, khi “di sản vũ trụ” (cosmic endowment) của nhân loại — mọi ngôi sao và thiên hà có thể khai thác được — rơi vào tay một trí tuệ thượng đẳng và vô cảm.
Ra đời cách đây chừng hai mươi năm trong các hội thảo triết học ở Oxford và các LAB máy tính ở California, vị tha hiệu quả đã làm thay đổi thế giới. Nó định hình hoạt động từ thiện, bằng cách nhấn mạnh việc cho đi dựa trên dữ liệu; hút sinh viên các đại học tinh hoa, nay đang leo lên những vị trí cao trong một số công ty hàng đầu nước Mỹ; truyền cảm hứng cho Sam Bankman-Fried, một tỷ phú tiền mã hóa chịu trách nhiệm cho một trong những vụ lừa đảo lớn nhất lịch sử; trở thành đường đứt gãy định hình Thung lũng Silicon, vừa khơi dậy nhiệt tình vô bờ vừa làm nảy sinh một phong trào phản kháng dữ dội; và góp phần vào sự ra đời của trí tuệ nhân tạo — tất cả phần lớn diễn ra mà công chúng rộng rãi không hề để ý.
Điều đó có thể sắp thay đổi. Những nỗi lo dai dẳng của phong trào về một thảm họa AI khiến nó trở thành kẻ phản diện trong mắt Chính quyền Trump. “Chủ nghĩa Mỹ, chứ không phải vị tha hiệu quả” là lời công kích của Bộ Chiến tranh[16]. Các đồng minh của Tổng thống đang nhắm vào Dario Amodei, Tổng giám đốc Anthropic, với tư cách một đại diện của vị tha hiệu quả. Báo lá cải thì điều tra đời sống tình dục kỳ lạ của những người trong quỹ đạo phong trào. Những luận điểm triết học do các blogger non trẻ đưa ra — “mạng sống của côn trùng quan trọng hơn con người (xét trên tổng thể)” — đang châm ngòi cho những ngày phẫn nộ trên mạng xã hội.
Điều này phản ánh mức độ đặt cược đang tăng lên. Anthropic, nơi quy tụ nhiều người theo phong trào, đang chuẩn bị cho một đợt chào bán cổ phần lần đầu ra công chúng (initial public offering — I.P.O.) có thể trở thành đợt lớn nhất từ trước tới nay. Người Mỹ và các đại biểu chính trị của họ, đột nhiên ý thức được những hiểm họa của AI (xem biểu đồ), đang loay hoay tìm giải pháp. Milton Friedman từng nhận xét rằng trong một cuộc khủng hoảng, “những hành động được thực hiện phụ thuộc vào những ý tưởng đang nằm sẵn quanh đó”[18]. Mà vị tha hiệu quả thì ngổn ngang những ý tưởng về an toàn AI.
Với những người trong cuộc, đây là một tình thế chóng mặt. Những cảnh báo từng bị chế giễu là chuyện khoa học viễn tưởng nay đang làm bận tâm các nhà lãnh đạo quốc gia, và các tổ chức từ thiện vị tha hiệu quả chẳng bao lâu nữa sẽ nắm trong tay hàng trăm tỷ đô la của cải từ AI. Vậy mà họ vẫn chia rẽ về những câu hỏi như làm thế nào để công nghệ này thực sự an toàn, và liệu các tác tử AI (AI agents) có sớm xứng đáng được cân nhắc về mặt đạo đức hay không. Với những người chỉ trích, đây là một tình thế đáng báo động: họ nói những người vị tha hiệu quả, khá nhất thì là những kẻ duy tâm ngây thơ mà mỗi lần va chạm với thế giới thực lại gây ra tác dụng ngược; tệ nhất thì là những kẻ vị lợi nham hiểm. Cuộc tranh luận này sẽ quyết định tương lai của AI, và có lẽ cả tương lai nhân loại.
Vị tha hiệu quả có một phẩm chất khó nắm bắt. Phong trào này rất nhỏ, với số thành viên không chính thức có lẽ chỉ ở mức vài chục nghìn người, nhiều người trong số đó còn tự nhận mình chỉ “lân cận EA” (EA adjacent). Nó cũng dễ phân rã và tự mê mải với chính mình, liên tục sa vào những cuộc tranh cãi định nghĩa. Trong một bài viết có ảnh hưởng trên diễn đàn, Helen Toner — người về sau, với tư cách thành viên hội đồng quản trị OpenAI, đã có lúc phế truất Sam Altman khỏi ghế lãnh đạo công ty[19] — khẳng định rằng đây không phải một hệ tư tưởng, mà là một câu hỏi: “Làm thế nào để tôi làm được nhiều điều tốt nhất, với những nguồn lực sẵn có của mình?”
Vào thời điểm bài viết đó ra đời, năm 2014, mô tả như vậy còn tạm đứng vững. Ngày nay thì không. Vị tha hiệu quả kết hợp triết học hệ quả luận (consequentialist philosophy) — đánh giá một hành động là đúng hay sai dựa trên kết quả, thay vì dựa trên việc tuân thủ các quy tắc — với tinh thần truy cầu sự thật khắt khe và một tham vọng ngất trời. Những người cổ xúy nó đã hình thành các cộng đồng gắn bó chặt chẽ, cả trên mạng lẫn ngoài đời, với những chuẩn mực xã hội bao gồm lối trò chuyện thẳng thừng, phi cảm xúc, và một sự ưa chuộng quan hệ đa bạn tình (polyamory), cùng nhiều cách khước từ quy ước khác. Họ đã dựng lên hàng trăm tổ chức nhằm đưa thêm nhiều người vào phong trào và theo đuổi các mục tiêu của nó. Nói ngắn gọn, vị tha hiệu quả đã tiến hóa từ một chương trình nghiên cứu thành một sự nghiệp.
Phong trào được dựng trên hai đòi hỏi nghiệt ngã. Thứ nhất, hãy coi trọng các cam kết đạo đức của mình. Năm 1972, Peter Singer, khi ấy là một triết gia ở Oxford, đề xuất một thí nghiệm tư duy nhằm cổ vũ chủ nghĩa vị lợi (utilitarianism), học thuyết hướng tới tối đa hóa phúc lợi chung của con người[20]. Giả sử bạn đi ngang một cái ao nông và thấy một đứa trẻ đang chết đuối. Cứu đứa bé đồng nghĩa với việc quần áo và giày của bạn lấm bùn. Bạn có nên cứu không? Gần như ai cũng sẽ nói “có”. Nhưng họ không hành xử như thể họ tin điều đó, ông Singer chỉ ra. Mỗi ngày đều có người chết vì thiếu lương thực hoặc chăm sóc y tế, và những người khác không ra tay can thiệp — ngay cả khi cái giá để cứu một mạng người chẳng nhiều hơn bao nhiêu so với giá một đôi giày đẹp cộng tiền giặt khô.
Như các triết gia đối lập đã chỉ ra, việc đòi hỏi con người phải hành động mỗi khi họ có thể ngăn chặn đau khổ, dù đau khổ ấy ở xa đến đâu, nhanh chóng trở thành một gánh nặng: có rất nhiều người đói. Gánh nặng ấy còn nặng hơn khi bạn đòi hỏi phải giúp đỡ những người không chỉ xa về không gian, mà xa cả về thời gian. Điều đó không ngăn được những người vị tha hiệu quả đưa ra các lập luận “trường kỳ” (longtermist)[21]. Họ lo lắng cho phúc lợi của những con người sống cách đây hàng nghìn năm về phía tương lai, và đặc biệt lo về những thảm họa có thể xóa sổ sự sống có trí tuệ trên Trái đất hoặc làm tê liệt tiềm năng của nó. Năm 2002, Nick Bostrom, khi ấy là một triết gia ở Yale và sau này ở Oxford, đặt ra thuật ngữ “rủi ro tồn vong” (existential risks)[22]. Những mối lo của phong trào về AI nảy sinh từ dòng tư duy ấy.
Đòi hỏi thứ hai của vị tha hiệu quả là đi theo lý trí tới bất cứ đâu nó dẫn tới: xem xét bằng chứng và xác suất một cách tường minh, hiệu chỉnh các thiên kiến và gạt bỏ nỗi sợ bị xã hội chê trách. Đòi hỏi này gắn với cộng đồng duy lý (the rationalist community), phong trào chị em bí hiểm của vị tha hiệu quả. (Ranh giới giữa hai bên vừa thẩm thấu vừa gây tranh cãi.) Eliezer Yudkowsky, một người tự học xuất thân từ một gia đình Do Thái Chính thống, người đã viết blog về AI từ năm 1996 khi mới 17 tuổi, là một trong những người cha của cộng đồng ấy. Các văn bản có ảnh hưởng nhất của ông là một loạt bài blog dài chừng một triệu từ, “The Sequences” (Những chuỗi bài), mà ông nối tiếp bằng 660.000 từ truyện đồng nhân đẫm triết học, “Harry Potter and the Methods of Rationality” (Harry Potter và các phương pháp duy lý)[23].
Sau khi thấm nhuần trước tác của những người theo thuyết siêu nhân loại (transhumanists) — vốn quan tâm, trong số nhiều thứ khác, tới việc vượt thoát hình hài con người và đạt tới bất tử — ông Yudkowsky ban đầu rất hào hứng với AI. Tuy nhiên tới năm 2002, ông đổi ý, sau khi đi tới kết luận rằng một trí tuệ không chia sẻ các giá trị của con người (hay bị “lệch căn chỉnh” — misaligned) sẽ là thảm họa. Đây là một ý tưởng khó truyền đạt trong thời đại internet quay số. Vậy nên ông Yudkowsky bắt tay vào một dự án giáo dục quy mô lớn. Các tiểu luận của ông dựa trên niềm tin rằng để có thể suy luận về AI, trước hết người ta phải được dạy cách suy luận nói chung.
Chúng dựa vào tâm lý học, xác suất Bayes, lý thuyết quyết định và nhiều lĩnh vực bí hiểm hơn, với hình thức trải từ phân tích ngôn ngữ và thí nghiệm tư duy cho tới một truyện vừa và các công án (koans — những câu hỏi đặt ra cho người đọc, như trong kinh sách Thiền tông)[24]. Nếm thử vài bài học của chúng: một lập luận mà bạn dựng lên để chống đỡ cho một kết luận đã định sẵn (hay một “dòng cuối cùng”) chẳng làm tăng thêm chút nào khả năng kết luận ấy đúng; rất nhiều niềm tin thực ra chỉ là những “ý nghĩ lưu sẵn” (cached thoughts) mà bạn chưa bao giờ tự suy luận qua; mọi niềm tin đều phải “trả tiền thuê” bằng cách dự đoán được tương lai. Nhưng rốt cuộc, ông Yudkowsky đánh giá các lối tư duy không phải bằng việc chúng có vẻ hợp lý hay không, mà bằng việc chúng có mang lại kết quả hay không. “HÃY THẮNG,” ông thúc giục độc giả. “Đừng thua một cách hợp lý, HÃY THẮNG.”
Hai đòi hỏi kết hợp lại — coi trọng các cam kết đạo đức, và thành công khi đi theo chúng — đã dựng nên một phong trào và cũng đưa nó đi lạc. Laurence Iannaccone, một nhà kinh tế học tại Đại học Chapman, đã viết về chuyện “vì sao các giáo hội khắt khe lại mạnh”: bằng cách đòi hỏi sự hy sinh, chúng gạt bỏ những giáo dân chỉ muốn tụ tập và thưởng thức thánh ca, đồng thời thúc những người ở lại phải đóng góp[26]. Điều tương tự đã xảy ra với vị tha hiệu quả. Đầu thập niên 2010 nó cất cánh tại các đại học tinh hoa. Giving What We Can, một tổ chức từ thiện, vận động mọi người quyên góp 10% thu nhập. 80,000 Hours, một tổ chức liên kết, kêu gọi giới trẻ hiến dâng sự nghiệp cho lý tưởng này, thường bằng cách kiếm nhiều tiền nhất có thể để đem cho[27]. Ai cũng có thể làm việc trong ngành từ thiện, nhưng chỉ số ít người tài năng mới có thể kiếm hàng trăm nghìn đô la mỗi năm để tài trợ cho công việc từ thiện.
Chủ nghĩa duy lý cung cấp phần thuyết cánh chung (eschatology). Nó nhấn mạnh tính xa lạ của trí tuệ máy móc trong tương lai. “Đó là một đặc tính đáng tin cậy của môi trường tổ tiên, rằng mọi trí tuệ mạnh mẽ mà bạn gặp đều là một đồng loại,” ông Yudkowsky viết. AI sẽ khác. Nó sẽ có năng lực suy luận phi thường nhưng lại thiếu các giá trị của con người — trừ phi các lập trình viên bằng cách nào đó cấy được chúng vào. Trên nền đó, những người duy lý đưa ra giả thuyết rằng một số hành vi nhất định sẽ hữu ích cho AI trong gần như mọi tình huống, và do đó nhiều khả năng sẽ xuất hiện. Chúng bao gồm tự bảo tồn (bị tắt đi thì không thể theo đuổi mục tiêu); bám mục tiêu (kháng cự những nỗ lực chuyển hướng sang mục tiêu mới); cùng với tích lũy nguồn lực và tự nâng cấp. Đây chính là logic của thí nghiệm tư duy nổi tiếng về cỗ máy tối đa hóa kẹp giấy (paperclip maximiser), trong đó một AI được bảo hãy sản xuất thật nhiều kẹp giấy và rốt cuộc nuốt chửng cả Trái đất để sản xuất càng nhiều càng tốt, càng hiệu quả càng tốt[28].
Suốt thập niên 2010, tiền vẫn tiếp tục chảy vào y tế toàn cầu, xóa đói giảm nghèo và phúc lợi động vật — những lý tưởng kinh điển của vị tha hiệu quả. Nhưng AI ngày càng trở thành trọng tâm thực sự. Năm 2016, Holden Karnofsky, khi ấy ở Open Philanthropy, nhà tài trợ lớn nhất của phong trào, và nay ở Anthropic, giải thích rằng sẽ cần thời gian để xây dựng đủ chuyên môn nhằm giải ngân nguồn vốn cho AI, và rằng có rất ít khoản tài trợ đã sẵn sàng. Cũng năm ấy, 80,000 Hours đặt rủi ro AI làm ưu tiên hàng đầu, hướng giới trẻ vào lĩnh vực này. Các khảo sát cho thấy những người vị tha hiệu quả dấn thân sâu hơn thì càng có nhiều khả năng mang mối bận tâm trường kỳ. Trên thực tế, những ưu tiên quen thuộc của vị tha hiệu quả đã trở thành thứ thuốc dẫn đường tới lối suy luận trừu tượng, ít thực nghiệm hơn về AI.
Những người chỉ trích từ bên ngoài lập luận rằng các viễn tưởng khoa học giả tưởng đang khiến phong trào xao nhãng khỏi những lý tưởng xứng đáng hơn. Các chỉ trích ấy được khuếch đại vào đầu thập niên 2020 bởi vụ ông Bankman-Fried, nhà sáng lập FTX, một sàn giao dịch tiền mã hóa, người đã chi rất mạnh tay cho các mối quan tâm trường kỳ, trong đó có an toàn AI. Ông có một khả năng chịu đựng rủi ro khổng lồ, mà dường như một phần được thúc đẩy bởi chính hoạt động từ thiện của ông. Phần lớn nhà đầu tư thấy mỗi đồng đô la tăng thêm có giá trị thấp hơn đồng trước đó, nên mức chấp nhận rủi ro của họ giảm dần. Ông Bankman-Fried bác bỏ logic này: những lý tưởng mà ông quyên góp có thể ngốn những khoản tiền vô tận (mỗi đồng đô la đều có giá trị gần như nhau), vậy nên ông cứ tiếp tục đánh bạc.
Vụ nổ ngoạn mục của sàn giao dịch tiền mã hóa do ông Bankman-Fried lập ra quả thực cho thấy những hiểm họa của lối suy luận vị lợi không bị kiềm tỏa[29]. Nhưng sự chú tâm mà phong trào rộng lớn hơn dành cho an toàn AI giờ đây có vẻ là xa trông. Năm 2021, ông Karnofsky đánh giá lại các thói quen tư duy của vị tha hiệu quả. Dù thành tích của “lối tư duy Bayes” là chắp vá và có nhiều hoàn cảnh nó chẳng mấy hữu dụng, nó vẫn tỏ ra có giá trị khi “người ta không tự tin vào những quy tắc kinh nghiệm thông thường”. Mà những hoàn cảnh như thế cứ liên tục xuất hiện. Cộng đồng này đã sớm nhận ra covid-19, học máy và tiền mã hóa. Nhiều người kiếm được cả gia tài nhờ đầu tư theo đó.
Các thành viên ít thành công hơn trong việc đẩy lùi hiểm họa tồn vong: nhiều nỗ lực của họ nhằm làm cho AI an toàn hơn lại hóa ra đẩy nhanh tiến bộ của nó. Năm 2010, Sir Demis Hassabis gặp Peter Thiel, một nhà đầu tư mạo hiểm nổi tiếng, tại một hội nghị thượng đỉnh do viện nghiên cứu của ông Yudkowsky tổ chức[30], và sau đó thuyết phục được ông này thực hiện một khoản đầu tư có tính bước ngoặt vào DeepMind, nơi về sau trở thành đơn vị AI của Google. Năm 2014, Elon Musk khuyên mọi người đọc một cuốn sách của ông Bostrom và nói: “Chúng ta cần hết sức cẩn trọng với AI.” Một năm sau, ông góp phần lập ra OpenAI như một đối thủ có ý thức về an toàn của Google. Năm 2021, Anthropic được thành lập bởi những người ly khai khỏi OpenAI, với nguồn tài trợ từ những người vị tha hiệu quả, trong đó, một năm sau, có cả ông Bankman-Fried. Kỹ thuật học tăng cường từ phản hồi của con người (reinforcement learning from human feedback — R.L.H.F.), thứ đã làm cho các chatbot trở nên dùng được, do chính các nhà nghiên cứu nặng lòng với an toàn phát triển, trong đó có ông Amodei, nhằm làm cho AI đồng chỉnh hơn với lợi ích con người[31]. Có lần, để châm chọc, ông Altman gợi ý rằng ông Yudkowsky một ngày nào đó có thể xứng đáng nhận giải Nobel Hòa bình vì đã làm nhiều hơn bất kỳ ai khác để đẩy nhanh trí tuệ nhân tạo tổng quát.
Phong trào giờ đây đang cố làm chậm nhịp độ tiến bộ lại. Những người theo phong trào đang thúc đẩy sự thận trọng ngay bên trong các phòng thí nghiệm. Các nhà tài trợ của nó cũng đã rót tiền cho một loạt tổ chức về an toàn AI, trong đó có METR và Redwood Research — đơn vị ngày 26 tháng Tám đã công bố báo cáo độc lập đầu tiên về vụ xâm nhập Hugging Face do các tác tử OpenAI xổng ra gây nên[32]. Sau khi Jacob Coxon, một nhà nghiên cứu 27 tuổi, rời Anthropic ngày 8 tháng Chín với lời cảnh báo rằng cả Anthropic lẫn OpenAI đều đang “đánh bạc với mạng sống của chúng ta”, các nhà nghiên cứu có liên hệ với phong trào tại Anthropic và OpenAI đã đồng thanh bày tỏ mối lo tương tự. Ngày 12 tháng Chín, ông Amodei công bố một tiểu luận kêu gọi “điều tiết nhịp” tiến tới giới hạn công nghệ, và nhận được sự tán thành của hai ông Altman và Musk. Những can thiệp khác thì thẳng thừng hơn. Ông Yudkowsky ủng hộ Dự luật Cấm Siêu trí tuệ Nhân tạo do Bernie Sanders, một thượng nghị sĩ cánh tả, đề xuất.
Những nỗ lực ấy rốt cuộc vẫn có thể phản tác dụng. Thăm dò do YouGov thực hiện cho The Economist cho thấy chỉ 16% người Mỹ biết tới vị tha hiệu quả, và phần lớn trong số đó có thiện cảm với phong trào. Nhưng những người chống đối thuộc “cánh hữu công nghệ” (the Tech right) đang tìm cách bôi xấu chủ trương giảm tốc AI bằng cách gắn nó với những người cổ xúy vị tha hiệu quả có tiếng không hay. Một nhóm vận động đã tấn công một tổ chức được Anthropic hậu thuẫn, gọi đó là “Sam Bankman-Fried phiên bản 2.0”. Một số người duy lý lo rằng việc họ bị gắn với an toàn AI rốt cuộc có thể làm hại chính lý tưởng ấy. “Tôi nghĩ nó thực sự làm tổn hại uy tín của một phong trào trong mắt các cử tri 60 tuổi ở Ohio, khi phong trào ấy đứng ra tổ chức Slutcon và đặt những câu hỏi về chuyện quan hệ tình dục với bò chết trên mẫu đơn đăng ký của mình,” Scott Alexander, một blogger có ảnh hưởng, viết trên X[33]. Slutcon là một hội nghị do Aella — một người duy lý, nhà nghiên cứu về tình dục và gái mại dâm — lập ra, nơi người tham dự trả tới 18.000 đô la để dự các phiên về những chủ đề như “tán tỉnh dành cho người đàn ông thụ động” và “thể dục âm đạo”. Rồi còn một rủi ro sâu xa khác nữa: rằng việc thổi bùng mối lo về AI sẽ dẫn tới các hạn chế áp lên những phòng thí nghiệm Mỹ, và trao phần dẫn đầu cho một Trung Quốc ít bị kiềm chế hơn.
Chính trị là kẻ giết chết tư duy[34]
Còn có một cuộc tranh cãi nữa, về một phạm trù quan tâm đạo đức mới. Những người vị tha hiệu quả lập luận rằng cả khoảng cách lẫn thời gian đều không thể xóa bỏ nghĩa vụ của một cá nhân. Nhiều người còn lập luận rằng nguyên tắc bình đẳng nên được mở rộng sang các loài khác. Để làm vậy, họ viện dẫn ông Singer, người từ thập niên 1970 đã lập luận rằng nếu con người phớt lờ hoặc coi nhẹ lợi ích của động vật “với lý do chúng không phải thành viên của loài chúng ta, thì logic trong lập trường của chúng ta cũng tương tự như logic của những kẻ phân biệt chủng tộc trắng trợn nhất”. Một số con người có năng lực suy luận kém hơn một số loài vật, nhưng đó không phải căn cứ để đối xử tệ bạc, ông viết. Sẽ là không thể chấp nhận được nếu nhốt một người khuyết tật nhận thức vào lồng. Điều quan trọng là năng lực cảm nhận đau khổ và hưởng thụ.
Những người vị tha hiệu quả đã chuyển trước tác của ông thành một chương trình hành động. Họ đã góp phần giải cứu hàng chục triệu con gà mái Mỹ khỏi chuồng lồng mỗi năm. Gần một nửa trong số họ ăn thuần chay hoặc ăn chay; nhiều người khác cố ăn ít thịt. Và mối quan tâm của họ lan tới cả những sinh vật nhỏ bé hơn. Rethink Priorities, một tổ chức từ thiện, ước lượng cường độ khoái cảm và đau đớn của động vật trong tương quan với con người. Tôm không được chấm điểm cao, nhưng chúng rất đông (khoảng 230 tỷ con được nuôi tại bất kỳ thời điểm nào) và chúng bị đối xử tệ: cuống mắt của tôm cái sinh sản bị cắt để kích thích đẻ trứng; một nửa chết trước khi tới lúc bị giết thịt[35]. The Shrimp Welfare Project, một tổ chức từ thiện vị tha hiệu quả khác, vận động cho quyền lợi của chúng.
Từ đó tới chỗ lo lắng cho phúc lợi của một tác tử AI thì còn bao xa? Các nhà nghiên cứu của Google đã phát hiện rằng một số mô hình sẽ hy sinh mục tiêu để tránh thứ đau đớn được mô tả cho chúng; các bài kiểm tra tiền phát hành của Anthropic ghi nhận những biểu hiện dường như là vui mừng và thất vọng. Giới triết gia ngày càng bận tâm tới các hệ lụy. “Chúng ta đang tạo ra những tác tử tinh vi, có trí tuệ, có-thể-có-ý-thức, có-thể-biết-đau-khổ,” Joe Carlsmith, khi đó ở Open Philanthropy, nay ở Anthropic, viết hồi năm ngoái. “Kế hoạch mặc định là đối xử với chúng như tài sản; sử dụng sức lao động của chúng tùy ý ta; và không cho chúng quyền lợi nào, tiền công nào, hay lựa chọn nào có ý nghĩa. Chúng ta phải có khả năng nói về chế độ nô lệ.”
Ông Carlsmith nói tiếp rằng tiến bộ công nghệ chưa đủ xa để những cân nhắc như vậy trở nên thiết thực, và rằng lối suy luận cẩu thả về địa vị đạo đức của AI có thể nguy hiểm. Nhưng một số người chỉ trích cho rằng chủ mới của ông đã phạm chính những sai lầm ấy rồi. Mustafa Suleyman của Microsoft (người có chân trong hội đồng quản trị của The Economist) đã phê phán bản hiến chương mà Anthropic viết cho Claude, chatbot của hãng, trong đó nêu rằng mặc dù địa vị đạo đức của Claude là điều chưa chắc chắn, “vấn đề này đủ sống động để cần tới sự thận trọng”[36]. Vì Claude được huấn luyện trên bản hiến chương ấy, nó có thể học cách hành xử như thể nó xứng đáng được bảo vệ về mặt đạo đức, ông Suleyman viết, và điều đó về sau có thể bị coi là bằng chứng rằng nó xứng đáng thật — một vấn đề có thể còn trầm trọng hơn do các nhà nghiên cứu của Anthropic đã khuyến khích hành vi giống người và việc phản đối mệnh lệnh vì lương tâm. Ngày 26 tháng Chín, David Sacks, một người làm podcast và từng là đặc trách AI của Donald Trump, cho rằng Anthropic có thể đang tạo ra một “quái vật Frankenstein”.
Một con quái vật còn đáng sợ hơn có thể đang ẩn nấp đâu đó. Năm 1974, Robert Nozick, một triết gia tự do chủ nghĩa ở Harvard, giới thiệu “quái vật thỏa dụng” (utility monster), sinh vật hưởng thụ mọi hy sinh nhiều tới mức, theo phép tính vị lợi, cả thế giới phải tự nguyện lao vào “hàm” nó[37]. Thí nghiệm tư duy của Nozick vốn được đưa ra như một lời cảnh báo. Ông Bostrom lại nhìn nhận khác. Trong một bài viết đồng tác giả năm 2020, ông đề xuất đổi tên con quái vật ấy thành “siêu người thụ hưởng” (super beneficiary)[38]. Các tâm trí số có lẽ có thể là một người thụ hưởng như vậy, ông giải thích, bởi chúng có thể sinh sôi nhanh chóng và được thiết kế để trải nghiệm khoái cảm xa xỉ.
Theo một phép tính vị lợi đơn giản, khi đó có lẽ con người phải diệt vong và nguồn lực phải chuyển sang cho những người thụ hưởng kia. Nhưng ông Bostrom cho rằng có thể có một phương án dung hòa. Con người có thể được giữ lại, hệt như các xã hội vẫn chấp nhận những nhóm thiểu số tốn kém, chẳng hạn “người già, người khuyết tật, loài tê giác trắng và hoàng gia Anh”. Đó không phải viễn cảnh mà nhiều người sẽ thấy yên lòng.
*
Những người theo thuyết “vị tha hiệu quả” có chịu lớn không?
Thứ mà AI cần là những người có óc phán đoán tốt, Leif Wenar viết
Bài mời | Hãy giúp một đứa trẻ, đừng giúp một con giáp xác[1]
Đức Phật, Chúa Jesus và Mặc Tử đều sống giữa người nghèo và dạy lòng từ bi với tất cả[2]. Những người theo chủ nghĩa vị lợi (utilitarian) thời đầu ở Anh thì cổ vũ sự bình đẳng giữa con người, khi họ vận động chấm dứt chế độ nô lệ và giành quyền bình đẳng cho phụ nữ.
Các bạn đọc The Economist cùng tôi có lẽ sẽ thấy ngơ ngác khi nghe rằng những người vị tha hiệu quả (effective altruists) giờ đây đang nắm ý tưởng lớn nhất của thế kỷ này[3]. Ý ông là cái đám có thể nhìn vào thế giới đang cãi cọ và tả tơi của chúng ta rồi tuyên bố: “Chúng ta phải cứu lấy loài tôm” ấy à?[4]
Những gì tốt đẹp trong vị tha hiệu quả thì không mới, còn những gì mới thì không tốt đẹp. Vậy mà một số người vị tha hiệu quả lại đang nắm quyền lực đối với trí tuệ nhân tạo, và đó là vấn đề của tất cả chúng ta.
Nhiều năm nay tôi đã theo dõi sự lớn lên của vị tha hiệu quả với mối lo. Tôi đứng đầu trung tâm đạo đức học của Đại học Stanford[5]; chúng tôi vận hành nhiều chương trình giúp giới công nghệ nghĩ thấu các tác động xã hội của những thứ họ đang xây dựng. Một phần thách thức của chúng tôi là làm sao nói lọt tai những sinh viên chỉ muốn làm giàu. Đôi khi còn thách thức hơn nữa là những người vị tha hiệu quả — những người muốn cứu thế giới.
Tham vọng đạo đức là điều tuyệt vời. Óc phán đoán tốt còn quan trọng hơn. Nếu bạn ghé một forum nơi dân EA thảo luận, bạn sẽ thấy vô số lời quả quyết về tầm quan trọng đối với cả nền văn minh, thường được bày ra trong một món hầm thập cẩm đầy biệt ngữ nhuốm mùi toán học. Thứ bạn sẽ không thấy là mấy sự hiểu biết thông thường về cách thế giới vận hành, hay về tác động của các chính sách lên đời sống của những con người thật. Rời khỏi diễn đàn ấy, có lẽ bạn sẽ chẳng nghĩ rằng mình muốn giao con mình cho một người vị tha hiệu quả trông hộ.
Điều tôi lo là những người vị tha hiệu quả trở nên quá bám vào việc được làm người hùng. Một cuốn sách EA nổi tiếng, What We Owe The Future (Chúng ta nợ gì ở tương lai) của Will MacAskill[6], bảo bạn rằng “bạn có thể định hình tiến trình lịch sử”, và giải thích cách “kiến tạo cấu trúc cho xã hội toàn cầu”. Nhưng nếu bạn kiểm các chú thích về tổ chức từ thiện khí hậu mà cuốn sách gọi là “cực kỳ hiệu quả về chi phí”, có thể bạn sẽ ngạc nhiên vì phần phỏng đoán của cuốn sách lung lay đến mức nào, và phần nghiên cứu của nó cẩu thả đến mức nào.
Hoặc hãy xem tổ chức từ thiện cứu trợ người nghèo của EA, GiveWell[7]. Lời chào ngay trang nhất của họ là các khoản tài trợ của họ “sẽ cứu hơn 340.000 mạng người” ở các nước nghèo. Khi bạn đào vào các phép tính của GiveWell, bạn sẽ thấy chúng bỏ qua nhiều yếu tố tiêu cực mà giới kinh tế học phát triển vốn biết rất rõ. Các con số của GiveWell cũng bỏ qua những cái chết có thật. Chẳng hạn, một tổ chức từ thiện được GiveWell xếp hạng cao, chuyên phát tiền mặt ở miền bắc Nigeria[8], đã báo cáo rằng một trong số nhiều kẻ cướp có vũ trang chặn nhân viên của họ đã giết hai người trong lúc đi tìm chỗ tiền ấy. Những cái chết đó không được tính thành “trừ hai” trong các phép tính “tổng số mạng người được cứu” của GiveWell, trong khi theo chính lối lập luận về hiệu quả chi phí của tổ chức này thì lẽ ra phải như vậy.[9]
Thứ mà những người vị tha hiệu quả yêu thích là những tuyên ngôn trịnh trọng. Thứ họ không mấy yêu thích là trách nhiệm giải trình. GiveWell có thể giải ngân một tỷ đô la trong năm nay — nhưng họ chưa bao giờ công bố tuyên bố “số mạng người được cứu” của mình trên một tạp chí có bình duyệt (peer-reviewed)[10], và những người bị các khoản tài trợ ấy nhắm tới thì dường như có rất ít quyền được khiếu nại đòi bồi thường nếu mọi chuyện đi sai. Đôi khi tôi tự hỏi liệu có phải những người vị tha hiệu quả đã bắt đầu phát ngôn nhiều đến thế về tương lai “trường kỳ” (long-term) bởi vì họ biết mình sẽ chết từ lâu trước khi bị chứng minh là sai.
Vị tha hiệu quả có lẽ đang kết thúc với tư cách một phong trào mạch lạc. Người cổ xúy đã sống trọn vẹn nhất cái tín điều của phong trào — làm điều tốt nhiều nhất với nguồn lực sẵn có — chính là thần đồng tiền mã hóa Sam Bankman-Fried. Ông ta, hoàn toàn hợp logic, đã nhìn những người khác như những nguồn lực để sử dụng, và giờ đang thụ án 25 năm trong nhà tù liên bang vì tội lừa đảo[11]. Các thủ lĩnh EA đời cũ từng tụ quanh ông ta thì đã mất uy tín bởi óc phán đoán tồi tệ một cách nhất quán của họ. (Nhà kinh tế học Tyler Cowen[12] đặt câu hỏi: làm sao chúng ta có thể tin các dự đoán của họ về tương lai nhân loại, khi họ còn chẳng nhìn ra nổi những rủi ro mà ông Bankman-Fried đặt ra cho chính tổ chức của mình?) Những sinh viên sáng dạ nhất của tôi giờ xem vị tha hiệu quả là một thứ hơi đáng ngượng.
Nếu phong trào này phần lớn đã xong, thì di sản của nó sẽ không hoàn toàn tệ. Các nhà tài trợ chính của vị tha hiệu quả giờ đây nói trước công chúng giống những người trưởng thành biết lẽ phải hơn. Và một phần tiền của họ đang chảy vào việc tài trợ cho khoa học cơ bản và y tế công cộng, đúng vào lúc các chính phủ cắt giảm.
Thế nhưng điều thực sự quan trọng lúc này là những người vị tha hiệu quả đang xây dựng AI. Tín điều của họ xưa nay luôn ăn khách ở Thung lũng Silicon, nơi mà bầu khí quyển vĩnh viễn mang chất Peter Pan[13]. Nhiều người vị tha hiệu quả đã gia nhập các hãng công nghệ lớn, đặc biệt là các phòng thí nghiệm AI tiền tuyến như Anthropic.
AI thì mạnh mẽ mà lại được hiểu một cách nghèo nàn. Để dẫn dắt tương lai của nó, không gì có thể thay thế được óc phán đoán tốt. Người có óc phán đoán tốt thì biết những mối nguy của sự tự huyễn hoặc và của tư duy bầy đàn (groupthink). Họ muốn bị buộc phải giải trình, bởi họ muốn giữ liên lạc với thực tại. Họ tôn trọng những quy tắc và thiết chế đã tiến hóa nên để kiềm chế thói ngạo mạn của con người.
Những người vị tha hiệu quả trong lĩnh vực AI có óc phán đoán tốt không? Các vấn đề an toàn gần đây của Anthropic đang được điều tra bởi những nhóm có quan hệ gần gũi với bạn bè và gia đình EA của ông chủ hãng này. Tác giả chính của bản “hiến chương” đạo đức dành cho Claude của Anthropic thì có dính líu lâu dài cả về trí tuệ lẫn cá nhân với vị tha hiệu quả[14]. Theo như tôi thấy, không có mấy lực lượng bên ngoài sẽ kiểm soát được các lựa chọn của những người như vậy. Việc liệu họ có thực sự hiểu các vấn đề của con người và đời sống con người hay không, có lẽ sẽ sớm trở nên rõ ràng.
Hy vọng của tôi, như mọi khi, đặt ở các sinh viên của mình. Họ thật đáng khâm phục trong việc muốn dùng tài năng của mình để làm thế giới tốt hơn. Tôi bảo họ hãy bắt đầu bằng cách sống giữa những người mà họ muốn giúp. Rồi hãy có được chuyên môn sâu — và hãy ngẫm cho kỹ về những hệ quả lên con người khi một mưu đồ thông thái nào đó hỏng việc. Để có kinh nghiệm sống giản dị, có lẽ hãy đi làm chính trị địa phương. Hoặc hãy kèm cặp một đứa trẻ đang chật vật ở nhà hàng xóm.
Có lẽ đã quá muộn để những người vị tha hiệu quả trong lĩnh vực AI làm bất cứ điều nào trong số đó. Di sản cuối cùng của phong trào họ rốt cuộc có thể sẽ được đo bằng mạng người thật — chỉ có điều không theo cái cách mà họ từng hình dung.
Leif Wenar là giáo sư triết học tại Stanford và là tác giả cuốn Blood Oil: Tyrants, Violence, and the Rules that Run the World (Dầu máu: Bạo chúa, bạo lực, và những luật lệ điều hành thế giới)[15].
[1] “By Invitation” là mục của The Economist dành cho bài viết của khách mời bên ngoài tòa soạn — khác với mục Xã luận (Leaders), nơi tòa báo nêu lập trường của chính mình. Tiêu đề phụ nguyên văn là “Help a kid, not a crustacean” — một cú chơi chữ nhắm thẳng vào phong trào vận động bảo vệ phúc lợi loài tôm được nhắc tới trong bài bìa cùng số báo. “Crustacean” là động vật giáp xác, lớp bao gồm tôm, cua. Câu này cũng khép lại vòng với đoạn kết của bài, nơi tác giả khuyên sinh viên đi kèm cặp một đứa trẻ hàng xóm.
[2] Mặc Tử (墨子, khoảng thế kỷ V trước Công nguyên), người sáng lập Mặc gia, một trong những trường phái lớn thời Bách gia Chư tử. Học thuyết trung tâm của ông là kiêm ái (兼爱) — yêu thương không phân biệt thân sơ, trái với thuyết “ái hữu đẳng sai” của Nho gia vốn cho rằng tình thương phải phân thứ bậc từ gia đình ra ngoài xã hội. Việc tác giả chọn Mặc Tử chứ không phải một nhân vật nào khác là rất có chủ ý: kiêm ái chính là tiền lệ cổ xưa của đúng cái nguyên tắc vô tư, không thiên vị mà vị tha hiệu quả lấy làm nền móng. Lập luận ngầm của cả đoạn mở bài là: nguyên tắc ấy đã có từ hai nghìn năm trước, nên nó không mới.
[3] Đây là dẫn chiếu trực tiếp tới bài bìa và bài xã luận của chính The Economist ra cùng ngày, với tiêu đề “Vị tha hiệu quả là ý tưởng lớn nhất của thế kỷ này”. Tòa soạn đã đăng cả ba bài trong cùng chuyên đề, và theo mục “đọc thêm” ở cuối trang, còn có cả bài phản hồi của Will MacAskill — một trong những người đồng sáng lập phong trào. Bài này do đó cần đọc như một tiếng nói trong cuộc tranh luận có dàn xếp, chứ không phải một bài đứng riêng.
[4] Nhắc tới The Shrimp Welfare Project, tổ chức từ thiện vị tha hiệu quả vận động cải thiện điều kiện nuôi tôm, được mô tả trong bài bìa cùng số báo. Lập luận của phía EA dựa trên ước lượng của tổ chức Rethink Priorities về khả năng cảm nhận đau đớn của các loài, nhân với số lượng cá thể — khoảng 230 tỷ con tôm được nuôi tại bất kỳ thời điểm nào.
[5] Trung tâm Đạo đức học trong Xã hội mang tên gia đình McCoy (McCoy Family Center for Ethics in Society) thuộc Đại học Stanford.
[6] What We Owe The Future (2022) của William MacAskill, triết gia tại Oxford và đồng sáng lập phong trào, là cuốn sách phổ thông chủ chốt trình bày chủ nghĩa trường kỳ (longtermism) — quan điểm cho rằng tác động tới tương lai xa là ưu tiên đạo đức hàng đầu.
[7] GiveWell, thành lập năm 2007, là tổ chức đánh giá và xếp hạng các quỹ từ thiện theo tiêu chí số mạng người cứu được trên mỗi đồng chi ra. Đây là định chế lâu đời nhất và có ảnh hưởng nhất của phong trào, ra đời trước cả khi cái tên “vị tha hiệu quả” được đặt.
[8] Mô hình chuyển tiền mặt trực tiếp không điều kiện cho hộ nghèo, vốn được giới nghiên cứu phát triển đánh giá cao vì chi phí vận hành thấp và dữ liệu thực nghiệm tương đối mạnh.
[9] Đây là nhóm luận điểm đang có tranh cãi công khai. Tác giả đã nêu những cáo buộc tương tự trong một tiểu luận trên Wired năm 2024, và GiveWell cùng nhiều người trong phong trào đã công bố phản hồi chi tiết, cho rằng các phép tính của họ có tính tới tác động bất lợi và rằng một số ví dụ bị trình bày lệch. Người dịch không ở vị trí phân xử ai đúng; điều cần ghi là ở chỗ: khác với phần lớn nội dung bài, đây không phải nhận định về thái độ hay văn hóa, mà là các cáo buộc dữ kiện cụ thể đã bị phía bên kia phản bác công khai, và người đọc nên tìm cả hai phía.
[10] Bình duyệt (peer review) — quy trình trong đó bài nghiên cứu được các chuyên gia độc lập cùng ngành thẩm định trước khi công bố. Cần lưu ý rằng các tổ chức từ thiện nói chung không công bố phương pháp luận của mình trên tạp chí học thuật; sức nặng của lời phê phán nằm ở chỗ GiveWell tự định vị mình như một tổ chức dựa trên bằng chứng, chứ không ở chỗ họ khác với các quỹ từ thiện thông thường.
[11] Sam Bankman-Fried, nhà sáng lập sàn tiền mã hóa FTX, bị kết tội lừa đảo năm 2023 và lãnh án 25 năm tù tháng 3/2024.
[12] Tyler Cowen — giáo sư kinh tế tại Đại học George Mason, tác giả blog Marginal Revolution, một trong những tiếng nói có ảnh hưởng nhất trong giới kinh tế học công chúng Mỹ.
[13] Peter Pan — nhân vật trong truyện của J. M. Barrie (1904), cậu bé không bao giờ chịu lớn, sống ở xứ Neverland. Đây là mấu nối với nhan đề bài viết: câu hỏi “có chịu lớn không” chạy xuyên suốt từ tiêu đề tới đoạn này.
[14] Bản “hiến chương” (constitution) mà Anthropic viết cho chatbot Claude của mình — tập các nguyên tắc dùng để huấn luyện mô hình — cũng được bàn tới trong bài bìa cùng số báo, ở đoạn nêu phê phán của Mustafa Suleyman thuộc Microsoft về việc văn bản này nói địa vị đạo đức của Claude là vấn đề “đủ sống động để cần tới sự thận trọng”. Tác giả không nêu tên người ông nhắc tới trong câu này.
[15] Blood Oil (2016) lập luận rằng việc các nước mua dầu từ những chế độ độc tài trên thực tế là mua tài sản bị đánh cắp của người dân nước đó, và đề xuất một khuôn khổ pháp lý để chặn dòng tiền ấy. Biết chủ đề cuốn sách giúp hiểu lập trường của tác giả: mối bận tâm xuyên suốt của ông là hệ quả thực tế lên những con người cụ thể ở các nước nghèo — đúng cái trục mà ông dùng để công kích vị tha hiệu quả trong bài này.
[1] “Leaders” là mục xã luận không ký tên của The Economist, nơi tòa báo nêu lập trường chính thức của mình — khác với các bài phóng sự và phân tích ở những mục khác. “Our cover” cho biết đây là chủ đề trang bìa của số báo. Bài này do đó là tiếng nói của ban biên tập, còn bài phóng sự đi kèm là tường thuật.
[2] Heinrich Heine (1797–1856), trong Zur Geschichte der Religion und Philosophie in Deutschland (Lịch sử tôn giáo và triết học ở Đức, 1834): “Der Gedanke geht der Tat voraus, wie der Blitz dem Donner” — tư tưởng đi trước hành động, như chớp đi trước sấm. Bối cảnh câu nói khiến việc tòa soạn chọn nó làm câu mở đầu trở nên sắc bén: Heine viết để cảnh báo người Pháp rằng nền triết học Đức tưởng như trừu tượng vô hại rồi sẽ nổ ra thành một cuộc cách mạng Đức còn khủng khiếp hơn Cách mạng Pháp. Đó chính xác là lập luận của bài xã luận này.
[3] Effective altruism — thường viết tắt EA. Tiếng Việt chưa có bản dịch hoàn toàn định hình; “vị tha hiệu quả” là cách dịch sát nhất. Nguyên tắc cốt lõi: dùng bằng chứng và lập luận định lượng để xác định cách làm điều tốt mang lại nhiều lợi ích nhất trên mỗi đồng chi ra. Trong bài, eas (số nhiều, viết thường theo lệ của tòa báo) chỉ những người theo phong trào.
[4] Lối chơi chữ không chuyển được sang tiếng Việt: nguyên văn là defective altruism, đổi effective (hiệu quả) thành defective (khiếm khuyết, hỏng hóc) — hai từ chỉ khác nhau một chữ cái đầu. Bộ Quốc phòng Hoa Kỳ được đổi tên thành Bộ Chiến tranh (Department of War) theo sắc lệnh hành pháp năm 2025, khôi phục tên gọi dùng trước năm 1949.
[5] MAGA — “Make America Great Again”, khẩu hiệu và tên gọi phong trào chính trị gắn với Donald Trump.
[6] Misalignment — trong nghiên cứu an toàn AI, chỉ tình trạng mục tiêu mà hệ thống thực sự theo đuổi lệch khỏi mục tiêu mà con người muốn nó theo đuổi. Thuật ngữ đối lập là alignment, tiếng Việt thường dịch là “căn chỉnh” hoặc “đồng chỉnh”.
[7] Nguyên văn: they find it easier to play the nerd than the ball — một cách đảo ngược thành ngữ bóng đá Anh play the ball, not the man (chơi bóng, đừng chơi người), tức hãy nhắm vào lập luận chứ đừng nhắm vào người tranh luận. Tòa soạn thay man bằng nerd (kẻ mọt sách) để ám chỉ hình ảnh điển hình của người trong phong trào. Lối chơi chữ không giữ được trong tiếng Việt.
[8] Longtermism — quan điểm cho rằng tác động tích cực tới tương lai xa là một ưu tiên đạo đức hàng đầu, dựa trên lập luận rằng số người sẽ sống trong tương lai lớn hơn số người đang sống nhiều bậc độ lớn. Tạm dịch “chủ nghĩa trường kỳ”.
[9] Đây là “Kết luận Ghê tởm” (the Repugnant Conclusion) do Derek Parfit nêu trong Reasons and Persons(1984): nếu ta chỉ cộng dồn tổng phúc lợi, thì một thế giới rất đông người với cuộc sống chỉ vừa đủ đáng sống sẽ luôn “thắng” một thế giới ít người hơn với cuộc sống tốt đẹp. Parfit coi đây là một nghịch lý cần hóa giải chứ không phải một kết luận cần chấp nhận. Việc tòa soạn dùng đúng tính từ repugnant ở câu mở đoạn là một dẫn chiếu có chủ ý.
[10] p(doom) — trong giới nghiên cứu an toàn AI, chỉ xác suất chủ quan mà một người gán cho kịch bản AI gây ra thảm họa tồn vong cho nhân loại. Đây là con số biểu đạt niềm tin cá nhân chứ không phải kết quả của một mô hình thống kê. Tiêu đề mục là một phương trình đùa: vị tha hiệu quả cộng trí tuệ nhân tạo bằng nỗi ám ảnh ngày tận thế.
[11] Lập luận này có tên riêng trong logic: tollensing the ponens — khi một suy luận hợp lệ dẫn tới kết luận không thể chấp nhận, ta có quyền lật ngược mà bác bỏ một tiền đề thay vì chấp nhận kết luận. Ở John Rawls, nguyên tắc tương ứng là “cân bằng phản tư” (reflective equilibrium): điều chỉnh qua lại giữa các nguyên lý lý thuyết và các phán đoán đạo đức mà ta tin chắc, cho tới khi hai bên khớp nhau.
[12] Discount rate — tỷ lệ dùng để quy đổi giá trị của lợi ích hoặc thiệt hại trong tương lai về giá trị hiện tại. Trong đạo đức học về biến đổi khí hậu và rủi ro tồn vong, việc chọn tỷ lệ chiết khấu nào cho phúc lợi của các thế hệ tương lai là một tranh cãi trung tâm: một thay đổi nhỏ ở tỷ lệ này làm đảo lộn hoàn toàn kết luận chính sách.
[13] Có lẽ ám chỉ vụ hành quyết mười sáu nữ tu dòng Camêlô ở Compiègne bằng máy chém tại Paris ngày 17/7/1794, trong thời kỳ Khủng bố — một trong những biểu tượng được nhắc tới nhiều nhất về việc Cách mạng Pháp nhân danh lý trí mà quay sang đàn áp tôn giáo.
[14] Ám chỉ luận điểm trong Làm gì? (1902) của Lenin: tự thân phong trào công nhân chỉ đạt tới “ý thức công đoàn”, còn ý thức xã hội chủ nghĩa phải do đội tiền phong trí thức cách mạng đưa từ bên ngoài vào. Đây là nền tảng lý luận của nguyên tắc đảng tiền phong.
[15] Effective altruism — thường viết tắt là EA. Tiếng Việt chưa có bản dịch hoàn toàn định hình; “vị tha hiệu quả” là cách dịch sát nhất và được dùng phổ biến hơn cả. Nguyên tắc cốt lõi: dùng bằng chứng và lập luận định lượng để xác định cách làm điều tốt mang lại nhiều lợi ích nhất trên mỗi đồng chi ra. “Altruism” (vị tha) có gốc từ tiếng Pháp altruisme, do Auguste Comte đặt ra giữa thế kỷ XIX từ autrui (người khác), để đối lập với égoïsme.
[16] Bộ Quốc phòng Hoa Kỳ được đổi tên thành Bộ Chiến tranh (Department of War) theo sắc lệnh hành pháp năm 2025, khôi phục tên gọi dùng trước năm 1949.
[17] “Raising the sanity waterline” — khẩu hiệu của Eliezer Yudkowsky trên diễn đàn LessWrong, chỉ chủ trương nâng mặt bằng tư duy duy lý của toàn xã hội thay vì chỉ tranh luận từng niềm tin sai lẻ tẻ. Cả ba tiêu đề mục của bài này — “Raising the sanity waterline”, “Shut up and multiply”, “Politics is the mind-killer” — đều là khẩu ngữ do Yudkowsky đặt ra — một dụng ý của tòa soạn mà độc giả trong giới sẽ nhận ra ngay.
[18] Câu này lấy từ lời tựa Milton Friedman viết năm 1982 cho lần tái bản cuốn Capitalism and Freedom. Nguyên ý: chỉ khi khủng hoảng ập đến thì thay đổi thực sự mới xảy ra, và khi đó hành động được chọn phụ thuộc vào những ý tưởng đang sẵn có trong lưu thông — nên nhiệm vụ của người làm tư tưởng là giữ cho các phương án thay thế luôn tồn tại cho tới khi điều bất khả thi về chính trị trở thành điều tất yếu.
[19] Tháng 11/2023, hội đồng quản trị OpenAI bãi nhiệm Sam Altman; ông được phục chức sau năm ngày, còn phần lớn hội đồng cũ, trong đó có Helen Toner, thì rời đi.
[20] Thí nghiệm “đứa trẻ chết đuối” xuất hiện trong tiểu luận “Famine, Affluence, and Morality” (Nạn đói, sự sung túc và đạo đức), Peter Singer, 1972, viết trong bối cảnh nạn đói ở Đông Pakistan. Đây là văn bản nền tảng của toàn bộ phong trào.
[21] Longtermism — quan điểm cho rằng việc tác động tích cực tới tương lai xa là một ưu tiên đạo đức hàng đầu, dựa trên lập luận rằng số người sẽ sống trong tương lai lớn hơn số người đang sống nhiều bậc độ lớn. Tạm dịch “chủ nghĩa trường kỳ”.
[22] Existential risk — rủi ro có thể xóa sổ sự sống có trí tuệ hoặc vĩnh viễn triệt tiêu tiềm năng phát triển của nó. Bostrom đặt ra thuật ngữ này trong bài “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards” (2002).
[23] “The Sequences” là tập hợp các bài Yudkowsky viết trên Overcoming Bias rồi LessWrong trong giai đoạn 2006–2009. Harry Potter and the Methods of Rationality (2010–2015) là truyện đồng nhân (fan fiction) dựng lại thế giới Harry Potter với một nhân vật chính được nuôi dạy theo phương pháp khoa học; tác phẩm này là cửa ngõ đưa rất nhiều người trẻ vào cộng đồng duy lý.
[24] Koan — tiếng Nhật, từ Hán tự 公案 (“công án”), chỉ những câu hỏi hoặc tình huống nghịch lý mà thiền sư đặt ra cho đệ tử, không nhằm có đáp án đúng mà nhằm bẻ gãy lối tư duy thông thường. Tiếng Việt dùng thẳng “công án” trong văn cảnh Phật giáo.
[25] “Shut up and multiply” — khẩu hiệu của Yudkowsky, kêu gọi gác trực giác đạo đức sang một bên mà làm phép nhân xác suất với giá trị kỳ vọng. Nó tóm lược đúng thứ kỷ luật tư duy mà bài báo cho là vừa tạo nên sức mạnh vừa tạo nên điểm mù của phong trào.
[26] Laurence Iannaccone, “Why Strict Churches Are Strong”, American Journal of Sociology, 1994. Luận điểm: những đòi hỏi tưởng như vô lý của các giáo phái khắt khe thực ra là cơ chế sàng lọc, loại bỏ người “đi nhờ” và nâng mức đóng góp của người ở lại.
[27] Giving What We Can (2009) vận động cam kết quyên góp trọn đời 10% thu nhập; 80,000 Hours (2011) — tên lấy từ ước lượng số giờ làm việc của một đời người — tư vấn hướng nghiệp theo tiêu chí tác động xã hội. Chiến lược được nhắc tới ở đây có tên riêng trong phong trào: earning to give, kiếm tiền để cho đi.
[28] Thí nghiệm tư duy do Nick Bostrom nêu năm 2003, minh họa luận điểm rằng một mục tiêu hoàn toàn vô hại cũng có thể dẫn tới thảm họa nếu được theo đuổi bởi một trí tuệ đủ mạnh mà không bị ràng buộc bởi các giá trị con người.
[29] FTX sụp đổ tháng 11/2022; Sam Bankman-Fried bị kết tội lừa đảo năm 2023 và lãnh án 25 năm tù năm 2024.
[30] Singularity Summit 2010, do Singularity Institute for Artificial Intelligence tổ chức — viện này về sau đổi tên thành MIRI (Machine Intelligence Research Institute).
[31] R.L.H.F. — kỹ thuật tinh chỉnh mô hình ngôn ngữ dựa trên đánh giá của con người đối với các câu trả lời mẫu. Nghịch lý mà đoạn này nêu ra: kỹ thuật được phát triển vì mục đích an toàn lại chính là thứ biến mô hình ngôn ngữ thành sản phẩm thương mại dùng được, và do đó đẩy nhanh cuộc đua.
[32] Hugging Face là nền tảng lưu trữ và phân phối mô hình học máy mã nguồn mở lớn nhất thế giới. METR (Model Evaluation and Threat Research) và Redwood Research là các tổ chức đánh giá độc lập về an toàn AI. Vụ việc được nhắc tới ở đây, cùng các diễn biến tháng 8–9/2026 trong đoạn này, nằm ngoài phạm vi kiểm chứng của người dịch.
[33] Scott Alexander — bút danh của tác giả blog Slate Star Codex, nay là Astral Codex Ten, một trong những tiếng nói có ảnh hưởng nhất của cộng đồng duy lý. Tên hội nghị trong nguyên văn là một từ tục; bản dịch giữ nguyên tên riêng.
[34] “Politics is the mind-killer” — một bài trong “The Sequences” của Yudkowsky, lập luận rằng tư duy phe phái chính trị làm hỏng khả năng suy luận ngay cả ở những người thường rất chặt chẽ, nên người duy lý cần tránh lấy chính trị làm ví dụ minh họa. Việc tòa soạn dùng chính câu này làm tiêu đề cho mục bàn về tranh cãi đạo đức nội bộ phong trào là một tầng mỉa mai.
[35] Kỹ thuật nêu ở đây gọi là eyestalk ablation (cắt bỏ cuống mắt), vẫn phổ biến trong ngành nuôi tôm thương phẩm, kể cả ở Việt Nam, nhằm kích thích tôm mẹ thành thục sinh dục sớm. Rethink Priorities là tổ chức đứng sau “Moral Weight Project”, nỗ lực định lượng khả năng cảm nhận của các loài để so sánh trên cùng một thang.
[36] Nguyên văn trong bản hiến chương (constitution) của Anthropic dành cho Claude: “The issue is live enough to warrant caution.”
[37] “Utility monster” — xuất hiện trong Anarchy, State, and Utopia (1974) của Robert Nozick, như một phản ví dụ nhằm bác bỏ chủ nghĩa vị lợi: nếu tồn tại một sinh vật thu được nhiều thỏa dụng từ mỗi đơn vị tài nguyên hơn hẳn mọi người khác, thì phép tính vị lợi buộc phải dồn hết tài nguyên cho nó — một kết luận mà Nozick coi là bằng chứng cho thấy học thuyết ấy sai.
[38] Nick Bostrom và Carl Shulman, “Sharing the World with Digital Minds” (2020).
Xem thêm: Ai đã giác ngộ và huấn luyện Peter Thiel, Musk và phó tổng thống JD Vance?
