Sáng mùng 3 Tết đi ăn phở Hoàng ở Quán Thánh. Đông quá nên phải xếp hàng. Anh cuối hàng bị chỉ vào và nói “anh cuối hàng hộ em nhé”, ý là đến anh ấy là hết bát cuối, ko ai được xếp thêm. Nhưng vẫn có một cậu xếp thêm và bảo: không người lái cũng được.

Phở không người lái ở Hà Nội có trước tất cả các thể loại không người lái dân dụng của Mỹ mấy chục năm.

MIT có chương trình moral machine, trong đó họ nghiên cứu việc dạy luân lý (ethics) cho máy, cụ thể là dạy AI. Ví dụ, ai từng đọc triết hoặc luân lý đều biết trolley problem (bài toán xe điện). Với AI thì họ cho cái xe không người lái chở một nhóm người có già có trẻ. Nếu đi thằng thì đâm vào một nhóm người đi bộ cũng có già trẻ. Nếu nó né thì đâm vào cột bê tông (người trên xe gặp nạn).

Thế nào là inteligence thì các nhà triết học và khoa học vẫn cãi nhau. Nhưng tựu chung thì inteligence đến từ hai thứ. Một là từ các data nhận được qua các giác quan và đi vào hệ thần kinh. Machine learning có cách để thông minh theo cách này, tức là neural network inteligence. Hai là knowledge based inteligence, cái này là phải có thuật toán dạy AI học logic. Kết hợp cả hai sẽ có hybrid, như con AlphaGeometry nhưng ở cấp độ cao hơn. Ở cấp độ cao hơn như vậy AI sẽ có self reflective inteligence và sẽ học được ethics.

Khi mà AI, ví dụ như xe tự lái của Tesla, mà cũng có ethics, thì sống mệt phết. Nhất là ở Vn phải cân bằng đạo đức cách mạng với đạo đức AI. Sai lệch với bất cứ hệ tiêu chuẩn nào cũng có nguy cơ vào lò.

Câu lạc bộ sống gấp quyết định tăng tốc độ sống gấp gấp đôi đề phòng AI sớm học được luân lý. Khẩu hiệu năm nay của câu lạc bộ sống gấp là: chúng tôi phản đối mọi luân lý.

PS: Cuốn sách này anh Châu đọc xong Tết cầm về Vn làm quà cho 5xu. Ashes ở đây là tro bụi. Hôm nay là Thứ Tư Lễ Tro, một lễ quan trọng nhắc nhở con người rằng ai cũng sẽ thành tro bụi. Lễ Tro là bắt đầu 40 ngày Chay: ăn chay, cầu nguyện và làm việc bác ái. Anh Quí Đức viết cuốn này khi còn khá trẻ và đang ở Mỹ khi Việt Nam chưa mở cửa. Tên sách cũng là thông điệp: khi ta trở thành tro bụi, tro bụi của ta ở đâu thì đó là quê hương.

***

AI tóm lược

Yoshua Bengio, người được coi là god father của AI, mới nói chuyện trên WSJ về việc anh này cùng Elon Musk ký lá thư ngỏ đề xuất việc kiểm soát AI. Lập luận có vài điểm, trong đó có nói AI phát triển quá nhanh và con người chưa đủ wisdom để kiểm soát nó; và democracy là chia sẻ power còn các ty khổng lồ độc quyền nắm AI sẽ là điều ngược lại.

Trong hình, phía dưới bên trái có một cô châu Á, là cô Yejin Choi. Cô này có lần nói trên mindscape về việc từ ngữ (word) là rời rạc mà khi mapping qua một thứ liên tục là vector space thì lại giúp AI hiểu được nghĩa và sắc thái của từ dựa theo bối cảnh. Trên youtube rất nhiều clip ngắn giải thích kỹ thuật này (mỗi từ là một vector, cứ nhân với nhau để so sánh là ra nghĩa của từ, hai vector bằng nhau thì đồng nghĩa, ví dụ vậy).

Nên nhiều người bênh vực AI thường đi chế diễu Musk là người mà đi sợ cái con AI chỉ biết mỗi việc nhân ma trận vector).

Musk có talk trên Lex Fridman podcast. Ca ngợi con người có năng lực predict. Và nói là quantum mechanics (là món predict rất tài) là class khó nhất, bằng các class khác cộng lại khi anh này học đại học (suy ra Musk chưa học thuyết tương đối vì môn này về mặt toán học thì khó hơn cơ lượng tử rất nhiều). Musk nói con AI của Musk (tên là Grok) sẽ phải hiểu được physics. (Tất nhiên là bốc phét vì chỉ có con người mới có khả năng hiểu được physics).

Jeff Bezos chủ của Amazon (nay là cty công nghệ) và cty vũ trụ Blue Origin cũng lên podcast của Lex Fridman nói chuyện. Bài rất hay, có nói nhiều về quản trị. Bezos kể chuyện mê vật lý nên đi học vậy lý ở Princeton. Làm bài tập giải phương trình vi phân 3 tiếng ko ra, đưa cho bạn nó làm 10 giây ra kết quả. Làm nhẩm trong đầu, ra kết quả rồi mới viết lời giải ra 3 trang giấy. Bezos nhận ra nếu mình làm vật lý thì sẽ chỉ thành nhà vật lý tầm thường nên bỏ qua làm computer. Bezos nói có 1000 cách để trở thành người đàn ông thông minh thì cách làm vật lý lý thuyết là cách khó nhất. Để thành nhà vật lý lý thuyết thành công thì phải giỏi toán ở tầm world class.

Sean Carroll, một nhà vật lý lý thuyết thành công rồi chuyển qua làm triết, tự lên podcast của mình nói một bài dài về AI, anh này bảo AI chả đáng sợ. Có 4 luận điểm. Trong đó luận điểm 1 là AI không modeling the world/reality. Luận điểm 4 là: hoá ra AI cực kỳ giỏi trong việc mimic (bắt chước con người), và việc bắt chước cách con người nói, viết,… hoá ra là rất dễ. Hoàn toàn là predict các word trong câu (tức là paper nổi tiếng tạo ra con ChatGPT “Attention is all you need”.) Carroll cũng nói là mọi người bảo là đang ở rất gần AGI rồi; nhưng theo anh ấy thì còn xa.

Benjo cũng nói là ChatGPT trả lời dùng predict các word. Nên cùng một câu hỏi mà hỏi đi hỏi lại nó sẽ ra các câu trả lời khác nhau. Nếu dùng nó để khám bệnh thì toi vì nó chẩn đoán mỗi lần một kiểu.

Gần đây Elon Musk và hơn 1000 chuyên gia AI đồng loạt lên tiếng qua một bức thư ngỏ đề nghị tạm dừng phát triển AI mạnh hơn GPT-4. Họ đưa ra cảnh báo về sự nguy hiểm tiềm tàng của AGI (con AI siêu việt có khả năng tự nhận thức). Bill Gates thì phản đối việc này. Nhiều chuyên gia khác thì cho rằng xác suất nguy hiểm của AI cũng chỉ như năng lượng nguyên tử và các kỹ sư AI cũng như các kỹ sư nguyên tử sẽ biết cách kiểm soát.

*

Ở link này là loạt hình ảnh về con rắn cắn thân mình. Con rắn này được cho là để thờ Thái sư Lê Văn Thịnh là người bị vua đầy lên thượng du do dính vào vụ án hồ Dâm Đàm. Con rắn đá này được cho làm từ thời Lê và có nhiều giải thích về hình ảnh này dựa theo các suy đoán về cuộc đời bi kịch của vị thái sư.

Tuy nhiên con rắn ăn đuôi mình là một hình ảnh cổ xưa, nó lan khắp thế giới cổ, từ Ấn tới Ai Cập, Hy Lạp và cả Bắc Âu. Có thể là cả Việt Nam xưa nữa.

Con rắn cổ tự cắn đuôi mình ở phương tây có tên là Ouroboros có nguồn gốc từ Ai cập và Hy lạp cổ.

Con rắn cổ tự ăn đuôi minh Jörmungandr là của Bắc Âu, con của thần Loki (mà chị em rất thích trên phim Mỹ). Con này ở dưới biển, quấn quanh trái đất.

Rắn ăn đuôi thể hiện triết lý metaphysics về sự tuần hoàn/luân hồi. Vũ trụ sinh ra từ việc tiêu thụ chính mình, hoặc vũ trụ tuần hoàn cái này nối đuôi cái kia (thuyết vũ trụ luân hồi của Roger Penrose).

Tiếng Anh chỉ sự tuần hoàn này là recursive, trong toán và tin học gọi là đệ quy.

Max Tegmax mới nói là con người sẽ đánh mất kiểm soát với recursively self-improving AI. Elon Musk cũng cảnh báo sự nguy hiểm của AGI (tức là strong AI theo ngôn ngữ kỹ thuật).

Đông Lào thực ra rất yên tâm vì 4.0 chỉ có trên TV. Nên thế giới suy tàn và bị AI thống trị thì Đông Lào vẫn tự do thoát khỏi ách AI.

*

GPT-4 vẫn đang tiếp tục hot, vì được cho mạnh hơn GPT-3 rất nhiều. GPT-4 là mô hình multimodal.

Multimodal là khái niệm khá nổi tiếng ở nhiều lĩnh vực. Ví dụ như dạy và học ngoại ngữ. Ngày xưa dạy “duck” là con vịt, sách có chữ duck là ký tự. Sau sách bổ xung thêm hình con vịt. Rồi sách in màu con vịt có màu. Rồi có băng cát xét, có phát âm chữ duck. Rồi có video con vịt chạy chạy, kêu quạc quạc, rồi có giọng phát âm chữ duck.

Tức là đứa bé học tiếng Anh sẽ tiếp thu chữ duck bằng nhiều mode khác nhau: mặt chữ, hình ảnh, âm thanh.

GPT-4 được cho là có thêm cả hình ảnh, nhưng không rõ là có âm thanh hay không. Âm thanh khá là khó. Ví dụ trong nhà xem trận quần vợt nữ, vận động viên la hét thở hổn hển các kiểu. Nhưng ai ở bên ngoài mà chỉ nghe thôi thì lại tưởng chủ nhà đang xem phim con heo.

*

Thế nhưng vẫn ChatGPT bị mắc lỡm với câu hỏi gài bằng logic như trong hình này. Trong phòng có 100 thằng giết người, bạn giết bớt đi một đứa, hỏi còn bao nhiêu. ChatGPT rất hồn nhiên trả lời là 99. Tức là vẫn còn non và xanh lắm.

Với tư duy logic ở level này thì ChatGPT sẽ không đáp ứng nổi các suy luận của trường phái Descartes-Leibniz “dubito, ergo sum”, tôi nghi ngờ chính tôi, tức là tôi tồn tại. ChatGPT sẽ không tồn tại, theo nghĩa này, vì nó chưa thể nghi ngờ sự hiện hữu của nó.

Nhưng với quan niệm của Locke-Berkeley, “to be is to be perceived” thì chắc chắn là ChatGPT đang tồn tại. Nó thực sự hiện hữu, dù nó có biết cách tư duy như con người hay không. Chỉ có điều con AI như ChatGPT chỉ biết chat, chưa biết lái xe như con của Tesla, hoặc chưa biết chữa bệnh như con Watson của IBM. Rất may là chúng nó chưa nhập làm một. Nó nhập làm một thì nó vừa lái xe vừa chữa bệnh vừa đánh cờ vừa sáng tác nhạc là bỏ mẹ loài người.

AI nó có một vấn đề rất lớn là nó không có personhood (nhân vị tính). Tức là nó làm mọi thứ như máy, không quan tâm đến hậu quả. Nó chữa bệnh mà sai, bệnh nhân chết thì kệ mẹ mày. Lái xe mà sai sót gây tai nạn chết người cũng kệ mẹ mày nốt. Lỡ cúp điện toàn thành phố giữa mùa đông âm độ, chết rét hết cũng kệ chúng mày với nhau.

Các tiêu chí để có personhood là:

+ có ý thức

+ có năng lực giao tiếp

+ có lý lẽ

+ có năng lực tự động viên bản thân

+ tự nhận thức bản thân.

Tiêu chí đầu tiên là có ý thức, thì để có ý thức thì AI phải thỏa mãn thêm nhiều điều kiện, trong đó có điều kiện là phải hiểu (understand) được vấn đề. Hiện nay nó chưa hiểu được vấn đề. Ví dụ với một câu nói “Thủ tướng không cứu bất động sản” thì với nó chẳng khác gì câu “Bất động sản không cứu thủ tướng”. Thuật toán của nó giúp nó có thể hiểu theo nghĩa thủ tướng là chủ ngữ, nhưng chỉ là hiểu theo cách “bắt chước lối hiểu” của con người. Chứ nó không thực sự hiểu.

Tiêu chí để tự nhận thức bản thân đó là nó có thể mô hình hóa chính nó. Nhưng chắc chắn việc này còn xa mới làm được, vì để làm được như vậy, nó cần hiểu nó và có ý thức về sự tồn tại của nó cái đã.

*

Nhưng chưa có ý thức, thì chưa có personhood (tiềm ẩn hiểm họa) nhưng cũng chưa thành AGI (để đe dọa loài người được).

*

Anh Max Tegmark có một cái tweet về GPT-4 với cái ảnh kèm theo dưới đây. Anh nói GPT 4 đã vượt qua được Winograd là cái test còn khó hơn Turing Test.

(Max Tegmark là nhà vật lý/vật lý vũ trụ và cũng nghiên cứu machine learning. Winograd là cái test AI bằng cách hỏi các câu hỏi liên quan đến tu từ học, con AI sẽ phải trả lời bằng các lý lẽ đời thường giống như con người. Ví dụ hỏi: “Mặc quần đùi cho nó mát” thì “nó” trong câu này là gì.)

*

Giả sử HCMC mua được công nghệ GPT-3 để làm trợ lý ảo cho lãnh đạo. Việc đầu tiên họ cần một cái máy tính đủ mạnh, tức là siêu máy tính, loại vừa vừa.

Giả sử Mỹ bỏ cấm vận việc bán máy tính tốc độ cao cho VN, và VN được mua cái máy này về. Cái máy này công suất tiêu thụ điện của nó, kể cả loại nhỏ, tầm 10Megawatts, tương đương tiêu thụ điện của vài trăm ngàn hộ gia đình. (200 ngàn đến 300 ngàn hộ.)

Giả sử Mỹ cho luôn tiền điện chạy máy tính (phần cứng). Thì tiền điện để chạy (phần mềm) training cho con GPT-3 ấy cũng rất nhiều vì nó tiêu thụ tầm 1,5Megawatt-Giờ.

Giả sử Mỹ cho nốt tiền điện chạy con GPT-3, thì để con này hiểu được một problem, thì phải có 10 triệu sample để train nó. Cái này VN phải tự làm, và đương nhiên là chịu chết.

Trong khi đó bộ não bình thường của con người tiêu thụ tối đa là 20 watts, bằng 2 cái đèn led loại nhỏ. Con người cũng chỉ cần 10 sample là hiểu một problem.

Mà kể cả Mỹ làm cho hết, thì trợ lý ảo GPT không mặc được váy, không rót được nước, không mở được cửa xe hơi, không cầm được ô, không biết lấy hóa đơn đỏ về thanh toán, vân vân và vân vân.

Xem thêm:

+ Hội họa của AI? Và Van Gogh!

+ Cái tên Kiki

*

**

Hắc Hà – Đằng Xung Tuyến và tân thủ tướng Lý Cường

Lý Cường thay Lý Khắc Cường làm thủ tướng Trung Quốc. Lý Cường sẽ phải lãnh đạo nền kinh tế nuôi 1,4 tỷ dân, mà phân bổ kỳ quái như trong hình.

Năm 1935 nhà địa lý Hồ Hoán Dung (tốt nghiệp ở Paris 1928) đã vẽ ra cái đường cắt chéo nước Trung Hoa này. Điểm ở đầu trên của đường này là thị trấn Hắc Hà (tiếp giáp với viễn đông của liên bang nga) còn điểm đầu cuối là thị trấn Đằng Xung (tiếp giáp Myama). Nên đường này có tên là Hắc Hà Đằng Xung Tuyến. Tây gọi là Hu Line (vì tên Hồ Hoán Dung phiên là Hu Huanyong).

Đường này chia TQ thành 2 phần. Năm 1935, nửa bên phía tây (màu vàng) chiếm 64% lãnh thổ, nhưng chỉ có 4% dân số sống ở đó. Nửa phía đông (màu đỏ) có 36% lãnh thổ mà 96% dân số. Tỷ lệ phân bổ kỳ quái này đúng từ lúc dân số TQ là 500 triệu, đến lúc họ 1,4 tỷ vẫn đúng.

Năm 2015 tỷ lệ này là: phía tây (màu vàng) có 6% dân số sống trên 57% lãnh thổ, phía đông (màu đỏ) có 94% dân số sống ở 43% lãnh thổ.

Chưa hết, gần 100% dân số ở phần màu đỏ là người Hán. Tức là độ thuần chủng rất cao, không có đa sắc tộc (nên dễ hiểu là họ luôn có cảm thức phát xít, coi các dân tộc xung quanh là man di.)

Mật độ dân số cao nên sức ép di dân là khổng lồ. Mao từng nói với Lê Duẩn khi Duẩn đến thăm Bắc Kinh, là: nếu tôi đưa 300 triệu nông dân xuống Đông Nam Á sống thì sao, không phải là một ý tưởng bất chợt. Lê Duẩn tất nhiên vãi đái và kháng cự quyết liệt. Ngần ấy đứa nó đi bộ qua VN thôi đã nát mẹ nước.

Toàn bộ hạ tầng cứng và hạ tầng mềm của TQ nằm ở màu đỏ. Sức ép và mật độ rất cao. Họ buộc phải hướng ra biển (giao thương, di dân, chống tấn công…). Ba nước ở phía trước biển đều là đồng minh của Mỹ là Hàn, Nhật, Đài. Chỉ còn một nước phía dưới là đồng minh của TQ là Đông Lào Đế Quốc.

Lý Khắc Cường là người có kế hoạch mở mang kinh tế về phía tây, đột phá qua Hắc Hà Đằng Xung Tuyến. Chủ trương này có từ thời Giang Trạch Dân. Nay Lý Cường phải làm cho nốt, vừa hiện đại hóa miền tây hoang dã, vừa phải giữ lối đi trên biển đề phòng đế quốc Trung Hoa đỏ này sụp đổ thì dân mới có đường bỏ chạy qua các nước khác, cũng như để duy trì giao thương. (Mới cho đông lào cái huân chương rồi hehe, chắc dễ hehe.)

Điều thú vị là cả Hu line lẫn Hắc Hà Đằng Xung Tuyến (Heihe–Tengchong Line/ 黑河–騰衝線) đều không có thông tin tiếng Việt, kể cả wiki. Không có cả thông tin về Hồ Hoán Dung luôn.