Bức màn silicon

<p style="font-size:23px">Vào mùa hè năm 2022, một kỹ sư phần mềm tên là Blake Lemoine đã bị Google sa thải sau một cuộc phỏng vấn với tờ The Washington Post, trong đó kỹ sư này tuyên bố rằng LaMDA, chương trình trò chuyện mà anh đang phát triển, đã đạt được khả năng “tri giác”.</p>

<p style="font-size:23px">Vài tháng sau, vào tháng 3/2023, một bức thư ngỏ từ Viện Tương lai của Sự sống , được ký bởi hàng trăm nhà lãnh đạo công nghệ bao gồm Steve Wozniak (đồng sáng lập Apple) và Elon Musk, đã kêu gọi các phòng thí nghiệm AI tạm dừng nghiên cứu của họ. Trí tuệ nhân tạo, theo tuyên bố từ bức thư ngỏ này, gây ra “rủi ro sâu sắc cho xã hội và nhân loại”.</p>

<p style="font-size:23px">Tháng sau, Geoffrey Hinton, “bố già của AI”, đã nghỉ việc tại Google, nói với báo chí rằng ông hối hận về công việc mà cả đời mình đã theo đuổi. “Chúng ta chưa biết cách nào khả thi để có thể ngăn chặn được những kẻ xấu sử dụng AI cho những mục đích của chúng”, ông cảnh báo.</p>

<p style="font-size:23px">Trong vài năm trở lại đây, chúng ta đã quen với những sứ giả sợ hãi trở về từ biên giới AI với những cảnh báo về ngày tận thế. Tuy nhiên, hành động thực sự dưới hình thức quản lý cứng rắn vẫn chưa có nhiều. Sắc lệnh hành pháp về AI năm ngoái (Sắc lệnh hành pháp về Trí tuệ nhân tạo của Tổng thống Biden, được công bố vào ngày 30/10/2023), như một nhà bình luận đã nói , là “có định hướng và đầy khát vọng” — một lời khen ngợi yếu ớt đầy ẩn ý.</p>

<p style="font-size:23px">Trong khi đó, giá cổ phiếu của ngành công nghệ tiếp tục tăng vọt với những tuyên bố sáo rỗng quen thuộc: “Lợi ích lớn hơn rủi ro”; “thần đèn đã ra khỏi đèn”; “nếu chúng ta không làm, kẻ thù sẽ làm”.</p>

<p style="font-size:23px">Yuval Noah Harari không có thời gian cho những lời bào chữa này. Năm 2011, ông đã xuất bản “ Sapiens”, một cuốn sách tao nhã và đôi khi sâu sắc về lịch sử nhân loại. Cuốn sách đã trở thành một hiện tượng, bán được hơn 25 triệu bản trên toàn thế giới. Harari tiếp tục bằng cách hướng sự chú ý của mình về phía trước với “Homo Deus”, trong đó ông xem xét tương lai của chúng ta. </p>

<p style="font-size:23px">Lúc này, Harari, một nhà sử học hàn lâm, đã phải gánh trên vai một bản sắc nghề nghiệp mới và một vòng tròn ảnh hưởng mới: chuyên gia AI, được mời vào các cấp bậc tinh tế của “các nhà khoa học, doanh nhân và nhà lãnh đạo thế giới”. Về bản chất, “Nexus” là báo cáo của Harari từ thế giới này.</p>

<p style="font-size:23px">Đầu tiên, phải nói rằng tiêu đề phụ — “Lịch sử tóm tắt về mạng thông tin từ thời đồ đá đến AI” — gây hiểu lầm. Thực sự, những gì chúng ta có là hai cuốn sách riêng biệt, không cuốn nào ngắn gọn. 200 trang đầu thực sự là cuốn sách mang tính lịch sử theo cách của chúng. Thật không may, đây là một phiên bản lịch sử toàn diện, chóng mặt, đi chệch hướng từ những tấm đất sét của người Assyria đến một đợt bùng phát dịch tả thế kỷ 19, đến bản chuyển thể “Ramayana” trên truyền hình Ấn Độ, đến Cuộc nổi loạn của nông dân ở Anh thời trung cổ, đến Thảm sát Holocaust ở Romania, v.v. Nó tạo cảm giác không được kiểm soát và hiệu ứng hơi giống một chuyến bay mà người ngồi cạnh bạn là người đọc nhiều, cực kỳ say cà phê và quyết tâm kể cho bạn nghe lý thuyết về mọi thứ của anh ta.</p>

<p style="font-size:23px">Tóm lại, luận điểm của Harari là sự khác biệt giữa nền dân chủ và chế độ độc tài nằm ở cách xử lý thông tin. Chế độ độc tài quan tâm đặc biệt đến việc kiểm soát dữ liệu hơn là kiểm tra giá trị chân lý của nó; ngược lại, nền dân chủ là mạng lưới thông tin minh bạch trong đó công dân có thể đánh giá và nếu cần, sửa dữ liệu xấu.</p>

<p style="font-size:23px">Tất cả những điều này có vẻ hiển nhiên-thú vị, nhưng cũng quá mơ hồ — quá dễ bị phản biện — để tạo thành một lý thuyết hữu ích về thông tin. Sau thời gian dài, chúng ta đã đi đến bằng chứng lỏng lẻo về những gì chúng ta hy vọng đã cảm thấy: Các hệ thống tự điều chỉnh — vì chúng thúc đẩy đối thoại và tương hỗ — được ưa chuộng hơn các hệ thống chỉ cung cấp sự phục tùng mù quáng, bị tước quyền.</p>

<p style="font-size:23px">Tuy nhiên, cuối cùng, điều này không thực sự quan trọng, vì nửa sau của cuốn sách mới là nơi diễn ra hành động. Nội dung chính của “Nexus” về cơ bản là một bản tóm tắt chính sách mở rộng về AI: Rủi ro của nó là gì và có thể làm gì? (Chúng ta không nghe nhiều về những lợi ích tiềm năng vì, như Harari chỉ ra, “những doanh nhân dẫn đầu cuộc cách mạng AI đã ném bom công chúng bằng đủ những dự đoán lạc quan về chúng”). Phải mất quá nhiều thời gian để đến được đây, nhưng khi chúng ta đến nơi, Harari cung cấp một bài học vỡ lòng hữu ích và có hiểu biết sâu sắc.</p>

<p style="font-size:23px">Những mối đe dọa mà AI gây ra không phải là những mối đe dọa mà các nhà làm phim hình dung ra: HAL của Kubrick nhốt chúng ta trong khoang khí ; một RoboCop phát xít diễu hành trên vỉa hè. Chúng thâm độc hơn, khó thấy hơn, nhưng có khả năng tồn tại. Chúng bao gồm sự phân cực thảm khốc của diễn ngôn khi các thuật toán truyền thông xã hội được thiết kế để độc quyền sự chú ý của chúng ta, cung cấp cho chúng ta tài liệu cực đoan, đáng ghét. Hoặc việc thuê ngoài phán đoán của con người — ra quyết định về mặt pháp lý, tài chính hoặc quân sự — cho một AI có sự phức tạp trở nên không thể hiểu được đối với chính sự hiểu biết của chúng ta.</p>

<p style="font-size:23px">Lặp lại lời Churchill, Harari cảnh báo về một “Bức màn Silicon” đang xuất hiện giữa chúng ta và các thuật toán mà chúng ta đã tạo ra, ngăn cách chúng ta khỏi những cuộc trò chuyện của chính mình — về cách chúng ta muốn hành động, tương tác hoặc tự quản lý bản thân.</p>

<p style="font-size:23px">Tuy nhiên, không có kịch bản nào trong số này là chắc chắn. Harari chỉ ra vấn đề về thư rác email, thứ từng làm tắc nghẽn hộp thư đến của chúng ta và lãng phí hàng triệu giờ làm việc hiệu quả mỗi ngày. Và rồi, đột nhiên, nó không còn như vậy nữa. Vào năm 2015, Google đã có thể tuyên bố rằng thuật toán Gmail của họ có tỷ lệ thành công 99,9 phần trăm trong việc chặn thư rác thực sự. “Khi những gã khổng lồ công nghệ quyết tâm thiết kế các thuật toán tốt hơn”, Harari viết, “họ thường có thể làm được”.</p>

<p style="font-size:23px">Những mối đe dọa mà AI gây ra không phải là những mối đe dọa mà các nhà làm phim hình dung ra: HAL của Kubrick nhốt chúng ta trong khoang khí ; một RoboCop phát xít diễu hành trên vỉa hè. Chúng thâm độc hơn, khó thấy hơn, nhưng có khả năng tồn tại. Chúng bao gồm sự phân cực thảm khốc của diễn ngôn khi các thuật toán truyền thông xã hội được thiết kế để độc quyền sự chú ý của chúng ta cung cấp cho chúng ta tài liệu cực đoan, đáng ghét. Hoặc việc ủy quyền ra quyết định nằm ngoài phán đoán của con người — về mặt pháp lý, tài chính hoặc quân sự — cho một AI phức tạp, sẽ trở nên không thể hiểu được đối với chính sự hiểu biết của chúng ta.</p>

<p style="font-size:23px">Lặp lại lời Churchill, Harari cảnh báo về một “Bức màn Silicon” (Churchill sử dụng cụm từ “<em>bức màn</em> sắt” trong Chiến tranh Lạnh) đang xuất hiện giữa chúng ta và các thuật toán mà chúng ta đã tạo ra, ngăn cách chúng ta khỏi những cuộc trò chuyện của chính mình — về cách chúng ta muốn hành động, tương tác hoặc tự quản lý bản thân.</p>

<p style="font-size:23px">Tuy nhiên, không có kịch bản nào trong số này là chắc chắn. Harari chỉ ra vấn đề về thư rác email, thứ từng làm tắc nghẽn hộp thư đến của chúng ta và lãng phí hàng triệu giờ làm việc hiệu quả mỗi ngày. Và rồi, đột nhiên, nó không còn như vậy nữa. Vào năm 2015, Google đã tuyên bố rằng thuật toán Gmail của họ có tỷ lệ thành công 99,9 phần trăm trong việc chặn thư rác. “Khi những gã khổng lồ công nghệ quyết tâm thiết kế các thuật toán tốt hơn”, Harari viết, “họ thường có thể làm được”.</p>

<p style="font-size:23px">Ngay cả trong nửa sau, không phải tất cả “Nexus” đều có cảm giác mới mẻ. Nếu bạn chú ý đến tin tức, bạn sẽ nhận ra một số câu chuyện mà Harari kể. Nhưng, ở mức tốt nhất, cuốn sách của ông tóm tắt tình hình hiện tại với sự rõ ràng đáng nhớ.</p>

<p style="font-size:23px">Một số phần của “Nexus” rất khôn ngoan và táo bạo. Chúng nhắc nhở chúng ta rằng các xã hội dân chủ vẫn có đủ khả năng ngăn chặn những hành vi thái quá nguy hiểm nhất của AI, và rằng không được để các công ty công nghệ và những ông chủ tỷ phú của họ muốn làm gì thì làm.</p>

<p style="font-size:23px">Điều đó nghe có vẻ là lẽ thường tình, nhưng nó lại có giá trị khi được một trí thức toàn cầu có tầm ảnh hưởng như Harari nói ra. Thật đáng thất vọng khi ông ấy không thể nói ngắn gọn hơn.</p>

<p style="font-size:23px"><strong><em>(Dennis Duncan/Nytimes)</em></strong></p>

<p class="has-cyan-bluish-gray-background-color has-background">NEXUS: Lược sử về các mạng lưới thông tin từ Thời kỳ đồ đá đến kỉ nguyên Trí tuệ nhân tạo – Yuval Noah Harari – Bản tiếng Việt bìa cứng và bìa mềm, NXB Thế Giới. Đơn vị phát hành: Alphabooks. Mua<a href="https://shop.alphabooks.vn/nexus-luoc-su-cua-nhung-mang-luoi-thong-tin-tu-thoi-dai-do-da-den-tri-tue-nhan-tao-yuval-noah-harari-ban-tieng-viet-bia-cung-p39105831.html" title=""> tại đây</a>.</p>

<p></p>