He Singularity Is Nearer - Điểm Kỳ Dị Đã Cận Kề - Khi Con Người Hợp Nhất Với AI
“Điểm kỳ dị đã cận kề” là tác phẩm mới nhất của chuyên gia hàng đầu về AI tại Google, dự đoán tương lai của AI, nối tiếp các tác phẩm đã thành công trên thế giới trước đó như “The singularity is near” và “How to create a mind”.
Cuốn sách phát đi tín hiệu rằng chúng ta không còn chờ đợi một viễn cảnh tương lai xa xôi: Thời điểm mà Ray Kurzweil gọi là Điểm kỳ dị (Singularity), khi con người và máy móc hợp nhất, đang đến gần hơn bao giờ hết.
Trong cuốn sách này, Kurzweil dẫn dắt độc giả đi tiếp trên hành trình mà ông bắt đầu từ “The Singularity Is Near” (2005), nhưng với dữ liệu mới, những cập nhật công nghệ, và sự tự tin lớn hơn rằng những mốc từng dự đoán giờ đang dần trở thành hiện thực.
Kurzweil dựa vào ý tưởng về luật lợi tức gia tốc (Law of Accelerating Returns) – rằng tiến bộ công nghệ không đi lên một cách tuyến tính, mà theo cấp số nhân – để giải thích tại sao những bước đột phá trong AI, công nghệ nano, và công nghệ sinh học có thể khiến Điểm kỳ dị đến gần hơn. Ông lập luận rằng sự kết hợp của các lĩnh vực này, được thể hiện qua trí tuệ nhân tạo tổng quát, giao diện não-máy tính, và cả các thiết bị siêu nhỏ như nanobot, sẽ mở đường cho một cuộc cách mạng sâu rộng trong nhận thức, sức khỏe và xã hội.
Một phần trọng tâm của sách là cách AI tiến triển. Kurzweil vẫn giữ mốc dự đoán rằng AI có thể đạt năng lực ngang con người vào khoảng cuối thập niên năm 2020. Nhưng quan trọng hơn, ông dùng rất nhiều ví dụ gần đây, như khả năng mô phỏng sinh học và khám phá ra thuốc mới bằng AI, để minh chứng rằng đường tới AGI không chỉ là kịch bản trừu tượng mà đang dần được hiện thực hóa.
Song hành với trí tuệ nhân tạo là công nghệ nano và y sinh. Kurzweil mô tả viễn cảnh nanobots tuần hoàn trong cơ thể con người, sửa chữa tế bào hư hỏng, chống lão hóa và thậm chí hỗ trợ giao tiếp giữa não người và máy tính. Trong một tương lai như vậy, việc kéo dài tuổi thọ không còn là mơ hồ: Với tốc độ tiến bộ khoa học đủ nhanh, ông tin chúng ta có thể đạt đến điểm mà mỗi năm sống thêm sẽ được “mua” bằng công nghệ, và ông gọi đây là “vận tốc thoát lão hóa”.
Không chỉ nhìn về phần cứng — ông còn bàn sâu về ý thức, nhận thức và danh tính. Khi bộ não bắt đầu được mở rộng nhờ máy móc, những câu hỏi như “Tôi là ai?”, “Cái chết có nghĩa gì?”, “Bản ngã liệu có tiếp tục?” trở nên thiết yếu. Kurzweil không chỉ đưa ra dự đoán kỹ thuật, mà còn mời gọi độc giả suy ngẫm về cách mà cá nhân, xã hội và giá trị con người có thể thay đổi trong kỷ nguyên mới.
Cuối cùng, dù sắc thái chủ đạo là lạc quan, Kurzweil không né tránh rủi ro và thách thức. Ông nhắc tới việc tự động hóa có thể dẫn đến phân hóa giàu nghèo, khủng hoảng việc làm, và rủi ro khi AI hoặc công nghệ không được kiểm soát và căn chỉnh cho phù hợp. Nhưng ông tin rằng, khi đã chuẩn bị tốt về mặt kỹ thuật và khả năng kiểm soát/quản lý, nhân loại có thể vượt qua các biến số khó khăn để định hình một tương lai tích cực.
Bố cục các chương bao gồm:
Chương 1 Chúng ta đang ở đâu trong sáu kỷ nguyên?
Chương 2 Tái kiến tạo trí tuệ
Chương 4 Cuộc sống tốt đẹp hơn theo cấp số nhân
Chương 5 Tương lai của việc làm: Tốt hay xấu?
Chương 6 Sức khỏe và phúc lợi trong 30 năm tới
Chương 8 Đối thoại với Cassandra
“Điểm kỳ dị đã cận kề” của Ray Kurzweil là một cuốn sách mang theo sự lạc quan và tham vọng về cách mà chúng ta có thể bước vào một kỷ nguyên mới, nơi con người và máy móc không còn là thực thể riêng biệt.
Đây là cuốn sách đáng đọc đối với những ai quan tâm đến các công nghệ mới như AI, nanobot, mô phỏng sinh học, hay những câu hỏi lớn về ý thức và danh tính con người.
Sách thuộc Tủ sách Khoa học của Omega Plus.
Nhà phát minh, tác giả và nhà tương lai học nổi tiếng thế giới. Hiện là chuyên gia hàng đầu về AI tại Google, ông tập trung nghiên cứu học máy và xử lý ngôn ngữ tự nhiên. Ông được xem là một trong những bộ óc có ảnh hưởng nhất trong tư duy về tương lai công nghệ, đồng thời là tác giả của nhiều dự báo táo bạo về sự hợp nhất giữa con người và máy móc.
Ông nổi tiếng với hàng loạt phát minh mang tính đột phá, từ công nghệ nhận dạng ký tự quang học (OCR), tổng hợp giọng nói đến các thiết bị hỗ trợ người khiếm thính. Bên cạnh đó, ông cũng là tác giả của nhiều cuốn sách có tầm ảnh hưởng lớn như The Age of Intelligent Machines, The Singularity Is Near và How to Create a Mind, góp phần định hình các cuộc thảo luận toàn cầu về trí tuệ nhân tạo và tương lai loài người..
TRÍCH ĐOẠN/ CÂU QUOTE HAY
- “Những xu thế công nghệ đang hội tụ và tăng tốc theo cấp số nhân sẽ dẫn đến sự chuyển tiếp mang tính cách mạng cho nhân loại. Một số lĩnh vực then chốt đang đồng thời tăng tốc: Sức mạnh tính toán ngày càng rẻ, đặc điểm sinh học của con người ngày càng được giải mã cặn kẽ, và ngành kỹ thuật đang tiến vào quy mô siêu nhỏ. Khi trí tuệ nhân tạo (AI) ngày một tinh vi và thông tin trở nên dễ tiếp cận, chúng ta đang tích hợp những năng lực ấy ngày càng sâu vào trí tuệ sinh học của mình. Cuối cùng, công nghệ nano sẽ cho phép những xu thế này hội tụ thành khả năng mở rộng trực tiếp não bộ bằng các lớp “neuron ảo” trên hệ thống đám mây. Khi đó, chúng ta sẽ hòa làm một với AI và tăng cường bản thân với công suất tính toán gấp hàng triệu lần năng lực sinh học thuần túy của mình. Trí tuệ và ý thức sẽ được mở rộng toàn diện đến mức chính chúng ta hôm nay cũng khó hình dung nổi. Đó chính là điều mà tôi gọi là Điểm kỳ dị (Singularity).”
- “Các công nghệ thông tin như tính toán ngày càng rẻ hơn theo cấp số nhân, bởi mỗi bước tiến mới lại giúp mọi thứ dễ dàng hơn khi chúng ta thiết kế giai đoạn tiếp theo trong chính quá trình tiến hóa của công nghệ. Hệ quả là, khi tôi viết những dòng này, mỗi đô la sau khi điều chỉnh theo lạm phát mua được công suất tính toán gấp khoảng 11.200 lần so với khi cuốn The Singularity Is Near lần đầu lên kệ.”
- “Tôi kỳ vọng rằng, để có thể vượt qua phép thử Turing vào năm 2029, AI cần đạt được hàng loạt các thành tựu trí tuệ đa dạng từ trước năm 2020. Và quả thực, kể từ dự báo đó, AI đã chinh phục nhiều thử thách trí tuệ khó khăn nhất của nhân loại, từ các trò chơi như Jeopardy! hay cờ vây đến các ứng dụng nghiêm túc trong chẩn đoán hình ảnh và nghiên cứu thuốc. Khi tôi viết những dòng này, những hệ thống AI hàng đầu như Gemini và GPT-4 đang không ngừng mở rộng năng lực sang nhiều lĩnh vực – những bước đi đầy hào hứng tiến gần đến trí tuệ tổng quát.”
- “Năng lực then chốt trong thập niên 2030 sẽ là kết nối các lớp cao nhất của tân vỏ não với hệ thống đám mây và trực tiếp mở rộng khả năng tư duy. Khi ấy, AI sẽ không còn là đối thủ mà trở thành phần mở rộng của chính chúng ta. Đến thời điểm đó, phần phi sinh học trong trí tuệ của chúng ta sẽ mang lại năng lực nhận thức gấp hàng nghìn lần phần sinh học.
Khi điều này tăng tiến theo cấp số nhân, đến năm 2045, chúng ta sẽ có thể mở rộng trí tuệ của mình lên hàng triệu lần. Chính tốc độ và quy mô biến đổi không tưởng này là lý do chúng ta mượn hình ảnh điểm kỳ dị từ vật lý để mô tả tương lai.”
- “Bước đột phá đầu tiên báo hiệu tiềm năng biến đổi triệt để của học sâu chính là việc AI chinh phục được trò chơi cờ vây. Cờ vây có số lượng các nước đi khả dĩ nhiều hơn hẳn cờ vua, và việc đánh giá sự hay-dở của một nước đi cũng khó hơn rất nhiều. Những phương pháp AI từng giúp đánh bại các đại kiện tướng cờ vua gần như không đem lại tiến triển gì khi áp dụng vào cờ vây. Ngay cả những chuyên gia lạc quan cũng cho rằng bài toán này chưa thể được giải cho đến sớm nhất là thập niên 2020. (Ví dụ, đến năm 2012, nhà tương lai học hàng đầu về AI Nick Bostrom vẫn dự đoán rằng phải đến khoảng năm 2022 AI mới có thể thành thạo cờ vây.)77 Vậy mà vào năm 2015-2016, công ty DeepMind, một công ty con của Alphabet đã phát triển AlphaGo sử dụng phương pháp “học sâu tăng cường”, trong đó, một mạng neuron lớn tự xử lý những ván đấu của chính mình và học hỏi từ các ván thắng, thua.78 Ban đầu, nó được huấn luyện bằng kho dữ liệu khổng lồ về các nước đi của con người, rồi sau đó tự chơi với chính mình vô số ván cho đến khi phiên bản AlphaGo Master đánh bại nhà vô địch cờ vây thế giới Kha Khiết.”
- “Những năng lực học sâu từng dễ dàng thống trị các trò chơi giờ đây cũng đang được ứng dụng vào những tình huống phức tạp trong thế giới thực. Về cơ bản, ta cần có một trình mô phỏng đủ tốt để tái tạo được lĩnh vực AI đang cần học – chẳng hạn như trải nghiệm lái xe đầy biến số và mơ hồ.”
- “AI không học ngôn ngữ từ sách ngữ pháp hay từ điển, mà qua bối cảnh thực tế của từng từ trong đời sống. […] Và giờ đây, AI đã mở rộng năng lực liên kết ra khỏi phạm vi văn bản.”
- “Phép thử Turing và các phương pháp đánh giá khác có thể tiết lộ nhiều điều về ý nghĩa của việc làm người theo cách tổng quát, nhưng các công nghệ ở Điểm kỳ dị còn buộc chúng ta phải hỏi xem làm người cụ thể có nghĩa là gì? Ray Kurzweil nằm ở đâu trong toàn bộ bức tranh này? Có thể bạn không quan tâm lắm đến Ray Kurzweil; bạn quan tâm đến chính mình, nên bạn có thể đặt ra cùng một câu hỏi về danh tính của chính mình. Nhưng với tôi, tại sao Ray Kurzweil lại là trung tâm trải nghiệm của tôi? Tại sao tôi lại là con người cụ thể này? Tại sao tôi không sinh ra vào năm 1903 hay 2003? Tại sao tôi lại là nam giới, hay thậm chí là con người? Không có lý do khoa học nào bắt buộc mọi thứ phải như vậy. Khi chúng ta tự hỏi “Tôi là ai?”, đó là một câu hỏi mang tính triết học căn bản. Đó là câu hỏi về ý thức.”
- “Nhưng với những câu hỏi về danh tính cá nhân như trong chương này, một nghĩa thứ hai quan trọng hơn: đó là khả năng có trải nghiệm chủ quan trong tâm trí – và không chỉ đơn thuần là biểu hiện ra vẻ có trải nghiệm. Các triết gia gọi những trải nghiệm này là quale.”
- “Giả sử tôi dùng công nghệ tiên tiến để quét một phần nhỏ não của bạn rồi tạo ra một bản sao điện tử chính xác của phần nhỏ đó. […] Phần nhỏ này đứng một mình thì quá đơn giản để có thể có ý thức. Nhưng rồi tôi tiếp tục sao chép phần thứ hai, rồi phần thứ ba… và cuối cùng, tôi có một bản sao kỹ thuật số hoàn chỉnh của não bạn – chứa toàn bộ thông tin và có thể vận hành như bộ não thật.
Vậy “Bạn số 2” này có ý thức không?”
- “Các nghiên cứu như vậy cho thấy chúng ta được lập trình để kỳ vọng vào entropy – ý tưởng rằng trạng thái mặc định của thế giới là mọi thứ luôn sụp đổ và trở nên tệ hơn. Đây có thể là một sự thích nghi hữu ích, giúp chúng ta sẵn sàng đối phó với thất bại và thúc đẩy hành động. Nhưng nó cũng tạo nên thiên kiến mạnh mẽ khiến ta không thấy được sự cải thiện trong tình trạng sống của con người.”
- “Công nghệ thông tin phát triển theo cấp số nhân bởi nó trực tiếp góp phần vào việc đổi mới tiếp theo của chính nó. Nhưng xu hướng này cũng thúc đẩy nhiều cơ chế tiến bộ khác vốn củng cố lẫn nhau. Trong hai thế kỷ qua, điều này đã tạo nên một vòng tuần hoàn tích cực, thúc đẩy gần như mọi mặt của phúc lợi con người, bao gồm tỉ lệ biết chữ, giáo dục, sự giàu có, vệ sinh, y tế, dân chủ hóa và giảm thiểu bạo lực.”
- “In 3D thường gắn liền với việc sản xuất các vật thể nhỏ, như dụng cụ hoặc thiết bị cấy ghép y tế, nhưng nó cũng có thể được sử dụng để tạo ra các cấu trúc lớn hơn, như các công trình xây dựng. Công nghệ này đang nhanh chóng tiến qua giai đoạn nguyên mẫu, và khi các công trình in 3D trở nên rẻ hơn để sản xuất, chúng sẽ trở thành một lựa chọn thương mại khả thi thay thế cho các phương pháp xây dựng hiện nay. Cuối cùng, việc in 3D cả các module xây dựng và những vật dụng nhỏ trong tòa nhà sẽ làm giảm đáng kể chi phí xây dựng nhà ở và văn phòng.”
- “Một khi chúng ta đã sao lưu bản thân, làm sao chúng ta có thể chết được nữa? Đám mây hiện đã có nhiều bản sao lưu của mọi thông tin mà nó chứa đựng, và tính năng này sẽ được tăng cường mạnh mẽ vào những năm 2040. Việc phá hủy tất cả bản sao của một người có thể sẽ gần như là điều bất khả thi. Nếu chúng ta thiết kế hệ thống sao lưu trí tuệ theo cách mà người dùng có thể dễ dàng xóa các tệp của chính mình (với hy vọng tối đa hóa quyền tự chủ cá nhân), thì điều đó sẽ vô tình tạo ra rủi ro an ninh: một người có thể bị lừa hoặc bị ép buộc thực hiện lựa chọn đó, và điều này cũng sẽ làm tăng nguy cơ tấn công mạng. Ngược lại, việc hạn chế khả năng kiểm soát dữ liệu cá nhân nhất của một người lại xâm phạm đến một quyền tự do quan trọng. Tôi vẫn lạc quan rằng có thể triển khai các cơ chế bảo vệ phù hợp, giống như cách chúng ta đã bảo vệ thành công vũ khí hạt nhân trong nhiều thập niên.”
- “Những công nghệ hội tụ trong hai thập niên tới sẽ tạo ra sự thịnh vượng và dồi dào vật chất rộng khắp trên toàn thế giới. Nhưng chính những lực lượng này cũng sẽ làm chao đảo nền kinh tế toàn cầu, buộc xã hội phải thích nghi với tốc độ chưa từng có.”
- “Làm việc có một mục tiêu khác là mang lại mục đích và ý nghĩa cho cuộc sống. Nếu công việc của bạn là xây gạch, thì hoạt động lao động đó mang lại hai loại ý nghĩa. Rõ ràng nhất là tiền lương của bạn cho phép bạn chăm sóc những người thân yêu – một phần quan trọng của danh tính cá nhân. Nhưng bạn cũng đang xây dựng những công trình bền vững đóng góp cho lợi ích công cộng. Bạn đang thực sự đóng góp cho một điều gì đó lớn hơn chính mình. Một số công việc đem lại sự thỏa mãn nhất, như nghệ thuật và học thuật, còn mang lại cơ hội sáng tạo và sản sinh tri thức mới.
Cuộc cách mạng sắp tới sẽ trao cho con người năng lực đóng góp ở mức độ vượt xa mọi khả năng từng có trong lịch sử. Trên thực tế, công nghệ thông tin đang nâng cao khả năng của các nghệ sĩ trong việc làm giàu nền văn hóa – thường theo những cách chưa được đánh giá đúng mức.”
- “Khi bạn đưa xe đến xưởng để sửa chữa, người thợ máy có thể hiểu rõ từng bộ phận và cách chúng phối hợp với nhau. Kỹ thuật ô tô là một ngành khoa học chính xác. Nhờ vậy, những chiếc xe được bảo dưỡng tốt có thể hoạt động gần như vô thời hạn, và ngay cả xe từ những vụ tai nạn nặng nhất cũng có thể được sửa chữa về mặt kỹ thuật. Cơ thể người thì không được như vậy. Bất chấp những tiến bộ kỳ diệu của y học hiện đại trong hai thế kỷ qua, y học vẫn chưa trở thành một ngành khoa học chính xác. Ngày nay, nhiều phương pháp điều trị y khoa vẫn đang được áp dụng dù chưa thực sự hiểu đầy đủ cách thức chúng hoạt động. Phần lớn y học hiện nay dựa trên những phép tính xấp xỉ lộn xộn thường là hiệu quả với phần đông bệnh nhân, nhưng không hẳn là phù hợp hoàn toàn với từng cá nhân như bạn.”
- “Khi y học chỉ phụ thuộc vào những thí nghiệm trong phòng lab và truyền thụ tay nghề từ bác sĩ này sang bác sĩ khác, tiến bộ chỉ diễn ra chậm chạp và tuyến tính. Còn AI có thể học từ khối lượng dữ liệu lớn hơn nhiều so với bất kỳ bác sĩ nào từng tiếp cận, và tích lũy kinh nghiệm từ hàng tỉ quy trình thay vì chỉ vài nghìn ca trong suốt sự nghiệp của một người. Bởi AI được thúc đẩy bởi sự cải thiện theo cấp số nhân của phần cứng nền tảng, nên khi AI ngày càng đóng vai trò lớn hơn trong y học, ngành chăm sóc sức khỏe cũng sẽ gặt hái những lợi ích cấp số nhân tương tự. Nhờ các công cụ này, chúng ta đã bắt đầu giải các bài toán sinh hóa bằng cách tìm kiếm trên không gian số mọi khả năng có thể xảy ra – và tìm ra lời giải chỉ trong vài giờ, thay vì phải mất nhiều năm.”
“[…] song hành với những bước tiến có thể nâng tầm cuộc sống của hàng tỉ con người, là những hiểm họa ngày một gia tăng đối với toàn thể giống loài. Những loại vũ khí hạt nhân mới mang tính gây bất ổn, các bước đột phá trong sinh học tổng hợp, và các công nghệ nano đang dần hình thành – tất cả đều sẽ mở ra những mối đe dọa mà ta phải đối mặt. Khi AI tiệm cận, rồi vượt qua khả năng của con người, ta sẽ phải hết sức thận trọng trong việc căn chỉnh nó để phục vụ cho các mục đích tích cực, đồng thời thiết kế nó sao cho tránh được những tai nạn ngoài ý muốn và ngăn chặn các hành vi lạm dụng. Tuy vậy, chúng ta có cơ sở vững chắc để tin rằng nền văn minh này sẽ vượt qua những hiểm họa ấy – không phải vì các mối đe dọa không có thật, mà chính bởi mức độ rủi ro đã trở nên quá lớn. Hiểm họa là thứ thúc đẩy sự sáng tạo tuyệt đỉnh của loài người, nhưng chính những lĩnh vực công nghệ đang ươm mầm hiểm họa lại đồng thời sinh ra những công cụ mạnh mẽ giúp ta phòng vệ.”
- “Về tổng thể, chúng ta cần lạc quan nhưng có thận trọng. Tuy AI đang tạo ra những mối đe dọa kỹ thuật mới, nhưng đồng thời nó cũng tăng cường năng lực của chúng ta để ứng phó với chính các mối đe dọa đó. Về vấn đề lạm dụng, bởi các phương pháp này sẽ tăng cường trí tuệ cho chúng ta bất kể chúng ta đề cao những giá trị như thế nào, nên chúng có thể được sử dụng để mang lại cả hy vọng lẫn hiểm họa. Vì vậy, chúng ta cần xây dựng một thế giới nơi sức mạnh của AI được phân bổ rộng rãi, để tác động của nó phản ánh các giá trị chung của toàn nhân loại.”
