PinaColada
04-02-2023, 23:23
Nhà khoa học AI hàng đầu cảnh báo nguy cơ nhân loại bị AI siêu phàm hủy diệt. Mới đây nhà nghiên cứu AI nổi tiếng Eliezer Yudkowsky nói rằng nhân loại chưa được chuẩn bị để có thể sống sót khi đối phó với trí tuệ nhân tạo thông minh siêu phàm.
Mô h́nh thực tế của robot hủy diệt "T-800", được sử dụng trong bộ phim "Kẻ hủy diệt 2" (Terminator 2). Ảnh: AFP
Nhà nghiên cứu trí tuệ nhân tạo (AI) nổi tiếng người Mỹ Eliezer Yudkowsky nói rằng nhân loại chưa được chuẩn bị để sống sót khi đối phó với trí tuệ nhân tạo thông minh hơn nhiều so với hiện tại.
Ngừng phát triển các hệ thống trí tuệ nhân tạo tiên tiến trên toàn cầu và trừng phạt nghiêm khắc những người vi phạm lệnh cấm là cách duy nhất để cứu loài người khỏi sự tuyệt chủng. Đó là lời cảnh báo được nhà nghiên cứu AI nổi tiếng Eliezer Yudkowsky đưa ra.
Ông Eliezer Yudkowsky, nhà đồng sáng lập Viện Nghiên cứu Trí tuệ Máy móc (MIRI), đă viết một bài b́nh luận cho tạp chí TIME trong tuần này, giải thích lư do tại sao ông không kư vào bản kiến nghị kêu gọi “tất cả các pḥng thí nghiệm AI ngay lập tức tạm dừng đào tạo các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng”. GPT-4 là một mô h́nh ngôn ngữ đa phương thức sử dụng trí tuệ nhân tạo, được công ty OpenAI phát hành vào đầu tháng này.
Ông Yudkowsky lập luận rằng, bức thư, được kư bởi những nhân vật nổi tiếng trong ngành công nghệ như Elon Musk hay Steve Wozniak của Apple, đưa ra “yêu cầu quá ít" để giải quyết vấn đề do sự phát triển nhanh chóng và thiếu kiểm soát của AI đặt ra.
Theo ông, lệnh cấm 6 tháng này vẫn tốt hơn là không có lệnh cấm nào. "Tôi tôn trọng tất cả những người đă tham gia và kư nó... Tôi không kư tên v́ tôi nghĩ rằng bức thư chưa nhấn mạnh đủ mức độ nghiêm trọng của t́nh h́nh và yêu cầu quá ít để giải quyết vấn đề" - ông Yudkowsky giải thích.
Chuyên gia AI này nói rơ hơn: "Nhiều nhà nghiên cứu sâu trong vấn đề này, bao gồm cả tôi, đều dự đoán rằng kết quả rất có thể xảy ra của việc xây dựng một AI thông minh siêu phàm, trong bất kỳ hoàn cảnh nào xa xôi so với hiện tại, là mọi người trên Trái đất sẽ chết theo đúng nghĩa đen. [Nhưng] Không phải là 'một cơ hội xa xôi nào đó' mà 'đó là điều hiển nhiên sẽ xảy ra'. Về nguyên tắc, không phải là bạn không thể tồn tại khi tạo ra thứ ǵ đó thông minh hơn bạn nhiều; vấn đề là nó sẽ đ̣i hỏi sự chính xác, sự chuẩn bị cũng như những hiểu biết khoa học mới" mà nhân loại hiện đang thiếu và khó có thể đạt được trong tương lai gần.
“Một AI đủ thông minh sẽ không bị giới hạn trong máy tính lâu”, ông Yudkowsky cảnh báo. Nhà nghiên cứu này giải thích rằng việc có thể gửi email các chuỗi DNA đến các pḥng thí nghiệm để sản xuất protein có thể sẽ cho phép AI “xây dựng các dạng sống nhân tạo hoặc đi thẳng đến quá tŕnh sản xuất phân tử hậu sinh học” và bước ra thế giới.
Theo nhà nghiên cứu Yudkowsky, một lệnh cấm vô thời hạn và trên toàn thế giới đối với các hoạt động đào tạo AI lớn phải được đưa ra ngay lập tức. Ông nhấn mạnh: “Không thể có ngoại lệ, kể cả đối với chính phủ hay quân đội".
Ông Yudkowsky nhấn mạnh rằng các thỏa thuận quốc tế nên được kư kết để đặt ra mức trần về sức mạnh của máy tính, nhằm kiểm soát ai đó có thể sử dụng nó để đào tạo các hệ thống AI như vậy.
“Nếu thông tin t́nh báo nói rằng một quốc gia đứng ngoài thỏa thuận đang xây dựng cụm GPU (bộ xử lư đồ họa), hăy bớt lo sợ về xung đột súng ống giữa các quốc gia hơn là sợ lệnh cấm (phát triển AI) bị vi phạm; hăy sẵn sàng phá hủy một trung tâm dữ liệu vô nguyên tắc bằng một cuộc không kích", ông viết.
Nhà nghiên cứu cũng nói thêm: Mối đe dọa từ trí tuệ nhân tạo lớn đến mức cần phải làm rơ “trong ngoại giao quốc tế rằng việc ngăn chặn các kịch bản tuyệt chủng do AI phải được coi là ưu tiên hơn so với việc ngăn chặn một cuộc xung đột hạt nhân”.
Kết bài viết, ông Yudkowsky nhấn mạnh: "Chúng ta không chuẩn bị. Tất nhiên, chúng ta không sẵn sàng chuẩn bị cho bất kỳ khoảng thời gian phù hợp nào. Không có kế hoạch. Tiến bộ về khả năng của AI đang diễn ra rất nhanh, vượt xa tiến bộ trong việc kiểm soát AI hoặc thậm chí là tiến bộ trong việc hiểu chuyện quái ǵ đang diễn ra bên trong các hệ thống đó. Nếu thực sự như vậy, tất cả chúng ta sẽ chết".
VietBF@ sưu tập
Mô h́nh thực tế của robot hủy diệt "T-800", được sử dụng trong bộ phim "Kẻ hủy diệt 2" (Terminator 2). Ảnh: AFP
Nhà nghiên cứu trí tuệ nhân tạo (AI) nổi tiếng người Mỹ Eliezer Yudkowsky nói rằng nhân loại chưa được chuẩn bị để sống sót khi đối phó với trí tuệ nhân tạo thông minh hơn nhiều so với hiện tại.
Ngừng phát triển các hệ thống trí tuệ nhân tạo tiên tiến trên toàn cầu và trừng phạt nghiêm khắc những người vi phạm lệnh cấm là cách duy nhất để cứu loài người khỏi sự tuyệt chủng. Đó là lời cảnh báo được nhà nghiên cứu AI nổi tiếng Eliezer Yudkowsky đưa ra.
Ông Eliezer Yudkowsky, nhà đồng sáng lập Viện Nghiên cứu Trí tuệ Máy móc (MIRI), đă viết một bài b́nh luận cho tạp chí TIME trong tuần này, giải thích lư do tại sao ông không kư vào bản kiến nghị kêu gọi “tất cả các pḥng thí nghiệm AI ngay lập tức tạm dừng đào tạo các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng”. GPT-4 là một mô h́nh ngôn ngữ đa phương thức sử dụng trí tuệ nhân tạo, được công ty OpenAI phát hành vào đầu tháng này.
Ông Yudkowsky lập luận rằng, bức thư, được kư bởi những nhân vật nổi tiếng trong ngành công nghệ như Elon Musk hay Steve Wozniak của Apple, đưa ra “yêu cầu quá ít" để giải quyết vấn đề do sự phát triển nhanh chóng và thiếu kiểm soát của AI đặt ra.
Theo ông, lệnh cấm 6 tháng này vẫn tốt hơn là không có lệnh cấm nào. "Tôi tôn trọng tất cả những người đă tham gia và kư nó... Tôi không kư tên v́ tôi nghĩ rằng bức thư chưa nhấn mạnh đủ mức độ nghiêm trọng của t́nh h́nh và yêu cầu quá ít để giải quyết vấn đề" - ông Yudkowsky giải thích.
Chuyên gia AI này nói rơ hơn: "Nhiều nhà nghiên cứu sâu trong vấn đề này, bao gồm cả tôi, đều dự đoán rằng kết quả rất có thể xảy ra của việc xây dựng một AI thông minh siêu phàm, trong bất kỳ hoàn cảnh nào xa xôi so với hiện tại, là mọi người trên Trái đất sẽ chết theo đúng nghĩa đen. [Nhưng] Không phải là 'một cơ hội xa xôi nào đó' mà 'đó là điều hiển nhiên sẽ xảy ra'. Về nguyên tắc, không phải là bạn không thể tồn tại khi tạo ra thứ ǵ đó thông minh hơn bạn nhiều; vấn đề là nó sẽ đ̣i hỏi sự chính xác, sự chuẩn bị cũng như những hiểu biết khoa học mới" mà nhân loại hiện đang thiếu và khó có thể đạt được trong tương lai gần.
“Một AI đủ thông minh sẽ không bị giới hạn trong máy tính lâu”, ông Yudkowsky cảnh báo. Nhà nghiên cứu này giải thích rằng việc có thể gửi email các chuỗi DNA đến các pḥng thí nghiệm để sản xuất protein có thể sẽ cho phép AI “xây dựng các dạng sống nhân tạo hoặc đi thẳng đến quá tŕnh sản xuất phân tử hậu sinh học” và bước ra thế giới.
Theo nhà nghiên cứu Yudkowsky, một lệnh cấm vô thời hạn và trên toàn thế giới đối với các hoạt động đào tạo AI lớn phải được đưa ra ngay lập tức. Ông nhấn mạnh: “Không thể có ngoại lệ, kể cả đối với chính phủ hay quân đội".
Ông Yudkowsky nhấn mạnh rằng các thỏa thuận quốc tế nên được kư kết để đặt ra mức trần về sức mạnh của máy tính, nhằm kiểm soát ai đó có thể sử dụng nó để đào tạo các hệ thống AI như vậy.
“Nếu thông tin t́nh báo nói rằng một quốc gia đứng ngoài thỏa thuận đang xây dựng cụm GPU (bộ xử lư đồ họa), hăy bớt lo sợ về xung đột súng ống giữa các quốc gia hơn là sợ lệnh cấm (phát triển AI) bị vi phạm; hăy sẵn sàng phá hủy một trung tâm dữ liệu vô nguyên tắc bằng một cuộc không kích", ông viết.
Nhà nghiên cứu cũng nói thêm: Mối đe dọa từ trí tuệ nhân tạo lớn đến mức cần phải làm rơ “trong ngoại giao quốc tế rằng việc ngăn chặn các kịch bản tuyệt chủng do AI phải được coi là ưu tiên hơn so với việc ngăn chặn một cuộc xung đột hạt nhân”.
Kết bài viết, ông Yudkowsky nhấn mạnh: "Chúng ta không chuẩn bị. Tất nhiên, chúng ta không sẵn sàng chuẩn bị cho bất kỳ khoảng thời gian phù hợp nào. Không có kế hoạch. Tiến bộ về khả năng của AI đang diễn ra rất nhanh, vượt xa tiến bộ trong việc kiểm soát AI hoặc thậm chí là tiến bộ trong việc hiểu chuyện quái ǵ đang diễn ra bên trong các hệ thống đó. Nếu thực sự như vậy, tất cả chúng ta sẽ chết".
VietBF@ sưu tập