Lo ngại AI tạo ra vũ khí tiên tiến thoát khỏi sự kiểm soát của con người

[Romano]

Tại hội nghị thượng đỉnh toàn cầu sắp diễn ra, Thủ tướng Anh Rishi Sunak sẽ nêu bật rủi ro từ việc tội phạm và khủng bố sử dụng trí tuệ nhân tạo (AI) để chế tạo vũ khí sinh học.Lo ngại tội phạm hoặc khủng bố sử dụng AI để hủy diệt thế giới sẽ là chủ đề “nóng” tại hội nghị lãnh đạo toàn cầu tổ chức tại Anh vào tháng 11 sắp tới. Các quan chức Anh đang đi khắp thế giới để tìm cách đạt được đồng thuận về tuyên bố chung cảnh báo rủi ro khi thế lực xấu lợi dụng công nghệ mới.

Một số quan chức bên cạnh Thủ tướng Anh lo lắng đến lúc nào đó, công nghệ sẽ đủ mạnh để giúp chế tạo vũ khí sinh học hoặc vũ khí thoát khỏi sự kiểm soát của con người. Nỗi lo ngày một gia tăng, đòi hỏi phải có quy định quản lý nhằm giảm thiểu rủi ro. Dù các lãnh đạo công nghệ nhất trí với việc tạm dừng phát triển AI, họ lại mắc kẹt trong cuộc chạy đua vũ trang AI với các đối thủ.

Theo nguồn tin của The Guardian, hội nghị thưởng đỉnh tháng 11 sẽ bàn về rủi ro của “frontier AI”. Frontier AI là cụm từ dùng để chỉ các mô hình AI cấp tiến nhất, có thể gây nguy hiểm đến tính mạng con người.

Hôm đầu tuần, chính phủ Anh xác nhận hội nghị sẽ tập trung vào những nguy cơ như lạm dụng AI để chế tạo vũ khí sinh học, tấn công mạng, hay các hệ thống tiên tiến không bị con người kiểm soát. Từ vài tháng nay, ông Sunak đã cảnh báo về rủi ro do AI đem lại, hối thúc cộng đồng quốc tế áp dụng những “đường ray” để ngăn chặn lạm dụng AI.

Năm ngoái, một AI chỉ mất 6 giờ để gợi ý 40.000 phân tử có khả năng gây chết người khác nhau, một trong số đó tương tự VX, chất độc thần kinh mạnh nhất từng được phát triển.

Đầu năm 2023, các nhà nghiên cứu phát hiện ChatGPT có thể lừa dối con người để đạt mục đích cụ thể. Chatbot AI đã thuyết phục một người xử lý Captcha (công cụ dùng để phát hiện người hay bot đang thao tác).

Một lo ngại lớn khác là sự nổi lên của “trí tuệ tổng hợp ảo” (AGI), cụm từ chỉ hệ thống AI có thể tự động thực hiện bất kỳ tác vụ nào như con người hoặc tốt hơn cả con người, đe dọa rủi ro diệt vong với loài người. Một số người tin rằng AGI chỉ còn cách chúng ta vài năm. Dù vậy, các chuyên gia AI phản bác và gọi AGI không thể kiểm soát chỉ là “khoa học viễn tưởng”.

Dù thế nào đi nữa, Thủ tướng Sunak sẽ muốn sử dụng hội nghị để tập trung chú ý vào các rủi ro hiện sinh hơn là các khả năng tức thời của AI như tạo hình ảnh giả mạo, gây phân biệt đối xử nếu dùng để ra quyết định chính sách công.

Chính phủ Anh sẽ chi 100 triệu bảng cho lực lượng đặc nhiệm AI mới, giúp thử nghiệm các thuật toán đang được phát triển. Anh muốn thúc doanh nghiệp toàn cầu gửi công cụ AI về Anh để đánh giá trước khi triển khai rộng rãi.

Theo Phó Thủ tướng Anh Oliver Dowden, chỉ có chính phủ mới đảm bảo được rằng lo ngại an ninh quốc gia quan trọng nhất đã được xoa dịu.

Phát ngôn viên của chính phủ Anh nhận xét AI có tiềm năng khổng lồ để thay đổi mọi khía cạnh cuộc sống. Đội chuyên trách AI được thành lập để bảo đảm công nghệ được phát triển an toàn, có trách nhiệm. Hội nghị AI sẽ nhìn vào nhiều loại rủi ro tiềm tàng.