Siêu trí tuệ đáng sợ đến mức nào

[Cupcake01]

AI có thể làm mất việc của 300 triệu nhân công toàn thời gian trên toàn cầu.

Khi Alice Blair đăng ký vào Học viện Công nghệ Massachusetts với tư cách sinh viên năm nhất vào năm 2023, cô hào hứng tham gia các khóa học khoa học máy tính và gặp gỡ những người cũng quan tâm đến trí tuệ nhân tạo. Thế nhưng giờ đây, cô nàng lại từ bỏ vì lo sợ rằng sự xuất hiện của "trí tuệ nhân tạo tổng quát" AGI, một AI giả định có thể thực hiện nhiều nhiệm vụ khác nhau và hủy diệt loài người.

"Tôi đã lo lắng rằng mình có thể không còn sống đến khi tốt nghiệp vì AGI", Blair, đến từ Berkeley, California, cho biết. "Tôi nghĩ rằng trong phần lớn các kịch bản, do cách chúng ta đang hướng tới AGI, chúng ta sẽ chứng kiến sự tuyệt chủng của loài người".

Blair vừa ký hợp đồng làm việc với tư cách nhà văn kỹ thuật tại Trung tâm An toàn AI, một tổ chức phi lợi nhuận tập trung vào nghiên cứu an toàn AI, nơi cô hỗ trợ các bản tin và bài nghiên cứu. Blair không có kế hoạch quay trở lại MIT.

"Tôi dự đoán rằng tương lai của tôi sẽ nằm ở thế giới thực", cô nói.

Blair không phải là sinh viên duy nhất lo sợ về tác động tiềm tàng mà AI sẽ gây ra cho tương lai nhân loại nếu nó dần trở nên có tri giác. Theo một báo cáo năm 2024 do Bộ Ngoại giao Mỹ ủy quyền, nguy cơ "tuyệt chủng" là hoàn toàn có thể xảy ra do AI đang được phát triển với tốc độ chóng mặt. Những nỗ lực xây dựng AI an toàn đã bùng nổ trong vài năm qua, từ cả các tổ chức phi lợi nhuận đến các công ty như Anthropic.

Nhiều nhà nghiên cứu không đồng tình với nghi vấn này. "Sự tuyệt chủng của loài người dường như rất khó xảy ra", giáo sư danh dự Gary Marcus của Đại học New York, người nghiên cứu về mối liên hệ giữa tâm lý học và AI, chia sẻ với Forbes. "Nhưng việc nghiên cứu về an toàn AI là cao quý".

Giờ đây, lĩnh vực an toàn AI và lời hứa ngăn chặn những tác động tồi tệ nhất đang thúc đẩy những người trẻ tuổi bỏ học. “Nếu sự nghiệp của bạn sắp được tự động hóa vào cuối thập kỷ này, thì mỗi năm học đại học trôi qua, sự nghiệp ngắn ngủi của bạn càng thu hẹp”, Nikola Jurković, người tốt nghiệp Harvard vào tháng 5 cho biết. "Cá nhân tôi nghĩ AGI có lẽ phải mất 4 năm nữa, và tự động hóa hoàn toàn nền kinh tế có lẽ phải mất 5-6 năm".

Adam Kaufman, sinh viên chuyên ngành Vật lý và Khoa học máy tính, đã rời Đại học Harvard vào mùa thu năm ngoái để làm việc toàn thời gian tại Redwood Research, một tổ chức phi lợi nhuận chuyên nghiên cứu các hệ thống AI lừa đảo hoạt động chống lại lợi ích của con người.

“Tôi khá lo lắng về những rủi ro này và nghĩ rằng điều quan trọng nhất cần làm là giảm thiểu chúng”, Kaufman nói. “Có phần ích kỷ hơn, tôi chỉ nghĩ rằng điều này thực sự thú vị. Tôi làm việc với những người thông minh nhất mà tôi từng gặp để giải quyết những vấn đề cực kỳ quan trọng.”

Adam không phải là người duy nhất. Bạn bè anh cũng đã rời Harvard vì những lý do tương tự. Có 3 người hiện đang làm việc cho OpenAI.

Các sinh viên khác cũng rất sợ AGI, nhưng không hẳn vì nó có thể hủy diệt loài người mà chủ yếu vì nó có thể phá hủy sự nghiệp của họ ngay cả trước khi bắt đầu. Một nửa trong số 326 sinh viên Harvard được khảo sát bởi hiệp hội sinh viên đại học và câu lạc bộ an toàn AI của trường đều lo lắng về tác động của AI đến triển vọng việc làm của họ.

Một số công ty đã tuyển dụng ít thực tập sinh và sinh viên mới tốt nghiệp hơn vì AI có khả năng thực hiện nhiệm vụ. Những công ty khác đang tiến hành sa thải hàng loạt. Giám đốc điều hành của Anthropic, Dario Amodei, cảnh báo rằng AI có thể loại bỏ một nửa số việc làm nhân viên văn phòng cấp đầu vào và khiến tỷ lệ thất nghiệp tăng lên 20% trong vài năm tới.

Sinh viên lo sợ rằng sự thay đổi này sẽ tăng tốc đáng kể khi AGI thực sự xuất hiện, mặc dù thời điểm điều đó xảy ra lúc nào vẫn còn đang được tranh luận. Giám đốc điều hành OpenAI, Sam Altman, cho rằng AGI sẽ được phát triển trước năm 2029, trong khi Giám đốc điều hành Google DeepMind, Demis Hassabis, dự đoán rằng nó sẽ xuất hiện trong vòng 5 đến 10 năm tới.

Jurković tin thực tế có thể đến sớm hơn nữa. Ông là đồng tác giả một dự báo về mốc thời gian cho Dự án Tương lai AI, phù hợp với dự đoán rằng hầu hết các công việc văn phòng có thể được tự động hóa vào năm 2030.

Những người khác không đồng tình. "Khả năng AGI sẽ xuất hiện trong vòng 5 năm tới là rất thấp", Marcus nói. "Đó chỉ là chiêu trò tiếp thị khi rất nhiều vấn đề cốt lõi (như ảo giác và lỗi lập luận) vẫn chưa được giải quyết". Marcus lưu ý rằng việc dồn ngày càng nhiều dữ liệu và sức mạnh tính toán vào các mô hình AI cho đến nay vẫn chưa tạo ra được các mô hình đủ tinh vi để thực hiện nhiều loại nhiệm vụ tương tự như con người.

Mặc dù vẫn còn nhiều câu hỏi về thời điểm AGI sẽ xuất hiện và bằng đại học sẽ có giá trị như thế nào trong một thế giới bị đảo lộn bởi trí tuệ nhân tạo ở cấp độ con người, nhiều sinh viên chấp nhận bỏ học để thành lập công ty riêng.

CEO Anysphere, Michael Truell, hiện 24 tuổi, và CEO Mercor, Brendan Foody, 22 tuổi, đã bỏ học tại MIT và Đại học Georgetown để theo đuổi công ty khởi nghiệp của riêng mình. Anysphere gần đây nhất được định giá 9,9 tỷ đô la, trong khi Mercor đã huy động được hơn 100 triệu đô la. Với việc AGI đe dọa thay thế hoàn toàn lao động con người, một số sinh viên nhìn thấy cơ hội rất lớn.

"Tôi cảm thấy rằng có một cơ hội hành động để nắm quyền kiểm soát", Jared Mantell, sinh viên từ bỏ Đại học Washington ở St. Louis để tập trung toàn thời gian vào công ty khởi nghiệp dashCrystal của mình, với mục tiêu tự động hóa thiết kế thiết bị điện tử, cho biết. Công ty đã huy động được hơn 800.000 đô la cho đến nay với mức định giá khoảng 20 triệu đô la.

Tuy nhiên, bỏ học đồng nghĩa với việc mất đi những lợi ích của bằng đại học. Theo Trung tâm Nghiên cứu Pew, những người trẻ tuổi có bằng cử nhân hoặc cao hơn thường kiếm được 20.000 đô la nhiều hơn những người cùng trang lứa không có bằng. Trong một thế giới mà các công việc cấp đầu vào đang bị AI tàn phá, việc thiếu bằng cấp có thể hạn chế triển vọng việc làm của những người trẻ tuổi hơn.

Ngay cả người đồng sáng lập Y Combinator, một công ty tăng tốc khởi nghiệp nổi tiếng với việc tài trợ cho các nhà sáng lập trẻ đã bỏ học, cũng cho rằng sinh viên nên tiếp tục đi học. "Đừng bỏ học đại học để khởi nghiệp hoặc làm việc cho một công ty khởi nghiệp", Paul Graham đăng trên X vào tháng 7. "Sẽ có những cơ hội khởi nghiệp khác (và có thể tốt hơn), nhưng bạn không thể lấy lại những năm tháng đại học của mình".

Ngân hàng Goldman Sachs ước tính rằng AI có thể làm mất việc của 300 triệu nhân công toàn thời gian trên toàn cầu, chiếm khoảng 25% lực lượng lao động tại Mỹ và châu Âu vào năm 2030. Trong khi đó, một báo cáo từ Brookings cho thấy rằng với công nghệ generative AI hiện tại, hơn 30% người lao động có thể thấy ít nhất 50% công việc của họ bị tác động.


VietBF@ Sưu tập