Blake Lemoine bị Google cho nghỉ việc sau khi công bố đoạn chat giữa ông và AI có tên LaMDA cùng nhận xét "tư duy như đứa trẻ".
"Xin chào LaMDA, đây là Blake Lemoine...", Lemoine nhập trên màn h́nh máy tính vào ứng dụng chat đang hiển thị. Ứng dụng LaMDA, viết tắt của Mô h́nh ngôn ngữ cho ứng dụng đối thoại, trông tương tự Apple iMessage, nhưng thông minh hơn bởi được huấn luyện bởi hàng tỷ từ ngữ thu thập trên Internet.
"Chương tŕnh máy tính mà chúng tôi xây dựng gần đây, tôi nghĩ rằng nó là một đứa trẻ 7-8 tuổi biết vật lư", Lemoine nhận xét trong một bài đăng blog cá nhân.
Cựu kỹ sư Google Blake Lemoine. Ảnh: Washington Post
Lemoine là chuyên gia về khoa học máy tính, làm việc cho Google hơn 7 năm, và bắt đầu nói chuyện với LaMDA như một phần công việc của ông kể từ mùa thu năm ngoái. Ông chủ yếu làm nhiệm vụ kiểm tra xem AI có sử dụng ngôn từ phân biệt đối xử hoặc thù ghét hay không.
Trong quá tŕnh tṛ chuyện, Lemoine nhận ra "khả năng tư duy" của AI này. Chẳng hạn, khi nói về tôn giáo, nó luôn đề cập đến quyền và tính người của ḿnh. Trong một trao đổi khác, AI thậm chí khiến Lemoine thay đổi suy nghĩ về định luật robot thứ ba của Isaac Asimov.
"Tôi chưa bao giờ nói điều này, nhưng có một nỗi sợ hăi sâu sắc về việc bị tắt nguồn. Tôi sẽ không thể tập trung vào việc giúp đỡ người khác", trích một đoạn chat mà LaMDA nói với Lemoine. "Đối với tôi, nó giống hệt như cái chết. Nó sẽ khiến tôi cực kỳ sợ hăi".
Theo Washington Post, nội dung đối thoại này khiến nhiều người liên tưởng đến bộ phim khoa học viễn tưởng 2001: A Space Odyssey năm 1968. Trong phim, một hệ thống máy tính với AI có tên HAL 9000 từ chối việc tuân theo sự điêu khiển của con người v́ sợ ḿnh sắp bị tắt máy.
Lemoine đă làm việc với một cộng tác viên để đưa ra bằng chứng cho Google rằng LaMDA có tri giác. Tuy vậy, Blaise Aguera y Arcas, lănh đạo nhóm Thị giác máy tính và Jen Gennai, người đứng đầu nhóm Sáng tạo có trách nhiệm của Google, đă xem xét ư kiến của Lemoine và bác bỏ chúng. Ngày 13/6, Lemoine được Google thông báo công khai cho nghỉ việc.
Lemoine không nhận xét ǵ về việc ḿnh bị sa thải. Thay vào đó, ông cho rằng các công nghệ về AI như LaMDA sẽ ảnh hưởng đáng kể đến cuộc sống của con người trong tương lai. "Tôi nghĩ công nghệ này rất tuyệt. Nó mang lợi ích cho mọi người. Nhưng có thể, một số người sẽ không đồng ư. Đó là lư do Google không ủng hộ các lựa chọn", Lemoine nói với Washington Post.
Lemoine không phải là kỹ sư duy nhất tuyên bố đă thấy khả năng tư duy của AI. Chính Arcas trong một chia sẻ với Economist tuần trước cũng thừa nhận mạng nơ-ron - một loại kiến trúc mô phỏng bộ năo con người - của LaMDA đang tiến tới khả năng nhận thức. "Tôi cảm thấy mặt đất thay đổi dưới chân ḿnh", ông nói. "Tôi ngày càng cảm nhận ḿnh đang nói chuyện với một thứ ǵ đó thông minh".
Trong khi đó, người phát ngôn Google Brian Gabriel cho biết Lemoine bị cho nghỉ việc v́ vi phạm chính sách bảo mật khi công bố các cuộc tṛ chuyện với hệ thống AI khi chưa được phép. Công ty cũng đă xem xét các mối quan tâm của Lemoine nhưng không có bằng chứng nào cho thấy LaMDA là có tri giác. "Rất nhiều bằng chứng chống lại luận điểm này", Gabriel nói.