Facebook cấm video Deepfake

01/09/20

CALIFORNIA – Vào thứ Hai, hãng Facebook đã ban hành chính sách cấm truyền bá các video giả mạo tinh vi, gọi là deepfake, cũng như tất cả hình ảnh và âm thanh giả mạo, trên mạng xã hội này. Facebook tuyên bố, việc ngăn chặn nạn truyền bá video deepfake và nội dung giả mạo sẽ bao gồm cả việc điều tra yếu tố lừa đảo trong video được tạo ra bởi trí tuệ nhân tạo (AI), và hợp tác với các tổ chức nghiên cứu, chính phủ để xác định các nội dung giả mạo.

"Nội dung giả mạo có thể được tạo ra bằng công nghệ đơn giản, như Photoshop, hoặc các công cụ tinh vi như AI hay các thuật toán tự học (deep learning), còn gọi là deepfake,” Facebook nói.

"Dù video deepfake còn hiếm gặp trên Internet, sự gia tăng nhanh chóng của nội dung này đang đặt ra thách thức lớn cho các mạng xã hội của chúng tôi.”

Theo thông báo của Facebook, các video được cho là deepfake sẽ bị xóa khỏi mạng, bao gồm các nội dung tổng hợp hoặc chỉnh sửa không rõ ràng, có thể khiến người dùng hiểu lầm về chủ đề của video, và sản phẩm được thực hiện bởi AI hoặc công nghệ học máy (machine learning) khiến video có vẻ chân thực.

Công ty khẳng định, chính sách mới không ảnh hưởng đến các nội dung mang tính giải trí. Các video bị báo cáo sẽ được kiểm duyệt bởi một bên thứ ba.

Trong quá trình kiểm tra, Facebook sẽ "giảm đáng kể việc chia sẻ" hoặc chặn video, nếu nội dung này có đăng quảng cáo. Ngoài ra, công ty sẽ nhắc nhở những người muốn đăng lại video rằng video này chứa thông tin sai lệch.

Hồi tháng 9, 2019, ông Mike Schroepfer, Giám đốc công nghệ Facebook, đã công bố cuộc thi phát triển công nghệ chống video deepfake.

"Mục tiêu của chúng tôi là tạo ra công nghệ mà mọi người đều có thể sử dụng, để phát hiện video đã bị AI chỉnh sửa nội dung, đánh lừa người xem,” ông nói.

VĐ