5 năm trở về trước. Chưa ai biết đến deepfake là ǵ. Nhưng giờ đây, chúng thậm chí được sử dụng để tác động đến tiến tŕnh của một cuộc chiến.
Video giả lan truyền
Vào ngày 16/3, một video giả mạo đột nhiên được lan truyền nhanh chóng trên mạng xă hội. Trong video là Tổng thống Ukraine Volodymyr Zelensky, đứng sau bục tổng thống, mặc áo sơ mi màu xanh lá cây sẫm nói chuyện một cách chậm răi. Ngoại trừ phần đầu, cơ thể của ông hầu như không cử động khi nói.
Ông Volodymyr Zelensky đă kêu gọi người Ukraine đầu hàng Nga với chất giọng lại méo mó và khàn: “Tôi yêu cầu các bạn hạ vũ khí và trở về với gia đ́nh. Cuộc chiến này không đáng để chết. Tôi đề nghị các bạn hăy tiếp tục sống và tôi cũng sẽ làm như vậy”.
Ngay sau đó, đoạn clip này nhanh chóng được xác định là một video giả mạo sử dụng deepfake - công nghệ thu thập h́nh ảnh khuôn mặt của một đối tượng, sau đó ghép vào mặt của một người khác trong video nhằm gây nhiễu loạn thông tin.
Ngoài video giả mạo tổng thống Ukraine, một video deepfake khác với nội dung Tổng thống Nga Vladimir Putin tuyên bố ḥa b́nh trong cuộc chiến Ukraine cũng được lan truyền rộng răi.
Kỹ thuật ngày càng tinh vi
Trong nhiều năm, các chuyên gia về thông tin sai lệch và xác thực nội dung đă tỏ ra quan ngại về khả năng lan truyền tin tức giả và t́nh trạng hỗn loạn thông tin thông qua các video deepfake, đặc biệt là khi chúng ngày càng trông giống như thật.
Trên thực tế, các video deepfake trở nên tinh vi hơn rất nhiều chỉ trong một thời gian ngắn. Chẳng hạn, các video lan truyền về cảnh Tom Cruise giả tung đồng xu và cover các bài hát của ban nhạc Dave Matthews vào năm 2021 đă cho thấy deepfake có thể xuất hiện một cách thuyết phục như thế nào.
Các video giả mạo ông Zelensky hay Putin không lan truyền mạnh như video của Tom Cruise v́ chúng có độ phân giải thấp, đây là cách thức phổ biến để che đậy những sai sót. Tuy nhiên, các chuyên gia vẫn đánh giá rằng chúng rất nguy hiểm v́ thông tin sai lệch dùng công nghệ cao có thể nhanh chóng lan truyền trên toàn cầu.
“Một khi ranh giới này bị xóa mờ, sự thật sẽ không tồn tại. Bạn sẽ mất niềm tin vào những ǵ thấy bất cứ điều ǵ ḿnh thấy, mọi thứ lúc đó trong mắt bạn sẽ chỉ toàn là giả dối", Wael Abd-Almageed, Giám đốc sáng lập Pḥng thí nghiệm phân tích đa phương tiện và trí tuệ thị giác Đại học Nam California chia sẻ.
Vào năm 2019, nhiều người lo ngại cho rằng các video deepfake sẽ ảnh hưởng đến cuộc bầu cử tổng thống Mỹ năm 2020, nhưng cuối cùng điều đó đă không xảy ra.
Siwei Lyu, Giám đốc pḥng thí nghiệm học máy và thị giác máy tính tại Đại học Albany, cho rằng điều này là do công nghệ tại thời điểm đó chưa phát triển. Để tạo ra một video deepfake giống như thật không hề dễ dàng, nó đ̣i hỏi các kỹ thuật phải che giấu được những đặc điểm dễ bị phát hiện là giả mạo và giọng nói phải thật tự nhiên. Tuy nhiên, giờ đây việc tạo ra các bản deepfake giống thật đă trở nên dễ dàng hơn rất nhiều.
Việc chúng đang được sử dụng để gây ảnh hưởng đến một cuộc giao tranh là điều đặc biệt nguy hiểm. Ông Lyu chia sẻ trong những trường hợp b́nh thường, video deepfake không có nhiều tác động ngoài việc thu hút sự quan tâm và thu hút sự chú ư trên mạng. Nhưng trong những t́nh huống nguy cấp như chiến tranh hoặc thảm họa quốc gia, khi mọi người không thể suy nghĩ thấu đáo và ít chú ư, đó là lúc nó trở thành một vấn đề nghiêm trọng.
Nina Schick, tác giả của "Deepfakes: The Coming Infocalypse" cho rằng các video giả mạo Tổng thống Ukraine và Nga chỉ là “phần nổi của tảng băng ch́m”. Vấn đề sai lệch thông tin trực tuyến thực tế lớn hơn nhiều, thậm chí các công ty truyền thông xă hội không đủ sức để giải quyết.
Không ǵ qua mắt được con người
Khi các video deepfake trở nên ngày càng giống thật, các nhà nghiên cứu và các công ty đang cố gắng cập nhật các công cụ để phát hiện ra chúng.
Abd-Almageed và Lyu sử dụng các thuật toán để phát hiện các video deepfake. Ông Lyu tạo ra phần mềm “DeepFake-o-meter”, cho phép bất kỳ ai tải video lên để kiểm tra tính xác thực của nó, mặc dù có thể mất vài giờ để có kết quả. Một số công ty, chẳng hạn như nhà cung cấp phần mềm an ninh mạng Zemana, cũng đang phát triển phần mềm của riêng họ để giải quyết vấn đề này.
Tuy nhiên, ông Lyu tin rằng con người vẫn sẽ tốt hơn trong việc phát hiện các video giả mạo so với các phần mềm. Ông nói: “Chúng ta sẽ thấy video deepfake nhiều hơn trong tương lai và việc dựa vào các công ty truyền thông xă hội như Google, Facebook, Twitter là không đủ. Không ǵ có thể qua mắt được con người”.