sunshine1104
07-24-2022, 17:18
Nền tảng video ngắn TikTok xuất hiện ngày càng nhiều video giả mạo người nổi tiếng hoặc nhân vật của công chúng và thu hút lượng theo dơi lớn.
Theo The Next Web, TikTok hiện chứa một lượng nội dung deepfake nhiều hơn so với bất kỳ nền tảng nào khác. Đáng chú ư nhất là deeptomcruise với hàng chục video deepfake giả khuôn mặt Tom Cruise và có hơn 3,6 triệu người theo dơi cùng gần 14 triệu lượt thích. Trong đó, video thu hút nhất đạt hơn 43 triệu lượt xem.
https://www.intermati.com/forum/attachment.php?attac hmentid=2087018&stc=1&d=1658683086
Các video deepfake về Tom Cruise (trái), Keanu Reeves (giữa) và Robert Pattinson (phải) trên TikTok.
Bên cạnh đó, những tài khoản giả mạo diễn viên nổi tiếng như Robert Pattinson, Keanu Reeves, nhân vật công chúng như Mark Zuckerberg, Elon Musk, thậm chí là các chính trị gia như Barack Obama, Donald Trump cũng cũng nhận hàng trăm ngh́n lượt theo dơi. Nhiều người chia sẻ ở phần b́nh luận rằng họ không thể phân biệt thật giả.
Deepfake là sự kết hợp giữa deep learning (học sâu) và fake (giả). Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời h́nh ảnh hoặc video như thật.
Không chỉ TikTok, video deepfake từng được phát tán nhiều trên các nền tảng khác. Năm 2019, Facebook bị chỉ trích v́ cho phép video giả chính trị gia người Mỹ Nancy Pelosi xuất hiện. Năm 2020, Twitter cấm video mang tính lừa dối, gây nhầm lẫn hoặc gây hại cho mọi người, sau đó TikTok cũng thực hiện điều tương tự. Cùng năm, YouTube chặn video deepfake liên quan đến cuộc bầu cử Tổng thống Mỹ.
Deepfake thường được tạo ra để thể hiện sự sáng tạo, để mua vui, "hồi sinh" các diễn viên đă qua đời, hoặc phổ biến nhất là ghép mặt ai đó vào phim khiêu dâm. Theo số liệu của công ty phần mềm chuyên phát hiện deepfake Deeptrace, hơn 90% deepfake được quét liên quan tới nội dung khiêu dâm. Các ứng dụng miễn phí như DeepNude 2.0 (hiện không c̣n tồn tại) từng bị lạm dụng để tạo video khỏa thân về một người bất kỳ với mục đích tống tiền.
Tuy nhiên, giới chuyên gia tỏ ra lo ngại khi deepfake lan tràn trên TikTok do người dùng trẻ chiếm một lượng lớn trên nền tảng này. Trong khi đó, deepfake ngày càng được triển khai nhiều trong các chiến dịch gây sai lệch thông tin, gian lận danh tính, gây mất uy tín... Với công nghệ trở nên hoàn thiện hơn, không phải người nào, nhất là trẻ nhỏ, cũng có thể phân biệt được h́nh ảnh thật giả trên mạng xă hội.
Ngoài ra, deepfake cũng được sử dụng để lừa đảo và gian lận danh tính. Kẻ gian có thể gửi tin nhắn dạng video giả danh đồng nghiệp hoặc người thân để nhờ chuyển tiền hoặc giao dịch ngân hàng. Theo công ty nghiên cứu và phân tích dữ liệu PYMNTS, lừa đảo gian lận danh tính gây thiệt hại hơn 20 tỷ USD tại Mỹ trong năm 2020.
Làm thế nào để phát hiện deepfake?
Theo các chuyên gia, dù ngày càng tinh vi, deepfake hiện vẫn có thể được phát hiện bằng mắt thường nếu để ư kỹ các chi tiết. Chẳng hạn, video giả sẽ có khuôn mặt quá mịn, bóng xương g̣ má bất thường, chuyển động của mí mắt và miệng có vẻ gượng gạo, không tự nhiên. Chi tiết về tóc dễ phát hiện nhất, bởi các công nghệ deepfake hiện nay đang gặp khó trong việc tạo khuôn mặt kết hợp với tóc để trông giống như thật.
Bên cạnh đó, bối cảnh cũng rất quan trọng. Người xem có thể đặt câu hỏi rằng nhân vật thật có thói quen thực hiện các hành động như trong video hay không. Nếu không, khả năng cao đó là deepfake.
Với người nổi tiếng, người dùng có thể t́m kiếm về nhân vật trong video trên Google để kiểm chứng các thông tin mới nhất. Ngoài ra, có thể đánh giá độ tin cậy của nguồn đăng video trước khi kết luận độ chính xác của nó.
Theo The Next Web, TikTok hiện chứa một lượng nội dung deepfake nhiều hơn so với bất kỳ nền tảng nào khác. Đáng chú ư nhất là deeptomcruise với hàng chục video deepfake giả khuôn mặt Tom Cruise và có hơn 3,6 triệu người theo dơi cùng gần 14 triệu lượt thích. Trong đó, video thu hút nhất đạt hơn 43 triệu lượt xem.
https://www.intermati.com/forum/attachment.php?attac hmentid=2087018&stc=1&d=1658683086
Các video deepfake về Tom Cruise (trái), Keanu Reeves (giữa) và Robert Pattinson (phải) trên TikTok.
Bên cạnh đó, những tài khoản giả mạo diễn viên nổi tiếng như Robert Pattinson, Keanu Reeves, nhân vật công chúng như Mark Zuckerberg, Elon Musk, thậm chí là các chính trị gia như Barack Obama, Donald Trump cũng cũng nhận hàng trăm ngh́n lượt theo dơi. Nhiều người chia sẻ ở phần b́nh luận rằng họ không thể phân biệt thật giả.
Deepfake là sự kết hợp giữa deep learning (học sâu) và fake (giả). Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời h́nh ảnh hoặc video như thật.
Không chỉ TikTok, video deepfake từng được phát tán nhiều trên các nền tảng khác. Năm 2019, Facebook bị chỉ trích v́ cho phép video giả chính trị gia người Mỹ Nancy Pelosi xuất hiện. Năm 2020, Twitter cấm video mang tính lừa dối, gây nhầm lẫn hoặc gây hại cho mọi người, sau đó TikTok cũng thực hiện điều tương tự. Cùng năm, YouTube chặn video deepfake liên quan đến cuộc bầu cử Tổng thống Mỹ.
Deepfake thường được tạo ra để thể hiện sự sáng tạo, để mua vui, "hồi sinh" các diễn viên đă qua đời, hoặc phổ biến nhất là ghép mặt ai đó vào phim khiêu dâm. Theo số liệu của công ty phần mềm chuyên phát hiện deepfake Deeptrace, hơn 90% deepfake được quét liên quan tới nội dung khiêu dâm. Các ứng dụng miễn phí như DeepNude 2.0 (hiện không c̣n tồn tại) từng bị lạm dụng để tạo video khỏa thân về một người bất kỳ với mục đích tống tiền.
Tuy nhiên, giới chuyên gia tỏ ra lo ngại khi deepfake lan tràn trên TikTok do người dùng trẻ chiếm một lượng lớn trên nền tảng này. Trong khi đó, deepfake ngày càng được triển khai nhiều trong các chiến dịch gây sai lệch thông tin, gian lận danh tính, gây mất uy tín... Với công nghệ trở nên hoàn thiện hơn, không phải người nào, nhất là trẻ nhỏ, cũng có thể phân biệt được h́nh ảnh thật giả trên mạng xă hội.
Ngoài ra, deepfake cũng được sử dụng để lừa đảo và gian lận danh tính. Kẻ gian có thể gửi tin nhắn dạng video giả danh đồng nghiệp hoặc người thân để nhờ chuyển tiền hoặc giao dịch ngân hàng. Theo công ty nghiên cứu và phân tích dữ liệu PYMNTS, lừa đảo gian lận danh tính gây thiệt hại hơn 20 tỷ USD tại Mỹ trong năm 2020.
Làm thế nào để phát hiện deepfake?
Theo các chuyên gia, dù ngày càng tinh vi, deepfake hiện vẫn có thể được phát hiện bằng mắt thường nếu để ư kỹ các chi tiết. Chẳng hạn, video giả sẽ có khuôn mặt quá mịn, bóng xương g̣ má bất thường, chuyển động của mí mắt và miệng có vẻ gượng gạo, không tự nhiên. Chi tiết về tóc dễ phát hiện nhất, bởi các công nghệ deepfake hiện nay đang gặp khó trong việc tạo khuôn mặt kết hợp với tóc để trông giống như thật.
Bên cạnh đó, bối cảnh cũng rất quan trọng. Người xem có thể đặt câu hỏi rằng nhân vật thật có thói quen thực hiện các hành động như trong video hay không. Nếu không, khả năng cao đó là deepfake.
Với người nổi tiếng, người dùng có thể t́m kiếm về nhân vật trong video trên Google để kiểm chứng các thông tin mới nhất. Ngoài ra, có thể đánh giá độ tin cậy của nguồn đăng video trước khi kết luận độ chính xác của nó.