Ít ai biết rằng, một công nghệ đang ngày càng trở nên phổ biến hiện nay ẩn chứa trong đó "bí mật đen" khủng khiếp.
Vụ bắt nhầm rúng động
Năm 2016, nước Mỹ rúng động khi Steve Talley, một người đàn ông đến từ bang Colorado, đă bị lực lượng cảnh sát đặc nhiệm Mỹ (SWAT) "tấn công" sau khi công nghệ nhận diện khuôn mặt xác định anh là một tội phạm cướp ngân hàng hàng loạt.
Việc có gương mặt gần giống với gương mặt tên cướp thật, và chỉ sống cách ngân hàng bị cướp 0,1 dặm càng khiến Talley khó ḷng chứng minh sự trong sạch của ḿnh.
Công nghệ nhận diện khuôn mặt đă có sự nhầm lẫn giữa Steve Talley và tên cướp. Nguồn ảnh: The Intercept
Sau vài tháng bị giam giữ bất hợp pháp, Talley mới được trả tự do nhờ đấu tranh ác liệt. Tuy nhiên, lúc này anh đă mất nhà, mất việc và không thể xin nổi công việc mới do "tiền án" của ḿnh. Các hóa đơn y tế khiến anh khánh kiệt và trở thành người vô gia cư.
Tiếng xấu tiếp tục đeo bám khiến người đàn ông này bị đẩy vào đường cùng. Măi cho đến khi một nhân viên làm việc tai ngân hàng bị cướp quyết định ra làm chứng trước ṭa rằng Talley không phải là kẻ cướp ngày hôm đó.
Thuật toán tự động sai sót của công nghệ nhận diện h́nh ảnh và đội ngũ kiểm định được đào tạo kém đă gần như phá hủy cuộc đời của một con người.
Công nghệ gây tranh căi
Các chuyên gia công nghệ nhận diện khuôn mặt cho biết, khả năng nhận dạng nhầm thường gia tăng theo quy mô của cơ sở dữ liệu nhận dạng khuôn mặt. Càng có nhiều khuôn mặt trùng khớp th́ nguy cơ hệ thống nhầm lẫn các khuôn mặt giống nhau càng cao.
Ước tính cơ sở dữ liệu của Cơ quan Điều tra Liên bang Mỹ (FBI) hiện nay lưu trữ tới hơn 640 triệu bức ảnh khuôn mặt của con người.
Con số này nghe có vẻ nhiều, nhưng bộ dữ liệu này chưa là ǵ so với cơ sở dữ liệu nhận dạng khuôn mặt của một số công ty tư nhân. FBI lấy h́nh ảnh từ hồ sơ nhà nước và các đại lư hộ chiếu, trong khi các công ty tư nhân có thể thấy h́nh ảnh trực tiếp từ mạng xă hội mà không bị trừng phạt.
Ví dụ, công ty Clearview AI có trụ sở tại New York đă thu thập khoảng 3 tỷ h́nh ảnh người dùng từ các mạng xă hội như Facebook, Twitter, sau đó cung cấp bộ dữ liệu cho hàng trăm cơ quan thực thi pháp luật trên toàn nước Mỹ.
Khi được hỏi về tính hợp pháp của việc làm này, Clearview AI nói rằng đó là do người dùng đă tự công khai các bức ảnh của ḿnh.
Các hệ thống kỹ thuật số của công ty ICE (trụ sở tại Mỹ) cũng được cho là đă sàng lọc bất hợp pháp hàng triệu bức ảnh bằng lái xe để bắt những người nhập cư không có giấy tờ.
Theo chuyên san Calbiz, công nghệ nhận dạng khuôn mặt có thể hủy hoại cuộc sống của một con người. Các hệ thống nhận dạng sử dụng trí tuệ nhân tạo (AI) thậm chí có thể xác định bạn đă qua đời, dù đang c̣n sống.
Trên thực tế đă có trường hợp một nhân viên chính phủ Mỹ bị thuật toán máy tính xác định nhầm là đă chết, trong khi thực tế là cô này đă bị đánh cắp số an ninh xă hội (SSN) và kẻ gian đă dùng danh tính của nạn nhân để đăng kư các khoản vay lớn. Phải mất tới 2 thập kỷ, mọi vấn đề mới được giải quyết.
Gần đây nhất, vào tháng 1/2023, một người đàn ông đến từ bang Georgia (Mỹ) đă bị cảnh sát bắt nhầm theo lệnh truy nă.
Đáng nói, vụ việc này c̣n làm nổi bật lên sự chênh lệch về nhận diện sắc tộc trong công nghệ nhận dạng khuôn mặt. Điểm giống nhau duy nhất giữa người bị bắt và tên tội phạm nằm ở nước da đen.
Vụ việc một lần nữa làm dấy lên tranh căi lớn về công nghệ nhận diện khuôn mặt. Đáng nói, theo nghiên cứu năm 2019 của Mỹ, phụ nữ có khả năng bị nhận dạng sai cao gấp 2-5 lần, trong khi rủi ro đối với người da đen và người châu Á cao hơn từ 10-100 lần so với người da trắng.
Hiện tại, công nghệ nhận diện khuôn mặt ngày càng trở nên phổ biến. Người dùng được tiếp xúc với công nghệ này nhiều nhất thông qua tính năng mở khóa bằng gương mặt trên điện thoại.
Tuy nhiên, "bí mật đen" trong công nghệ nhận diện khuôn mặt vẫn là thứ gây ra rất nhiều tranh căi. Chúng ta không hề hay biết h́nh ảnh của ḿnh đang được thu thập khi chưa được phép, và sau này những bức ảnh đó sẽ phục vụ cho chính công cụ giám sát chúng ta.
VietBF @ Sưu tầm
Games
