Công nghệ nhận diện khuôn mặt và vấn đề nhân quyền

Cảnh sát ở Áo, Phần Lan, Pháp, Đức, Hy Lạp, Hungary, Italy, Latvia, Litva, Slovenia và Hà Lan đang sử dụng công nghệ nhận dạng khuôn mặt “hồi tố” trong các cuộc điều tra tội phạm của họ. Croatia, Cyprus, Séc, Estonia, Bồ Đào Nha, Romania, Tây Ban Nha và Thụy Điển dự kiến sẽ sớm hành động tương tự. Nhận dạng hồi tố có nghĩa là kiểm tra lại camera an ninh sau khi sự cố xảy ra, chứ không phải trong thời gian thực.

Francesco Ragazzi, phó giáo sư tại Đại học Leiden và là tác giả của nghiên cứu cho rằng việc nhận dạng “hồi tố” có nguy cơ gây hại hơn, bởi nhiều dữ liệu hơn sẽ được sử dụng bởi các nguồn khác nhau để tiến hành nhận dạng. Nghiên cứu này được công bố hôm 25-10, đã được ủy quyền bởi đảng Xanh trong Nghị viện châu Âu, vốn là nhóm đề xuất cấm hoàn toàn các hệ thống nhận dạng sinh trắc học trong các không gian có thể truy cập công cộng.

Nhận dạng sinh trắc học

Hình thức nhận dạng sinh trắc học phát triển nhất là phần mềm nhận dạng khuôn mặt khớp một hình ảnh được chụp với một hình ảnh khác được lưu trữ trong cơ sở dữ liệu. Báo cáo cảnh báo rằng “dường như vẫn còn rất ít hiểu biết về các cách thức áp dụng công nghệ này và tác động tiềm tàng của một loạt các ứng dụng như vậy đối với các quyền cơ bản của công dân châu Âu”. Nghiên cứu tập trung vào cái gọi là tìm kiếm bất hợp tác, trong đó hệ thống cố gắng xác định một người mà không có sự đồng ý của họ. Họ lưu ý rằng việc triển khai các công nghệ này vẫn còn hạn chế về phạm vi và quy mô trên toàn châu Âu, từ nhận dạng các cá nhân đến giám sát hàng loạt.

Ví dụ, trong các tìm kiếm hợp tác, nhận dạng khuôn mặt để mở khóa điện thoại thông minh hiện không được coi là có nguy cơ bị giám sát hàng loạt. Tuy nhiên, báo cáo lưu ý rằng tình hình có thể thay đổi nếu khuôn khổ pháp lý được sửa đổi, vì các hệ thống hợp tác này đã tích lũy một lượng lớn dữ liệu cá nhân.

Báo cáo chỉ ra hai thực tế khiến việc giám sát hàng loạt có nguy cơ xảy ra: mở rộng cơ sở dữ liệu sinh trắc học và thí điểm một số hệ thống được kết nối với phần mềm nhận dạng sinh trắc học. Phó giáo sư Ragazzi cho biết: “Những gì chúng tôi thấy qua các dự án này là chúng ngày càng tuân theo chiến lược sự đã rồi. Chúng thường được trình bày như một dự án thử nghiệm, yêu cầu một số trường hợp đặc biệt về việc triển khai công nghệ và họ sẽ nộp đơn xin phép sau đó”.

Các dự án thí điểm

Năm 2017, sân bay Brussels (Bỉ) đã triển khai bốn camera nhận dạng khuôn mặt mà không thông báo cho cơ quan giám sát liên quan. Một khu phố ở Rotterdam (Hà Lan) đã phát động một dự án "không trộm cắp" để phát hiện hành vi đáng ngờ bằng cách sử dụng đèn đường thông minh.

Thành phố Nice (Pháp) đã bắt đầu theo đuổi công nghệ nhận dạng khuôn mặt trên đường phố. Việc sử dụng các công cụ nhận dạng sinh trắc học ở các trường trung học cũng đã được thử nghiệm nhưng bị tuyên bố là bất hợp pháp. Ngược lại, các công cụ nhận dạng khuôn mặt vẫn đang được sử dụng để xác định học sinh trong căng tin trường học ở Anh.

Tại Đức, Berlin, Hamburg và Mannheim đều đã triển khai phần mềm nhận dạng khuôn mặt để kiểm tra năng lực phát hiện hành vi đáng ngờ của họ. Báo cáo viết: “Tại Đức, người ta thường biện minh cho việc triển khai phần mềm nhận dạng khuôn mặt như một cách tiếp cận thử nghiệm nhằm né tránh các quy tắc hiện hành và kỳ vọng của xã hội”.

Nghiên cứu lưu ý rằng những dự án thí điểm này có xu hướng bắt đầu trong vùng xám hợp pháp và nếu không được kiểm soát, có thể có tác dụng lâu dài trong việc bình thường hóa hoạt động giám sát. Đặc biệt, việc theo dõi các hành vi đáng ngờ có thể có tác động tiêu cực đến các quyền tự do của cá nhân. Hơn nữa, trong hầu hết các trường hợp, cơ sở hạ tầng như máy ảnh và micro đã bị vô hiệu hóa, nhưng chúng vẫn ở nguyên vị trí cũ.

Tranh cãi tại Nghị viện châu Âu

Đầu tháng này, Nghị viện châu Âu (EP) đã thông qua một nghị quyết kêu gọi các quy tắc nghiêm ngặt về việc sử dụng hệ thống trí tuệ nhân tạo (AI) trong thực thi pháp luật, đặc biệt là thúc đẩy lệnh cấm đối với công nghệ nhận dạng khuôn mặt trong không gian công cộng.

Nghị quyết này đã nhận được sự ủng hộ mạnh mẽ từ các đảng tự do, dân chủ-xã hội, cánh tả và đảng Xanh. Ngược lại, các thành viên dân chủ Cơ đốc giáo đã bỏ phiếu gần như nhất trí chống lại lệnh cấm. Axel Voss, một nghị sĩ có ảnh hưởng trong nhóm Cơ đốc giáo-dân chủ, cho biết: “Mặc dù cần phải có các biện pháp bảo vệ nghiêm ngặt và một số quy định nhất định, nhưng lệnh cấm hoàn toàn nhận dạng khuôn mặt không quan tâm đến những lợi ích từ công nghệ này, chẳng hạn như khi theo dõi tội phạm hoặc thậm chí là trong các trường hợp khác, chẳng hạn như đào tạo phương tiện tự hành để nhận dạng con người”.

Lệnh cấm này có thể được tích hợp vào Đạo luật Trí tuệ Nhân tạo mà Brando Benifei, báo cáo viên của Ủy ban bảo vệ người tiêu dùng và thị trường nội bộ (IMCO), kêu gọi. Tuy nhiên, các ủy ban khác trong EP đã tranh luận về vai trò lãnh đạo của IMCO. Để giải quyết tranh cãi, chủ tịch của Liên đoàn các Chủ tịch Ủy ban châu Âu Antonio Tajani, đã đề xuất sự lãnh đạo chung giữa IMCO và Ủy ban các vấn đề pháp lý (JURI). Quyết định cuối cùng phụ thuộc vào kết quả cuộc họp Hội nghị các Tổng thống vào ngày 18-11 tới.