Công
nghệ nhận diện: Mối đe dọa khủng khiếp
Hảo Linh phỏng dịch
04/12/2020 07:25
https://tiasang.com.vn/khoa-hoc-cong-nghe/Cong-nghe-nhan-dien-Moi-de-doa-khung-khiep-26690
Một công nghệ mới đang được tung hô, được khắc họa
như một cây đũa thần giúp theo dõi và bắt tội phạm nhanh chóng, thực ra lại
mang tiềm năng biến đa phần con người thành nô lệ.
https://tiasang.com.vn/Portals/0/nhan%20dien%20khuon%20mat%201.jpg
Ảnh:
AnitaVDB/iStock; Thor Alvis/Unsplash.
Hệ thống camera giám sát ở
khắp phố phường, các hộ gia đình vốn được thiết lập để kiểm soát tội phạm có một
lỗ hổng lớn: hệ thống này tạo ra một dung lượng video khổng lồ mà không có một
nguồn lực nào đủ để xử lý và phân tích các hình ảnh được ghi lại. Hơn nữa, khi
có một vụ án xảy ra, kẻ phạm tội có nhiều tiếng đồng hồ, thậm chí là nhiều ngày
để chạy trốn, trước khi người ta phát hiện ra cuốn băng ghi lại tội ác đó, nếu
không muốn nói rằng có khi người ta còn chẳng phát hiện ra.
Khi một công nghệ không hiệu quả, thì đó là cơ hội cho những đổi mới sáng tạo
liên tục diễn ra. Đối với trường hợp của camera giám sát, thì công nghệ nhận diện
khuôn mặt được cho là một giải pháp hoàn hảo bởi nó vừa rẻ, vừa nhanh, lại quá
tiện - chỉ cần “cài thêm” mà không cần thay thế toàn bộ hệ thống camera sẵn
có.
Truyền thông đại chúng cũng hưởng ứng cho công nghệ ảo diệu này. Trong các phim
khoa học viễn tưởng, công nghệ nhận diện khuôn mặt hiện lên như một cây đũa thần.
Các bộ phim tô hồng những thám tử và cảnh sát cứu nhân loại chỉ cần công nghệ
nhận diện khuôn mặt là bắt được ngay kẻ thủ ác. Thật là hư cấu bởi cốt truyện
và nhân vật trong những tác phẩm viễn tưởng được dàn dựng nào có sống trong một
xã hội phức tạp, với vô số đức tin, trải nghiệm và các vấn đề đa chiều khác
nhau? Sự hào nhoáng của những bộ phim viễn tưởng kinh phí khủng đi kèm với những
công nghệ mà người xem nhìn qua đã thấy “sành điệu”, như một thứ bùa mê đối với
các nhà công nghệ vốn dùng sự “viễn tưởng” như một chỉ dẫn để tạo ra những công
nghệ họ ao ước, còn với những quan chức chính quyền, những người xoay sở với
chút ngân sách ít ỏi mà mua được những công nghệ “mới nhất và đỉnh nhất” thì thấy
bản thân mình được nâng tầm cả về thành tựu lẫn địa vị. Những nhà công nghệ thường
cũng không lo, hoặc không quen nghĩ tới việc những gì họ làm sẽ ảnh hưởng đến
xã hội như thế nào. Trong khi đó, các chính quyền sẵn sàng thí điểm công nghệ
thì có vẻ hoặc là do họ bị lóa mắt bởi những hứa hẹn về hiệu quả và tác động của
công nghệ mới, hoặc là họ hiểu nhầm về những gì sẽ xảy ra với địa phương của
mình.
Nói chung, công nghệ nhận
diện khuôn mặt đưa ra lời hứa ngọt ngào rằng nó sẽ giúp xác định và bắt những kẻ
thủ ác một cách dễ dàng, như trong các bộ phim, mà cơ quan nghiệp vụ không phải
nhúng tay vào những việc “lằng nhằng” như là xây dựng các mối quan hệ và kết nối
với mọi người trong cộng đồng. Cảnh sát dùng phần mềm thì dù sao cũng an toàn
hơn là đối đầu trực diện với những kẻ tình nghi là tội phạm nguy hiểm hay là mạo
hiểm tiếp xúc với người khác để đánh giá xem liệu họ có phạm tội hay không. Với
cách này, lý do vốn được dùng để bảo vệ cho việc lắp camera giám sát, giờ tiếp
tục được dùng cho nhận diện khuôn mặt, không khiến ai trong cộng đồng còn có
chút nghi ngờ gì nó nữa.
Chỉ tiếc rằng, dữ liệu dùng để nhận diện khuôn mặt không thể thay thế cách những
tri thức về cộng đồng chúng ta đang sống, bởi vì nếu không thì chúng ta sử dụng
và phân tích những dữ liệu đó kiểu gì? Công nghệ không hoạt động hiệu quả một
cách công bằng và bình đẳng đối với tất cả mọi người, đặc biệt là với những người
nằm trong nhóm da màu hay thuộc giới tính thứ ba. Một nghiên cứu của Đại học
MIT năm 2018 đã chỉ ra rằng, ba hệ thống phân tích khuôn mặt phổ biến chỉ xác định
sai 0.8% người trong nhóm đàn ông da sáng nhưng lại xác định sai tới 34.7% người
trong nhóm phụ nữ da màu. Nếu triển khai bắt tội phạm, nguy cơ bắt nhầm người
thật sự nghiêm trọng.
https://tiasang.com.vn/Portals/0/nhan%20dien%20khuon%20mat%202.jpg
Cảnh sát Mỹ thường
xuyên dùng công nghệ nhận diện khuôn mặt trong điều tra, bắt tội phạm. Ảnh:
Claire Merchlinsky/NBC Newsa
Phần mềm nhận diện khuôn mặt
là một đổi mới sáng tạo trên hệ thống camera giám sát – được triển khai để giải
quyết một vấn đề xã hội. Nhưng thực ra, không phải công nghệ, chỉ có con người
mới có thể giải quyết được các vấn đề xã hội. Con người mới là những kẻ phải áp
dụng công nghệ để giải quyết những vấn đề đó, và chúng ta buộc mình đối diện với
những phân vân lớn: Dùng công nghệ nào thì hợp lí, công nghệ nào thì không và
công nghệ nào để tạo nên “một xã hội an toàn và lành mạnh?”
Chưa cần thu thập đủ thông tin từ công chúng, đã bắt đầu có câu trả lời cho những
câu hỏi trên. Những công nghệ dùng cho nhận diện khuôn mặt đang tràn lan và rẻ
mạt trên thị trường, được dùng dù không có quy định của pháp luật và không có sự
minh bạch, là đáng quan ngại nhất. Hơn nữa, rất có khả năng những cơ quan công
an thiếu nhân lực, ngân sách hạn hẹp, hoặc thiếu kinh nghiệm trong triển khai
công nghệ lại tiện lấy luôn hướng dẫn sử dụng của các công ty bán công nghệ nhận
diện khuôn mặt thành tiêu chuẩn áp dụng trong điều tra, giám sát tội phạm.
Một khi phần mềm nhận diện
khuôn mặt của các công ty, chẳng hạn như Amazon được áp dụng một cách rộng rãi
– chúng ta sẽ trở thành chuột bạch cho đủ loại thí nghiệm khác nhau – rồi một ứng
dụng công nghệ tối tân khác có thể ra đời: công nghệ trí tuệ nhân tạo dựa trên
nhận diện khuôn mặt để đưa ra các kết luận về bản thân chúng ta và hành vi của
chúng ta. Mà thực ra nó đã diễn ra rồi, công nghệ trí tuệ nhân tạo và nhận diện
khuôn mặt đang được ứng dụng để giám sát 11 triệu người Duy Ngô Nhĩ, một nhóm
người thiểu số Hồi giáo ở Trung Quốc.
“Công nghệ nhận diện khuôn mặt được kết nối vào hệ thống camera giám sát ngày một
dày đặc của Trung Quốc, được dành riêng để quan sát người Duy Ngô Nhĩ dựa trên
vẻ bề ngoài của họ, ghi lại nhất cử nhất động của họ nhằm phục vụ cho việc đánh
giá và tìm kiếm của chính phủ đối với cộng đồng người này,” theo tờ New York
Times gần đây. “Việc này khiến Trung Quốc trở thành nước tiên phong trong việc
áp dụng công nghệ thế hệ mới để theo dõi người dân, có khả năng sẽ thúc đẩy một
kỷ nguyên mà sự phân biệt chủng tộc được diễn ra một cách tự động và mặc định”.
Chính quyền và các công ty Trung Quốc đang dùng công nghệ nhận diện khuôn mặt để
bắt kẻ tình nghi tại những sự kiện đại chúng lớn và trong cả những hoạt động
thường ngày: nhận diện người dân tại sân bay và tại khách sạn, bêu riếu công
khai những người vi phạm giao thông và để cá nhân hóa các quảng cáo. Công nghệ
nhận diện khuôn mặt cũng đang được áp dụng rộng rãi trên khắp nước Mỹ, cho mục
đích từ an ninh biên giới đến quảng cáo ở siêu thị. Một tập đoàn bất động sản ở
New York còn định dùng công nghệ nhận diện khuôn mặt để kiểm soát người dân sống
trong các tòa nhà cho thuê giá rẻ của họ.
Chúng ta có lẽ đang chứng kiến giai đoạn quá độ của các công nghệ trưởng thành
theo cách bất ngờ tới mức vừa thách thức tất cả giới hạn chịu đựng của chúng
ta, vừa thử thách những quy tắc xã hội thông thường. Chẳng hạn, một khi chúng
ta bị “nhận diện” ở tất cả mọi nơi chúng ta đi qua, chúng ta sẽ liên tục bị “lập
hồ sơ”. Khi chúng ta bị “lập hồ sơ”, thì mọi hành vi của chúng ta đều có thể dự
đoán bằng máy móc. Một khi hành vi của chúng ta có thể bị “dự đoán” bởi chính
phủ và bởi các nhà quảng cáo, chúng ta sẽ mất đi quyền tự chủ (và có lẽ là mất
luôn khả năng phân biệt thật và ảo) dưới bàn tay của thuật toán đang tạo ra những
dữ liệu về chúng ta còn đáng tin cậy hơn cả những gì chúng ta hiểu về bản thân
mình và những người xung quanh.
https://tiasang.com.vn/Portals/0/nhan%20dien%20khuon%20mat%203_1.jpg
Công ty Walgreens
dùng công nghệ nhận diện khuôn mặt để quảng cáo trên các tủ đông trong siêu thị.
Nếu ‘Walgreens’ nhìn thấy bạn đang mua bia vào thời điểm bốn giờ chiều, màn
hình sẽ “mời” bạn mua thêm pizza trong tủ đông để ăn cho bữa tối.
Đúng là đôi lúc người ta
có thể tạm hi sinh sự tự chủ của mình vì sự tiện lợi, nhưng sẽ là bất thường nếu
chúng ta lúc nào cũng bị buộc làm như vậy. Đó là sự nô lệ hóa. Ứng dụng trí tuệ
nhân tạo để tối ưu hóa hiệu quả của công nghệ nhận diện khuôn mặt nhân danh sự
tiện lợi là một bước tiến nguy hiểm của đổi mới sáng tạo liên quan đến công nghệ
giám sát bởi vì chúng ta bị buộc phải từ bỏ từng chút một tự do của bản thân
mình.
Nhưng để cấm sử dụng phần mềm nhận diện khuôn mặt hoàn toàn không phải là chuyện
đơn giản. Những người làm luật và các công ty công nghệ như Microsoft hầu hết
chỉ muốn thúc đẩy các khuôn khổ pháp luật gửi cảnh báo rõ ràng tới người dân rằng
chỗ họ đi qua có sử dụng công nghệ nhận diện khuôn mặt. Tuy nhiên, nếu người
dân không có cách nào khác để thoát khỏi việc bị nhận diện tại các địa điểm
trên, bất kể là công cộng hay tư nhân, ngoài việc rời khỏi khu vực đó, thì cảnh
báo cũng chẳng có ích gì. Và nếu không có cách nào để tránh việc bị nhận diện bởi
một hệ thống sẽ có ảnh hưởng khủng khiếp trong tương lai như vậy, thì con người
bắt đầu bị nô lệ hóa. Chính vì vậy, các khuôn khổ luật pháp chặt chẽ và nghiêm
khắc để hạn chế việc sử dụng công nghệ nhận diện khuôn mặt là vô cùng quan trọng,
nhất là tại thời điểm công nghệ đang phát triển như vũ bão hiện nay.
Một khi công nghệ nhận diện khuôn mặt và trí tuệ nhân tạo được áp dụng rộng rãi
trong một môi trường thiếu vắng khuôn khổ pháp luật để kiểm soát nó một cách
nghiêm túc, con người sẽ bị bỏ rơi, trở thành công cụ cho doanh nghiệp hay
chính phủ khi họ cần đến danh tính và địa chỉ của chúng ta. Việc sử dụng công
nghệ chỉ còn được dẫn dắt bởi lòng tham, lợi nhuận, quyền lực.
Chúng ta muốn dùng công nghệ nhận diện khuôn mặt để tìm ra “kẻ xấu” nhưng thực
ra “kẻ xấu” lại chính là những người đứng sau thúc đẩy công nghệ này, những người
muốn chúng ta từ bỏ nhân dạng, từ bỏ danh tính, từ bỏ cá tính – để họ không chỉ
kiếm lợi nhuận từ đó mà còn dùng nó như một phương thức phân loại chúng ta và
kiểm soát xã hội ta đang sống. Đó là lí do tại sao công nghệ nhận diện khuôn mặt
là một công nghệ quan trọng để chúng ta tranh luận và ngày càng nhiều người
mong nó bị cấm sử dụng trong xã hội loài người. □
Hảo Linh phỏng dịch
Nguyên gốc: https://www.fastcompany.com/90336549/the-creeping-threat-of-facial-recognition
-----
*Tiến sĩ, nhà nhân học với
hướng nghiên cứu tập trung vào tự chủ của con người (human agency), thuật toán,
trí tuệ nhân tạo, tự động hóa trong các mối quan hệ và hệ thống xã hội.
No comments:
Post a Comment