Sử dụng AI, Facebook muốn ngăn nội dung khiêu dâm
Với mục tiêu ngăn chặn sớm nhất có thể những nội dung như trả thù khiêu dâm nhắm vào người dùng, Facebook đang tiến hành phát triển công cụ kiểm soát dựa vào trí tuệ nhân tạo AI.
Trong một thông báo đăng tải trên blog, Trưởng bộ phận An toàn toàn cầu Antigone Davis của Facebook cho biết mạng xã hội lớn nhất thế giới đang có những bước đi chắc chăn trong việc chủ động kiểm tra, phát hiện những hình ảnh hoặc video được lên mang có nội dung hận thù hay trả thù khiêu dâm với việc phát triển một cụ kiểm tra bằng trí tuệ nhân tạo (AI).
Sử dụng AI, Facebook muốn ngăn nội dung khiêu dâm
Cụ thể, công cụ kiểm tra của Facebook hiện đang được các chuyên gia xây dựng với khả năng nhận diện tất cả mọi bức ảnh khỏa thân, bức ảnh người mặc nội y được đăng tải kèm những thông tin văn bản mang tính kích động, xúc phạm người khác sẽ được đánh giá là một hành động gây rối hay trả thù người khác.
Công cụ AI của Facebook sẽ tự động gắn cờ cảnh báo đồng thời gửi nội dung đến nạn nhân nhằm xác nhận thêm thông tin và đưa ra quyết định ngăn chặn cuối cùng đó là vô hiệu hóa tài khoản đăng tải hình ảnh kích động đó.
Với công cụ kiểm tra bằng AI, Facebook tự tin rằng mọi nội dung thù hận hay trả thù khiêu dâm sẽ sớm bị phát hiện và loại bỏ thay vì việc phải chờ đợi từ những báo cáo của người dùng. Điều đó cũng đồng nghĩa những nạn nhân của sự trả thù khiêu dâm sẽ sớm thoát khỏi hành động thù hận này.
Cách đây gần 1 năm, Facebook đã tiến hành một chương trình thí điểm cho phép người dùng mạng xã hội này tải lên và đánh dấu các hình ảnh mà họ sợ có thể được đăng lên để trả thù khiêu dâm. Chương trình thí điểm ban đầu chỉ được áp dụng tại Australia, nay đã được mở rộng tới Mỹ, Vương quốc Anh và Canada.
