Facebook tiết lộ các giải pháp để loại bỏ các nội dung khủng bố

Trong một loạt bài đăng trên blog của các nhân vật cấp cao và một cuộc phỏng vấn với BBC, Facebook cho biết họ muốn cởi mở, công khai hơn về những gì họ đang làm.

Công ty nói với BBC rằng họ đang sử dụng trí thông minh nhân tạo để phát hiện hình ảnh, video và văn bản liên quan đến khủng bố cũng như các nhóm tài khoản giả mạo. “Chúng tôi muốn tìm thấy nội dung khủng bố ngay lập tức, trước khi mọi người trong cộng đồng facebook nhìn thấy nó”.

Không còn nơi an toàn

Khả năng của Nhà nước Hồi giáo tự xưng sử dụng công nghệ để tuyên truyền và chiêu mộ người dân đã đặt ra nhiều vấn đề cho các công ty công nghệ lớn.

Họ đã bị chỉ trích vì chạy các hạng mục được sử dụng để truyền bá tư tưởng cực đoan và truyền cảm hứng cho mọi người thực hiện các hành động bạo lực.

Các chính phủ nói chung và Anh Quốc nói riêng đang đẩy mạnh hành động trong những tháng gần đây. Và các cuộc thảo luận về luật pháp và quy định đã được tiến hành khắp châu Âu.

Đầu tuần này tại Paris, thủ tướng Anh và tổng thống Pháp đã phát động một chiến dịch chung nhằm đảm bảo internet không thể được sử dụng như là một nơi an toàn cho bọn khủng bố và bọn tội phạm.

Facebook bị chỉ trích vì chưa thực sự nỗ lực để bỏ nội dung liên quan đến khủng bố.

Họ cho biết, trong số các vấn đề đang được xem xét, họ đã và đang tạo ra một trách nhiệm pháp lý mới cho các công ty, bao gồm cả phạt tài chính nếu họ không thể loại bỏ một số nội dung nhất định.

Facebook cam kết sẽ tìm ra những cách mới để tìm và loại bỏ các nội dung, và bây giờ họ cũng muốn làm và nói về nó nhiều hơn.

Monika Bickert, giám đốc quản lý chính sách toàn cầu tại Facebook nói với BBC: “Chúng tôi rất muốn cởi mở với cộng đồng về những gì chúng tôi đang cố gắng làm để đảm bảo rằng Facebook là một môi trường thực sự chống lại các nhóm khủng bố”.

Các quan chức an ninh Anh đã chỉ trích các công ty về việc họ dựa vào báo cáo của những người khác để phát hiện nội dung cực đoan hơn là tự mình hành động một cách chủ động.

Facebook trước đó đã thông báo rằng họ sẽ tăng cường thêm 3.000 nhân viên để xem xét lại những nội dung được người dùng đánh dấu.

Nhưng họ cũng nói rằng có hơn một nửa số tài khoản có liên quan đến khủng bố mà họ loại bỏ là do tự Facebook tìm được.

Facebook cũng cho biết họ cũng đang sử dụng công nghệ mới để cải thiện việc chủ động của mình.

“Chúng tôi biết mình có thể làm tốt hơn trong việc sử dụng công nghệ, đặc biệt là trí tuệ nhân tạo để ngăn chặn sự lan truyền nội dung khủng bố trên Facebook”, công ty cho biết.

Phân tích tự động

Một khía cạnh của công nghệ mới mà Facebook tiết lộ đầu tiên đó là sự chắp ghép các hình ảnh với hình ảnh đã có trước đây về khủng bố để xem nó có liên quan đến nhau hay không.

Nếu ai đó cố gắng tải hình ảnh hoặc video khủng bố lên, hệ thống sẽ xem xét liệu nội dung này có liên quan, khớp nối với nội dung cực đoan đã biết trước đó hay không để ngăn chặn hành động này diễn ra.

Một khu vực thứ hai đang thử nghiệm trí tuệ nhân tạo để hiểu được các văn bản có nội dung ủng hộ cho chủ nghĩa khủng bố.

Thử nghiệm này sẽ phân tích các văn bản đã bị xóa trước đây mà có nội dung ca ngợi hoặc hỗ trợ nhóm nào đó như IS và cố gắng tìm ra các tín hiệu dựa trên văn bản mà cho biếtnội dung đó có thể là tuyên truyền khủng bố.

Phân tích đó sử dụng một thuật toán có thể học cách phát hiện các bài viết có nội dung tương tự nhau.

Công ty cho biết họ cũng đang sử dụng các thuật toán để phát hiện “nhóm” các tài khoản hoặc hình ảnh liên quan đến ủng hộ chủ nghĩa khủng bố.

Điều này sẽ liên quan đến việc tìm kiếm các tín hiệu như: liệu một tài khoản nào đó có phải là bạn với một số lượng lớn các tài khoản đã bị vô hiệu hóa có ủng hộ khủng bố hay không.

Facebook cũng nói rằng họ đang nỗ lực để theo dõi “những người tái phạm tội”, những người tạo ra các tài khoản chỉ để gửi tài liệu khủng bố và tìm cách phá vỡ hệ thống và sự kiểm soát hiện có.

Pháp và Anh muốn đảm báo khủng bố không còn nơi an toàn trên Internet.

Bà Bickert nói với BBC: “Công nghệ của chúng tôi sẽ tiếp tục phát triển khi chúng tôi nhận thấy mối đe dọa khủng bố đang tiếp tục lan rộng trên mạng”.

“Các giải pháp của chúng tôi phải thực sự năng động”.

Một trong những thách thức lớn trong quá trình tự động hóa là nguy cơ lấy đi các tài liệu liên quan đến khủng bố nhưng không phải tài liệu hỗ trợ cho khủng bố - chẳng hạn như các bài báo về một video truyền thông về IS mà có các mô tả văn bản hoặc hình ảnh của IS.

Bất kỳ hình ảnh lạm dụng tình dục trẻ em nào là bất hợp pháp đều có thể bị gỡ xuống, hình ảnh liên quan đến chủ nghĩa khủng bố, chẳng hạn như một thành viên của IS đang vẫy cờ, có thể được dùng để ca ngợi một hành động trong một bối cảnh nào đó hoặc được sử dụng như là một phần của chủ nghĩa cực đoan, cũng sẽ bị loại bỏ.

“Bối cảnh là quan trọng nhất”, bà Bickert nói.

Facebook cho biết các thuật toán của nó vẫn chưa tốt bằng con người trong việc hiểu bối cảnh giúp phân biệt giữa các loại khác nhau.

Công ty cho biết họ đã phát triển đội ngũ chuyên gia của mình, hiện nay có 150 người làm việc trong lĩnh vực chống khủng bố, bao gồm các chuyên gia về chống khủng bố, cựu công tố viên, cựu cơ quan thực thi pháp luật, các nhà phân tích và kỹ sư.

Vào tháng 2, Mark Zuckerberg cho biết Facebook đang mong muốn trí tuệ nhân tạo có thể giúp họ kiểm soát trang web của mình.

Bà Bickert nói: “Chúng tôi phải có những người có khả năng xem xét nó”.

“Tôi muốn xử lý về vấn đề này bằng việc sử dụng máy tính để làm những việc máy tính làm tốt và sử dụng con người để làm những gì mọi người làm tốt”.

Thách thức vẫn còn. Chỉ một vài phút sau khi tạo một tài khoản, tôi đã có thể tìm thấy các video tuyên truyền hoàn chỉnh của IS, bao gồm cả việc chặt đầu các con tin ở phương Tây.

Các nhà phê bình lập luận rằng những thách thức có thể là rất lớn đối với một trang web có hai tỷ người sử dụng, nhưng công ty này kiếm được hàng tỷ đô la từ nội dung trên trang của mình vì vậy họ có thể dành nhiều nguồn lực hơn và nhiều kỹ sư giỏi nhất để giải quyết vấn đề.

Facebook cho biết họ đã bắt đầu tập trung vào “các kỹ thuật tiên tiến nhất” để giải quyết vấn đề khủng bố và giờ đây họ thực sự tin rằng họ cần nhìn được thấy là đang hành động.

Đào Hoa (Theo BBC)