Facebook phát triển nhiều phần mềm chống khủng bố trực tuyến

Đây là phản ứng của công ty trước những áp lực chính trị ở châu Âu do các nhóm chiến binh sử dụng mạng xã hội để tuyên truyền và tuyển dụng người liên quan đến các hoạt động khủng bố.

Mạng xã hội lớn nhất thế giới này đã tăng cường sử dụng trí thông minh nhân tạo để đối chiếu hình ảnh, tạo ra sự hiểu biết ngôn ngữ để xác định và loại bỏ những nội dung khủng bố một cách nhanh chóng, Monika Bickert - Giám đốc quản lý chính sách toàn cầu của Facebook, và Brian Fishman - nhà quản lý chính sách chống khủng bố giải thích.

Facebook sử dụng trí thông minh nhân tạo để đối chiếu hình ảnh. Đây là công cụ cho phép công ty xem xét sự giống nhau của những bức ảnh hoặc video đang được tải lên với hình ảnh hoặc video được được cho là từ các tổ chức khủng bố - như Nhà nước Hồi giáo, Al Qaeda và các thành viên của họ - đại diện Facebook phát biểu.

Facebook đang nỗ lực chống khủng bố trực tuyến (Ảnh: Corbis)

“Quan điểm của chúng tôi rất đơn giản: Không có chỗ trên Facebook cho chủ nghĩa khủng bố. Chúng tôi loại bỏ những kẻ khủng bố và các bài viết ủng hộ chủ nghĩa khủng bố bất cứ khi nào chúng tôi nhận ra họ”, đại diện Facebook cho biết.

“Khi chúng tôi nhận được báo cáo về các bài viết có thể ẩn chứa những nội dung liên quan đến khủng bố, chúng tôi sẽ xem xét các báo cáo đó một cách khẩn cấp và giám sát kĩ lưỡng. Trong những trường hợp hiếm hoi khi chúng tôi tìm thấy được bằng chứng về những thiệt hại sắp xảy ra, chúng tôi sẽ thông báo ngay cho chính quyền”.

“Mặc dù các nghiên cứu khoa học cho thấy sự cực đoan của các thành viên của những nhóm như ISIS và Al Qaeda chủ yếu xảy ra trong đời thực, nhưng chúng ta biết rằng Internet đóng một vai trò quan trọng trong vấn đề này. Và chúng tôi không muốn Facebook bị sử dụng cho bất cứ hoạt động khủng bố nào. Chúng tôi tin rằng công nghệ và Facebook có thể là một phần của giải pháp” – đại diện công ty cho biết thêm.

Năm ngoái YouTube, Facebook, Twitter và Microsoft đã tạo ra một cơ sở dữ liệu chung về dấu vân tay kỹ thuật số. Chúng được tự động gán cho các video hoặc hình ảnh có nội dung liên quan đến khủng bố để họ có thể giúp đỡ lẫn nhau trong việc xác định cùng một nội dung đó trên nền tảng của họ.

Tương tự, hiện tại Facebook đang phân tích những bài đăng bị xóa bỏ do có nội dung ca ngợi hoặc hỗ trợ các tổ chức khủng bố để phát triển những tín hiệu dựa trên văn bản có các nội dung tuyên truyền như vậy.

Tuy nhiên, công ty nói rằng con người mới đóng vai trò quan trọng trong chiến dịch này và Facebook cần họ hơn bao giờ hết.

"AI không thể nhận dạng được tất cả mọi thứ. Tìm ra những nội dung hỗ trợ khủng bố và những gì không phải rất phức tạp. Và các thuật toán để nhận dạng những đoạn văn liên quan đến khủng bố vẫn không thể nào tốt như con người được. Để hiểu được nhiều trường hợp, chúng tôi vẫn cần những chuyên gia là con người” – Facebook nói.

"Hơn một nửa số tài khoản chúng tôi loại bỏ vì liên quan đến khủng bố là những tài khoản mà chúng tôi tự điều tra và nhận biết. Đây là những nỗ lực của chúng tôi để cho cộng đồng hiểu rằng, Facebook thật sự là một môi trường thù địch cho những kẻ khủng bố” - Bickert nói trong một cuộc phỏng vấn.

Facebook nhận diện khủng bố bằng cách nào?

AI của Facebook đang sử dụng một số kỹ thuật để thử và phát hiện các nhóm khủng bố trực tuyến.

Đối sánh hình ảnh: Khi ai đó cố tải lên những bức ảnh hoặc video khủng bố, hệ thống sẽ tìm kiếm xem hình ảnh đó có phù hợp với hình ảnh hoặc video liên quan đến khủng bố đã được nhận diện trước hay không.

Hiểu biết ngôn ngữ: AI đang học để hiểu các văn bản có thể liên quan đến việc ủng hộ chủ nghĩa khủng bố. Các thuật toán học máy làm việc trên một vòng lặp thông tin phản hồi và sẽ trở nên tốt hơn theo thời gian.

Loại bỏ các nhóm khủng bố: Khi hệ thống xác định các trang, nhóm, bài đăng hoặc những thông tin cá nhân liên quan đến khủng bố, Facebook sử dụng các thuật toán “fan out” để cố gắng xác định các tài liệu liên quan.

Nó sử dụng các tín hiệu để xem xét liệu một tài khoản có phải là bạn với một số lượng lớn tài khoản đã bị vô hiệu hóa vì khủng bố, hoặc liệu một tài khoản có cùng các thuộc tính với tài khoản bị vô hiệu hóa hay không.

Tái phạm: Facebook làm việc nhanh hơn trong việc phát hiện các tài khoản giả mạo mới được tạo ra bởi những người đã từng bị vô hiệu hóa tài khoản vì liên quan đến khủng bố.

Hợp tác nhiều nền tảng: Facebook đang làm việc trên các hệ thống để cho phép nó có những động thái chống lại các tài khoản khủng bố trên tất cả các nền tảng của nó, bao gồm WhatsApp và Instagram.

Bích Trâm (Dailymail)