TikTok mới đây đã thực hiện một cuộc khảo sát với hơn 10.000 thanh thiếu niên,ểnkhainhiềuthuậttoánxửlýlừađảovàthôngtintiêucựtrận koln phụ huynh và giáo viên để hiểu được trải nghiệm của họ khi gặp phải những thử thách và trò lừa đảo trực tuyến.
Nội dung khảo sát cho thấy, 48% thanh thiếu niên cho biết những thử thách gần đây mà họ thấy trên mạng là an toàn, mang đến trải nghiệm vui vẻ. 32% số người khảo sát cho biết họ cảm thấy có chút rủi ro, nhưng nhìn chung vẫn an toàn.
Đáng chú ý 46% số thanh thiếu niên được hỏi muốn biết thêm thông tin để giúp họ hiểu rõ về rủi ro tiềm ẩn của những thử thách trực tuyến trên môi trường mạng.
Đối với những trò lừa bịp liên quan đến tự tử và tự gây hại cho bản thân, 31% thanh thiếu niên cảm thấy bị tác động tiêu cực từ hoạt động này. Tuy vậy, có tới 37% bậc phụ huynh cho biết nếu không cấp thiết thì ít khi đề cập với các em về những trò lừa bịp trực tuyến.
Nhận thức được mối nguy hại về những thử thách xấu và trò lừa bịp trên môi trường mạng, chia sẻ với VietNamNet, đại diện truyền thông TikTok cho biết, nhóm sản phẩm và quy trình của mạng xã hội đang tập trung vào việc thiết kế các chiến lược và kỹ thuật nhằm phát hiện tác hại tiềm ẩn hiệu quả và thực thi tiêu chuẩn cộng đồng trên quy mô lớn.
Dựa trên các tiêu chuẩn ngành, TikTok đã sử dụng công nghệ dạng chuỗi để tạo đoạn mã nhận dạng kỹ thuật số riêng biệt nhằm xác định hàng loạt hình ảnh, video vi phạm.
Theo đó, khi nội dung về xâm hại tình dục ở trẻ em được phát hiện, mã nhận dạng sẽ thực hiện rà soát và xóa các nội dung tương tự hoặc liên quan, đồng thời ngăn chặn triệt để các nội dung tương tự từ khi người dùng bắt đầu tải lên.
Theo Báo cáo Minh bạch mới nhất, TikTok đã chứng minh rõ hiệu quả của công nghệ này khi có đến 87,5% video vi phạm đã bị gỡ bỏ trước khi có bất kỳ lượt xem nào.
Mặc dù công nghệ có thể giúp loại bỏ các vi phạm rõ ràng, song đội ngũ kiểm duyệt của cũng đóng vai trò hết sức quan trọng. Vai trò của nhóm đối tượng này là xử lý các nội dung được báo cáo.
Các đánh giá bổ sung và phản hồi của đội ngũ kiểm duyệt sẽ được tận dụng để cải thiện hệ thống machine learning (máy học), từ đó nhanh chóng nắm bắt được xu hướng mới và cải thiện chức năng lọc nội dung trong tương lai.
Phản hồi của đội ngũ kiểm duyệt cũng là yếu tố quan trọng giúp TikTok hoàn thiện độ chính xác của quy trình kiểm duyệt nội dung. Theo đó, các video nổi tiếng sẽ được đánh giá lại để loại trừ khả năng nội dung vi phạm lan truyền rộng rãi trên nền tảng.
Theo TikTok, không chỉ dừng lại ở đây, đơn vị này còn phân tích sâu hơn các quyết định kiểm duyệt nội dung nhằm tìm hiểu lý do tại sao một số nội dung vi phạm nhất định vẫn chưa được gỡ bỏ sớm hơn, đồng thời tìm ra xu hướng của nội dung vi phạm trên nền tảng.
Trọng Đạt