BlueSky, nền tảng mạng xã hội phi tập trung, đang đối mặt với những thách thức lớn khi số lượng người dùng tăng mạnh, kéo theo đó là sự gia tăng của các nội dung có hại, bao gồm cả nội dung nhạy cảm liên quan đến trẻ em.
Sau khi ông Donald Trump đắc cử Tổng thống Hoa Kỳ, hàng triệu người dùng đã rời khỏi X (tên gọi cũ của Twitter) để tìm kiếm các nền tảng thay thế. BlueSky, được sáng lập bởi cựu CEO Twitter Jack Dorsey, đã thu hút hơn 20 triệu người dùng mới chỉ trong vòng ba tuần qua. Trước đó, nền tảng này cũng ghi nhận lượng người dùng tăng mạnh sau khi X bị cấm tại Brazil vào tháng 9 và tuyên bố của Elon Musk về việc sử dụng bài đăng trên X để huấn luyện AI.
Thách thức kiểm duyệt nội dung
Sự bùng nổ người dùng đã dẫn đến sự gia tăng đáng kể các nội dung độc hại, bao gồm spam, lừa đảo, và nội dung nhạy cảm liên quan đến trẻ em. Theo báo cáo từ Platformer, năm 2023 chỉ ghi nhận hai trường hợp nội dung liên quan đến trẻ em được đăng trên BlueSky. Tuy nhiên, tính đến tháng 11/2024, con số này đã tăng lên tám trường hợp.
Trong vòng 24 giờ qua, BlueSky cho biết đã nhận được hơn 42.000 báo cáo về nội dung vi phạm, con số kỷ lục cho một ngày, với khoảng 3.000 báo cáo mỗi giờ. Để so sánh, cả năm 2023, nền tảng này chỉ nhận được 360.000 báo cáo.
BlueSky cho biết đã thực hiện chiến dịch kiểm duyệt quy mô lớn, mặc dù điều này có thể dẫn đến việc “kiểm duyệt quá mức” và khóa nhầm tài khoản. Một số tài khoản bị khóa nhầm đã được khôi phục, trong khi các tài khoản khác có thể nộp đơn kháng cáo.
Công ty cũng đã hợp tác với tổ chức phi lợi nhuận Thorn, sử dụng công nghệ AI Safer để phát hiện và xử lý nội dung liên quan đến lạm dụng trẻ em, bao gồm cả nội dung văn bản có thể chứa mối đe dọa.
BlueSky cho biết: “Chúng tôi đang mở rộng đội ngũ kiểm duyệt để cải thiện cả tính kịp thời và độ chính xác trong các hành động kiểm duyệt.”
Sự phát triển nhanh chóng của BlueSky đi kèm với áp lực lớn trong việc quản lý và bảo vệ người dùng trước các nội dung có hại. Đây cũng là thách thức không chỉ riêng BlueSky mà cả các nền tảng mạng xã hội khác phải đối mặt trong kỷ nguyên kỹ thuật số, khi việc kiểm duyệt cần sự kết hợp giữa công nghệ hiện đại và cam kết trách nhiệm.
Dù đối mặt với những khó khăn, BlueSky đang cho thấy nỗ lực trong việc xây dựng một nền tảng an toàn và đáng tin cậy cho cộng đồng người dùng.