Telegram tiếp tục đối mặt với vấn nạn các bot AI tạo ảnh khiêu dâm giả mạo, với hơn 4 triệu người dùng hàng tháng sử dụng các công cụ “cởi đồ” cho ảnh phụ nữ. Mặc dù Telegram đã gỡ bỏ nhiều bot này, chúng lại xuất hiện ngay sau đó.
Đầu năm 2020, chuyên gia về deepfake Henry Ajder lần đầu tiên phát hiện một bot trên Telegram có khả năng “lột đồ” phụ nữ từ hình ảnh thông qua công nghệ AI. Từ đó, vấn đề đã trở nên trầm trọng hơn, với ít nhất 50 bot đang hoạt động và thu hút hơn 4 triệu người dùng hàng tháng. Các bot này cho phép người dùng tạo ra những hình ảnh hoặc video khiêu dâm giả mạo chỉ với vài cú nhấp chuột.
Những công cụ này không chỉ gây hại về tâm lý cho nạn nhân mà còn dễ dàng tiếp cận và tìm thấy trên nền tảng Telegram. Emma Pickering, trưởng bộ phận lạm dụng hình ảnh không đồng thuận tại tổ chức Refuge (Anh), cho biết: “Những hình ảnh giả mạo này gây ra tổn thương tâm lý nghiêm trọng, tạo cảm giác nhục nhã, sợ hãi và xấu hổ cho nạn nhân.”
Telegram – ‘Thiên đường’ cho deepfake
Theo Wired, nội dung deepfake phi đạo đức đã bùng nổ kể từ cuối năm 2017. Các bot deepfake trên Telegram không chỉ nhắm vào các cộng đồng nói tiếng Anh mà còn xuất hiện ở nhiều ngôn ngữ khác. Theo thống kê, có ít nhất 25 kênh Telegram hỗ trợ các bot này với tổng cộng hơn 3 triệu thành viên.
Chuyên gia deepfake Henry Ajder cho rằng, “Telegram cung cấp chức năng tìm kiếm, giúp bạn dễ dàng xác định các cộng đồng, cuộc trò chuyện và bot. Nó cũng chính là nơi bạn có thể chia sẻ kết quả cuối cùng, gây hại cho nạn nhân.”
Bot cũ bị xóa, bot mới lại mọc lên
Sau khi Wired liên hệ với Telegram về vấn đề này, công ty đã gỡ bỏ 75 bot và kênh tạo deepfake khiêu dâm. Tuy nhiên, nhiều kênh đã ngay lập tức thông báo rằng bot của họ sẽ sớm được thay thế bằng những bot mới.
Các nhà phát triển bot tận dụng nền tảng Telegram để tạo ra công cụ deepfake mà không cần phải truy cập các khu vực ẩn hay mật khẩu phức tạp. Tên gọi và mô tả của các bot thường rõ ràng về mục đích, như “gỡ bỏ quần áo” hay “tạo ảnh khiêu dâm.” Chỉ cần mua token là người dùng có thể bắt đầu tạo ra những hình ảnh khiêu dâm từ ảnh có sẵn.
Dù deepfake đang lan rộng, các nhà lập pháp và công ty công nghệ vẫn chậm chạp trong việc kiểm soát vấn đề này. Tại Mỹ, 23 bang đã ban hành luật giải quyết deepfake vô đạo đức, nhưng vẫn còn nhiều lỗ hổng trong việc thực thi. Các nền tảng công nghệ lớn hiện nay đều có chính sách cấm phân phối hình ảnh không đồng thuận, nhưng việc thực hiện với Telegram còn nhiều khó khăn.
Kate Ruane, giám đốc dự án tự do ngôn luận tại Center for Democracy and Technology, nhận định rằng các nền tảng công nghệ cần có trách nhiệm ngăn chặn nội dung độc hại này một cách chủ động, thay vì chờ đợi hành động từ người dùng.