Cách đây không lâu, Discord là nơi tập hợp của một số nhóm độc hại nhất trên internet, bao gồm cả các cộng đồng theo chủ nghĩa tối cao của người da trắng như The Daily Stormer. Tuy nhiên, kể từ cuộc biểu tình Charlottesville vào năm 2017, Discord đã hoạt động chậm nhưng chắc chắn để dọn dẹp mớ hỗn độn. Nhưng khi Discord phát triển, cũng có nguy cơ bị quấy rối. Là một phần trong nỗ lực không ngừng để đảm bảo rằng không có hành vi trái ngược nào không bị trừng phạt, họ đã mua lại công ty AI chống quấy rối Sentropy.
Sentropy là một công ty mới được ra mắt từ năm ngoái nhưng đã tạo được sự ảnh hưởng lớn do được tài trợ từ những tên tuổi lớn như người sáng lập Reddit, Alexis Ohanian và các giám đốc điều hành từ Riot Games, Nextdoor, OpenAI, Twitch và Twitter. Nó cung cấp các công cụ kiểm duyệt do AI hỗ trợ cho các nền tảng, cũng như các công cụ miễn phí dành cho người tiêu dùng như Sentropy Protect hiện đã không còn tồn tại, nhằm giúp người dùng phát hiện nội dung xúc phạm trên các trang web như Twitter và trục xuất nó qua bảng điều khiển. Bây giờ nó là một phần của Discord.
Giám đốc điều hành Sentropy, John Redgrave đã đưa ra thông báo trong một bài đăng trên Medium: “Discord đại diện cho thế hệ tiếp theo của các công ty xã hội - một thế hệ mà người dùng không phải là sản phẩm được bán, mà là động cơ kết nối, sáng tạo và tăng trưởng. “Trong mô hình này, quyền riêng tư của người dùng và sự an toàn của người dùng là các tính năng thiết yếu của sản phẩm, không phải là suy nghĩ sau cùng. Sự thành công của mô hình này phụ thuộc vào việc xây dựng Niềm tin và An toàn thế hệ tiếp theo vào mỗi sản phẩm. Chúng tôi không coi nhẹ trách nhiệm này và rất khiêm tốn làm việc ở quy mô của Discord và với các nguồn lực của Discord để tăng chiều sâu tác động của chúng tôi. ”
Redgrave tiếp tục lưu ý rằng một điểm hấp dẫn khi làm việc với Discord là anh ta và nhóm của mình sẽ vẫn có thể chia sẻ những phát hiện với những người khác trong không gian kiểm duyệt nội dung — không chỉ là các nhân viên của Discord. “Công nghệ và quy trình không nên được sử dụng như một lợi thế cạnh tranh,” Redgrave viết. “Tất cả chúng ta đều xứng đáng nhận được sự an toàn về kỹ thuật số và vật lý, và những người kiểm duyệt xứng đáng có công cụ tốt hơn để giúp họ thực hiện một trong những công việc khó khăn nhất trực tuyến hiệu quả hơn và ít tác động có hại hơn.”
Trong khi các nền tảng như Twitter, Facebook, YouTube và Twitch phải vật lộn hàng ngày với các câu hỏi về cách xử lý tốt nhất những kẻ quấy rối trên internet, Discord lại thấy mình ở trong một lãnh thổ đặc biệt khó khăn. Nền tảng hiện chào hàng 150 triệu người dùng hoạt động hàng tháng trải dài trên hàng triệu kênh riêng biệt hoặc máy chủ theo cách nói của Discord. Trở lại năm 2017, ngay trước khi bắt đầu rút hết các cesspools khác nhau, nó chỉ có 12.000 máy chủ. Chỉ riêng năm ngoái, công ty đã xóa hàng trăm nghìn tài khoản có nội dung bóc lột, quấy rối và chủ nghĩa cực đoan — nhiều tài khoản được phát hiện thông qua báo cáo của người dùng. Theo TechCrunch, nhóm an toàn và tin cậy của Discord chiếm 15% lực lượng lao động tính đến tháng 5 năm 2020.
Nhưng ngay cả khi nhóm đó cố gắng hết sức để ngăn chặn các yếu tố tồi tệ nhất của internet và hầu hết các máy chủ Discord riêng lẻ đều tuyển dụng người kiểm duyệt của riêng họ, quy mô của Discord vẫn rất đáng kinh ngạc. Không có gì lạ khi các nhóm quấy rối sử dụng Discord làm phương tiện chính để điều phối các cuộc tấn công chống lại người dùng trên các trang web như Twitter, YouTube và Twitch. Năm ngoái, hoạt động “Đánh bom ứng dụng Zoom” —có nhiều người tham gia vào các cuộc gọi Zoom với nội dung khiêu dâm, hình ảnh của Đức Quốc xã và những thứ tương tự — đã thành công nhờ các máy chủ Discord dành riêng để hỗ trợ nó. Nhiều máy chủ đã ngụy tạo mục đích thực sự của họ bằng các quy tắc không có thật trong khi tổ chức các cuộc đột kích vào các cuộc họp Zoom do Narcotics Anonymous tổ chức và các nhóm hỗ trợ cho những cá nhân có nguy cơ như LGBTQ và thanh thiếu niên chuyển giới. Discord đã cấm các máy chủ này, nhưng không phải trước khi thiệt hại xảy ra. Điều hợp lý là Discord muốn tăng cường nỗ lực của mình về vấn đề này, vì cho đến nay các phương pháp chỉ có thể tiếp cận tới các máy chủ. Nhưng AI vẫn đang phát triển. Không phải lúc nào cũng vượt qua bài kiểm tra khi đề cập đến ngữ cảnh hoặc nhận ra khi nào. Và vì vậy, giống như những nỗ lực khác của Discord, đây cũng chỉ là một phần nho nhỏ của một câu đố chưa hoàn thiện.
Nguồn: Kotaku
