AI Không Đủ Để Bảo Vệ Cộng Đồng Mạng Khỏi Chính Tác Hại Do AI Gây Ra

Bài viết nêu rằng dùng AI để chống lại nội dung gây hại đôi khi giống như thêm lửa vào đám cháy: công cụ AI có thể tạo ra lỗi và làm tình hình tệ hơn.

Mạng xã hội đạt giá trị khi người dùng đóng góp nội dung xác thực và hữu ích, như bài viết sâu sắc hay video hướng dẫn. Tác giả cho rằng dựa chủ yếu vào công cụ AI để bảo toàn tính xác thực sẽ bỏ qua yếu tố quan trọng nhất: con người.

Bài đưa ví dụ về một kênh Slack của nhóm điều hành subreddit r/AskHistorians. Vào tháng Tư, kênh này vốn thường xuyên có nhiều hoạt động nhưng bị tràn ngập cảnh báo khi hàng chục bình luận và bài đăng từ 10 năm trước bị tự động xóa khỏi subreddit.

Tác giả kết luận rằng việc để AI quyết định thay con người trong quản lý cộng đồng có thể dẫn tới các xóa nhầm và làm mất đi giá trị mà cộng đồng tạo ra.