Nội dung lạm dụng tình dục trẻ em do AI tạo ra đã tăng vọt 400% trong sáu tháng đầu năm 2025, theo dữ liệu mới từ Tổ chức phi lợi nhuận Internet Watch Foundation (IWF) có trụ sở tại Vương quốc Anh.
Theo báo cáo được công bố tuần này, tổ chức giám sát nội dung lạm dụng tình dục trẻ em trực tuyến đã ghi nhận 210 trang web chứa nội dung do AI tạo ra trong sáu tháng đầu năm 2025, tăng so với con số 42 của cùng kỳ năm trước. Trên các trang này có 1.286 video, tăng so với chỉ hai video vào năm 2024.
Nội dung lạm dụng trẻ em do AI tạo ra ngày càng chân thực và đa dạng
Các báo cáo về hình ảnh lạm dụng tình dục trẻ em được tạo ra bằng AI đã tăng vọt
IWF cho biết phần lớn nội dung này rất chân thực đến mức phải được xử lý theo luật pháp Anh như thể chúng là cảnh quay thực tế. Khoảng 78% số video, tức tổng cộng 1.006 video, được phân loại là “Loại A”, mức độ nghiêm trọng nhất, có thể bao gồm các cảnh cưỡng hiếp, tra tấn tình dục và giao cấu với động vật, theo IWF.
Hầu hết các video đều có sự tham gia của các bé gái và trong một số trường hợp còn sử dụng hình ảnh trẻ em thật. Sự phổ biến ngày càng tăng của nội dung lạm dụng trẻ em do AI tạo ra đã khiến cơ quan thực thi pháp luật trên toàn thế giới lo ngại.
Thách thức trong việc phát hiện và ngăn chặn nội dung lạm dụng trẻ em do AI tạo ra
Khi các công cụ AI tạo ra nội dung trở nên dễ tiếp cận và tinh vi hơn, chất lượng hình ảnh và video đang được cải thiện, khiến việc phát hiện bằng các kỹ thuật truyền thống trở nên khó khăn hơn bao giờ hết. Trong khi các video ban đầu ngắn và bị lỗi, IWF nhận thấy các video đã dài hơn, chân thực hơn với các cảnh phức tạp và bối cảnh đa dạng.
Các nhà chức trách cho biết nội dung này thường được sử dụng để quấy rối và tống tiền. Derek Ray-Hill, Giám đốc điều hành tạm thời của IWF cho biết: “Cũng giống như những gì chúng ta đã thấy với hình ảnh tĩnh, các video AI về lạm dụng tình dục trẻ em hiện đã đạt đến mức không thể phân biệt được.”
Giải pháp và kiến nghị
IWF kêu gọi Vương quốc Anh xây dựng một khuôn khổ pháp lý để đảm bảo các mô hình AI có các biện pháp kiểm soát nhằm ngăn chặn việc sản xuất loại tài liệu này. Vào tháng 2, Vương quốc Anh đã trở thành quốc gia đầu tiên hình sự hóa việc tạo ra và phân phối các công cụ AI nhằm mục đích tạo ra nội dung lạm dụng trẻ em.
Tại Mỹ, Trung tâm quốc gia về trẻ em mất tích và bị bóc lột – một đơn vị tương tự của IWF cho biết, họ đã nhận được hơn 7.000 báo cáo liên quan đến nội dung lạm dụng tình dục trẻ em do AI tạo ra vào năm 2024.