Hiểm họa từ ứng dụng tạo ảnh giả AI

Đây chỉ là khởi đầu của một vụ bê bối khiến thị trấn 35.000 cư dân nép mình trong vùng Extremadura của Tây Ban Nha gần biên giới Bồ Đào Nha, vốn chẳng mấy nổi bật, trở thành tâm điểm chú ý. Hàng chục thiếu nữ địa phương đã nhận được những bức ảnh khỏa thân do AI tạo ra trên điện thoại di động của họ. Trong ảnh thật, các thiếu niên mặc quần áo đầy đủ. Những hình ảnh này bị đánh cắp từ tài khoản Instagram của họ, đã được thay đổi bằng ứng dụng trí tuệ nhân tạo (AI) và sau đó được chia sẻ trên các nhóm mạng xã hội WhatsApp.

Điều làm tăng thêm tính chất đáng lo ngại của câu chuyện là thủ phạm của các vụ quấy rối tình dục này cũng là những thanh thiếu niên địa phương. Những thanh thiếu niên được trả 10 EUR để có được 25 hình ảnh khỏa thân siêu thực của các bạn nữ bằng ứng dụng Clothingoff. Có sẵn để tải xuống miễn phí, ứng dụng cho phép người dùng cởi quần áo kỹ thuật số của bất kỳ ai trong thư viện ảnh trên điện thoại của họ chỉ với dòng lệnh “Cởi quần áo bất kỳ bức ảnh nào bằng AI miễn phí”.

Các bậc phụ huynh tỏ ra phẫn nộ trong khi giới chức luật pháp lúng túng trong xử lý việc liệu những bức ảnh đó có bị coi là khiêu dâm trẻ em không? Một bà mẹ tên Miriam Al Adib cho rằng, những bức ảnh có thể đã đến được các cổng internet như Onlyfans hoặc các trang web khiêu dâm. Trong suốt thời gian đó, các bé gái phải chịu đựng những lời nhận xét khiếm nhã của bạn học, thậm chí đã có trường hợp bị tống tiền. Các bà mẹ đã tự tổ chức một buổi khiếu nại.

Sau khi cảnh sát mở cuộc điều tra đã xác định một số trẻ vị thành niên có liên quan. Một chính trị gia địa phương tiết lộ, một vài thủ phạm là bạn cùng lớp của các cô gái. Vụ việc đã được chuyển đến Văn phòng Công tố viên vị thành niên và chính Thị trưởng đã cảnh báo: “Nó có thể bắt đầu như một trò đùa, nhưng hệ lụy còn lớn hơn nhiều và có thể gây hậu quả nghiêm trọng cho những người thực hiện những bức ảnh này”.Giáo sư Luật hình sự Manuel Cancio tại Đại học Tự trị Madrid chỉ ra rằng, có một lỗ hổng pháp lý trong việc sử dụng khuôn mặt của trẻ vị thành niên tại các phiên xét xử, sẽ ảnh hưởng đến quyền riêng tư. Vào tháng 3-2022, Ủy ban châu Âu đã đề xuất hình sự hóa loại tội phạm này trong một chỉ thị về tội phạm mạng. Theo Giáo sư Manuel Cancio, Bộ luật Hình sự Hà Lan là bộ luật duy nhất có điều khoản giải quyết vấn đề này.