Những hình ảnh không được gắn nhãn là do AI tạo ra, thậm chí còn xuất hiện với những người không theo dõi nhóm hoặc nhận ra rằng chúng được tạo ra bởi AI, nghĩa là chúng có thể dễ dàng khiến mọi người nhầm lẫn chúng với ảnh thật.
Vấn đề có nghĩa là nhiều nhóm trên mạng đang lấp đầy những hình ảnh nhằm gợi lên một cảm giác nhất định: chẳng hạn như những hình ảnh đặc biệt lành mạnh về những người bà với những chiếc bánh ngọt hoặc những căn nhà gỗ ấm cúng. Một số khác thường hơn, chẳng hạn như bức tranh Chúa Giêsu làm từ động vật giáp xác.
Vấn đề đã trở nên nghiêm trọng đến mức một nhóm các nhà nghiên cứu từ Đài quan sát Internet Stanford và Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown (Anh quốc) đã tiến hành một cuộc điều tra trên hơn 100 trang Facebook có lượng nội dung do AI tạo ra đặc biệt cao.
Trong bài báo mới của họ, chưa được bình duyệt và có tiêu đề “Cách kẻ gửi thư rác và kẻ lừa đảo tận dụng hình ảnh do AI tạo ra trên Facebook để tăng lượng khán giả”, họ lập luận rằng vấn đề phát sinh là do mọi người đang tìm cách tăng lượng người theo dõi trên mạng xã hội .
Các tác giả viết: “Phần lớn nghiên cứu và thảo luận về rủi ro từ các công cụ tạo hình ảnh trí tuệ nhân tạo -AI, chẳng hạn như từ DALL-E và Midjourney, tập trung vào việc liệu chúng có thể được sử dụng để đưa thông tin sai lệch vào chính trị hay không”.
“Chúng tôi cho thấy những kẻ gửi thư rác và kẻ lừa đảo - dường như được thúc đẩy bởi lợi nhuận hoặc ảnh hưởng chứ không phải ý thức hệ - đã sử dụng hình ảnh do AI tạo ra để thu hút sự chú ý đáng kể trên Facebook.”
Theo Chris Cox, giám đốc sản phẩm của Meta, người đã xây dựng nguồn cấp tin tức ban đầu, về sự phát triển của những hình ảnh giả mạo như vậy. Ông nói rằng “việc ghi nhãn là vô cùng quan trọng”. Ví dụ, ông đã chỉ ra các quy tắc mới yêu cầu mọi bài đăng trong nguồn cấp dữ liệu phải bao gồm thông báo cho biết rằng nó được tạo ra bởi trí tuệ nhân tạo, cho dù đó là sử các hệ thống AI của chính Meta hay của các công ty khác, chẳng hạn như Midjourney.
Ông nói: “Chìa khóa ở đây là: trải nghiệm người dùng trong suốt quá trình, đảm bảo không ai ngạc nhiên về thứ họ đang có và dựa vào các công cụ trải nghiệm người dùng đơn giản để gắn nhãn AI khi chúng tôi nhìn thấy nó”.
Nhưng bài báo mới gợi ý rằng hiện tại ít nhất một số nhóm trong số đó đang chia sẻ những hình ảnh không được gắn nhãn.
Những hình ảnh không được gắn nhãn đó thậm chí còn xuất hiện với những người không theo dõi nhóm hoặc nhận ra rằng chúng được tạo ra bởi AI, nghĩa là chúng có thể dễ dàng khiến mọi người nhầm lẫn chúng với ảnh thật.
Khi điều đó xảy ra, những hình ảnh đó thường nhận được hàng loạt bình luận ủng hộ. Nhưng không rõ có bao nhiêu bình luận trong số đó được viết một phần hoặc toàn bộ bằng cách sử dụng các công cụ trí tuệ nhân tạo.
Điều đó đã dẫn đến một số lo ngại về “Internet chết” - ý tưởng cho rằng web sẽ sớm chứa đầy các hệ thống tự động vừa tạo vừa phản ứng với nội dung, và do đó khiến nhiều trang web ngày càng trở nên thù địch với người dùng con người.
