How do AI photos fool humans?
Khó khăn trong việc phát hiện hình ảnh do AI tạo ra tương tự những thách thức trong quá khứ như phát hiện hình ảnh chỉnh sửa hoặc đồ họa máy tính trong phim. Tuy nhiên, có một điểm khác biệt quan trọng: chỉnh sửa ảnh và đồ họa máy tính đòi hỏi thiết kế có chủ đích của họa sĩ, trong khi hình ảnh AI được tạo ra bởi các thuật toán huấn luyện dựa trên cơ sở dữ liệu, thường không có sự giám sát của con người. Sự thiếu giám sát này dẫn đến những điểm chưa hoàn hảo hoặc thiếu nhất quán, khiến chúng có cảm giác không tự nhiên hoặc thiếu sự nhất quán giữa các khung hình, đôi khi được gọi là "tin rác AI", theo Conversation.
Bất chấp những khác biệt này, nghiên cứu cho thấy mọi người gặp khó khăn trong việc phân biệt giữa hình ảnh thật và hình ảnh tổng hợp, bất kể nguồn gốc. Khi được yêu cầu xác định hình ảnh là thật, tổng hợp hay do AI tạo ra, độ chính xác chỉ cao hơn mức suy đoán ngẫu nhiên một chút.
In day-to-day interactions when you are not highly focused on visual inspection, the ability to detect synthetic content is even weaker. Detecting errors in AI images requires attention to small details, but the human vision system doesn't always work that way when you're surfing the net. Instead, people often just get the gist of what they're looking at and may miss small anomalies.
Sự tập trung thị giác hoạt động như một ống kính zoom: bạn quét rộng để có cái nhìn tổng quan về môi trường hoặc màn hình điện thoại, nhưng chi tiết nhỏ đòi hỏi sự tập trung cao độ. Hệ thống nhận thức của con người đã tiến hóa để nhanh chóng đánh giá môi trường nhằm xác định bất kỳ mối đe dọa sinh tồn nào, kèm theo độ nhạy cảm với những thay đổi đột ngột như kẻ săn mồi di chuyển nhanh, đánh đổi độ chính xác để đạt tốc độ phát hiện. Sự đánh đổi này cho phép xử lý nhanh chóng và hiệu quả, giúp người tiền sử sống sót trong môi trường tự nhiên. Nhưng điều đó lại không phù hợp với các nhiệm vụ hiện đại như lướt thiết bị, nơi những sai sót nhỏ hoặc chi tiết khác thường trong hình ảnh do AI tạo ra dễ dàng bị bỏ sót.
People also often ignore things that they are not actively paying attention to or looking for. Các nhà tâm lý học gọi đây là thiếu chú tâm: tập trung vào một nhiệm vụ khiến bạn bỏ qua các chi tiết khác, ngay cả những chi tiết rõ ràng. Trong nghiên cứu nổi tiếng về khỉ đột tàng hình, người tham gia được yêu cầu đếm số lần chuyền bóng rổ trong một video không nhận ra có người mặc bộ đồ khỉ đột đi qua giữa cảnh quay. Tương tự, khi bạn tập trung vào nội dung rộng hơn một bức ảnh AI như ngôi nhà nhỏ ấm cúng, bạn ít có khả năng nhận ra những biến dạng cực nhỏ.
The limitations of our perception extend beyond visual perception. Human thinking uses two forms of processing: quick and intuitive thinking that relies on shortcuts, and slower thinking that requires analytical effort. When surfing the net, the system can quickly take over causing us to accept images at face value without deep consideration.
Vấn đề này càng trầm trọng hơn khi chúng ta có xu hướng tìm kiếm thông tin xác nhận niềm tin của mình hoặc từ chối thông tin trái ngược. Điều này có nghĩa là các hình ảnh do AI tạo ra dễ dàng bị bỏ sót nếu chúng phù hợp với kỳ vọng hoặc quan điểm của bạn. Nếu một bức ảnh AI về cầu thủ bóng rổ thực hiện cú ném bất khả thi phù hợp với niềm phấn khích của fan hâm mộ, họ có thể chấp nhận nó ngay cả khi cảm thấy có gì đó bị phóng đại.
While small changes in the shape of a house are not a major concern, the issue becomes worrying when AI-generated images can be used to influence public opinion. For example, research shows that people often assume that an image is related to the accompanying text. Even if images provide no real evidence, they still make it easier for people to accept the text as true.
Both misleading real and AI-generated images can make false claims seem more believable and even cause people to misremember the actual event. AI-generated images have the power to shape opinions and spread misinformation in ways that are difficult to tackle. AI-generated images are becoming more difficult to detect. While surfing the net, the brain processes images quickly without careful judgment, easily ignoring details that reveal a fake. As technology advances, people need to take time to slow down to look more closely and think more clearly.
An Khang (According to Conversation)