AI 생성 이미지 구별하는 법 (그리고 각 확인 방법이 실패하는 지점)

도시 위로 몰아치는 폭풍 사진이 단체 채팅방에 올라오고, 누군가 요즘 화제가 된 이미지의 절반에 따라붙는 질문을 던집니다. "이거 진짜야?" 저희는 하루 종일 AI 이미지를 만들기 때문에 이 문제를 양쪽 입장에서 모두 알고 있습니다. 사진에 대한 확신을 정직하게 높이거나 낮추는 방법은 있습니다. 하지만 파일만 보고 확실히 판단할 방법은 여러분에게도, 저희에게도 없습니다. 이 글은 저희가 실제로 쓰는 순서대로 정리한 체크리스트이며, 각 단계의 한계도 함께 적어 두었습니다.

1단계: 확대하기 전에 먼저 보기

먼저 보통 크기로 화면 전체를 보면서, 그 장면이 하나의 사건으로서 말이 되는지 생각해 보세요. 누가 카메라를 들고 그 자리에 서 있었을까요? 모든 요소가 촬영을 위해 자세를 잡은 듯 너무 완벽한 순간은 아닌가요? 실제 사건에는 보통 불완전한 사진이 여러 장 남습니다. 생성된 장면에는 흠잡을 데 없는 사진 딱 한 장만 남는 경우가 많습니다.

한계: 이것은 픽셀이 아니라 맥락에 대한 질문입니다. 진짜 사진가도 완벽한 한 장을 건질 수 있고, 꼼꼼한 조작자는 몇 가지 변형을 함께 올릴 수 있습니다.

2단계: 시각적 단서, 그리고 그것이 사라지는 이유

이제 확대해 봅니다. 모델은 일관된 것이 아니라 그럴듯한 것을 그립니다. 그래서 오류는 화면 전체에 걸쳐 지켜져야 하는 규칙이 있는 곳에 몰립니다.

• 손과 관절. 손가락 개수를 세고, 손이 물건을 어떻게 쥐고 있는지 확인하세요. 손가락을 관통하는 컵 손잡이, 피부에 녹아든 반지, 팔꿈치가 분명하지 않은 팔 같은 것들입니다.
• 글자와 기호. 간판, 라벨, 번호판, 책등이 멀리서는 글자처럼 보이다가 가까이서 보면 글자 비슷한 모양으로 변합니다. 유명 브랜드와 거의 같지만 어딘가 다른 로고도 마찬가지입니다.
• 반사와 그림자. 다른 방을 비추는 거울이나 쇼윈도, 앞에 선 사람이 비치지 않는 반사, 태양은 하나인데 두 방향으로 드리운 그림자 등입니다.
• 빛의 논리. 창문이 오른쪽에만 있는 장면인데 얼굴이 왼쪽에서 따뜻하게 비춰지는 경우. 뒤에 빛을 만들 것이 아무것도 없는데 피사체 윤곽에 테두리 조명이 들어간 경우입니다.
• 반복되는 질감. 스스로를 복사한 듯한 벽돌, 나뭇잎, 군중, 카펫 무늬. 배경 속 사람들이 모두 같은 얼굴이거나, 머리카락이 매끈한 번짐으로 바뀌는 경우입니다.

한계: 이런 단서는 모델 세대가 바뀔 때마다 줄어들고 있으며, 꼼꼼한 제작자가 바로 고치는 부분이기도 합니다. 저희도 그 방법을 다룬 가이드를 썼습니다. AI 이미지의 손과 글자 고치기입니다. 실제 사진에도 렌즈나 스마트폰 처리에서 오는 나름의 이상한 점이 있습니다. 깔끔한 결과는 아무것도 증명하지 못하고, 이상한 부분 하나는 거의 아무것도 증명하지 못합니다.

3단계: 출처 데이터 읽기

파일은 자신이 어디서 왔는지에 대한 정보를 담고 있을 수 있습니다. 카메라로 찍은 사진에는 보통 기기와 촬영 시각 같은 기본 메타데이터가 들어 있습니다. 여기에 더해 서명된 출처 정보를 위한 공개 표준이 있으며, 사용자에게는 흔히 콘텐츠 자격 증명으로 표시됩니다. 이는 파일에 첨부되는 기록으로, 어떤 도구로 만들거나 편집했는지, 그 과정에서 무엇이 바뀌었는지 알려 줄 수 있고, 변조하면 드러나도록 보호되어 있습니다. 일부 카메라, 편집 앱, 생성 도구가 이 기록을 남기며, 작은 클릭형 라벨로 보여 주는 플랫폼도 있습니다.

무료 온라인 검사 도구를 쓰면 파일에 아직 남아 있는 출처 정보를 볼 수 있습니다. 이미지가 생성되었거나 크게 편집되었다고 적힌 서명된 기록을 찾았다면 강력한 증거입니다. 카메라로 촬영되었다고 적혀 있고 서명 검증도 통과한다면, 반대 방향의 강력한 증거입니다.

한계: 기록이 없다는 것은 아무 의미가 없습니다. 스크린샷, 다시 저장하기, 대부분의 소셜 네트워크 업로드는 메타데이터를 지우고, 아예 기록을 남기지 않는 도구도 많습니다. 일반 메타데이터 항목은 손쉽게 수정할 수 있습니다. 출처 정보는 존재하고 유효할 때는 무언가를 알려 주지만, 사라졌을 때는 아무것도 알려 주지 않습니다.

4단계: 역방향 이미지 검색하기

사진 자체나 가장 특징적인 부분을 잘라낸 이미지를 역방향 이미지 검색 엔진에 올리고, 결과를 날짜순으로 정렬하세요. 찾는 것은 가장 오래된 사본입니다. 실제 사건의 사진은 보통 언론사, 사진가, 또는 같은 장소의 다른 사진도 가진 현지 계정으로 거슬러 올라갑니다. 생성된 이미지는 AI 아트 커뮤니티나 프롬프트 공유 계정으로 이어지거나, 화제가 된 게시물보다 오래된 것이 아예 나오지 않는 경우가 많습니다.

한계: 갓 만들어진 이미지에는 진짜든 아니든 찾아낼 이력이 없습니다. 자르기, 좌우 반전, 필터로 이미지가 검색에 걸리지 않게 될 수도 있습니다. 더 오래된 사본을 찾아도 알 수 있는 것은 그 사진이 오래되었다는 사실뿐, 어떻게 만들어졌는지는 알 수 없습니다.

5단계: 판별 앱은 신중하게

자동 판별 도구는 퍼센트를 보여 주기 때문에 과학적으로 느껴집니다. 하지만 하나의 의견 정도로만 받아들이세요. 판별 도구는 만들어질 당시에 있던 모델로 학습되었고, 크기 조정이나 노이즈에 속을 수 있으며, 실제 사진을 잘못 걸러 내는 것을 포함해 양쪽 방향으로 모두 틀립니다. 판별 점수 하나만으로 누군가를 비난해서는 절대 안 됩니다.

종합하기

1. 01그 장면이 사건으로서 말이 되는지, 그리고 다른 누가 그것을 찍었어야 하는지 생각한다.
2. 02손, 글자, 반사, 빛, 반복되는 질감을 특히 배경에서 확인한다.
3. 03파일의 출처 정보를 살펴보되, 데이터가 없다는 것은 증거가 아니라는 점을 기억한다.
4. 04역방향 검색으로 가장 오래된 사본과 그 출처를 찾는다.
5. 05모든 것을 종합해 판단한다. 같은 방향을 가리키는 약한 신호 여러 개가, 강해 보이는 신호 하나보다 더 가치 있습니다.

마지막에 나오는 정직한 답은 "확실히"가 아니라 "아마도"인 경우가 많습니다. 그래도 괜찮습니다. 중요한 것은 "아마도"를 어떻게 다루느냐입니다. 사실처럼 공유하지 말고, 공유한다면 무엇을 확인했는지 함께 밝히세요.

반대편 이야기: 내가 만든 이미지

직접 이미지를 생성한다면, 스튜디오에서든 다른 곳에서든, 같은 체크리스트가 인터넷에서 좋은 이웃이 되는 방법을 알려 줍니다. 사람들은 확실하게 구별할 수 없으므로, 책임은 이미지를 올리는 사람에게 있습니다.

• 표시하세요. 캡션에 AI로 생성한 이미지라고 밝히고, 플랫폼에 AI 라벨이 있다면 사용하세요. 이제 많은 플랫폼에서 이를 의무로 하고 있습니다.
• 생성한 이미지를 실제 사건, 실제 제품 테스트, 실존 인물의 사진인 것처럼 내놓지 마세요. 허구의 장면을 허구로 보여 주는 것은 괜찮지만, 같은 이미지를 뉴스로 내놓는 것은 안 됩니다.
• 동의하지 않은 실존 인물은 등장시키지 마세요. 알아볼 수 있는 사람의 사실적인 이미지야말로 사람들이 확인할 수 없는 것입니다.
• 기록을 남기세요. 공개하는 이미지마다 프롬프트, 모델, 날짜를 저장해 두면, 누가 물어볼 때 이미지를 어떻게 만들었는지 보여 줄 수 있습니다. 상업적 측면의 나머지 내용은 AI 생성 이미지의 소유권 글에서 다룹니다.

카탈로그의 많은 모델은 대충 봐서는 구별되지 않는 이미지를 만들어 냅니다. 그래서 콘셉트 아트와 스토리텔링에 유용하고, 그래서 라벨이 중요합니다.