Jak poznat, že je obrázek vytvořený AI (a kde každá kontrola selhává)

Do skupinového chatu přistane snímek bouře nad městem a někdo položí otázku, která dnes provází polovinu virálních obrázků na internetu: je to skutečné? AI obrázky vytváříme celý den, takže známe obě strany. Existují poctivé způsoby, jak důvěru v obrázek zvýšit či snížit. Jisté ale z jediného souboru nebude ani vám, ani nám. Tohle je kontrolní seznam v pořadí, v jakém bychom ho použili, a u každého kroku je napsáno, kde končí.

Krok 1: dívejte se, než přiblížíte

Začněte celým záběrem v běžné velikosti a zeptejte se, zda scéna dává smysl jako událost. Kdo tam asi stál s fotoaparátem? Není ten okamžik příliš dokonalý, s každým prvkem rozestaveným pro záběr? Skutečné události obvykle zanechají spoustu nedokonalých fotografií. Vygenerovaná scéna často zanechá právě jednu bezchybnou.

Omezení: je to otázka kontextu, ne pixelů. Skutečný fotograf může získat jeden dokonalý snímek a pečlivý padělatel umí zveřejnit několik variant.

Krok 2: vizuální příznaky a proč mizí

Teď přibližte. Modely kreslí to, co je pravděpodobné, ne to, co je vnitřně konzistentní, takže chyby se hromadí tam, kde ve scéně platí pravidla, která musí držet v celém záběru.

• Ruce a klouby. Spočítejte prsty a pak zkontrolujte, jak ruka drží předmět: ucho hrnku procházející prstem, prsten zapadlý do kůže, paže bez zřetelného lokte.
• Text a symboly. Cedule, štítky, poznávací značky a hřbety knih, které zdálky vypadají jako písmo, ale zblízka se mění v téměř písmena. Loga, která jsou skoro známou značkou.
• Odrazy a stíny. Zrcadlo nebo výloha, která ukazuje jinou místnost, odraz bez osoby, která před ním stojí, stíny mířící dvěma směry pod jedním sluncem.
• Logika osvětlení. Tvář teple osvětlená zleva ve scéně, kde je jediné okno vpravo. Světelný okraj na objektu, za kterým není nic, co by ho mohlo vytvořit.
• Opakující se textury. Cihly, listy, davy nebo vzory koberce, které se kopírují, tváře v pozadí, které jsou pořád tatáž tvář, vlasy, které přecházejí v hladkou šmouhu.

Omezení: tyto příznaky jsou s každou generací modelů vzácnější a jsou také přesně tím, co pečlivý tvůrce opraví. Máme na to dokonce vlastní průvodce: oprava rukou a textu v AI obrázcích. I skutečné fotografie mají své zvláštnosti z objektivů a zpracování v telefonu. Čistý výsledek nedokazuje nic, jediný zvláštní detail dokazuje máloco.

Krok 3: přečtěte data o původu

Soubor může nést informace o tom, odkud pochází. Fotografie z fotoaparátu obvykle obsahují základní metadata, například zařízení a čas pořízení. Kromě toho existuje otevřený standard pro podepsaný původ, lidem často zobrazovaný jako Content Credentials: záznam připojený k souboru, který může říct, jaký nástroj soubor vytvořil nebo upravil a co se po cestě změnilo, a je chráněný tak, aby byl zásah odhalitelný. Někteří výrobci fotoaparátů, editační aplikace i generátory ho zapisují a některé platformy ho ukazují jako malý klikací štítek.

Bezplatné online kontrolní nástroje ukážou, jaký původ soubor ještě nese. Pokud najdete podepsaný záznam říkající, že byl obrázek vygenerován nebo výrazně upraven, je to silný důkaz. Pokud říká, že ho pořídil fotoaparát, a podpis sedí, je to silný důkaz opačným směrem.

Omezení: nepřítomnost neznamená nic. Snímek obrazovky, nové uložení nebo nahrání na většinu sociálních sítí metadata odstraní a mnoho nástrojů je nikdy nezapisuje. Prosté metadatové položky jdou upravit triviálně. Původ vám něco řekne, když je přítomný a platný, a nic, když zmizel.

Krok 4: spusťte zpětné hledání obrázku

Nahrajte obrázek, nebo výřez jeho nejcharakterističtější části, do vyhledávače zpětného hledání obrázků a seřaďte výsledky podle data. Hledáte nejstarší kopii. Fotografie skutečné události se obvykle dá vystopovat k zpravodajskému médiu, fotografovi nebo místnímu účtu s dalšími snímky ze stejného místa. Vygenerovaný obrázek se často vystopuje do komunity AI umění, k účtu sdílejícímu prompty, nebo k ničemu staršímu než samotný virální příspěvek.

Omezení: zcela nový obrázek nemá historii, kterou by šlo najít, ať je skutečný, nebo ne. Ořez, překlopení a filtry mohou obrázek před hledáním skrýt a nalezení starší kopie říká jen to, že obrázek je starý, ne jak vznikl.

Krok 5: opatrně s aplikacemi na detekci

Automatické detektory vydávají procento, což působí vědecky. Berte ho jako další názor. Jsou natrénované na modelech, které existovaly v době jejich vzniku, změna velikosti nebo šum je mohou oklamat a chybují oběma směry, včetně označování skutečných fotografií. Nikdy nikoho neobviňujte jen na základě skóre detektoru.

Shrnutí

1. 01Zeptejte se, zda scéna dává smysl jako událost a kdo další ji měl fotografovat.
2. 02Zkontrolujte ruce, text, odrazy, světlo a opakující se textury, zejména v pozadí.
3. 03Prohlédněte soubor kvůli původu a pamatujte, že chybějící data nejsou důkaz.
4. 04Zpětným hledáním najděte nejstarší kopii a její zdroj.
5. 05Zvažte vše dohromady. Několik slabých signálů mířících stejným směrem váží víc než jeden, který vypadá silně.

Poctivá odpověď na konci je často „pravděpodobně“, ne „určitě“. To je v pořádku. Užitečné je, co s tím „pravděpodobně“ uděláte: nesdílejte to jako fakt, a pokud to sdílíte, řekněte, co bylo zkontrolováno.

Druhá strana: vaše vlastní rendery

Pokud obrázky vytváříte sami, ve studiu nebo jinde, stejný kontrolní seznam ukazuje, jak být na internetu dobrým sousedem. Lidé spolehlivě rozeznat nedokážou, takže odpovědnost nese ten, kdo obrázek zveřejňuje.

• Označte ho. Uveďte v popisku, že je obrázek vytvořený AI, a použijte štítek AI, pokud ho platforma nabízí. Mnoho platforem ho dnes vyžaduje.
• Nevydávejte render za fotografii skutečné události, skutečného testu produktu nebo skutečné osoby. Fiktivní scéna prezentovaná jako fikce je v pořádku; stejný obrázek prezentovaný jako zpráva ne.
• Nezapojujte skutečné lidi, pokud s tím nesouhlasí. Realistický obrázek identifikovatelné osoby je přesně to, co lidé nemohou ověřit.
• Uchovávejte záznamy. U všeho, co zveřejníte, uložte prompt, model a datum, abyste mohli na požádání doložit, jak obrázek vznikl. Zbytek obchodní stránky pokrývá náš článek komu patří obrázky vytvořené AI.

Mnoho modelů v katalogu vytváří obrázky, které obstojí při letmém pohledu. To je dělá užitečnými pro koncepční umění a vyprávění a proto je důležité označování.