Robisz zdjęcie, wycinasz tło, wrzucasz na Instagram i dostajesz plakietkę o tym, że treść powstała z udziałem AI. Zdjęcie jest prawdziwe, nic nie generowałeś. Dlaczego?!
Część narzędzi do wycinania tła korzysta z AI pod spodem. Każdy model AI zostawia w pliku ukryte metadane. Ty ich nie widzisz, ale komputery potrafią je zidentyfikować. Na tej podstawie niektóre platformy automatycznie zaznaczają obrazy jako AI.
Dlaczego moje prawdziwe zdjęcie zostało oznaczone jako AI?
Bo platforma nie ogląda Twojego zdjęcia. Czyta bebechy pliku.
Przy wgrywaniu system skanuje metadane w poszukiwaniu znaczników mówiących, że w powstaniu obrazu brało udział AI. Jeśli je znajdzie, wiesza etykietę. Usuwanie tła, dodanie filtru lub automatyczne poprawy zdjęcia mogą być dziełem modeli AI, które zawsze doklejają swoje metadane do pliku. I pyk... twój plik jest teraz "zmodyfikowany przez AI".
Ups.
Czy każde narzędzie do usuwania tła używa AI?
Nie każde i to jest sedno całego nieporozumienia.
Wycinanie tła przez lata było operacją ręczną. Piórko, magiczna różdżka, gumka. Potem doszło automatyczne zaznaczanie obiektu, które działało na modelach algorytmicznych, ale niczego nie generowało.
A od kilku lat te same przyciski w wielu programach prowadzą już do modelu generatywnego. Interfejs wygląda identycznie, przycisk nazywa się tak samo, a pod spodem dzieje się coś zupełnie innego.
Ostrzegałem już wcześniej, że można używać AI, nie mając o tym pojęcia. Dlatego dobrze, że jest AI Act, który wymusza ujawnienie użycia AI. Wycinanie tła jest tego najczystszym przykładem, bo nikt tu nie wpisuje prompta i nikt nie ma poczucia, że coś generuje.
Jakie metadane zostawia w pliku narzędzie AI?
Każdy plik graficzny nosi więcej informacji, niż widać.
Aparat wpisuje model obiektywu i czas naświetlania, telefon dokłada lokalizację, a programy graficzne od kilku lat dopisują też informację o użytych narzędziach.
Standard nazywa się C2PA. To podpisany kryptograficznie zapis historii pliku, którego nie da się łatwo podrobić i który podróżuje razem z obrazem. Sam pomysł jest dobry i tak powinno być, bo dzięki temu fotograf może udowodnić, że zdjęcie wyszło z jego aparatu.
Dlaczego platformy oznaczają zdjęcie automatycznie?
Bo tak jest taniej i szybciej niż weryfikowanie czegokolwiek ręcznie.
Automat widzi w pliku ślad AI i wiesza plakietkę „zmodyfikowane przez AI".
Nie ma jednak informacji o tym, czy chodziło o samo tło, czy o cały obraz. To trochę jak odcisk palca: widać, że ktoś tu był, ale nie wiadomo, kto ani po co.
Czy AI Act każe oznaczać zdjęcie z usuniętym tłem?
Nie, jeśli zdjęcie jest prawdziwe.
Przepis nie pyta, czy użyłeś AI. Pyta, czy ktoś mógłby wziąć Twoją grafikę za dowód, że coś naprawdę tak wygląda albo się wydarzyło. Twój produkt na białym tle niczego nie udaje. Stał przed obiektywem, wygląda jak wygląda, zniknęło tylko otoczenie. Rozpisałem te warunki dokładniej w tekście o tym, co grafik musi wiedzieć o unijnym AI Act.
Odwrotnie jest z packshotem wygenerowanym od zera. Przedmiot nigdy nie stanął przed aparatem, a odbiorca zakłada, że stanął. To już oznaczasz.
Nie jest to w pełni klarowne. Jedni powiedzą, że usunięcie tła to poważna ingerencja. Drudzy, że obiekt został nietknięty i zmieniło się wyłącznie otoczenie. Granicy nikt jeszcze nie wyznaczył, więc każdy prawnik rozstrzyga po swojemu.
Czy zrzut ekranu usuwa metadane AI ze zdjęcia?
Nie usuwa, tylko tworzy nowy plik, do którego nic ze starego nie przechodzi. Zostaje pusto: ani historii, ani podpisu, ani śladu po tym, skąd obraz się wziął.
Niektórzy (źle) radzą, żeby zrobić screenshota swojego slajdu. Właśnie taki „patent” polecają inni instagramerzy. Tyle że w praktyce to omijanie metadanych (co prawda legalne), ale jeśli każdy zacznie tak czyścić dane, to już nigdy nie dowiemy się, co jest AI, a co nie.
Jak usunąć tło bez oznaczenia AI?
Wróć do starych sposobów.
Zaznaczanie piórkiem, magiczna różdżka, gumka do mazania. Te funkcje działają na zwykłych algorytmach, nie na modelach generatywnych, więc nie mają czego dopisać do pliku.
Jeśli chcesz zostać AI-free, to jedyna opcja póki co. Bycie AI-free jest OK.
Warto tylko wiedzieć, ile to kosztuje. Modele stały się w wycinaniu tła bardzo dobre i robią w kilka sekund to, na co kiedyś schodziło pół godziny piórkowania. Nie chcecie wiedzieć, ile czasu w karierze na to zeszło.
Ja się nie wstydzę etykiety „zmodyfikowane przez AI"
Wszystkie obrazy w tym poście są wygenerowane. Teksty piszę sam, od zera, ale redaguje je najpierw AI, a potem moja redaktorka.
Robię tak, bo wiem, ile ta technologia daje mi w pracy. Osiągam więcej i potrafię więcej. Każdy oswaja się z nowym w swoim tempie i za dekadę ta rozmowa będzie wyglądać zupełnie inaczej.
Pisałem już kiedyś o tym, że magiczna gumka też kiedyś uchodziła za oszustwo, a przed pierwszymi samochodami szedł chłopiec z czerwoną flagą, co opisałem w tekście o tym, czy historia się powtarza.
Dlaczego etykieta AI jest absurdalna?
Moje zdanie na koniec. Mogę wyciąć to samo tło ręcznie, piórkiem i nikomu nic nie muszę mówić. Ten sam plik, ten sam efekt, zero oznaczeń. Kliknięcie przycisku zamiast pół godziny klikania po krawędzi zmienia plik w AI slop.
Dla mnie to dziwne. Nie ma oznaczeń, że fotka modelki reklamującej krem została zmodyfikowana w Photoshopie. Nie ma też wielkiego oznaczenia przed filmem Marvela, że sceny nie są realne, aktorzy stoją przed green screenem, a reszta to CGI.
Rozumiem, że łatwość, z jaką można zrobić fejka AI-em, jest nieporównywalna, ale nawet przed erą AI wpadaliśmy w fotomanipulacje i fake newsy. AI to tylko przyspiesza, ale nie jest to złowrogie narzędzie. Takie moje trzy grosze.
PS. Oznaczenia retuszu istnieją, na przykład we Francji i Norwegii, ale spotyka się je rzadko.
Źródła
Art. 50 AI Act, obowiązki przejrzystości: artificialintelligenceact.eu/article/50
Komisja Europejska, FAQ do wytycznych w sprawie art. 50: digital-strategy.ec.europa.eu
Komisja Europejska, skrót zasad przejrzystości dla systemów AI: digital-strategy.ec.europa.eu
C2PA, standard pochodzenia treści: c2pa.org
Adobe, przegląd Content Credentials: helpx.adobe.com
Meta, podejście do oznaczania treści AI: about.fb.com
Weryfikator Content Credentials: contentcredentials.org/verify
