Nastavna Jedinica 8. AI generirane slike i video zapisi

UVOD

Posljednjih godina, umjetna inteligencija (AI) ostvarila je ogroman napredak u području kreiranja vizualnog sadržaja. Slike i video snimci koje generira AI postaju sve sofisticiraniji, brišući granice između sadržaja koji su kreirali ljudi i onog koji je stvorila mašina. Već sad, neke AI-generirane slike osvojile su prestižno fotografsko natjecanje, lažni politički AI video koji je Elon Musk podjelio imao je preko 130 milijuna pregleda, a AI može također i oponašati nečiji glas, poput Scarlett Johansson, ili čak kreirati video snimke radi prijevare. Ova lekcija objašnjava proces iza generiranja AI slika i video snimaka, navodi zapažene primjere ove tehnologije i razmatra neke metode za razlikovanje između autentičnog i AI-generiranog sadržaja. 

PRIMJERI AI-GENERIRANOG VIZUALNOG SADRŽAJA

Evo četiri zapažena slučaja lažnih AI slika i video snimaka, zajedno sa linkovima na članke koji ih analiziraju:

AI generirana fotografija “Pseudomnesia: The Electrician” koja je pobjedila na Sony World Photography Competition

1. DeepFake TikTok video snimci Tom Cruise-a (2021)
   Serija video snimaka pojavila se na TikTok-u sa hiperrealističnim deepfake-om glumca Tom-a Cruise-a. Ovi snimci su pokazali napredno stanje deepfake tehnologije i izazvali zabrinutost zbog njene potencijalne zloupotrebe.
   
   
2. Web stranica "This Person Does Not Exist"
   Iako ne razmatra pojedinačne slučajeve, ova stranica generira novo AI-kreirano lice svaki put kada osvježite stranicu, demonstrirajući kako AI može kreirati veoma realistične slike ljudi koji zapravo ne postoje.
   
   
3. AI-generirana umjetnost osvaja natjecanje (2022)
   AI-generirano umjetničko djelo osvojilo je prvo mjesto na natjecanju likovnih umjetnosti na sajmu u Colorado-u, što je pokrenulo debatu o prirodi umjetnosti i kreativnosti u doba AI.
   
   
4. Lažni video Kamala-e Harris (2024)
   Sredinom 2024. godine, pojavio se lažni, AI-kreiran video koji navodno predstavlja službeni promotivni video izborne kampanje kandidatkinje za predsjednicu SAD-a Kamala Harris. Objava ovog video od strane Elon Musk-a dovela je do 130 milijuna pregleda, ali Musk nije jasno naveo da je u pitanju lažni video.

Ovi slučajevi pokazuju širok utjecaj AI-generiranih slika i video snimaka u različitim područjima, od zabave i umjetnosti do novinarstva i politike. Oni naglašavaju važnost razvijanja jakih metoda za otkrivanje AI-generiranog sadržaja i razmatranje etičkih implikacija ove tehnologije. Također pokazuju potencijal za korištenje ove tehnologije za dezinformacije ili manipulaciju u političkom diskursu.

RAZOTKRIVANJE AI-GENERIRANOG SADRŽAJA

Kako AI-generirani sadržaj postaje sve prisutniji, ključno je razviti vještine za prepoznavanje sintetičkih medija. Evo nekih elemenata na koje treba obratiti pozornost:

1. Nedosljednosti u detaljima
   
   • Tražite nepravilnosti u crtama lica, poput asimetričnih očiju ili čudno oblikovanih zuba.
   • Provjerite nedosljednosti u pozadini ili osvijetljenju koje ne prate prirodne fizičke zakonitosti.
     
     
2. Analiza meta-podataka
   
   • Ispitajte meta-podatke slike ili video snimke radi informacija o porijeklu i povijesti izmjena.
     
     
3. Alati za digitalnu forenziku
   
   • Koristite specijalizirani software dizajniran za otkrivanje manipuliranog ili AI-generiranog sadržaja.
4. Kontekstualna analiza
   • Razmotrite izvor i kontekst sadržaja. Da li je iz pouzdanog izvora? Da li se slaže sa poznatim činjenicama?
5.  AI modeli za detekciju
   
   • Koristite AI alate specijalno obučene za prepoznavanje AI-generiranog sadržaja.
     
     

Alati i resursi za provjeru činjenica

Različiti alati i platforme su razvijeni kako bi pomogli u provjeri činjenica:

1. TinEye: Alat za pretragu slika unazad koji pomaže u verifikaciji porijekla slike, što može biti korisno u identifikaciji manipuliranih ili van konteksta prikazanih vizuala.
   
   
2. Google Reverse Image Search: sličan TinEyeu, može pratiti podrijetlo i korištenje slika diljem interneta.
   
   
3. FotoForensics: Pruža alate za analizu digitalnog sastava slika kako bi otkrio izmjene.
   
   
4. InVID Verification Plugin: Ekstenzija za preglednik koja nudi razne alate za provjeru videa i slika.
   
   
5. Sensity: Specijalizira se za otkrivanje deepfakeova i pruža resurse za prepoznavanje videa generiranih umjetnom inteligencijom.
   
   

Ilustracija

Fotografija desno je AI-kreirana slika George Clooney-a i Wolfgang Amadeus Mozart-a kako navodno zajedno piju milkshake od vanilije u dvorcu Schönbrunn u Beču. Ispod je također link na

Oba su AI-kreirani sadržaji u edukativne svrhe, kao ilustracija kreativnih sposobnosti AI. Clooney i Mozart se, naravno, nikada nisu sreli, pošto je Mozart (1757–1791) umro 170 godina prije Clooney-evog rođenja (1961)!

VODEĆI AI ALATI

1. DALL-E 2 od OpenAI – Poznat po kreiranju veoma detaljnih i kreativnih slika na osnovu tekstualnih opisa.
   
   
2. Midjourney je stekao popularnost zbog svojih umjetničkih prikaza i sposobnosti kreiranja slika u različitim stilovima.
   
   
3. Stable Diffusion - Open-source model koji je demokratizirao generiranje AI slika.
   
   
4. This Person Does Not Exist - Web stranica koji prikazuje AI-generirana lica koja se ne razlikuju od stvarnih fotografija.
   
   
5. DeepFake video snimci - Iako ne postoji jedinstveni izvor, termin "deepfake" postao je široko poznat. Poznat primjer je deepfake video Tom Cruise-a na TikTok-u.

Imajte na umu da se područje AI-generiranog sadržaja brzo razvija, tako da se stalno pojavljuju novi i napredniji primjeri. Uvijek je dobro provjeriti najnovije izvore za najnovija dostignuća u ovom području.

ETIČKA RAZMATRANJA I BUDUĆE IMPLIKACIJE

Porast AI-generiranog sadržaja postavlja važna etička pitanja:

• Autorska prava i vlasništvo: Tko posjeduje prava na AI-generirani sadržaj?
• Dezinformacije: Kako spriječiti širenje lažnih vijesti i manipuliranih medija?
• Pitanja privatnosti: Koje su implikacije kreiranja realističnih slika ili video snimaka stvarnih ljudi bez njihovog pristanka?
• Utjecaj na kreativnu industriju: Kako će AI-generirani sadržaj utjecati na umjetnike, fotografe i druge kreativne profesionalce?

Kako tehnologija nastavlja napredovati, vjerojatno je da će AI-generirani sadržaj postati još sofisticiraniji i rašireniji. Ovo naglašava važnost razvijanja vještina kritičkog razmišljanja i korištenja tehnoloških alata za snalaženje u sve kompliciranijem digitalnom okruženju.

ZAKLJUČAK

AI-generirane slike i video snimci predstavljaju fascinantan spoj tehnologije i kreativnosti. Iako nude uzbudljive mogućnosti za umjetnost, zabavu i inovacije, oni također predstavljaju izazove u pogledu autentičnosti i etičke upotrebe. Razumijevanjem načina na koji se ovaj sadržaj kreira i učenjem kritičke evaluacije digitalnih medija, možemo bolje cijeniti sposobnosti AI, pritom istovremeno ostajući oprezni prema njenoj potencijalnoj zloupotrebi.