Facebook opracowuje nowy sposób śledzenia pochodzenia deepfake

Zespół Facebooka opracowuje nowy projekt z Michigan State University, skupiający się na deepfake.

Opracowują narzędzie, które pozwoli je odkryć i prześledzić ich pochodzenie. W ten sposób można śledzić wszelkie rozpowszechnianie na dużą skalę fałszywych podróbek lub skoordynowanych kampanii dezinformacyjnych.

Nowe narzędzie Facebooka chroniące przed Deepfake

Facebook pracuje nad narzędziem, które wykorzystuje inżynierię wsteczną do śledzenia modelu generatywnego, który wytworzył niektóre deepfake. Tak, chcą wyjść poza samo ustalenie, czy zdjęcie jest prawdziwe, czy fałszywe, ponieważ chcą poznać pochodzenie.

W tym celu muszą znać unikalne cechy lub wzory modelu użytego do produkcji technologii deepfake. Biorąc za podstawę tę wiedzę, która działa jak ślady stóp, można prześledzić podobieństwa między nimi głębokie podróbki I zobacz, czy pochodzą z tej samej formy generatywnej.

Dynamika, która ułatwi śledzenie źródła kampanii dezinformacyjnej i analizę treści, nawet jeśli są one rozpowszechniane na różnych platformach w Internecie. Stanowi to jednak poważne wyzwanie dla naukowców, ponieważ jest to obszar niezbadany i nie ma badań, które można by zbudować lub porównać.

Po raz pierwszy naukowcy byli w stanie scharakteryzować model użyty do stworzenia techniki deepfake bez wcześniejszej znajomości modelu. […] Aby przetestować to podejście, zespół badawczy z Michigan State University połączył zestaw danych symulacyjnych ze 100 000 obrazów syntetycznych wygenerowanych ze 100 publicznie dostępnych modeli generatywnych.

Dlatego najpierw zaczynają od ustalenia, czy treść jest prawdziwa, czy głęboko fałszywa, a następnie szukają tych unikalnych wzorów jako odcisków palców, które pozwolą im zidentyfikować źródło. Oznacza to, że model generatywny po opracowaniu pewnego zestawu głębokich podróbek.

Chociaż nie jest to kompletna metodologia, a do rozwinięcia tego systemu jest jeszcze długa droga, jest to interesujący postęp w zwalczaniu deepfake.