Tento snímek pochází z falešného videa, které ukazuje bývalého prezidenta Baracka Obamu, a ukazuje prvky mapování obličeje používané v hlubokých podvodech, které každému umožňují vytvářet videa skutečných lidí, kteří se zdají říkat věci, které nikdy předtím neřekli.
AP
Skrýt titulek
Přepínač titulků التوضيح
AP
Tento snímek pochází z falešného videa, které ukazuje bývalého prezidenta Baracka Obamu, a ukazuje prvky mapování obličeje používané v hlubokých podvodech, které každému umožňují vytvářet videa skutečných lidí, kteří se zdají říkat věci, které nikdy předtím neřekli.
AP
Sociální síť na Facebooku Vědci tvrdí, že vyvinuli umělou inteligenci Dokáže identifikovat takzvané „hluboké padělky“ a sledovat jejich původ pomocí reverzního inženýrství.
Deepfakes jsou upravené fotografie, videa a statické obrázky, které pomocí umělé inteligence vypadají jako skutečné věci. V posledních letech je to čím dál realističtější, takže je obtížné odhalit pravdu od falešného pouze pouhým okem.
Technologický pokrok v oblasti hlubokých padělků znepokojil odborníky, kteří varují, že tyto falešné obrazy by mohly být použity zlomyslnými aktéry k šíření dezinformací.
Objevily se příklady falešných videí využívajících Toma Cruise, bývalého prezidenta Baracka Obamu a domácí mluvčí Nancy Pelosi, které ukazují vývoj technologie v průběhu času.
„Naše metoda usnadní detekci a sledování hlubokých padělků v reálných podmínkách, kde samotný hluboce padlý obraz je často jediným detektorem informací, se kterým musíte pracovat,“ napsali ve středu vědci z Facebooku Xi Yin a Tal Hassner.
Práce byla provedena společně s Michigan State University.
Nový software Facebooku spouští ve své síti hluboké obrazy. Jejich software AI hledá trhliny ve výrobním procesu použitém ke změně „otisku prstu“ digitálního obrazu.
„V digitální fotografii se otisky prstů používají k identifikaci digitálního fotoaparátu použitého k vytvoření obrazu,“ vysvětlili vědci. Otisky prstů jsou také jedinečné vzory, které „lze stejně použít k identifikaci generativního modelu, ze kterého obrázek pochází“.
Vědci považují tento software za skutečný aplikace. Jejich práce poskytne ostatním „nástroje k lepšímu vyšetřování případů orchestrovaných dezinformací pomocí hlubokých padělků a také k otevření nových směrů pro budoucí výzkum.“
„Přátelský průkopník popkultury. Hodně padá. Sociální média geek. Obecný fanatik do kávy. Televizní nadšenec. Potížista.“
