Jan Čech, Lukáš Kutil, Jan Fridrichovský presents Odhalování deepfakes: moderní přístupy a výzvy
On 2025-05-27 - 2025-05-27 10:00:00 at KN:E-301
Workshop v rámci projektu CEDMO v češtině. (10:00-13:30)
https://cedmohub.eu/cs/odhalovani-deepfakes-moderni-pristupy-a-vyzvy/#1746514011
(1) Přednášející: Ing. Jan Čech, Ph.D., skupina vizuálního
rozpoznávání FEL, ČVUT
Manipulace obrazu a videa využívající umělou inteligencí, známá jako
„deepfakes“, se rychle rozšiřuje díky nedávnému pokroku v
generativních technikách. Generativní modely se vyvíjejí a zlepšují
pozoruhodným tempem, což ztěžuje rozlišování mezi autentickým a
deepfake
vizuálním obsahem. Zjevné vizuální artefakty již nejsou vždy
přítomné,
což činí rozlišení obtížným pro běžné uživatele i odborníky
spoléhající se na pouhé oko. Proto jsou nástroje pro detekci deepfake
obsahu založené na umělé inteligenci vyvíjeny také zrychleným tempem.
Tento workshop představí nejmodernější přístupy a ukáže nedávné
výzkumné příspěvky ČVUT v oblasti detekce „deepfake“ obličejů.
(2) Přednášející: Mgr. Lukáš Kutil, datový analytik, CEDMO Univerzita
Karlova
Jak si stojí Češi v rozpoznávání deepfakes? Příspěvek představí
nejnovější data z longitudinálního sociologického šetření CEDMO
Trends,
zaměřená na schopnost české populace rozpoznávat falešné obrázky a
videa. Kromě základních poznatků o úspěšnosti identifikace
manipulovaných obsahů se analýza soustředí na faktory, které s touto
schopností souvisejí – včetně mediální gramotnosti, digitálních
návyků a chování na internetu. Prezentace rovněž nabídne související
zjištění týkající se znalostí v oblasti kyberbezpečnosti a
využívání
generativní umělé inteligence.
(3) Přednášející: Ing. Mgr. Jan Fridrichovský, šéfeditor Demagog.cz
Deepfakes a klonování hlasu představují specifickou výzvu pro
fact-checkery, jelikož je často nelze rozpoznat technicky bez dalšího
kontextu. Jan Fridrichovský z Demagog.cz přiblíží metody, které Demagog
využívá při ověřování takového obsahu a jejich limity. Zároveň se
zaměří na využití AI ze strany fact-checkerů, ať už pro ověřování
obsahu vytvořeného umělou inteligencí či obecně. AI totiž
nepředstavuje
pouze hrozbu, nýbrž i příležitost škálovat práci fact-checkerů a
zvýšit její dopad.
https://cedmohub.eu/cs/odhalovani-deepfakes-moderni-pristupy-a-vyzvy/#1746514011
(1) Přednášející: Ing. Jan Čech, Ph.D., skupina vizuálního
rozpoznávání FEL, ČVUT
Manipulace obrazu a videa využívající umělou inteligencí, známá jako
„deepfakes“, se rychle rozšiřuje díky nedávnému pokroku v
generativních technikách. Generativní modely se vyvíjejí a zlepšují
pozoruhodným tempem, což ztěžuje rozlišování mezi autentickým a
deepfake
vizuálním obsahem. Zjevné vizuální artefakty již nejsou vždy
přítomné,
což činí rozlišení obtížným pro běžné uživatele i odborníky
spoléhající se na pouhé oko. Proto jsou nástroje pro detekci deepfake
obsahu založené na umělé inteligenci vyvíjeny také zrychleným tempem.
Tento workshop představí nejmodernější přístupy a ukáže nedávné
výzkumné příspěvky ČVUT v oblasti detekce „deepfake“ obličejů.
(2) Přednášející: Mgr. Lukáš Kutil, datový analytik, CEDMO Univerzita
Karlova
Jak si stojí Češi v rozpoznávání deepfakes? Příspěvek představí
nejnovější data z longitudinálního sociologického šetření CEDMO
Trends,
zaměřená na schopnost české populace rozpoznávat falešné obrázky a
videa. Kromě základních poznatků o úspěšnosti identifikace
manipulovaných obsahů se analýza soustředí na faktory, které s touto
schopností souvisejí – včetně mediální gramotnosti, digitálních
návyků a chování na internetu. Prezentace rovněž nabídne související
zjištění týkající se znalostí v oblasti kyberbezpečnosti a
využívání
generativní umělé inteligence.
(3) Přednášející: Ing. Mgr. Jan Fridrichovský, šéfeditor Demagog.cz
Deepfakes a klonování hlasu představují specifickou výzvu pro
fact-checkery, jelikož je často nelze rozpoznat technicky bez dalšího
kontextu. Jan Fridrichovský z Demagog.cz přiblíží metody, které Demagog
využívá při ověřování takového obsahu a jejich limity. Zároveň se
zaměří na využití AI ze strany fact-checkerů, ať už pro ověřování
obsahu vytvořeného umělou inteligencí či obecně. AI totiž
nepředstavuje
pouze hrozbu, nýbrž i příležitost škálovat práci fact-checkerů a
zvýšit její dopad.