HWSW podcast!

A deepfake-vonaton nincs fék (weekly #80)

· PT56M45S

Összefoglaló

A HWSW podcast 81. weekly adásában Kori Tamás és Számi Mezriczky Marcell deepfake-kutatóval beszélgetnek a technológia elmúlt öt évben történt fejlődéséről, az arcokkal való visszaélésről és a deepfake-ek lehetséges felhasználási területeiről a filmipartól a reklámig. Kitérnek a…

Röviden

Műsor
HWSW podcast!
Megjelenés
2026. 03. 06.
Hossz
57 perc
Szereplők, említett nevek
Kori Tamás, Mezriczky Marcell
Témák
deepfake, technológia, filmipar
Átirat
Az epizód beszélt szövege alapján indexelve

Ebben az epizódban

Nem is kell az unokázós csalásokig menni, mert tényleg top vállalatvezetőknek a hangját tudják leimitálni, és brutális összegű pénzeket tudnak kicsalni nagy vállalatokból, komoly nagy vállalatokból, akár csak egy nemzetközi vezérigazgatónak a hangját leimitálva, felhívva egy másik országban valakit, hogy akkor el kell utalni a pénzt.

Volt egy ilyen csalás is. [zene] >> Szervusztok!

Ez itt a HVSV podcast sorozatának 81. weekly adása.

Engem Kori Tamásnak hívnak, és itt van velem ezúttal is Számi.

Igreem, ebben az adásban sokkal kevesebbet fogok beszélni, mint az előző telkós adásban, ami rekord hosszúságúra sikerült.

Itt szépen most beszéltnünk számival arról, hogy több mint 1 óra 7 perces lett az az és hát elnézést, hogyha néha kicsit körülményesen fogalmaztunk az adás során, de most egy olyan témát hoztunk nektek, amihez mi annyira nem értünk.

Helyette hívtunk egy olyan vendéget, aki viszont nagyon írt hozzá, ez a deep fake illetve ami most ugye komoly aktuál politikai színezetet is kapott ugye ez a téma.

Bár hangsúlyoznám, hogy nem feltétlenül ezzel szeretnénk foglalkozni ebben az adásban, sőt leginkább nem ezzel szeretném foglalkozni ebben az adásban.

Viszont ez egy rendkívül érdekes és azt gondolom, hogy egyre több ember érdeklő vagy vagy egyre több ember életére hatással lévő terület.

És aki itt majd nekünk segít eligazodni ennek a ennek a bugyraiban, az Mezicki Marci, aki egyébként a Colvin Egyetemen AI és deepfake kutató, remélen is van az egyetemeken.

Doktorandusz és oktató is egyben.

Ugye beszéltem itt az előbb arról, hogy mostakon benne van ebben az egész sztoriban a politika, de hogy azért ez csak egy mondjuk inkább a jéghnek a csúcsa, vagy inkább a leginkább exponált oldala ennek az egész sztorinak, amit amit most látunk.

Ugye ez a terület azért sokkal komolyabb múltra tekint vissza, és és a politika nélkül is egy olyan, hogy is mondjam, vímány a technológiának, ami ami nagyon sok iparágat a filmipartól kezdve a reklámiparon át mindenig válthat, és nagyon szerves része már az életünknek.

És ehhez képest viszont ugye ti már ezzel viszonylag korán foglalkoztatok a a Corvinuson, de mielőtt erre rátérnénk, egy pár mondatban mutatkozz be kérlek, Marci, hogy mit csinál egy deepfé kutató egyáltalán? >> Sziasztok, köszönöm a meghívást.

Nehéz megfogni, hogy mit csinál egy defé kutató.

Kezdem egy kicsit távolabbról, hogy nekem hogy jött ez az egész Deepfake téma.

Én gyerekkoromban egyébként filmrendező szerettem volna lenni.

Nagyon-nagyon szerettem filmeket nézni.

Nyilván gyerekként lenyűgöznek azok a vizuális megoldások, amiket láttok a filmvásznon.

Nem tudom, óriási felhőkarcolók robbannak.

A Transformers filmeknek például már akkor mennyire élethű CGI animációja volt, vagy például a Karibtenger kalózainak.

És ezek így gyerekkoromban ilyen meghatározó látványfilmek voltak.

Aztán persze jött az avatár, tovább fejlődött a technika, satöbbi.

Az a lényeg, hogy én nagyon-nagyon szerettem az ilyen behind the scenes videókat megnézni, hogy így készült akkor az Avengers látványvilága, vagy így készített Camerona az Avatárnak a vizuális megjelenéseit.

És onnan, hogy igazából ezek iránt érdeklődtem, felkeltette az érdeklődésemet a Deep Fake is, amikor ez így elkezdett bejönni.

És ez még 2019-ben volt, amikor a később egyébként a azóta is a a ezzel a tanárommal dolgozom, Dr.

Veselki Ágnes behozta az egyik óránkra a Corvinuson a Deepféket, és így felkaptam rá a fejem. még akkor gyerekcipőben volt, és nem igazán láttunk többet belőle, mint egy mesterséges intelligencián alapuló technológia, ami majd esetleg lehetővé tesz dolgokat a jövőben.

Tehát akkor még ez így tényleg nagyon-nagyon egyszerű, egyszerűsítve működött, de hogy az a lényeg, hogy elkezdtünk akkor vele foglalkozni, engem érdekelt és tudományos diákköri dolgozatokon dolgoztunk együtt, aztán ez végül egy doktori kutatássá érett, és így jutottunk el igazából a mostani pillanatig, ahol a disszertációmnak a témája tulajdonképpen akkor a deepféen belül nem is csak maga a deepfake, mert nagyon sok mindent lehet vizsgálni benne, ahogyan te is elmondtad a fákon van, hanem dedikáltan az, hogy ez milyen hatást gyakorol például a azokra az emberekről, akikről defég videó készül.

Tehát egyfajta egy ilyen kríziskommunikációs ez a személy krízise ebben a kontextusban, a deffékake és a disszertációban meg erre próbálok reflektálni hogy mit tehet az ember, hogyha defék videó készül róla, milyen megküzdési stratégiáink vannak akár emberileg, akár technológiailag és ez a disszertációmnak a témája.

Hozzáteszem, hogy nem egy könnyű út ez, amikor egy ilyen technológiáról beszélgetünk, mert mióta elkezdtem a doktori képzést, ez 2021-ben volt, azért látjátok ti is, hogy mennyit fejlődött a technológia, hogy ott még akkor ott tartottunk, hogy örültünk annak, hogy egy szelfiből mondjuk milyen klasszul beillesztett minket a filmjelenetbe, hogy pont beszélgettünk arról, hogy én lelkendeztem ennek, hogy úristen, én vagyok a Havas John, mennyire király.

És most meg ott tartunk, hogy egy szelfiből nem egy picit így pixelesen beillesz téged a jelenetbe, hanem tényleg olyan életű videót tudsz, mégha esetleg van is rajta másodpercnyi vagy időtartbeli limit, de hogy olyan életű videót tudsz készíteni, ami ami ami már szerintem nagyon feszegeti annak a határát, hogy mennyire lehet ezt felismerni.

Szóval így így deffay kutatóként nekem szerintem egy különösen szerencsés helyzet az, hogy én tulajdonképpen egy vizuális tartalomfogyasztó vagyok.

Engem engem engem ez érdekel és ez stimulál a legjobban, hogy akár a social médiában, Tiktokon, akár más felületeken, de egyfajta ilyen kíváncsi szemmel nézem ezeket a tartalmakat, hogy próbálok rájönni már, hogy van-e benne turpisság, vagy esetleg eljutok én is oda, hogy hú, bakker, ezt csak a kommentekből tudom, hogy így elgenerálta. >> Hát ez tök jó.

Igazából teljesen aládolgozott a technika az elmúlt években.

Tehát ezt ezt azzem kijelenthetjük.

És említetted ezt a a felmérést vagy kutatást, ugye kanyarolunk még egy kicsit azért vissza a ez valamikor az éti elején volt 2020-ban talán >> 2020-ban készített a Corvinuszon, >> hogy akkor azért mondjuk ugye nem voltak ezek a az AI toolok, amikkel most már így hát így reggeljeb lekerült a belépési küszöb, vagy lekerült a léc. hogy akkor ez a felmérés egyébként milyen eredményekkel zárult, hogy hogy lássuk azt, hogy hogy akkor hogyan gondolkodtak az emberek erről az egész területről, és mondjuk van-e ahhoz képest ma összevethető adatotok.

Ez a CGIF kutatócsoport berkein belül készült ez a kutatás.

Ez ez akkor még a a Corvinuson működött ez a kutatócsoport.

Sajnos azóta ez már megszűnt, viszont ez akkor egy nagyon úttörő kutatásnak számított így a a magyar akadémiai berkeken belül, mert mi voltunk az elsők, akik tulajdonképpen egy ilyen nagymintás kísérletet végeztünk arra, hogy az emberek mennyire képesek felismerni a manipulált képeket és videókat.

Ezt Veszel Ágnessel, Horvát Evelyinnel készítettük így hárman.

És ez két részre oszlott egyébként ez a kérdőív. voltak a manipulált képek, amiket AI használat nélkül egyszerű Photoshop és a hagyományos fotóanipulációs vagy módosítóeszközökkel módosítottunk. tényleg olyanokra gondoljatok, hogy nem tudom, megtükröztük az adott személynek az arcát, vagy úgy lett módosítva a hajszín, hogy az mondjuk így valamennyire azért egy hagyjon jelet arra, hogy ez nem az eredeti hajszíne a fotón az illetőnek, de hogy nem egy ilyen nagy ívű módosítás volt.

És a deepfake, illetve a videós része, az még abból tudtunk dolgozni, ami akkor elérhető volt mondjuk ingyenesen.

Ez pedig a azt hiszem, hogy a reface applikáció volt, ahol tényleg ismerősöket kértünk meg, hogy mondjuk vállalják el, hogy hogy egy ilyen rövid gif vagy jelenet erejéig, de mondjuk akkor ők lesznek loky a Marvel képregényekből, vagy vagy ők lesznek a Brooklyn Lineeline egyik szereplője. ezekkel tudtunk akkor dolgozni, és egyébként szerintem ez ez leképeződött az eredményekben is.

Tehát, hogy azt látnotok kell, hogy ez még nem volt akkora, ahogyan te is mondtad, nem volt egy akkora lehetőség, hogy most nem tudom én milyen hiteles módosításokat lehet ezen ezekken készíteni.

Inkább ez a tegyünk egy próbát, hogy ez ezt vajon mennyire veszik észre.

És nagyon vicces, és tényleg nem azért, hogy magamat fényezzem, de ezen azóta is nagyon jól mulatok, hogy én is benne voltam ebben a kísérletben, és az én arcomat James Franco arcával cseréltük meg, és ez volt az egyik olyan videó, amit nagy részben azt mondták, hogy ezen nem történt módosítás.

Szóval szeretném ezt így magam magana nézve egy bóknak tekinteni, hogy hasonlítok James Francra, de hogy összességében azért az emberek felismerték ezeket a módosításokat, és meg tudták helyesen tippelni.

Kérdeztünk olyat, hogy szerintük mi lett módosítva, erre már nehezebben válaszoltak. picit ezt a ez ez azt a jelenséget támasztja alá, amit ezt az úgynevezett univel nek hívunk, ami azt mondja, hogy az agyunk tudat alatt jelez, hogyha valami természetellenes képpel vagy természetellenes dologgal találkozunk, főleg ugye vizuális információkat tekintve.

És még ha nem is tudjuk megmondani helyesen, hogy mi az, ami bennünk bekapcsolja ezt a riasztót, akkor ez még megvolt, bekapcsolt.

És nem abban mondjuk sikeresebbek voltak, hogy megmondják, hogy módosítva lett-e, vagy nem.

Abban már nem, hogy miben történt a módosítás. >> Ez valami mint műzlik érzés.

És és ami még érdekes volt szerintem, hogy megkérdeztük egyébként a kitöltőket, hogy ők maguk készítettek-e már hasonló Deffake videókat, és nagyobb arányban azt mondták, hogy nem.

Tehát nagyon kis százalék volt, aki azt mondta, hogy már használt Deffék alapú platformot, akár ezt a reface applikációt, és hogy megkérdeztük, hogy mit kezdtek vele, és leginkább az jött ki, hogy ők ezt poénból kipróbálták és elküldték az ismerőseiknek.

Ehhez képest nyilván a mostani adatok nincsenek friss adataink pont emiatt, mert ez a kutatócsoport feloszlott.

De biztos vagyok benne, hogy azzal a technológiával, amivel ma tudnánk dolgozni, nem az lenne a kérdés, hogy felismerik-e, mert szerintem több nagyobb részben már nem ismernék fel, hanem inkább az, hogy tényleg mik azok a tényezők, amik miatt ők azt gondolják valamiről, hogy igaz vagy hamis.

Tehát szerintem picit megfordulna az a dinamika, hogy ott ugye akkor az volt az érdekes, hogy felismerték, de nem tudták megmondani, hogy mi.

És most szerintem nem ismernék fel, és érdekes lenne belelátni, hogy mi az a dolog, ami miatt azt gondolják, hogy igaz vagy hamis. >> Itt még az adás előnén azt azt hadd kérdezem meg, hogy hol húzódik meg a határ az AI videó, a deepfake videó, tehát hogy ez a tipikus ez a nem minden rovarbogár, de minden bogár rovar jellegű kérdés.

Tehát, hogy mi az, ami Deepfék, és mi az, ami csak egy AI videó volt. >> Igen.

Ez a nem minden panna Anna, de minden Anna Panna. [nevetés] Nagyon nehéz ezt megfogalmazni, és én egyébként nagyon sokszor elmondom, amikor van lehetőség rá akár, hogy így konferencián előadjak, vagy vagy más formában megkérdeznek, hogy szerintem az a definíció, vagy az a meghatározás, amit mi használunk a deepfére, az egyrészt nem egy ilyen univerzális definíció.

Másrészt így a a múltra kicsit visszatekintve ugye ez 2017-ben született. azt mondják a szakirodalmak, és egy redit felhasználó tollából jött ez, hogy deepfake, és akkor még a kezdeti definíciók 2018-19 környékén leginkább azt hangsúlyozták, amire használták egyébként akkor a technológiát, az pedig a pornó volt.

Ezzel futott be tulajdonképpen a deepfék, hogy híres színésznőknek az arcát illesztették rá, felnőtt filmszereplőknek a testére, és akkor létrehoztak egy ilyen házi szexvideó jelleget.

És ezért a definíciója a deffféknek az dedikáltan erre vonatkozott, hogy egy olyan technológia, amiben a mesterséges intelligenciával pornót gyártanak híres emberekről.

És aztán ahogy szélesedett nyilván a spektrum arra, hogy hogyan használják a technológiát, és bejöttek olyan dolgok, amik már nem feltétlenül az ennyire végletekig túltolt negatív felhasználást hangsúlyozták, meg egyébként kiszélesedett azoknak a köre is, akikről def videó készült.

Így a definíció is változott, és utána már azt mondták, hogy hogy a mesterséges intelligenciával híres emberekről vagy nyilvános szereplőkről.

Aztán ez módosult arról, hogy akikról elegendő vizuális adat gyűjthető össze az interneten.

És aztán már eljutottunk odáig picit, hogy ez az egész defake, ez már rá van mondva az AI videókra, ahogy te is mondod.

Kábé minden mesterség és intelligencia által generált videóra.

Az is, hogyha szintetikus szereplőt ábrázoltad, arra is azt mondják, hogy deff fake.

Vannak gifek, amik szintén így mesterséges intelligenciával lettek szerkezve. azt mondjuk, hogy deep fake gif meg még emlékszem 2020-21 környékén volt ilyen, hogy hogy deff fake térkép, hogy már a műholdaknak a felvételeit is mesterséges intelligenciával hamisítják, hogy háborús helyzetben olyan előnyhöz jussanak, vagy olyan olyan illúziót keltsenek a az ellenfélben, ami ami félrevezeti őket.

Mostanra ez picit egy ilyen gyűjtőfogalom lett ez a defffé, én úgy látom, gyűjtőfogalma kábé mindennek, ami ami mesterséges intelligenciával készül, és és valamit vagy imitál, vagy vagy tehát nehéz, mert például a hangokat is azt mondjuk, hogy deepfékkel, hangklónozással csaltak ki valakiből pénzt.

És egyébként ez a jogalkotásnak is problémája, hogy nekik választani kell viszont egy definíciót, nekik nekik valahogyan fogást kell találni ezen a technikán, ami napról napra egyébként gyorsabban fejlődik.

És tényleg, amikor még elkezdtünk ezzel foglalkozni, még ott tartottunk, hogy ilyen 50000-es nagyságrendű dífé videó volt felelhető az interneten, és ezeknek a nagy része pornó volt egyébként, pont így a kezdeti szakasz, de hogy ma már ott tartunk, hogy nem tudjuk szerintem megszámolni, hogy hány díjfake videó van.

Olvastam olyan statisztikát, hogy 2025-ben már 3 millió volt.

Nehéz, nehéz ezt számon tartani, mert nem ismerjük fel, nem tudjuk azt…

Említett entitások

Témák

Személyek

Hallgasd meg

Gyakori kérdések erről az epizódról: „A deepfake-vonaton nincs fék (weekly #80)”

Miről szól ez az epizód: „A deepfake-vonaton nincs fék (weekly #80)”?

A HWSW podcast 81. weekly adásában Kori Tamás és Számi Mezriczky Marcell deepfake-kutatóval beszélgetnek a technológia elmúlt öt évben történt fejlődéséről, az arcokkal való visszaélésről és a deepfake-ek lehetséges felhasználási területeiről a filmipartól a reklámig. Kitérnek a… Az epizód a HWSW podcast! című magyar podcast egyik adása, megjelenés: 2026. 03. 06..

Kik szerepelnek vagy kiket említenek ebben az epizódban: „A deepfake-vonaton nincs fék (weekly #80)”?

Az epizódban a következő nevek szerepelnek vagy hangzanak el: Kori Tamás, Mezriczky Marcell.

Milyen témákat érint ez az epizód: „A deepfake-vonaton nincs fék (weekly #80)”?

Fő témái: deepfake, technológia, filmipar.

Mikor jelent meg és milyen hosszú ez az epizód: „A deepfake-vonaton nincs fék (weekly #80)”?

Megjelenés: 2026. 03. 06.. Hossz: 57 perc. Az epizód a Podiverzumon hallgatható meg: https://podiverzum.hu/podcast/hwsw-podcast/a-deepfake-vonaton-nincs-fek-weekly-80

Több epizód a HWSW podcast!-ből

Hasonló epizódok más magyar podcastokból