A deepfake technológia rövid idő alatt hódította meg az internet bizonyos részeit. A kezdetekben főleg a humor volt a középpontban, mostanra azonban a helyzet elfajult. Több amerikai híresség már kénytelen volt perelni is az ügyben, amikor meglátták, hogy hangjukat vagy arcukat olyan célokra használták fel mások, amelyektől ők teljesen elzárkóztak – esetenként a nevükben küldtek videókat követőiknek, akik elhitték, hogy valóban a kedvencük kér tőlük több ezer dollárt. A probléma, bár országunkban még nem terjedt el olyan szinten mint külföldön, nem hagyható figyelmen kívül. A Nemzeti Média- és Hírközlési Hatóság (NMHH) erre reagálva szakértőket kérdezett podcastjük legújabb epizódjában.
Mi a deepfake technológia lényege?
Milyen gazdasági, társadalmi vagy technológiai veszélyeket rejt magában? És felhasználóként hogyan igazodhatunk el egy olyan világban, ahol már a saját szemünknek sem hihetünk? Ezeket a kérdéseket járta körül Lendvai Gergely Ferenc, az NMHH szakértője, valamint Keleti Arthur jövőkutató és kiberbiztonsági szakértő az NMHH Podcast legújabb epizódjában.
A gépek kezdik érteni, mitől titok a titok | Magyar Krónika
Az embernek a jövőben kevésbé titkaik lesznek, inkább igazolandó értékeik – mondja Keleti Arthur kibertitok- és jövőszakértő, akit többek közt arról kérdeztünk, milyen veszélyekkel jár a személyes adataink kifecsegése úton-útfélen.
Keleti Arthur online csatlakozott a beszélgetéshez, és frappánsan azzal a kérdéssel nyitott: „Egyáltalán valóságos vagyok-e? A deepfake technológia ugyanis mesterséges intelligenciát használ arra, hogy meggyőzően utánozza az emberek arcvonásait, hangját és mozdulatait, és szinte tökéletes másolatokat hozzon létre.” Ahogy a deepfake videók egyre meggyőzőbbé válnak, egyre nehezebb megkülönböztetni a valóságot a hamisítványtól. A dilemma nemcsak abban rejlik, hogy eldöntsük, a látott tartalom eredeti-e vagy számítógép által generált felvétel, a technológia alkalmazása már az álhírek terjesztésében, illetve csaló, pornográf tartalmak előállításában is egyre súlyosabb problémákat okoz.
Hogyan működik?
A gyakorlatban a technológia először elemzi a célalany jellemzőit – például az arcát, hangját és gesztusait. A rendszer ezt követően szintetikus változatot hoz létre ezekből a jellemzőkből, amit rá lehet illeszteni egy másik személy testére egy videóban, és hamis hang- vagy képfelvétel készítésére használható. Az eredmény egy meggyőző, de teljesen kitalált ábrázolás az alanyról, amelyet különböző kontextusokban lehet felhasználni a szórakoztatástól kezdve egészen a rosszindulatú célokig.
Mit jósol a deepfake térnyerése?
Illetve mit tehetünk azért, hogy felismerjük a villámgyorsan terjedő hamis felvételeket az interneten? A podcastepizód célja legfőképp korunk egyik legnagyobb digitális kihívásának megértése volt, hiszen a deepfake megrendíti az emberek bizalmát szinte mindenben, amit az interneten látnak. Algoritmusai hatalmas adatbázisok képein vagy hangfelvételein tréningeznek, hogy megtanulják, hogyan kell új, rendkívül élethű tartalmat generálni, amely olyan szinten hasonlít az eredeti forráshoz, hogy néha lehetetlen megkülönböztetni a kettőt.
Fontos megemlíteni, hogy minél több forrás áll az algoritmus rendelkezésére, annál pontosabban képes megtéveszteni bárkit. Így azok, akik több videót és képet töltenek fel magukról az internetre, nagyobb veszélyben vannak, mint azok, akik ezt csak ritkán teszik meg. Ezért lehetett először ilyen tartalmakat amerikai politikusokról és influenszerekről látni, hiszen róluk szinte végtelen tartalom elérhető az interneten.
Kiemelt kép: 123rf
