A szakértők kétségbe vonják, hogy mesterséges intelligenciát használtak-e egy olyan videó készítéséhez, amelyet a rendőrség „mélyhamisításnak” nevez, és amely a Pennsylvania-ban zajló folyamatban lévő jogi csata középpontjában áll.
optad_b
Az eset nemzetközi híreket hozott a múlt hónapban, miután egy középiskolás rangadó édesanyját azzal vádolták, hogy képekkel és videókkal manipulált annak érdekében, hogy úgy tűnjön, mintha lánya riválisai iszogatnának, dohányoznának és aktot jelentenének.
Az anya, az 50 éves Raffaela Spone állítólag névtelen számból küldte a doktori tartalmat három mazsorettnek és edzőjüknek.
A Bucks Megyei Jogi Ügyészség, amely Spone-t három gyermek elleni számítógépes zaklatással és három zaklatással vádolta, a képek megvitatásakor hivatkozott a deepfake kifejezésre, valamint egy videóra, amely az állítólagos áldozat egyik gőzölését ábrázolta.
De a vád súlyos kérdéseket vet fel a bűnüldöző szervek megértésében a mélyhamisítás technológiájában, valamint a média hajlandóságában igazolás nélkül megismételni állításait.
Míg az ügyészek nem közöltek konkrétumokat, a mesterséges intelligencia (AI) segítségével olyan eszközöket terveztek, amelyek a nők meztelennek tűnnek a képeken léteznek . Ehelyett az állítólagos hömpölygő videó ösztönözte a deepfake szakértőket.
Bár az állítólagos mélyhamisítás eredetileg nem volt elérhető a nyilvánosság számára, a gőzképet lejátszó másik készülék mobiltelefonos felvételét az NBC News a múlt hónapban kapta meg, miután az egyik állítólagos áldozat jelentkezett.
Madi Hame, a Victory Vipers csapatának 17 éves rangadója cáfolta az NBC News-nak, hogy a felvételeken valóban látható volt a párája. Hame elmondása szerint tudomására jutott a videó, miután azt állítólag Spone küldte mazsorettedzőinek.
'Azt gondoltam, ha kimondom, senki sem hinnék nekem, mert nyilvánvalóan van bizonyíték, van videó - de nyilvánvalóan ezt a videót manipulálták' - mondta Hame az NBC Newsnak.
A Daily Dot megkereste Hame édesanyját, Jennifert, aki Hame mellett jelent meg az NBC News interjújában, hogy érdeklődjön a gőzölgő videó felől, de sajtóidőre nem kapott választ.
Henry Ajder, az egyesült királyságbeli mélyhamisítás és a szintetikus média szakértője az elsők között vetett fel kérdéseket a gőzölgő videóval kapcsolatban, miután az ABC News hasonló riportot sugárzott.
'Fenntartásaim voltak azzal a történettel kapcsolatban, amikor egy anya mély hamisítványokat készített lánya mazsorett riválisairól' - tweetelt Ajder a múlt hónapban. 'Az ABC által közzétett videók egyike nem tűnik hamisítványnak, de mégis lényeges bizonyíték vagy elemzés nélkül egynek minősítik.'
Úgy tűnik, hogy más deepfake szakértők is aggódnak. A népszerű deepfake alkotó, online becenéven ismert Dr. Fakenstein - aki jelenleg AI művészként dolgozik a vígjátékban Sassy Justice a South Park alkotói, Trey Parker és Matt Stone fejlesztették ki - a Daily Dot-nak elmondta, hogy a gőzölgő videó nem tűnik mesterségesen létrehozottnak.
Konkrétan Dr. Fakenstein megjegyezte, hogy a videóból hiányoztak bizonyos hibák, amelyek szinte mindig mélyhamisításokban jelennek meg, amikor az arcokat egy másik tárgy akadályozza.
'Nehéz látni, mivel ez egy videó videó, de számomra nem tűnik mélyhamisításnak' - mondták. 'A fény elmozdul, mint természetes, nem görcsöl körül a kéz, ahol a kéz eltakarja az arcot, nincs hiba, amikor a vape felhő az arc elé megy, amit nagyon nehéz, ha nem is lehetetlen megtenni hibák nélkül.'
A Daily Dot elérte a Hilltown Township Rendőrkapitányság , amely kivizsgálta és később végrehajtotta a Spone elleni letartóztatást, hogy érdeklődjön a gőzölgő videó kapcsán.
Christopher Engelhart rendőrfőkapitány kijelentette, hogy szerinte a Spone elleni vádiratok nem határozták meg véglegesen a videó mélyhamisításának címkéjét.
'Megértésem szerint vagy mélyhamisításként vagy hasonló technológiaként szerepelt' - mondta Engelhart.
Ban,-ben bűnügyi panasz Spone ellen, a hilltown-i rendőrtiszt, Matthew Reiss a gőzölgő videót 'a' Deep Fakes '-hez hasonló vagy ahhoz hasonló program munkájaként említi.
Arra a kérdésre, hogy az osztály bevezette-e annak lehetőségét, hogy a gőzölgő videó egyáltalán nem lehet hamisítvány, Engelhart kijelentette, hogy nem biztos abban, hogy a videó leírására használt terminológiát bevezette-e az állítólagos áldozat vagy a rendőrség.
Engelhart azt állította, hogy a nyomozók törvényszéki elemzést végeztek a videó felett annak megállapítására, hogy manipulálták-e.
'Az állítás az, hogy az áldozat nem gőzölte' - tette hozzá Engelhart. 'Az állítás az, hogy [Spone] képes volt manipulálni ezt, hogy kiderüljön, hogy gőzölgött.'
De a szakértők szkeptikusak abban, hogy a legjobb deepfake alkotók is képesek lennének ilyen meggyőző videót készíteni, nemhogy Spone. Arra a kérdésre, hogy az 50 éves anya esetleg segítséget kért-e egy mélyhamisítású alkotótól, Engelhart kijelentette, hogy bár ez lehetőség, egyelőre egyetlen bizonyíték sem utal arra, hogy Spone-nak cinkos volna.
Derpfakes, egy másik ismert deepfake művész, akinek alkotásai összegyűltek millió megtekintés online megtekintette az NBC News által bemutatott gőzölgő videót is, és elmondta a Daily Dot-nak, hogy nem mondhatják biztosan, hogy manipulálták.
'Hajlok arra, hogy azt mondjam, hiteles' - mondta Derpfakes. 'Ha ez egy mélyhamisítás, akkor bizonyára szükség van egy bizonyos szintű vizuális effektusokra, nem pedig a dobozon kívüli mélyhamisító szoftverekre.'
A sajtótájékoztató a múlt hónapban Matt Weintraub, a Bucks megyei körzeti ügyész úgy tűnt, hogy a gőzölgő videó az áldozat közösségi médiafiókokból származó meglévő felvételek alapján készült.
„A videók vagy képek már léteztek valamilyen formában, majd állításunk - ez természetesen a tárgyaláson bizonyítás tárgyát képezi, ártatlan, amíg bűnösnek nem bizonyul -, de állításunk az, hogy Mrs. Spone ebből a háromból a meglévő közösségi médiából vett képeket az áldozatok meglévő közösségi média-fiókjai és manipulálták őket ”- mondta Weintraub.
A kijelentés hasonlít az Engelhart által a Daily Dotnak tett állításokhoz, miszerint Spone állítólag törvényes videót használt a mélyhamisítás alapjául. A rendőrség nem tudta, hogy az állítólagos áldozat arcát hozzáfűzték-e egy másik fiatal nő gőzöléséről készült videofelvételhez, vagy egy gőzölgő tollat és füstöt adtak-e digitálisan az állítólagos áldozat jogszerű videójához.
Ettől függetlenül a szakértők szkeptikusak abban, hogy bármelyik forgatókönyv pontosan ábrázolja-e a felvételt.
A prominens deepfake alkotó néven ismert Shamook , amelynek videóit csak a YouTube-on több mint 21 milliószor nézték meg, azzal érvelt, hogy bár a gőzölgő videó felbontása 'nagyon alacsony, ez túl tiszta ahhoz, hogy mélyhamisítás legyen'.
'Az én szemszögemből nézve ez nem mélyhamisítás' - mondta Shamook a Daily Dot-nak. 'A vape füstjét túl nehéz lenne létrehozni ... egyszerűen nem látok semmiféle elfogadható bizonyítékot arra, hogy ez egy mélyhamisítás.'
Weintraub a sajtótájékoztatón azt is kijelentette, hogy a nyomozók megállapították, hogy a gőzölgő videót manipulálták, miután elemezték a „metaadatait”. Ez a kifejezés a digitális médiában beágyazott információkra utal, amelyek feltárhatják, hogy miként és mikor szerkesztették utoljára.
De miután kapcsolatba lépett Reissszel, a Sponét nyomozó tisztrel, a Daily Dot megtudta, hogy a rendőrség soha nem szerezte meg az eredeti gőzképet. Ehelyett, hasonlóan az NBC News-nél látottakhoz, a rendőrségnek csak egy Spone által készített mobiltelefonos felvételhez volt hozzáférése a különálló eszközön lejátszott vaping videóhoz. A metaadatok elemzése ezért nem tartalmazna információt a forrásvideón.
Válaszként arra a kérdésre, hogy miként lehetett volna megállapítani, hogy a gőzölgő felvételeket az eredeti videóhoz való hozzáférés nélkül manipulálták, Reiss azzal érvelt, hogy „szabad szemmel” olyan elemekkel lát, amelyeknek „nincs értelme”.
'Az a kérdés, hogy hol jött Mrs. Spone azzal a videóval, még mindig kérdéses' - mondta Reiss. 'És reméljük, hogy Mrs. Spone az előzetes meghallgatás vagy tárgyalás során felvilágosít minket arról, hogy mi volt a forrása és szándéka.'
Reiss határozottan kijelentette, hogy a „mesterséges intelligenciát alkalmazták” azokon a fényképeken, amelyek több mazsorettet meztelennek tűntek, ami igazodna az éppen erre tervezett jelenlegi technológiához. De ezeknek a megváltoztatott fényképeknek a megléte, amellett, hogy az állítólagos áldozatot megtagadta a látszólagos szerepeltetésétől a gőzölgő videóban, a jelek szerint a teljes alapja annak a meggyőződésnek, hogy a felvételeket manipulálták, noha egyelőre semmilyen technikai bizonyíték nem támasztja alá a képet követelés.
Úgy tűnik, hogy a „deepfake” szó, amint azt a vádiratokban említik, a rendőrség, a körzeti ügyészség és a média számára mindenre kiterjedő kifejezéssé vált, amikor az esethez kapcsolódó bármilyen digitális tartalmat megvitattak.
Spone következő bírósági tárgyalására május 14-én kerül sor, ahol Reiss szerint a nyomozásról további információkat hoznak nyilvánosságra.
Míg új bizonyítékok megváltoztathatják az esetet, az a vélekedés, miszerint a rendőrség helytelenül hivatkozhat manipuláltan hiteles videóra, nem tartozik a lehetőségek körébe.
Ennél is bajosabbnak tűnik, hogy egyetlen sajtóorgánum sem próbálta meggyőződni arról, hogy a gőzölgő felvételek valójában mélyhamisítványok voltak-e, mielőtt az igényeket amerikai millióknak közvetítették volna.
A média esetleges félrelépése és annak esélye, hogy a büntető igazságszolgáltatási rendszer helytelenül alkalmazhatja a törvényeket a téves hamisításnak minősített videók ellen, aggasztja leginkább a szakértőket.
'Bár ijesztő, ha nem mélyhamisításról van szó' - tette hozzá Shamook. 'Ez lehet a kezdete annak, hogy az emberek képesek leszögezni a valódi bizonyítékokat azzal, hogy egyszerűen csak' mély hamis '-ot mondanak.'
A gőzölgő videót félretéve, a Spone elleni egyéb állítások, ha igazak, még mindig tele vannak és félelmetesek. De az ellene indított ügy következményei, ha részben is pontatlan információkra támaszkodnak, veszélyes következményekkel járhatnak a manipulált (és nem manipulált) média világában.
A hét legfontosabb technológiai történetei
„Unod már, hogy megdicsőítették a bűnözőket”: A rendőrök országszerte adományokat adományoznak a tisztnek, aki megölte Breonna Taylor |
Az FCC holtponton van. Mikor Biden végre kijavítja ezt? |
A mémtolvajok, F * ck Jerry csaknem egymillió dollárt vett igénybe a koronavírus enyhítésében |
Üdvözöljük az oltóanyag-útlevél összeesküvés-elméletek folyamatosan bővülő világában |
A háborgó tinédzser „mélyhamisítása” áll a zaklatási ügy középpontjában - de mi van, ha nem hamisítják? |
Regisztrálj hogy megkapja a Daily Dot's-t Internet Insider hírlevél sürgős hírekhez az online fronton. |