Megérkezett a Stable Video Diffusion, és bár minden bizonnyal klassz, aggasztó jövőt vetít előre, ha mély hamisítványokról van szó.
Kulcs elvitelek
- A generatív mesterséges intelligencia, mint például a Stable Video Diffusion, rendkívül valósághű és testreszabható képeket és videókat hozhat létre a megadott utasítások alapján.
- Egyre elterjedtebb a mesterséges intelligencia által generált képek és videók dezinformációra és a magánélet megsértésére való felhasználása, ami megkérdőjelezi az interneten található vizuális bizonyítékok megbízhatóságát.
- A stabil videószórás csak a kezdet, és ahogy az AI technológia folyamatosan fejlődik, az online média jövőjét az esetleges visszaélések és etikai aggályok fenyegetik.
Az AI forradalom 2023 egyik legnagyobb és legfontosabb előrelépése. Mivel az olyan emberek, mint az OpenAI, a ChatGPT-vel és mások, például a Bing Chat és a Google Bard követésével megrohanják a világot, a generatív mesterséges intelligencia egy nagyon hatékony technológia. Ahol ez aggasztóvá válik
AI képgenerálás, eszközök, amelyek a számukra biztosított promptok alapján egyedi képeket készíthetnek. Most, a Stable Video Diffusion révén a dolgok még rosszabbra fordulnak.Távolról sem félek a technológiát illetően, és úgy gondolom, hogy a generatív mesterséges intelligencia mindkettőben sokat használható. megközelíthetőség és szórakoztató összefüggések, de kétségtelen, hogy a technológiát gonoszságra is fel lehet használni. A dezinformáció egyre gyakoribbá válik, és a létrehozott hamis képekről már bebizonyosodott, hogy számos különböző kontextusban becsapják a felhasználókat. Emlékszel arra a Ferenc pápáról készült fotóra, amely körbejárta, ahol hosszú, fehér kabátot viselt? Ez a kép nem volt az igazi, de sokan azt hitték, hogy az. A képek már nem az a bizonyíték, mint amilyennek az emberek valaha számítottak.
Forrás: Generative AI
Tekintettel arra, hogy manapság már lehetetlen a képekre támaszkodni valaminek egyedüli bizonyítékaként, mivel a videók a következők. a vágóblokkban nehezebb lesz bármire támaszkodni, mint valaha az interneten igazi.
Stabilitás Az AI Stable Video Diffusion ijesztően jó
De még csak tesztelés alatt van
A Stable Video Diffusion a tavaly kiadott Stable Diffusion, egy "nyitott súlyú" modell folytatása ami vitathatatlanul elindította a képgenerátorok mesterséges intelligencia hullámát, legalábbis jelentős szerepet játszott rész. Ennek a modellnek a videós formája ugyanolyan elérhető, és bárki futtathatja, aki rendelkezik a legjobb Nvidia GPU-k.
Ennek a modellnek a működése meglehetősen érdekes, és jelenleg meglehetősen korlátozott abban, hogy mennyit tud valójában. Ahogy a Stability AI mondja: „Miközben mohón frissítjük modelljeinket a legújabb fejlesztésekkel, és azon dolgozunk, hogy Vegye figyelembe a visszajelzéseit, ez a modell nem valós vagy kereskedelmi használatra készült színpad. Az Ön meglátásai és visszajelzései a biztonságról és a minőségről fontosak a modell tökéletesítéséhez a végleges megjelenéshez."
Jelenleg két modell áll a felhasználók rendelkezésére; az első az SVD, a második az SVD-XT. Ezek 14, illetve 25 képkockát tudnak generálni 3 és 30 FPS között testreszabható képkockasebességgel. Ez a fajta mesterséges intelligencia sok mindenre képes, így csak idő kérdése, hogy az emberek mikor készítsék el saját mély hamisítványaikat bárki otthonában.
A Stable Video Diffusion valószínűleg könnyen beállítható
Ez nem feltétlenül jó
Amikor a Stable Diffusion először felszállt, egy barátom modellt rajzolt a barátja arcára, hogy hozzáadja az említett barátot a Metal Gear Solid univerzum egy nevetségesen buta egyedi készítésű galériában. Nagyon klassz ajándék volt, és nagyon szórakoztató volt dolgozni és szórakozni (a barát teljes mértékben beleegyezett abba, hogy egy modellt képezzenek az arcára), de visszagondolok akkorira, most, teljesen elborzadva.
A rólunk készült több száz képnek köszönhetően már lehetőség nyílt arra, hogy az emberek modelleket képezzenek ki olyan emberek arca, akik nem adják beleegyezésüket, nagyjából bárki, akinek nyilvánosan van fényképe önmagáról megtekinthető. Most képzelje el, hogy képes valakiről képet generálni, majd a rajzot a Stable Video Diffusion segítségével animálni?
Ennek számos következménye van, a személyes adatok megsértésétől a határon túli illegálisig. Hallottam már nőktől a tartalomkészítői területen, akik meséltek arról, hogy a rajongók mesterséges intelligenciája pornográfiát generál róluk, és visszaküldve nekik, szinte mintha azok a "rajongók" büszkék lennének arra, hogy megsértették egy másik emberi lény magánéletét. Ez több mint egy éve tart, és ez egy számomra ismerős példa. Semmi esetre sem ez az egyetlen adatvédelmi vonatkozása az ilyen eszközöknek, sőt, valószínűleg csak rosszabb lesz.
A stabil videó diffúzióra már vannak példák
Ijesztő, de hihetetlen
A fenti videó, amelyet a Stability AI adott ki, bemutatja a Stable Video Diffusion erejét. Mások is bemutatták a technológia erejét, bemutatva, hogyan képes gyakorlatilag bármit megmozgatni és animálni egy kis, néhány másodperces ablakban. Ez nagy számítási teljesítményt igényel, de rengeteg olyan szolgáltatás létezik, mint például a Hugging Face és a Replicator, amelyekkel az emberek alapvetően feldolgozási időt bérelhetnek. Helyben futtattam, az alábbi kép segítségével (a Stable Video DIffusion szoftverrel terjesztve) teszteltem, hogy mennyire jó.
A fenti képről azt gyanítom, hogy mesterséges intelligencia generált, mivel nem találok rá pontos egyezéseket az interneten. Ennek ellenére tökéletes jelölt a tesztelésre. Lefuttattam a Stable Video Diffusion modellt helyben ezzel a képpel, és alig egy óra múlva megvolt a következő négy másodperces klip.
Ez döbbenetesen jó. Bár most alacsony képkockasebességgel működik, amint már említettük, ez egy fejlesztés alatt álló modell, amelyet még nem általános használatra szántak. Kipróbáltam a saját fotómmal, a ködben érkező vonat fotójával.
Sajnos az eredmény nem lett olyan jó, bár a ködnek köszönhetően ez egy MI-nek nagyobb kihívást jelentett.
Lenyűgöző módon még mindig úgy tűnt, megértette, hogy a vonat egy vonat. Csak az lett a vége, hogy átment a másik vonatvágányra. Ennek ellenére ez egy béta szoftver, és az eredmények mégis lenyűgözőek.
A Stable Video Diffusion csak a kezdet
Függetlenül attól, hogy mit gondol arról, milyen lenyűgöző ez a technológia, ez csak a kezdet. Ez az első nyílt forráskódú modell, amelyet az emberek kétségtelenül szétszednek, továbbfejlesztenek, és esetleg kihasználnak, ha nem törődnek az etikával. Az online média jövője veszélyben van, nagyrészt az AI videóknak és képeknek köszönhetően, és ahogy egyre jobbak és jobb, vannak olyan messzemenő következmények, amelyek a következő hónapokban Pandora szelencéjének több verzióját is megnyitják majd és évek.
Számítástechnikusként a technológia olyan hihetetlenül lenyűgöző, hogy megzavarja az elmét, és a generatív AI-környezet gyors növekedése olyan lenyűgöző. Azonban, mint a személy, ez a technológia megrémít.