Stabil Video Difüzyonu ile oynadık ve bu, yapay zekanın derin sahtekarlıklarının korkutucu geleceğine işaret ediyor

Temel Çıkarımlar

• Sabit Video Dağıtımı gibi Üretken Yapay Zeka, sağlanan istemlere dayalı olarak son derece gerçekçi ve özelleştirilebilir görüntüler ve videolar oluşturma potansiyeline sahiptir.
• Yapay zeka tarafından oluşturulan görsel ve videoların dezenformasyon ve gizlilik ihlalleri için kullanımı daha yaygın hale geliyor ve internetteki görsel kanıtların güvenilirliğini zorluyor.
• Kararlı Video Dağıtımı yalnızca bir başlangıçtır ve yapay zeka teknolojisi ilerlemeye devam ettikçe, çevrimiçi medyanın geleceği potansiyel suiistimal ve etik kaygılar nedeniyle tehdit altındadır.

Yapay zeka devrimi 2023'ün en büyük ve en önemli gelişmelerinden biri oldu. OpenAI gibilerinin ChatGPT ile dünyayı kasıp kavurması ve Bing Chat ve Google Bard gibi diğerlerinin de takip etmesiyle, üretken yapay zeka oldukça güçlü bir teknolojidir. İşin endişe verici olduğu yer

AI görüntü oluşturma, kendilerine sağlanan istemlere göre özel yapım görüntüler oluşturabilen araçlar. Artık Stabil Video Difüzyonu ile işler daha da kötüleşmek üzere.

Konu teknolojiye geldiğinde korkudan uzağım ve üretken yapay zekanın her iki alanda da pek çok faydası olduğunu düşünüyorum. ulaşılabilirlik Ve eğlenceli bağlamlarama teknolojinin kötülük için de kullanılabileceğine şüphe yok. Dezenformasyon giderek yaygınlaşan bir olgudur ve oluşturulan sahte görüntülerin kullanıcıları birçok farklı bağlamda kandırdığı zaten kanıtlanmıştır. Papa Francis'in uzun beyaz bir şişme ceket giydiği yerde dolaşan fotoğrafını hatırlıyor musunuz? Bu görüntü gerçek değildi ama birçok kişi öyle olduğunu düşünüyordu. Görüntüler artık insanların bir zamanlar onlardan beklediğinin sihirli bir kanıtı değil.

Bugünlerde bir şeyin tek kanıtı olarak görsellere güvenmenin zaten imkansız olduğu göz önüne alındığında, sırada videolar var İnternette gördüğünüz herhangi bir şeye güvenmek her zamankinden daha zor olacak gerçek.

Stabilite Yapay Zekasının Kararlı Video Yayılımı korkunç derecede iyi

Şimdilik sadece test aşamasında

Stabil Video Difüzyonu, geçen yıl piyasaya sürülen bir "açık ağırlık" modeli olan Stabil Difüzyon'un devamı niteliğindedir Bu, muhtemelen yapay zeka görüntü oluşturucu dalgasını başlattı ve en azından önemli bir rol oynadı. parça. Bu özel modelin video formuna da aynı şekilde erişilebilir ve aşağıdaki özelliklerden birine sahip olan herkes tarafından çalıştırılabilir: En iyi Nvidia GPU'lar.

Bu özel modelin çalışma şekli oldukça ilginç ve şu anda gerçekten yapabilecekleri oldukça sınırlı. Stability AI'nin belirttiği gibi, "Modellerimizi en son gelişmelerle hevesle güncellerken ve Geri bildiriminizi de dahil edin, bu model gerçek dünya veya ticari uygulamalar için tasarlanmamıştır. sahne. Güvenlik ve kaliteye ilişkin görüşleriniz ve geri bildirimleriniz, bu modelin nihai piyasaya sürülmesi için geliştirilmesi açısından önemlidir."

Kullanıcıların kullanımına sunulan iki güncel model bulunmaktadır; birincisi SVD, ikincisi ise SVD-XT. Bunlar, 3 ila 30 FPS arasında özelleştirilebilen kare hızlarında sırasıyla 14 ve 25 kare üretebilir. Bu kadar çok şey yapabilen bu tür bir yapay zekayla, insanların kendi derin sahtelerini herhangi birinin evinde üretmesi an meselesi.

Stabil Video Difüzyonunun kurulumu muhtemelen kolay olacaktır

Bu mutlaka iyi bir şey değil

Stable Diffusion ilk çıktığında, bir arkadaşım arkadaşını eklemek için arkadaşının yüzüne bir model eğitti. Metal Dişli Katı gülünç derecede aptalca özel yapım bir galeride evren. Oldukça harika bir hediyeydi ve üzerinde çalışmak ve uğraşmak çok eğlenceliydi (arkadaş, bir modelin yüzüne eğitim verilmesine tam onay verdi), ama sanırım o zamanlar, şimdi tamamen dehşete düşmüştüm.

Ortalıkta olan yüzlerce görselimiz varken, insanların modelleri eğitmesi zaten mümkün. rızasını vermeyen insanların yüzleri, kendi fotoğraflarını herkese açık olarak bulunduran hemen hemen herkes görüntülenebilir. Şimdi birinin görüntüsünü oluşturabildiğinizi ve ardından bu çizimi Stable Video Diffusion kullanarak canlandırabildiğinizi hayal edin.

Bunun mahremiyet ihlallerinden sınırdaki yasa dışılığa kadar pek çok sonucu var. İçerik oluşturucu alanındaki kadınlardan, hayranların yapay zekanın kendileri için pornografi ürettiğini ve bu konuda bana bilgi verdiklerini zaten duydum. sanki o "hayranlar" başka bir insanın mahremiyetini ihlal ettikleri gerçeğiyle gurur duyuyormuş gibi, onu onlara geri gönderiyordum. Bu bir yılı aşkın süredir devam ediyor ve bu benim aşina olduğum bir örnek. Bu gibi araçların gizlilikle ilgili tek etkisi kesinlikle bu değildir ve aslında durum muhtemelen daha da kötüleşecektir.

Kararlı Video Dağıtımı örnekleri zaten mevcut

Korkunç ama inanılmaz

Stability AI tarafından yayınlanan yukarıdaki video, Stabil Video Dağıtımının gücünü gösteriyor. Diğerleri de teknolojinin gücünü göstererek, pratikte her şeyin nasıl küçük, birkaç saniyelik bir pencerede hareket ettirilebileceğini ve canlandırılabileceğini gösterdi. Çok fazla hesaplama gücü gerektiriyor, ancak Hugging Face ve Replicator gibi insanların esasen işlem süresi kiralayabilecekleri pek çok hizmet var. Ne kadar iyi olduğunu test etmek için aşağıdaki görüntüyü (Stable Video DIffusion yazılımıyla dağıtılan) kullanarak yerel olarak çalıştırdım.

Yukarıdaki görsel, internette tam eşleşme bulamadığım için yapay zeka tarafından oluşturulduğundan şüphelendiğim bir görsel. Yine de test için mükemmel bir adaydır. Bu görüntüyle Stabil Video Difüzyon modelini yerel olarak çalıştırdım ve bir saatten kısa bir sürede aşağıdaki dört saniyelik klibi elde ettim.

Bu şaşırtıcı derecede iyi. Daha önce de belirtildiği gibi, şu anda düşük kare hızında olmasına rağmen, bu henüz genel kullanıma yönelik olmayan, geliştirilmekte olan bir modeldir. Sisin içinde gelen bir trenin fotoğrafını kendi fotoğrafımla denedim.

Ne yazık ki sonuç o kadar iyi değildi, ancak sis nedeniyle yapay zekanın üzerinde çalışması daha zorlayıcı bir fotoğraftı.

Etkileyici bir şekilde, hâlâ trenin bir tren olduğunu anlamış görünüyordu. Sonunda diğer tren yoluna doğru ilerledi. Yine de bu bir beta yazılımdır ve sonuçlar yine de etkileyicidir.

Kararlı Video Dağıtımı yalnızca başlangıç

Bu teknolojinin ne kadar etkileyici olduğu hakkında ne düşünürseniz düşünün, bu yalnızca başlangıç. Bu, insanların şüphesiz parçalara ayıracağı, geliştireceği ve muhtemelen etiğe dikkat etmeden yararlanacağı ilk açık kaynak modelidir. Çevrimiçi medyanın geleceği, büyük ölçüde yapay zeka video ve görüntüleri sayesinde ve bunlar daha iyi hale geldikçe tehlikede. daha iyisi, önümüzdeki aylarda Pandora'nın kutusunun birden fazla versiyonunun açılmasına yol açacak geniş kapsamlı çıkarımlar var ve yıllar.

Bir bilgisayar bilimcisi olarak teknoloji o kadar inanılmaz derecede etkileyici ki insanın aklını karıştırıyor ve üretken yapay zeka ortamının hızlı büyümesi çok ama çok etkileyici. Ancak olarak kişiBu teknoloji beni korkutuyor.