Difusi Video Stabil telah hadir, dan meskipun keren, hal ini menunjukkan masa depan yang mengkhawatirkan jika menyangkut pemalsuan yang mendalam.
Poin Penting
- AI generatif, seperti Difusi Video Stabil, memiliki potensi untuk membuat gambar dan video yang sangat realistis dan dapat disesuaikan berdasarkan perintah yang diberikan.
- Penggunaan gambar dan video yang dihasilkan AI untuk disinformasi dan pelanggaran privasi menjadi semakin umum, sehingga menantang keandalan bukti visual di internet.
- Difusi Video yang Stabil hanyalah permulaan, dan seiring dengan kemajuan teknologi AI, masa depan media online terancam oleh potensi penyalahgunaan dan masalah etika.
Revolusi AI telah menjadi salah satu kemajuan terbesar dan terpenting di tahun 2023. Dengan OpenAI yang menggemparkan dunia dengan ChatGPT dan lainnya seperti Bing Chat dan Google Bard, AI generatif adalah teknologi yang cukup kuat. Hal yang mengkhawatirkan adalah Pembuatan gambar AI, alat yang dapat membuat gambar yang dibuat khusus berdasarkan petunjuk yang diberikan kepada mereka. Sekarang, dengan Difusi Video Stabil, segalanya akan menjadi lebih buruk.
Saya tidak merasa takut jika berbicara tentang teknologi, dan menurut saya AI generatif memiliki banyak kegunaan dalam kedua hal tersebut. aksesibilitas Dan konteks yang menyenangkan, namun tidak ada keraguan bahwa teknologi juga dapat digunakan untuk kejahatan. Disinformasi adalah fenomena yang semakin sering terjadi, dan gambar palsu yang dihasilkan telah terbukti menipu pengguna dalam berbagai konteks. Ingat foto Paus Fransiskus yang sedang berjalan-jalan dengan mengenakan jaket puffer putih panjang? Gambar itu tidak nyata, tetapi banyak orang mengira itu nyata. Gambar bukan lagi bukti terbaik seperti yang diharapkan orang.
Sumber: AI Generatif
Mengingat saat ini sudah tidak mungkin untuk mengandalkan gambar sebagai satu-satunya bukti atas sesuatu, dan video adalah yang berikutnya di ujung tanduk, akan semakin sulit untuk mengandalkan apa pun yang Anda lihat di Internet nyata.
Stabilitas Difusi Video Stabil AI sangat bagus
Tapi itu hanya dalam pengujian sekarang
Difusi Video Stabil merupakan lanjutan dari Difusi Stabil yang dirilis tahun lalu, sebuah model "bobot terbuka". yang bisa dibilang memulai gelombang AI dalam generator gambar, setidaknya memainkan peran yang signifikan bagian. Bentuk video dari model khusus ini juga dapat diakses dan dijalankan oleh siapa saja yang memiliki salah satunya GPU Nvidia terbaik.
Cara kerja model khusus ini cukup menarik, dan saat ini, fungsinya cukup terbatas. Seperti yang dikatakan oleh Stability AI, "Kami dengan bersemangat memperbarui model kami dengan kemajuan terbaru dan terus berupaya sertakan tanggapan Anda, model ini tidak dimaksudkan untuk aplikasi dunia nyata atau komersial saat ini panggung. Wawasan dan masukan Anda mengenai keselamatan dan kualitas sangat penting untuk menyempurnakan model ini sebelum peluncurannya nanti."
Ada dua model saat ini yang tersedia untuk digunakan pengguna; yang pertama adalah SVD, dan yang kedua adalah SVD-XT. Ini dapat menghasilkan masing-masing 14 dan 25 frame pada kecepatan frame yang dapat disesuaikan antara 3 dan 30 FPS. Dengan AI semacam ini yang mampu melakukan banyak hal, hanya masalah waktu sebelum orang dapat membuat sendiri produk palsu mereka di rumah siapa pun.
Difusi Video Stabil kemungkinan besar akan mudah diatur
Itu belum tentu merupakan hal yang baik
Saat Difusi Stabil pertama kali diluncurkan, seorang teman saya melatih model pada wajah temannya untuk menambahkan teman tersebut ke Gear besi padat alam semesta dalam galeri yang dibuat khusus dan sangat konyol. Itu adalah hadiah yang sangat keren dan sangat menyenangkan untuk dikerjakan dan dipusingkan (teman tersebut memberikan persetujuan penuh untuk melatih model di wajahnya), tetapi saya mengingat kembali masa lalu, sekarang, benar-benar ngeri.
Dengan ratusan gambar kita yang ada di luar sana, orang sudah bisa melatih model di dalamnya wajah orang-orang yang tidak memberikan persetujuannya, hampir semua orang di luar sana yang mempunyai foto dirinya di depan umum dapat dilihat. Sekarang bayangkan bisa menghasilkan gambar seseorang dan kemudian menganimasikan gambar itu menggunakan Difusi Video Stabil?
Ada banyak implikasi dari hal ini, mulai dari pelanggaran privasi hingga tindakan ilegal. Saya telah mendengar dari para wanita di bidang pembuat konten yang memberi tahu saya tentang penggemar AI yang menghasilkan pornografi tentang mereka dan mengirimkannya kembali kepada mereka, seolah-olah para "penggemar" itu bangga dengan kenyataan bahwa mereka telah melanggar privasi orang lain. Hal ini telah berlangsung selama lebih dari setahun, dan ini adalah contoh yang saya kenal. Ini bukan satu-satunya implikasi privasi dari alat seperti ini, dan faktanya, kemungkinan besar hal ini hanya akan menjadi lebih buruk.
Contoh Difusi Video Stabil sudah tersedia
Menakutkan tapi luar biasa
Video di atas, dirilis oleh Stability AI, menunjukkan kekuatan Difusi Video Stabil. Pihak lain juga menunjukkan kehebatan teknologi ini, menunjukkan bagaimana teknologi dapat membuat apa pun bergerak dan dianimasikan dalam waktu singkat, hanya beberapa detik. Dibutuhkan banyak daya komputasi, tetapi ada banyak layanan seperti Hugging Face dan Replicator yang pada dasarnya dapat menyewa waktu pemrosesan. Saya menjalankannya secara lokal, menggunakan gambar di bawah (didistribusikan dengan perangkat lunak Stable Video DIffusion) untuk menguji seberapa bagusnya.
Gambar di atas adalah gambar yang saya curigai dihasilkan oleh AI, karena saya tidak dapat menemukan gambar yang sama persis secara online. Namun demikian, ini adalah kandidat yang sempurna untuk pengujian. Saya menjalankan model Difusi Video Stabil secara lokal dengan gambar ini, dan hanya dalam waktu kurang dari satu jam, saya mendapatkan klip empat detik berikutnya.
Ini sangat bagus. Meskipun saat ini frame rate-nya rendah, seperti telah disebutkan, ini adalah model dalam pengembangan yang belum dimaksudkan untuk penggunaan umum. Saya mencoba dengan foto saya sendiri, foto kereta yang tiba di tengah kabut.
Sayangnya, hasilnya tidak begitu bagus, meskipun ini merupakan foto yang lebih menantang untuk dikerjakan oleh AI karena adanya kabut.
Yang mengesankan, mereka masih memahami bahwa kereta itu adalah kereta api. Itu akhirnya berpindah ke jalur kereta lainnya. Meski begitu, ini adalah perangkat lunak beta, dan hasilnya tetap mengesankan.
Difusi Video Stabil hanyalah permulaan
Terlepas dari apa yang Anda pikirkan tentang betapa mengesankannya teknologi ini, ini hanyalah permulaan. Ini adalah model sumber terbuka pertama yang pasti akan dibongkar, diperbaiki, dan mungkin digunakan oleh orang-orang tanpa memperhatikan etika. Masa depan media online berada dalam bahaya, sebagian besar disebabkan oleh video dan gambar AI, dan seiring dengan perkembangan teknologi yang semakin baik lebih baik lagi, ada implikasi luas yang akan membuka banyak versi kotak Pandora dalam beberapa bulan ke depan dan tahun.
Sebagai seorang ilmuwan komputer, teknologi ini sangat mengesankan sehingga mengejutkan pikiran, dan pesatnya pertumbuhan lanskap AI generatif sangatlah mengesankan. Namun, sebagai orang, teknologi ini membuat saya takut.