3 bulan yang lalu
Telset.id – OpenAI menghadapi angin besar kontroversi setelah meluncurkan Sora 2, aplikasi kreator video dari teks nan memicu gelombang konten deepfake dan pelanggaran kewenangan cipta. Aplikasi mirip TikTok ini langsung disalahgunakan pengguna untuk menghasilkan video tokoh animasi memasak narkoba hingga selebritas nan telah meninggal, memaksa perusahaan Sam Altman melakukan pembatasan ketat.
Dalam seminggu sejak peluncurannya, Sora 2 menjadi arena penelitian konten-konten kontroversial. Pengguna dengan sigap memproduksi video SpongeBob SquarePants memasak kristal biru di laboratorium metamfetamin dan Sam Altman memanggang Pikachu nan terlihat nyata. Bahkan bagian komplit South Park nan seluruhnya dibuat AI dibagikan secara luas di platform.
Para mahir keamanan digital mengungkapkan kekhawatiran mendalam terhadap implikasi teknologi ini. Kemampuan menghasilkan rekaman nan menjebak menggunakan wajah orang lain dinilai berpotensi mempercepat erosi kepercayaan terhadap konten online. Seperti nan terjadi sebelumnya, Sora 2 OpenAI Disalahgunakan untuk Stalking dan Deepfake menunjukkan sungguh seriusnya ancaman ini.
Respons Cepat dan Kontroversial OpenAI
OpenAI awalnya menerapkan pendekatan “move fast and break things” dengan pengamanan konten nan minimal. Staf OpenAI sendiri, Gabriel Petersson, membikin video CCTV viral nan menunjukkan Sam Altman mencuri di Target, memicu debat tentang batas etika dalam pengembangan AI.
Pengguna juga membikin video realistik selebritas nan telah meninggal seperti Michael Jackson, Tupac Shakur, dan Bob Ross. Meski OpenAI berjanji memblokir penggambaran figur publik, perusahaan menyatakan tetap mengizinkan generasi figur sejarah, membikin selebritas nan telah meninggal menjadi sasaran empuk.
Situasi semakin memanas ketika seorang pengguna membagikan iklan TV tahun 1990-an untuk mainan anak bertema pulau Karibia milik Jeffrey Epstein. Insiden ini memaksa OpenAI mengambil tindakan tegas dengan memperketat filter konten, meski kemudian dikeluhkan pengguna lantaran membikin aplikasi “secara harfiah tidak bisa digunakan untuk perihal kreatif.”
Perubahan Kebijakan dan Model Bisnis
Dalam posting blog terbaru, Sam Altman mengaku perusahaan “sangat bersemangat” bahwa pengguna menghasilkan video terinspirasi kekayaan intelektual mereka. “Kami kudu menghasilkan duit dari generasi video,” tulis Altman, mengumumkan rencana memberikan bagian pendapatan kepada pemegang hak.
Namun, perincian model upaya ini tetap belum jelas. Tidak disebutkan apakah pengguna bakal dikenai biaya per generasi video alias dari mana pendapatan bakal berasal. Altman mengakui, “Orang menghasilkan lebih banyak dari nan kami perkirakan per pengguna, dan banyak video dibuat untuk audiens nan sangat kecil.”
OpenAI juga melakukan reversal kebijakan signifikan. Awalnya perusahaan menyatakan pemegang kewenangan kudu aktif memilih keluar dari penggunaan materi berkuasa cipta. Kini kebijakan berubah menjadi opt-in, dimana pemegang kewenangan kudu menyetujui secara eksplisit.
Perusahaan semakin memperketat kontrol dengan perjanjian unggah media nan mewajibkan pengguna mencentang kotak persetujuan bahwa mereka mempunyai semua hak必要 untuk media nan diunggah. Perjanjian ini menakut-nakuti bakal menangguhkan alias melarang akun tanpa pengembalian biaya jika terjadi penyalahgunaan.
Perkembangan Sora 2 ini terjadi di tengah lanskap AI nan semakin kompetitif. Seperti dilaporkan sebelumnya, Grok 2.5 Resmi Open Source, Elon Musk Janji Grok 3 Menyusul, menunjukkan percepatan penemuan di bagian AI.
Sementara OpenAI terus mengembangkan keahlian AI-nya, termasuk OpenAI Resmi Umumkan Model AI GPT-4o, Makin Mirip Manusia, tantangan izin dan etika semakin kompleks. Perusahaan sekarang kudu menyeimbangkan antara penemuan teknologi dan tanggung jawab sosial dalam menghadapi realitas baru konten generatif AI.
Dengan Sora 2 menduduki ranking teratas di app store, OpenAI sekarang konsentrasi memadamkan kebakaran norma nan diakibatkan ketenaran aplikasi tersebut. Masa depan platform video AI ini bakal sangat berjuntai pada keahlian perusahaan menavigasi kompleksitas kewenangan cipta dan perlindungan privasi di era konten generatif.
