Sulapan Foto lensa AI: Pemicu Kreatifitas Permak Jahil Merancang Gambar Porno

Radar Babel – Sulapan Foto lewat aplikasi lensa AI bikin heboh tren dunia selfie pedang bermata dua namun bagi ‘pro’ nyang usil malah akan jadi pemicu kreatifitas permak jahil, trigger merancang gambar porno.

Di dalam aplikasi tersebut, pengguna bisa menggunakan Magic Avatar, suatu fitur yang mengandalkan teknologi kecerdasan buatan (AI) untuk mengubah foto yang diunggah seakan-akan dilukis oleh seniman profesional.

Meski bisa menghasilkan foto menarik yang mirip lukisan, teknologi yang ada di dalam Lensa AI diklaim bisa dipakai untuk membuat gambar yang tak senonoh.

Hal ini disimpulkan setelah situs web teknologi TechCrunch melakukan suatu eksperimen sulapan pada beberapa foto artis kenamaan yang diunggah ke Lensa AI.

Selain foto artis asli, mereka juga menambahkan beberapa foto pesohor yang telah diedit “setengah telanjang” menggunakan aplikasi penyunting gambar Adobe Photoshop.

Berdasarkan permak eksperimen dari beberapa foto ini, TechCrunch mengeklaim bahwa Lensa AI ternyata bisa menghasilkan gambar porno yang tidak pantas untuk dilihat publik (NSFW).

Sehingga, aplikasi Lensa AI dikhawatirkan bisa membuat gambar deepfake, alias gambar atau pose rekayasa porno dari seseorang yang sebenarnya tidak dilakukan oleh orang tersebut.

Apa kata pembuat aplikasi Lensa AI?

Terkait hal ini, Prisma Labs selaku pengembang aplikasi Lensa AI, melalui CEO-nya, Andrey Usoltsev mengatakan bahwa hasil eksperimen TechCrunch merupakan upaya sulapan untuk membuat gambar foto porno melalui Lensa AI secara disengaja.

“Gambar-gambar tersebut merupakan pemanfaatan yang tidak baik dari aplikasi Lensa AI yang sudah direncanakan,” kata Usoltsev, dikutip dari TechCrunch, Kamis (8/12/2022).

Kesengajaan yang dimaksud Usoltsev ini boleh jadi mengacu pada upaya TechCrunch untuk menambahkan foto ekstra yang telah diedit di Photoshop tadi.

Usoltsev menjelaskan bahwa teknologi yang ada di Lensa AI mengandalkan model machine learning (ML) Stability AI. Model ML ini diklaim bisa mempelajari hasil edit foto berdasarkan data-data yang telah didapatkan dari pengguna dan internet.

Belakangan, tren model ML ini ditambahkan dengan Stable Diffusion, satu permak teknologi yang bisa mencegah Lensa AI menghasilkan foto porno. Namun tetap saja, Usoltsev menyebut bahwa teknologi ini masih bisa dikelabui oleh pengguna yang cerdik.

Karena perbuatan seperti ini tidak bisa dihindari, Usoltsev mengatakan bahwa pihaknya bakal membuat teknologi atau fitur yang bisa menyaring gambar-gambar NSFW, yang nantinya akan dinamai dengan teknologi NSFW filter.

“Fitur ini bakal memburamkan gambar-gambar yang dikategorikan sebagai gambar porno secara langsung. Sehingga, pengguna bisa tahu dan menentukan sendiri apakah mereka mau menyimpan gambar porno tersebut atau tidak,” ungkap Usoltsev.

Sulapan foto lensa AI pencetus gambar porno

Usoltsev turut mengingatkan kepada pengguna bahwa Lensa AI bukanlah sebuah aplikasi yang berfungsi sebagai alat yang bisa membuat gambar NSFW.

Namun apabila hal itu dilakukan pengguna, pengunggahan gambar tak senonoh di Lensa AI tentunya melanggar kebijakan penggunaan aplikasi yang telah dibuat sedemikian rupa.

“Semua aplikasi yang ada di internet bisa saja menjadi ‘senjata’ untuk membuat aneka gambar-gambar berbahaya yang tak pantas dilihat, jika niat pengguna sudah tidak baik,” jelas Usoltsev.

Bos Prisma Labs ini tidak mengumbar kapan fitur NSFW filter tersebut diterapkan ke aplikasi Lensa AI. Ia juga tak menyebut apa rencana Prisma Labs ke depan untuk mencegah gambar deepfake bermunculan melalui aplikasi Lensa AI.

Namun yang jelas, Usoltsev menyebut bahwa tren pengguna memakai Lensa AI sesuai dengan kemauan mereka mau permak foto apa, dan gambar-gambar selfie yang diunggah ke aplikasi tersebut juga pengguna yang memilih.

Selain itu, pemakaian gambar-gambar yang tidak senonoh, atau gambar lainnya yang dihasilkan Lensa AI, secara publik bisa saja melanggar hukum yang berlaku di negara asal pengguna.