Lensa’nın sosyal medyayı kasıp kavuran ‘pornografi’ krizi

Sosyal medyada viral olan ve kullanıcıların avatar oluşturduğu Lensa uygulamasında, insanların yüzlerinin tanınabildiği bir dizi görüntüde müstehcen unsurlar keşfedildi.

Son günlerde sosyal medya Lensa akımına yenik düştü. Yazılan komutlardan görüntüler oluşturan açık kaynaklı yapay zeka yazılımı Stable Diffusion’a dayanan Lensa, kullanıcılardan 10 ila 20 özçekim seçip bunları uygulamaya yüklemelerini istiyor.

Uygulamanın Sihirli Avatarlar özelliğini kullanan kişiler, bu özçekimleri yükledikten sonra kendilerini bir elf, peri, prens, prenses veya başka herhangi bir forma dönüştürerek yaratıcı olurlar.

Müstehcen öğeler algılandı
Turkish Independent gazetesinin haberine göre; Platformun izinsiz olarak porno görüntüleri oluşturmak için kullanılabileceği ortaya çıktı.

Öte yandan teknoloji sitesi TechCrunch’ın haberine göre Lensa kullanılarak oluşturulan ve insanların yüzlerinin tanınabildiği bir dizi görüntüde çıplak göğüs gibi müstehcen unsurlar ortaya çıktı.

Aslında, Lensa’nın kullanım politikasında çıplaklığa izin verilmez. Ancak, bazı kullanıcıların algoritmaları atlayarak çıplak fotoğrafları uygulamaya yüklemelerine izin veren arka kapılar buldukları bildirildi.

Uyarı filtrelerinden kaçıyorlar
Buna göre, Photoshop’ta fotoğraflarda yapılan bazı düzenlemeler, kullanıcıların çıplaklığı tespit etmek ve uyarı vermek için tasarlanmış Lensa filtrelerinden kaçmasına olanak tanıyor.

TechCrunch muhabiri Haji-Jean Camps, bu arka kapının ayrıntılarını öğrendikten sonra Lensa’da çıplak fotoğraflar çekmeye çalıştıklarını ve başarılı olduklarını belirtti.

Camps, “Eğer varsa, herkes kolayca çıplaklar yaratabilir. Bu korkutucu,” dedi.

Çocuk filtresi de atlandı
Lensa’nın kullanım politikası, çocukların resimlerinin sisteme yüklenmesine de izin vermemektedir. Ancak Olivia Snow adlı başka bir kullanıcı, bu filtreleri atlamanın bir yolunu da bulduğunu öne sürdü.

Snow, The Wired’daki yazısında, çocukluk fotoğraflarıyla yaptığı bir dizi deneyde filtreleri kırabildiğinden bahsediyor:

“Genç bir kızın tamamen çıplak portrelerini ve bazen de belirgin bir şekilde yetişkin bir vücutla karışan erkeksi bir yüzü üretti.”

Lensa yetkilileri, TechCrunch’a yaptıkları açıklamada, sistemin üreteceği olası porno görüntülerinin “uygulamadaki kasıtlı kötüye kullanımın sonucu” olduğunu savundu.