Çılgınlık haline gelen Lensa’da ‘pornografi’ krizi: Tehlike çanları çalıyor

Son günlerde toplumsal medya Lensa akımına teslim olmuş durumda. Yazılı komutlardan görseller oluşturan, aleni kaynaklı suni zeka programı Stable Diffusion’ı temel alan Lensa, kullanıcılardan 10 ila 20 kadar selfie seçerek programa yüklemelerini istiyor.

Uygulamanın Magic Avatars (Sihirli Avatarlar) hususi durumunu kullanan kişiler, bu selfielerini yüklendiğinde kendilerini elf, peri, prens, prenses ya da diğer bir forma dönüştüren yaratıcı görseller elde ediyor.

MÜSTEHCEN UNSURLAR TESPİT EDİLDİ

Independent Türkçe’nin haberine göre; platformu rıza dışı, pornografik sahneler kurmak için kullanmanın olası olduğu ortaya çıktı.

Öte yandan, teknoloji sitesi TechCrunch’ın haberine göre, Lensa’yla oluşturulmuş, insanların yüzlerinin tanınabildiği bir takım görselde çıplak göğüsler gibi müstehcen nedenler belirleme edildi.

Aslında Lensa’nın kullanım politikasında çıplaklığa izin verilmiyor. Ancak birtakım kullananların algoritmaları atlatarak programa çıplak görseller yüklemelerini elde eden arka kapılar bulmuş olduğu anlatım ediliyor.

UYARI FİLTRELERİNDEN KAÇIYORLAR

Buna göre Photoshop’ta görseller üstünde meydana getirilen birtakım düzenlemeler, kullananların Lensa’nın çıplaklığı belirleme edip uyarı vermek suretiyle geliştirilmiş filtrelerinden kaçmayı sağlıyor.

TechCrunch muhabiri Haje Jan Kamps, bu arka kapının ayrıntılarını öğrendikten sonrasında kendilerinin de Lensa’da çıplak görseller üretmeyi denediklerini ve etkin olduklarını kaydetti.

Kamps, “Elinde birkaç fotoğrafınız varsa, hepimiz rahatlıkla çıplak görüntülerinizi oluşturabilir. Ürkütücü” ifadelerini kullandı.

ÇOCUK FİLTRESİ DE AŞILIYOR

Lensa’nın kullanım politikası ayrıca, çocuk fotoğraflarının da sisteme yüklenmesine izin vermiyor. Ancak Olivia Snow isimli bir diğer kullanıcı, bu filtreleri aşmanın da yolunu bulduğunu öne sürdü.

The Wired’da kaleme almış olduğu yazıda Snow, çocukluk fotoğrafları üstünden yapmış olduğu bir takım denemede filtreleri aşabildiğini anlatım etti:

“Ergenlik çağlarında bir kızın ve birtakım durumlarda de çocuksu bir yüzün, bariz bir erişkin vücuduyla harmanlandığı tamamiyle çıplak fotoğraflar üretti.”