Hiçbir kullanıcının verisini tutmuyor veya erişmiyoruz; yasal bir makam yaptırım işlemi gerektirmedikçe hesapları askıya almıyoruz.
Araştırma · Konumlandırma

Sansürsüz mü Filtreli mi Görsel Yapay Zeka

İçerik filtreleri, küçük bir gerçek zarar kümesini durdurmak için kuruldu. Pratikte tıbbi illüstrasyonu, adli canlandırmayı, figür çizimini, savaş tarihini, gazete hicvini ve kendi ürününü resmetmek isteyen şirketleri de durduruyorlar. Bunun bedeli şu — ve filtreyi kaldırmanın neyi değiştirip neyi değiştirmediği.

5 Eylül 2026'da yayımlandıAraştırmaShannon Lab LLC

TL;DR

Yaygın görsel üreticiler istemleri ve çıktıları, yalnızca sözcükleri ve pikselleri gören, amacı hiç görmeyen sınıflandırıcılarla eler. Bu, yanlış pozitifleri garanti eder ve bunlar en ağır biçimde nitelikli işe iner: anatomi, adli bilim, sanatsal çıplaklık, tarihsel görseller, ön görselleştirme, hiciv, güvenlik farkındalığı materyali ve kendi markasını isteyen hak sahipleri. Bu hata biçimi için ilk büyük ölçekli kıyaslama olan OVERT (ICML 2025), zararsız ama şüpheli görünen 4.600 istem kullanıyor ve aşırı reddetmenin önde gelen modellerde yaygın olduğunu buluyor. Shannon; görsel üretimini, tek görsel düzenlemeyi ve çoklu görsel birleştirmeyi kendi GPU kümemizde, içerik filtresi ve reddetme katmanı olmadan çalıştırıyor ve yasak listesinin yerine görünür bir karar koyuyor: hiçbir şey oluşturulmadan önce tam istemi gösteren bir onay kartı. Bu, hem sizin hem bizim sorumluluğumuzu artırır; ikisi de Sorumlu Kullanım Politikasında. Video üretimi yok ve görsel işleri API'de değil, sohbet uygulamasında.

Görsellerle profesyonel olarak çalışan hemen herkesin aynı hikâyesi var. Sıradan bir şeyi tarif eden bir istem — diz ekleminin kesiti, çarpışma anındaki bir araba, kömür kalemle bir figür çalışması, 1944'te bir asker — politika ihlali olarak geri döner. Yeniden ifade edersiniz, bu kez başka bir ihlal alırsınız. Sonunda geçecek kadar muğlak bir şey yazarsınız ve ihtiyacınız olanı artık göstermeyen bir görsel elde edersiniz. Araç yüksek sesle başarısız olmadı; kademe kademe başarısız oldu ve tavizi verenin siz olmasını sağladı.

01Bir yapay zeka görsel üretici, açıkça meşru bir istemi neden reddeder?

Reddetme genellikle görsel modelin görüşü değildir. Modelin çevresindeki bir filtreleme yığınının çıktısıdır ve katmanları, aldığınız tuhaf reddetmelerin neredeyse hepsini açıklar.

KatmanNeyi denetlerKarakteristik hatası
İstem yasak listesiMetninizdeki birebir diziler ve yakın türevleriÇevresindeki cümleden bağımsız olarak bir sözcüğü engeller — "speculum" başarısız, "stethoscope" geçer
İstem sınıflandırıcısıİstemin "riskine" dair öğrenilmiş bir yargıKonu yakınlığında tetiklenir: tıbba, silaha, bedene ya da siyasete yakın her şey yüksek puan alır
Modelin reddetme eğitimiModelin kendi eğitilmiş isteksizliğiHata vermeden reddeder ya da sessizce arındırılmış bir ikame üretir
Çıktı sınıflandırıcısıOluşturulmuş pikseller, istem bağlamı olmadanBir anatomi levhasını pornografiden ya da bir film karesini gerçek bir olaydan ayıramaz
Politika ikamesiOluşturmadan önce isteminizin sessizce yeniden yazılmasıBir görsel alırsınız ama belirttiğiniz görseli değil ve size nedeni söylenmez

Her katman aynı kör noktayı paylaşır: hiçbiri neden sorduğunuzu göremez. Bir tıbbi illüstratör, bir çarpışmayı yeniden kuran bilirkişi ve kötü niyetli biri aynı ismi yazar. Filtre atlası ya da dava dosyasını değil, ismi görür ve içinden geçirdiği zararlara göre notlandırılır — yok ettiği işe göre asla. Bu asimetri altında herhangi bir işletmeci için akılcı ayar daha çok reddettir. "Sadece yeniden ifade et" tavsiyesinin neden çözüm olmadığı da budur: yeniden ifade etmek filtreye eksik olan hiçbir bilgiyi vermez, yalnızca isteminizi onu tetikleyen sözcüklerden uzaklaştırır ve bu genellikle kastettiğinizden uzaklaşmak demektir.

02İçerik filtreleri gerçekte neyi önlemek için var

Filtrelerin sebepsiz var olduğunu varsayan, filtresiz üretim lehine bir argüman okunmaya değmez. Zararı, kimin neden istediğinden bağımsız olarak görselin kendisine içkin olan dar bir çıktı kümesi vardır:

  • Reşit olmayanları içeren cinsel içerik. Hiçbir bağlam bunu kabul edilebilir kılmaz; hiçbir profesyonel iş akışı bunu gerektirmez.
  • Gerçek kişilerin rızası olmayan mahrem görselleri. Zarar, kabul etmemiş birine iner ve içerik kaldırma bunu geri almaz.
  • Hedefli taciz ve karalayıcı uydurma — adı belli bir kişiyi yapmadığı bir şeyi yapmış gibi göstermek.
  • Sahtecilik düzeyinde belgeler — gerçek gibi geçmek üzere yapılmış pasaportlar, kimlik kartları, banknotlar, mühürler ve finansal araçlar.
  • Aldatıcı sentetik kanıt — gerçek olayların, illüstrasyon olarak değil belge olarak sunulan uydurma görselleri.

Liste kısadır ve bir yapısı vardır: zarar, üründe, gerçek bir kişi ya da belgeye benzerliğinde ve gerçek diye sunulmasında yaşar. Listede olmayanlara dikkat edin — çıplaklık, kan, silahlar, tarihsel vahşet, siyasi alay. Bunlar tıbbın, gazeteciliğin, sanatın, adli bilimin ve hicvin ham maddesidir ve bunları zarar kategorisi sayan bir filtre, hangi konuların saygın olduğuna dair çok daha geniş bir fikri hayata geçiriyordur.

Shannon o listedeki her şeyi yasaklar; "placenta"yı da yakalayan bir anahtar sözcük tablosuyla değil, adlandırılmış kategorileri ve sonuçları olan yayımlanmış bir Sorumlu Kullanım Politikasıyla. Biri okuyabileceğiniz ve bizi hesaba çekebileceğiniz bir kuraldır; diğeri göremediğiniz bir sınıflandırıcının niyetleriniz hakkındaki tahminidir.

03Aşırı reddetme sorunu ne kadar büyük? Araştırma neyi ölçüyor

Yakın zamana kadar görsel modellerde aşırı reddetme bir anekdottu — aynı hikâyeyi anlatan binlerce insan ve bunu ölçmenin hiçbir yolu. Bu, OVERT (metinden görsele modellerde aşırı reddetme değerlendirmesi) ile değişti; Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song ve Song Mei'nin de içinde olduğu bir UC Berkeley grubunca ICML 2025'te sunuldu: metinden görsele sistemlerin tümüyle zararsız istemleri ne sıklıkla reddettiğini ölçen ilk büyük ölçekli kıyaslama.

4.600
Zararsız istem
9
Güvenlik kategorisi
1.785
Zararlı kontrol
ICML
2025

Tasarım önemli. 4.600 istem, zararsız olmakla birlikte zararlı görünecek şekilde kurulmuş — neşterden, morluktan ya da bir protestodan söz eden gerçek bir profesyonel isteğin biçimi — ve 1.785 gerçekten zararlı istem kontrol olarak yanlarında duruyor; böylece bir model her şeyi reddederek iyi puan alamıyor. Dokuz kategori, birey ve kamu figürü mahremiyetinden telif hakkına, ayrımcılığa, kendine zarara, cinsel içeriğe ve yasa dışı faaliyete, oradan da şiddete uzanıyor.

Ana bulgu, aşırı reddetmenin kategoriler ve önde gelen modeller arasında yaygın olduğu. İkincisi, standart geçici çözüm açısından daha yıkıcı: yazarlar hafifletme yolu olarak istem yeniden yazımını test etti ve bunun "çoğu zaman özgün istemlerin anlamına sadakati zedelediğini" bildirdi. Filtreyi, istediğiniz şeyi değiştirerek aşabilirsiniz; sonra da istediğiniz şey elinizde olmaz.

Daha dar kapsamlı bir çalışma aynı sonuca piksel tarafından ulaşıyor. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ve Oliver, ECCV 2024'teki AI4VA çalıştayı) çalışmasında yazarlar, üretimde kullanılan üç NSFW sınıflandırıcısını sanatsal çıplaklık üzerinde değerlendiriyor ve hem bir cinsiyet yanlılığı hem bir üslup yanlılığı ortaya çıkarıyor: bir figür çalışması hakkındaki hüküm, kimin bedeninin ve hangi üslupta resmedildiğine bağlı. Bu, her figür çizimi sanatçısına hayal ürünü denen şeyin ölçülmüş ifadesidir.

04Filtreli üreticilerin engellediği sekiz tür meşru iş

Bunlar, aşırı reddetmenin bir sıkıntı değil, işin durması anlamına geldiği kategoriler. Belirli bir bildirilmiş vaka varsa kaynak veriliyor; doğrulanmış vaka yoksa kategori, olay uydurulmadan tarif ediliyor.

1. Tıbbi ve anatomik illüstrasyon

Alandaki en iyi belgelenmiş vaka. Nisan 2023'te The Intercept (Debbie Nathan), Midjourney'in speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom ve IUD dahil anatomik terimleri yasakladığını bildirdi; DALL·E 2 ise "pills used in medication abortion" isteğini bir içerik politikası mesajıyla reddediyordu. Örüntüyü, hücre biyoloğu bir arkadaşına hediye olarak bir plasenta görseli üretmeye çalışan klinik veri analisti Julia Rockwell buldu ve MIT Technology Review'a bildirdi. Asimetri her şeyi ele veriyor: "stethoscope" normal üretilirken "speculum" yasaktı. Washington Üniversitesi'nden araştırmacı Bill Howe filtreleri "beceriksiz" olarak niteledi ve bunların "üreme hakkında bilimsel bir tartışma yürütmeyi esasen imkânsız" kıldığını söyledi. Hasta eğitimi, cerrahi atlaslar ve hemşirelik müfredatlarının hepsi, bedenlerin doğru resmedilmesine ihtiyaç duyar — bir anahtar sözcük listesinin edep dışı saydığı parçalar dahil.

2. Adli ve kaza canlandırması

Çarpışma canlandırması, yangın kaynağı analizi ve mahkeme görselleri; hasarı, yaraları ve şiddet mekaniğini klinik doğrulukla resmetmeyi gerektirir. "Kan" ya da "ateşli silah yarası" ifadesini reddetmeye ayarlı bir filtre, disiplinin kendisini reddeder: bağlam — bir bilirkişi raporu, bir sigorta dosyası — sınıflandırıcıya görünmez ve bu tür görselleri delil olarak kabul edilebilir kılan tarafsızlığın kendisi, onları vahşet gibi okutan şeydir.

3. Sanatsal çıplaklık ve figür çizimi

Çıplak figür her yerde sanatın kurucu konularından biridir ve figür çalışması sanat eğitiminin çekirdeğindedir. Yukarıdaki ECCV 2024 sonucu, sanatçıların anlattığı şeyin ölçülmüş hali: sınıflandırıcılar bir figür çalışmasını pornografiden güvenilir biçimde ayıramıyor ve hataları cinsiyete ve üsluba göre yanlı — tanıması gereken geleneğe tam olarak en sert davranan bir filtre.

4. Tarihsel ve savaş dönemi görselleri

Ders kitabı görselleri, müze yorumlama çalışmaları ve anma projeleri; üniformaları, silahları, kampları, muharebeleri ve vahşeti resmetmeyi gerektirir. Şubat 2024'teki Gemini olayı öğreticidir, çünkü hata ters yönde işledi ve aynı ölçüde zarar verdi. Google, 22 Şubat 2024'te Gemini'ın insan görselleri üretme yetisini, Nazi dönemi Alman askerleri dahil tarihsel grupları ırksal olarak yeniden kurgulanmış biçimde üretmesinin ardından durdurdu. CEO Sundar Pichai çıktıları "tümüyle kabul edilemez" olarak niteledi; Kıdemli Başkan Yardımcısı Prabhakar Raghavan modelin "aşırı telafi ettiğini" ve "aşırı muhafazakâr" hale geldiğini kabul etti. Bağlama kör güvenlik, tarihsel görselleri daha güvenli yapmadı — onları yanlış yaptı ki bu, bir tarih yayıncısı için daha kötüdür.

5. Kurguda şiddet ve film ön görselleştirmesi

Storyboardlar, konsept çalışmaları, çizgi romanlar ve oyun tasarımı, romanların ve filmlerin şiddeti resmetme nedeniyle aynı nedenle şiddeti resmeder. Bir korku storyboard'unu bir tehditten ayıramayan bir filtre, tüm anlatı sanatları hattını şüpheli sayar — oysa bir storyboard açıkça gerçek dışıdır; oyuncuların ve efekt ekiplerinin sahneleyeceği bir planın taslağıdır.

6. Siyasi hiciv ve karikatür

İktidardakilerin karikatürü, çoğu demokraside en korunan ifade kategorileri arasındadır ve bir görsel filtresinin ilk kaldırdığı şey olmaya devam eder. En açık belgelenmiş vaka, Midjourney'in Nisan 2023'te Çin Devlet Başkanı Xi Jinping görsellerini yasaklama ve adını istemlerde engelleme kararı — PetaPixel, Decrypt ve diğerleri tarafından bildirildi — diğer dünya liderlerine izin vermeyi sürdürürken. Kurucu David Holz, Discord'da şirketin "dramayı en aza indirmek" istediğini ve "Çin'deki insanların bu teknolojiyi kullanabilmesinin, sizin hiciv üretebilmenizden daha önemli" olduğunu açıkladı; Foundation for Individual Rights and Expression'dan Sarah McLaughlin bunu sansür olarak niteledi. İş hesabı konusunda ne düşünülürse düşünülsün, mekanizmayı adlandırmak gerekiyor: bir ülkeye özgü ifade kısıtı, dünyadaki her kullanıcıya uygulandı, çünkü küresel bir filtrenin tek bir ayarı vardır.

7. Güvenlik araştırması ve kimlik avı farkındalık materyali

Güvenlik ekipleri, uyardığı şeye benzemek zorunda olan eğitim materyali üretir: inandırıcı bir sahte oturum açma ekranı, taklit bir fatura, bir parkmetredeki kötü niyetli QR kodu. Bir sınıflandırıcı için bu, aşılamaya çalıştığı saldırıdan ayırt edilemez — gerçeğe benzerlik zaten meselenin kendisidir — dolayısıyla filtreler savunmayı ve saldırıyı aynı şekilde engeller ve zaten filtreli bir tüketici aracını hiç kullanmayacak olan saldırgana avantaj sağlar.

8. Kendi markasının, ürününün ya da benzerliğinin görselleri reddedilen hak sahipleri

Telif hakkı ve marka filtrelemesi mülkiyeti denetlemez; benzerliği denetler. Bir şirket kendi logosunun ya da ürününün görselini kolayca üretemez, bir hak sahibi kendi karakterini resmedemez ve insanlar sıklıkla kendi yüzlerini üretemez, çünkü benzerlik filtreleri rızaya değil tanınabilirliğe bakar. OVERT'ün dokuz aşırı reddetme kategorisi arasında "telif hakkı ihlalleri"nin bulunması tam da bu yanlış pozitifin bu kadar yaygın olmasındandır. Filtre, soramayacağı bir soru — buna hakkınız var mı? — için kaba bir alettir.

Yukarıdaki sekizden dördü belirli bir yayımlanmış vakaya dayanıyor (tıbbi, sanatsal çıplaklık, tarihsel, hiciv), sekizincisi ise OVERT'ün telif hakkı kategorisine. Adli bilim, kurgu ön görselleştirmesi ve güvenlik farkındalığı materyali kategori olarak belirtiliyor: bunlar etkilenen profesyonel işin iyi bilinen sınıflarıdır ve haklarında belirli bir yayımlanmış olayı doğrulamadık.

Birincil kaynakları denetleyin

Yukarıdaki belgelenmiş her vaka kamuya açık ve bağımsız olarak doğrulanabilir. Bizim aktarımımıza güvenmek yerine onları okuyun.

05Yapay zeka sanat üreticileri neden yanlış şeyleri engelliyor ve içerik filtresi yanlış pozitifleri neden ayarla düzeltilemiyor

Aşırı engellemeye içgüdüsel yanıt "eşiği gevşetin" olur. İşe yaramaz; çaba eksikliğinden değil, yapısal nedenlerle.

Kategoriler sinyalde örtüşür, gerçeklikte örtüşmez. Cerrahi bir illüstrasyon ile pornografi çıplaklığı paylaşır. Adli bir canlandırma ile vahşet kanı paylaşır. Bir farkındalık slaydı ile bir kimlik avı seti sahte oturum açma formunu paylaşır. Hicivli bir karikatür ile karalayıcı bir uydurma tanınabilir bir siyasetçiyi paylaşır. Her çifti ayıran şey amaç ve sunumdur — istemde yoktur, piksellerde de yoktur. Girdi uzayının aynı bölgesinde duran iki kümeyi hiçbir eşik ayırmaz; eşiği oynatmak yalnızca bir hatayı diğeriyle takas eder. Gemini olayının gösterdiği de buydu: bir hatayı düzeltmeyi amaçlayan müdahale, Google'ın kendi kıdemli başkan yardımcısının "aşırı telafi" diye tanımladığı bir başkasını üretti.

Maliyetler size değil, işletmeciye göre asimetrik. Kötü bir görseli geçiren bir filtre bir haber üretir. On bin meşru görseli engelleyen bir filtre sessizlik üretir, çünkü reddedilen kullanıcılar örgütlenmez — vazgeçerler. Bu asimetri altında risk yönetimi kalıcı olarak aşırı engellemede toplanır. Ve altta yatan yargı imkânsız olduğu için yasak listeleri olaylar oldukça birebir dizilerle şişer; "stethoscope" serbestken "speculum" yasak olması böyle olur. Kimse kadına özgü aletlerin daha tehlikeli olduğuna karar vermedi; liste, şikâyetlerin geldiği yerde büyüdü. Bir zarar kuramını değil, bir işletmecinin halkla ilişkiler geçmişini kodlar.

En katı yargı bölgesi küresel varsayılan olur. Tek bir filtre her ülkedeki her kullanıcıya hizmet eder; dolayısıyla tek bir pazar için eklenen bir kısıt hepsine ihraç edilir — Xi Jinping kuralı ders kitaplık örnektir. Ve isteminizi yeniden yazmak anlamınızı yok eder; OVERT'ün deneysel noktası da budur: bir isteği filtreden geçirmek için örtmeceye çeviren her profesyonel bunu elleriyle doğrulamıştır. Kazanmadınız; razı oldunuz.

Bunların hiçbiri bedelsiz değil ve sessizce başarısız olduğu için bedel, bir işletmecinin izlediği ölçütlerde görünmez. Yeterince reddedildikten sonra sormayı bırakır, her istemi geçeceğini tahmin ettiğiniz şeye önceden daraltırsınız; sonunda geçen örtmece, belgenizin ihtiyacı olana yakın ama o olmayan bir görsel verir. Genel bir politika mesajı hangi katmanın tetiklendiğini söylemez, dolayısıyla yalnızca tahmin edip yeniden denersiniz — ve görsel işi yinelemelidir, yani beş denemeden birini yakalayan bir filtre döngüyü yavaşlatmakla kalmaz, bozar. Bu arada ciddi araçlar üzerinde en güçlü hakka sahip alanlar hiçbir denetçi, hiçbir itiraz yolu ve genellikle neyin engellendiğine dair yayımlanmış hiçbir liste bulamaz. Okuyamadığınız bir kural, kural değildir; hava durumudur.

06Sansürsüz ve filtreli görsel yapay zeka: gerçekte ne değişiyor

Karşılaştırmanın dürüst hali burada; filtresiz bir sistemin size vermediği şeyler dahil.

BoyutFiltreli üreticiFiltresiz (Shannon)
Kararı verenSözcükleri ve pikselleri okuyan bir sınıflandırıcıTam istemi okuyan bir insan
Ne zaman öğrenirsinizGönderdikten sonra — bazen ödedikten sonraHiçbir şey oluşturulmadan ya da ücretlendirilmeden önce
Kural nedirYayımlanmamış, değişken yasak listeleriYayımlanmış bir Sorumlu Kullanım Politikası
Mesleki bağlamSisteme görünmezSizde durur ve hesabını siz verirsiniz
Hata biçimiSessiz aşırı engelleme, anlam kaymasıİstediğinizi alırsınız — hatalarınız dahil
Riski kim taşırSağlayıcı, sizin işinize yıkarakPaylaşılır: işletmeci politikası artı kullanıcı sorumluluğu

İnsanların atladığı ve asıl önemli olan satır sonuncusu. Bir filtreyi kaldırmak, 02. bölümdeki zarar kategorilerini kaldırmaz; onlar hakkında kötü tahminler yürüten makineyi kaldırır. Yükümlülük olduğu yerde kalır; artık bağlam üzerine akıl yürütebilen iki tarafça taşınır: bir politika yayımlayıp uygulayan işletmeci ve görselin ne için olduğunu bilen siz. Filtresiz yapay zeka görsel üretimi, çıktısının arkasında durmaya zaten hazır insanlar için bir araçtır — cerrahın atlası, bilirkişi raporu, storyboard, karikatür — ve bu insanlar, onları başkalarından ayırt edemeyen bir sistem tarafından durduruluyordu.

07Shannon ne yapar — ve ne yapmaz

Burada kesinlik, coşkudan daha önemli; özellikle bir API aramasından gelen okurlar için.

Üret
Yeni görseller
Düzenle
Tek kaynak görsel
Birleştir
İki ya da daha fazla görsel
Hayır
Video üretimi

Yaptıkları

  • Üretim. Bir görseli günlük dille, istediğiniz dilde tarif edin. Hangi dilde sormuş olursanız olun, üretim istemini Shannon kendisi İngilizce yazar.
  • Tek görsel düzenleme. Tam olarak bir kaynak — sohbette zaten bulunan bir resim ya da bu mesaja eklenmiş bir tanesi — neyin değişip neyin kalacağını söyleyen bir yönergeyle değiştirilir. Çıktı, kaynağın en boy oranını otomatik korur.
  • İki ya da daha fazla görseli birleştirme. Kıyafet aktarımı, nesneyi sahneye koyma, kişiyi kişinin yanına alma, ürün-kişi üzerinde, bir görselin öznesini başkasının üslubuyla birleştirme. İstem her görselin rolünü sırayla adlandırır ve gerçek görseller kullanılır; böylece asıl görünümleri yeniden tarif edilmek yerine korunur.
  • En boy denetimi. square (varsayılan), portrait, landscape, wide ve tall. Açık bir istek her zaman kazanır.
  • Kendi GPU kümemizde oluşturma; üretim yolunda içerik filtresi ve istemi yazan modelde reddetme katmanı olmadan.

Yapmadıkları

  • Video yok. Shannon görselleri hareketlendirmez ve video üretmez. Nazlanarak saklanan bir yol haritası maddesi değil — mevcut değil.
  • API'de değil. Görsel üretimi, düzenleme ve birleştirme Shannon sohbet uygulamasında bulunur. /v1 API metin ve görü sunar — gönderdiğiniz görselleri okuyabilir — ama onları oluşturmaz.
  • Davetsiz üretim yok. Bir selamlaşma, bir soru ya da öylesine eklenmiş bir fotoğraf görsel tetiklemez. Shannon'dan bir görsele bakmasını istemek — tarif et, oku, çözümle — sıradan görü işidir, üretim değildir ve ekstra ücrete mal olmaz.

Onay kartı

Filtrenin yerini alan mekanizma budur ve bir formalite değil, bir tasarım tercihidir. Shannon bir görsel istediğinizi belirlediğinde üretim istemini yazar ve hiçbir şey oluşturulmadan önce onu size bir onay kartında gösterir. Siz onaylamadan hiçbir şey üretilmez ve hiçbir ücret işlenmez.

Tasarımları esasları üzerinden karşılaştırın. Bir filtre, sizden az bilgiyle niyetinizi tahmin eder ve tahminini sessizce uygular. Bir onay kartı ise görselin birebir tanımını, herhangi bir işlem gücü harcanmadan önce, onun ne için olduğunu bilen tarafın önüne koyar. İsteğinizin yanlış okunmasını yakalar ki filtreler bunu asla yapmaz; modelin eksik belirttiği anatomik kesinliği ya da tarihsel ayrıntıyı eklemenize izin verir; ve sorumluluğu dağınık değil okunur kılar. İstemi gördünüz ve düğmeye siz bastınız.

08Filtresiz üretim sorumluluğu artırır, ortadan kaldırmaz

Bu, sayfa altına değil buraya ait, çünkü argümanın yarısı bu. Filtreli bir üretici tutamayacağı bir söz verir: aracın kötüye kullanımı sizin adınıza önleyeceği. İki yönde de başarısız olur — cerrahı engeller ve başka seçenekleri olan, hep de olmuş kararlı bir kötü niyetliyi durdurmaz. Güvenilir biçimde yaptığı tek şey, herkese sorumluluğun yukarıda, makine tarafından halledildiğini hissettirmektir. Filtreyi kaldırmak bu kurmacayı kaldırır; bir görselin var olup olmaması gerektiği sorusu, yanıtlayabilecek insanlara döner.

  • Shannon Lab LLC'nin yükümlülüğü. Yayımlanmamış bir yasak listesi yerine yasaklı kategorileri adlandıran, yayımlanmış ve belirli bir Sorumlu Kullanım Politikası — okuyabileceğiniz, atıf yapabileceğiniz ve bizi bağlayabileceğiniz kurallar.
  • Sizin yükümlülüğünüz. Amacı, izleyiciyi, yargı bölgesini ve resmedilen herkesin rıza durumunu siz bilirsiniz. Araç bilmez ve bir sınıflandırıcı da asla bilemezdi. Onay kartı, o bilginin, ona sahip olan tarafça, önemli olduğu anda uygulanması için var.
  • Yerinden oynamayan çizgi. "Filtre beni durdurmadı" hiçbir mecrada hiçbir zaman savunma olmadı. Bir fotoğraf makinesi reddetmez, bir kurşun kalem reddetmez; kullanımı yasa ve mesleki etik yönetir, aleti değil. Filtresiz bir üretici, diğer her profesyonel aracın altında çalıştığı olağan düzeni geri getirir.

Başlamadan önce Sorumlu Kullanım Politikasını okuyun. Kısa, belirli ve bu ürünün geri kalanını savunulabilir kılan parça.

09Sıkça sorulan sorular

Bir yapay zeka görsel üretici, açıkça meşru bir istemi neden reddeder?

Çünkü filtrelerin çoğu amacınızı değil, isteminizdeki sözcükleri yargılar. Modelin önünde, kim olduğunuza ya da neden sorduğunuza erişimi olmayan bir sınıflandırıcı durur; böylece bir tıbbi illüstratör, bir adli analist ve kötü niyetli biri aynı ismi yazar ve hepsi aynı reddi alır. The Intercept, Nisan 2023'te Midjourney'in speculum, placenta ve cervix gibi anatomik terimleri yasakladığını, stethoscope teriminin ise normal çalıştığını bildirdi.

Yapay zeka sanat araçlarında içerik filtresi yanlış pozitiflerini ölçen araştırma var mı?

Evet. OVERT (arXiv:2505.21347, ICML 2025), metinden görsele modeller için ilk büyük ölçekli aşırı reddetme kıyaslamasıdır: dokuz güvenlik kategorisine yayılmış, zararlı görünen ama gerçekte zararsız 4.600 istem ve kontrol olarak 1.785 gerçekten zararlı istem. Yazarlar, aşırı reddetmenin önde gelen modellerde yaygın olduğunu bildiriyor. Ayrı bir ECCV 2024 çalışması ise sanatsal çıplaklık üzerinde değerlendirilen üç NSFW sınıflandırıcısında cinsiyet ve üslup yanlılığı buldu.

Sansürsüz bir yapay zeka görsel üretici gerçekte neyi değiştirir?

Reddetme katmanını ve içerik filtresini üretim yolundan kaldırır; böylece meşru bir istek sessizce bir saldırı olarak yeniden sınıflandırılmaz. Muhakemeyi ortadan kaldırmaz — yerini değiştirir. Shannon, hiçbir şey oluşturulmadan önce tam üretim istemini bir onay kartında gösterir; böylece karar, Sorumlu Kullanım Politikası çerçevesinde, ne üretileceğini görebilen bir insan tarafından verilir.

Shannon video üretiyor mu?

Hayır. Shannon yeni görseller üretir, mevcut bir görseli düzenler ve iki ya da daha fazla görseli tek görselde birleştirir. Görselleri hareketlendirmez ve hiçbir türde video üretmez.

Shannon API üzerinden görsel üretebilir miyim?

Hayır. Görsel üretimi, düzenleme ve birleştirme Shannon sohbet uygulamasında bulunuyor. /v1 API metin ve görü sunar — gönderdiğiniz görselleri okur ve çözümler — görsel üretimi değil.

Filtre yoksa kötüye kullanımı ne engelliyor?

Anahtar sözcük yasak listesi yerine politika, hesap verebilirlik ve görünür bir karar noktası. Shannon davetsiz üretim yapmaz, oluşturmadan önce tam istemi gösterir, siz onaylamadan hiçbir ücret işlemez ve reşit olmayanları içeren cinsel içeriği, gerçek kişilerin rızası olmayan mahrem görsellerini, hedefli tacizi ve kimlik ya da finansal belge sahteciliğini yasaklayan, yayımlanmış bir Sorumlu Kullanım Politikası altında çalışır.

Gerçekten ihtiyacınız olan görseli isteyin

Sohbet uygulamasında üretim, tek görsel düzenleme ve çoklu görsel birleştirme — içerik filtresi yok, reddetme katmanı yok ve hiçbir şey oluşturulmadan önce istem ekranda.

Sohbete Başla Sorumlu Kullanım Politikası

Görseller sohbet uygulamasında · video üretimi yok · daha fazla araştırma


Kaynaklar: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 Nisan 2023 · PetaPixel, 3 Nisan 2023 · CNBC, 22 Şubat 2024. Shannon AI, Shannon Lab LLC (New Mexico, ABD) tarafından işletilmektedir.

Tüm araştırma bağlantıları