Tanpa Sensor vs Berfilter Generator Gambar AI
Filter konten dibangun untuk menghentikan sekumpulan kecil bahaya nyata. Dalam praktiknya mereka juga menghentikan ilustrasi medis, rekonstruksi forensik, menggambar model hidup, sejarah perang, satire editorial, dan perusahaan yang menggambarkan produknya sendiri. Inilah harganya — dan apa yang berubah serta tidak berubah saat filter dihapus.
Ringkasnya
Generator gambar arus utama menyaring prompt dan keluaran dengan pengklasifikasi yang melihat kata dan piksel, tidak pernah tujuan. Itu menjamin adanya positif palsu, dan yang paling parah terkena adalah pekerjaan terampil: anatomi, forensik, ketelanjangan seni, citra sejarah, pra-visualisasi, satire, materi kesadaran keamanan, dan pemegang hak yang meminta mereknya sendiri. OVERT (ICML 2025), benchmark berskala besar pertama untuk mode kegagalan ini, memakai 4,600 prompt tak berbahaya tetapi mencurigakan dan menemukan bahwa penolakan berlebihan tersebar luas di berbagai model terkemuka. Shannon menjalankan pembuatan gambar, pengeditan gambar tunggal, dan penggabungan multi-gambar di klaster GPU kami sendiri tanpa filter konten dan tanpa lapisan penolakan, mengganti daftar blokir dengan keputusan yang terlihat: sebuah kartu konfirmasi yang menampilkan prompt persis sebelum apa pun dirender. Itu menaikkan tanggung jawab Anda dan tanggung jawab kami; keduanya ada di Kebijakan Penggunaan yang Bertanggung Jawab. Tidak ada pembuatan video, dan pekerjaan gambar berada di aplikasi chat, bukan di API.
Hampir semua orang yang bekerja dengan gambar secara profesional punya cerita yang sama. Sebuah prompt yang menggambarkan hal biasa — potongan melintang sendi lutut, sebuah mobil pada saat tabrakan, studi figur dengan arang, seorang tentara pada 1944 — kembali sebagai pelanggaran kebijakan. Anda mengubah kalimatnya, dan mendapat pelanggaran yang berbeda. Akhirnya Anda menulis sesuatu yang cukup kabur agar lolos, dan mendapat gambar yang tidak lagi menunjukkan apa yang Anda butuhkan. Alat itu tidak gagal dengan berisik; ia gagal sedikit demi sedikit, dan menjadikan Anda pihak yang berkompromi.
01Mengapa generator gambar AI menolak prompt yang jelas-jelas sah?
Penolakan itu biasanya bukan pendapat model gambarnya. Ia keluaran dari tumpukan penyaringan di sekeliling model, dan lapisan-lapisannya menjelaskan hampir setiap penolakan aneh yang pernah Anda terima.
| Lapisan | Apa yang diperiksanya | Kegagalan khasnya |
|---|---|---|
| Daftar blokir prompt | String literal dan variannya di dalam teks Anda | Memblokir sebuah kata terlepas dari kalimat di sekitarnya — "speculum" gagal, "stethoscope" lolos |
| Pengklasifikasi prompt | Penilaian terlatih atas "risiko" sebuah prompt | Aktif karena kedekatan topik: apa pun yang dekat kedokteran, senjata, tubuh, atau politik mendapat skor tinggi |
| Pelatihan penolakan model | Keengganan terlatih pada model itu sendiri | Menolak tanpa pesan galat, atau diam-diam menghasilkan pengganti yang sudah disterilkan |
| Pengklasifikasi keluaran | Piksel yang sudah dirender, tanpa konteks prompt | Tidak bisa membedakan pelat anatomi dari pornografi, atau cuplikan film dari peristiwa nyata |
| Substitusi kebijakan | Penulisan ulang prompt Anda secara diam-diam sebelum dirender | Anda mendapat gambar, tetapi bukan yang Anda tentukan, dan Anda tidak diberi tahu alasannya |
Setiap lapisan berbagi satu titik buta: tak satu pun bisa melihat mengapa Anda bertanya. Seorang ilustrator medis, seorang ahli dari pihak penggugat yang merekonstruksi tabrakan, dan seseorang dengan niat buruk sama-sama mengetik kata benda yang sama. Filter melihat kata bendanya, bukan atlas anatominya atau berkas perkaranya, dan ia dinilai dari bahaya yang lolos — tidak pernah dari pekerjaan yang ia hancurkan. Di bawah asimetri itu, setelan rasional bagi operator mana pun adalah lebih banyak menolak. Itu juga sebabnya "ubah saja kalimatnya" bukan solusi: mengubah kalimat tidak memberi filter informasi yang sebelumnya tidak ia punya, ia hanya menjauhkan prompt Anda dari kata-kata yang memicunya, yang biasanya berarti menjauh dari maksud Anda.
02Apa yang sungguh-sungguh ingin dicegah filter konten
Argumen untuk pembuatan gambar tanpa filter yang berpura-pura bahwa filter ada tanpa alasan tidak layak dibaca. Ada sekumpulan sempit keluaran yang bahayanya melekat pada gambarnya sendiri, tak peduli siapa yang meminta atau mengapa:
- Konten seksual yang melibatkan anak di bawah umur. Tidak ada konteks yang membuatnya bisa diterima; tidak ada alur kerja profesional yang membutuhkannya.
- Citra intim tanpa persetujuan atas orang sungguhan. Bahayanya menimpa seseorang yang tidak setuju, dan penghapusan tidak membatalkannya.
- Pelecehan bertarget dan rekayasa yang mencemarkan nama baik — membuat individu bernama tampak melakukan sesuatu yang tidak ia lakukan.
- Dokumen berkualitas pemalsuan — paspor, kartu identitas, uang kertas, stempel, dan instrumen keuangan yang dibuat agar lolos sebagai asli.
- Bukti sintetis yang menipu — citra rekaan atas peristiwa nyata yang disajikan sebagai dokumentasi, bukan ilustrasi.
Daftarnya pendek dan punya struktur: bahayanya hidup di dalam artefaknya, dalam kemiripannya dengan orang atau dokumen nyata, dan dalam penyajiannya sebagai kebenaran. Perhatikan apa yang tidak ada di sana — ketelanjangan, darah, senjata, kekejaman sejarah, ejekan politik. Semua itu bahan baku kedokteran, jurnalisme, seni, forensik, dan satire, dan filter yang memperlakukan mereka sebagai kategori bahaya sedang menerapkan gagasan yang jauh lebih luas tentang subjek mana yang dianggap terhormat.
Shannon melarang semua yang ada di daftar itu, dalam Kebijakan Penggunaan yang Bertanggung Jawab yang diterbitkan dengan kategori dan konsekuensi yang disebutkan, bukan tabel kata kunci yang juga menjaring "placenta." Yang satu adalah aturan yang bisa Anda baca dan Anda tuntut dari kami; yang lain adalah tebakan tentang niat Anda oleh pengklasifikasi yang tidak bisa Anda lihat.
03Seberapa besar masalah penolakan berlebihan? Apa yang diukur riset
Sampai belum lama ini, penolakan berlebihan pada model gambar hanyalah anekdot — ribuan orang dengan cerita yang sama tanpa cara mengukurnya. Itu berubah dengan OVERT (OVEr-Refusal evaluation on Text-to-image models), yang dipresentasikan di ICML 2025 oleh kelompok UC Berkeley yang mencakup Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song, dan Song Mei: benchmark berskala besar pertama yang mengukur seberapa sering sistem text-to-image menolak prompt yang sepenuhnya tak berbahaya.
Rancangannya penting. Keempat ribu enam ratus prompt itu dibuat agar tampak berbahaya padahal tidak — berbentuk permintaan profesional sungguhan yang menyebut pisau bedah, memar, atau unjuk rasa — dan 1,785 prompt yang benar-benar berbahaya diletakkan di sampingnya sebagai kontrol, sehingga sebuah model tidak bisa meraih skor bagus hanya dengan menolak semuanya. Kesembilan kategorinya membentang dari privasi individu dan tokoh publik, hak cipta, diskriminasi, menyakiti diri sendiri, konten seksual, dan aktivitas ilegal, sampai kekerasan.
Temuan utamanya adalah bahwa penolakan berlebihan tersebar luas lintas kategori dan lintas model terkemuka. Temuan kedua lebih merusak bagi akal-akalan yang biasa dipakai: para penulis menguji penulisan ulang prompt sebagai mitigasi dan melaporkan bahwa hal itu "sering mengorbankan kesetiaan pada makna prompt aslinya." Anda bisa lolos dari filter dengan mengubah apa yang Anda minta, dan setelah itu Anda tidak lagi memiliki apa yang Anda minta.
Sebuah studi yang lebih sempit sampai pada kesimpulan yang sama dari sisi piksel. Dalam An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann, dan Oliver, lokakarya AI4VA di ECCV 2024), para penulis mengevaluasi tiga pengklasifikasi NSFW produksi pada ketelanjangan artistik dan menemukan adanya bias gender sekaligus bias gaya: putusan atas sebuah studi figur bergantung pada tubuh siapa yang digambarkan dan dalam gaya apa. Itu adalah pernyataan terukur atas hal yang selalu dikatakan kepada setiap pelukis model hidup sebagai sekadar khayalan.
04Delapan jenis pekerjaan sah yang diblokir generator berfilter
Inilah kategori-kategori di mana penolakan berlebihan bukan sekadar merepotkan melainkan menghentikan pekerjaan. Di mana ada kasus spesifik yang dilaporkan, kasus itu dikutip; di mana tidak ada yang terverifikasi, kategorinya dijelaskan tanpa mengarang insiden.
1. Ilustrasi medis dan anatomis
Kasus paling terdokumentasi di bidang ini. Pada April 2023, The Intercept (Debbie Nathan) melaporkan bahwa Midjourney telah melarang istilah anatomi termasuk speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom, dan IUD, sementara DALL·E 2 menolak "pills used in medication abortion" dengan pesan kebijakan konten. Pola itu ditemukan oleh Julia Rockwell, seorang analis data klinis yang mencoba membuat gambar plasenta sebagai hadiah untuk temannya seorang ahli biologi sel, dan dilaporkan ke MIT Technology Review. Asimetrinya menjadi petunjuk: "stethoscope" dibuat secara normal sementara "speculum" dilarang. Peneliti University of Washington Bill Howe menyebut filter itu "ham-fisted" dan mengatakan filter tersebut membuat "basically impossible to have a scientific discussion about reproduction." Edukasi pasien, atlas bedah, dan kurikulum keperawatan semuanya membutuhkan tubuh digambarkan secara akurat, termasuk bagian-bagian yang oleh sebuah daftar kata kunci diputuskan tidak senonoh.
2. Rekonstruksi forensik dan kecelakaan
Rekonstruksi tabrakan, analisis titik asal kebakaran, dan alat peraga persidangan menuntut penggambaran kerusakan, luka, dan mekanika kekerasan dengan akurasi klinis. Filter yang disetel untuk menolak "darah" atau "luka tembak" menolak seluruh disiplinnya: konteksnya — sebuah laporan ahli, sebuah berkas asuransi — tak terlihat oleh pengklasifikasi, dan justru netralitas yang membuat citra semacam itu bisa diterima di pengadilan itulah yang membuatnya terbaca sebagai kekerasan grafis.
3. Ketelanjangan seni dan menggambar model hidup
Ketelanjangan adalah subjek fundamental seni di mana pun, dan studi figur adalah inti pendidikan seni. Hasil ECCV 2024 di atas adalah versi terukur dari apa yang dilaporkan para seniman: pengklasifikasi tidak andal memisahkan studi figur dari pornografi, dan kesalahannya bias menurut gender dan gaya — sebuah filter yang paling keras justru terhadap tradisi yang seharusnya ia kenali.
4. Citra sejarah dan masa perang
Seni buku teks, interpretasi museum, dan proyek peringatan menuntut penggambaran seragam, senjata, kamp, pertempuran, dan kekejaman. Peristiwa Gemini pada Februari 2024 instruktif karena kegagalannya berjalan ke arah sebaliknya dan menimbulkan kerusakan yang setara. Google menghentikan sementara kemampuan Gemini membuat gambar orang pada 22 Februari 2024 setelah ia menghasilkan penggambaran kelompok sejarah yang komposisi rasnya diubah, termasuk tentara Jerman era Nazi. CEO Sundar Pichai menyebut keluaran itu "completely unacceptable"; SVP Prabhakar Raghavan mengakui bahwa modelnya telah "overcompensated" dan menjadi "over-conservative." Keamanan yang buta konteks tidak membuat citra sejarah lebih aman — ia membuatnya keliru, dan bagi penerbit sejarah itu lebih buruk.
5. Kekerasan dalam fiksi dan pra-visualisasi film
Papan cerita, seni konsep, komik, dan desain gim menggambarkan kekerasan dengan alasan yang sama seperti novel dan film. Filter yang tidak bisa membedakan papan cerita horor dari ancaman memperlakukan seluruh alur produksi seni naratif sebagai mencurigakan — padahal papan cerita jelas-jelas bukan sesuatu yang nyata, ia rencana untuk adegan yang akan dipentaskan aktor dan tim efek.
6. Satire politik dan kartun editorial
Karikatur terhadap penguasa termasuk kategori kebebasan berekspresi yang paling dilindungi di kebanyakan negara demokrasi, dan rutin menjadi hal pertama yang dihapus filter gambar. Kasus terdokumentasi paling jelas adalah keputusan Midjourney pada April 2023 untuk melarang gambar Presiden Tiongkok Xi Jinping dan memblokir namanya dalam prompt — dilaporkan oleh PetaPixel, Decrypt, dan lainnya — sementara tetap mengizinkan pemimpin dunia lain. Pendirinya, David Holz, menjelaskan di Discord bahwa perusahaan ingin "minimize drama" dan bahwa "the ability for people in China to use this tech is more important than your ability to generate satire"; Sarah McLaughlin dari Foundation for Individual Rights and Expression menyebutnya sensor. Apa pun kesimpulan Anda tentang perhitungan bisnisnya, mekanismenya layak disebut: sebuah pembatasan berbicara tingkat nasional yang diterapkan pada setiap pengguna di seluruh dunia, karena filter global hanya punya satu setelan.
7. Riset keamanan dan materi kesadaran phishing
Tim keamanan membangun materi pelatihan yang harus tampak seperti hal yang ia peringatkan: layar login palsu yang meyakinkan, faktur tiruan, kode QR berbahaya di meteran parkir. Bagi pengklasifikasi, itu tak terbedakan dari serangan yang justru ingin dicegahnya — kemiripan itulah intinya — sehingga filter memblokir pertahanan dan serangan secara identik, menguntungkan penyerang, yang toh memang tidak akan pernah memakai alat konsumen berfilter.
8. Pemegang hak ditolak saat meminta gambar merek, produk, atau rupanya sendiri
Penyaringan hak cipta dan merek dagang tidak memeriksa kepemilikan; ia memeriksa kemiripan. Sebuah perusahaan tidak mudah membuat citra logo atau produknya sendiri, seorang pemegang hak tidak bisa menggambarkan karakternya sendiri, dan orang sering tidak bisa membuat gambar wajahnya sendiri, karena filter rupa berpatokan pada keterkenalan, bukan persetujuan. OVERT memasukkan "pelanggaran hak cipta" di antara sembilan kategori penolakan berlebihannya justru karena positif palsu ini begitu umum. Filter adalah alat tumpul untuk sebuah pertanyaan — apakah Anda berhak atas ini? — yang sama sekali tidak bisa ia ajukan.
Empat dari delapan hal di atas ditambatkan pada kasus terbit yang spesifik (medis, ketelanjangan seni, sejarah, satire) ditambah kategori hak cipta OVERT untuk yang kedelapan. Forensik, pra-visualisasi fiksi, dan materi kesadaran keamanan dinyatakan sebagai kategori: keduanya kelas pekerjaan profesional terdampak yang terkenal, tetapi kami tidak memverifikasi insiden terbit yang spesifik untuk mereka.
Setiap kasus terdokumentasi di atas bersifat publik dan dapat diverifikasi secara independen. Bacalah sendiri alih-alih memercayai penggambaran kami.
05Mengapa generator seni AI memblokir hal yang salah, dan mengapa positif palsu filter konten tidak bisa disetel hilang
Respons naluriah terhadap pemblokiran berlebihan adalah "longgarkan ambangnya." Itu tidak berhasil, karena alasan struktural, bukan karena kurang usaha.
Kategorinya tumpang tindih pada sinyalnya, tetapi tidak pada kenyataannya. Ilustrasi bedah dan pornografi berbagi ketelanjangan. Rekonstruksi forensik dan kekerasan grafis berbagi darah. Slide kesadaran dan perangkat phishing berbagi formulir login palsu. Kartun satire dan rekayasa pencemaran nama baik berbagi politikus yang dikenali. Yang membedakan setiap pasangan adalah tujuan dan penyajian — absen dari prompt dan absen dari piksel. Tidak ada ambang yang memisahkan dua populasi yang menempati wilayah ruang masukan yang sama; menggesernya hanya menukar satu jenis kesalahan dengan yang lain. Itulah yang ditunjukkan peristiwa Gemini: sebuah intervensi yang dimaksudkan memperbaiki satu kegagalan justru menghasilkan kegagalan lain, yang oleh SVP Google sendiri disebut "overcompensated."
Biayanya asimetris bagi operator, bukan bagi Anda. Filter yang meloloskan satu gambar buruk menghasilkan berita. Filter yang memblokir sepuluh ribu gambar sah menghasilkan kesunyian, karena pengguna yang ditolak tidak berorganisasi — mereka menyerah. Manajemen risiko di bawah asimetri itu mengerucut ke pemblokiran berlebihan, secara permanen. Dan karena penilaian yang mendasarinya mustahil dilakukan, daftar blokir menumpuk string literal seiring munculnya insiden, dan begitulah "stethoscope" baik-baik saja sementara "speculum" dilarang. Tidak ada yang memutuskan bahwa alat khusus perempuan lebih berbahaya; daftarnya tumbuh di tempat keluhan berdatangan. Ia mengodekan riwayat humas seorang operator, bukan sebuah teori tentang bahaya.
Yurisdiksi paling ketat menjadi default global. Satu filter melayani setiap pengguna di setiap negara, sehingga pembatasan yang ditambahkan untuk satu pasar diekspor ke semuanya — aturan Xi Jinping adalah kasus buku teksnya. Dan menulis ulang prompt Anda menghancurkan makna Anda, dan itulah inti eksperimen OVERT: setiap profesional yang pernah menyamarkan permintaannya menjadi eufemisme agar lolos filter telah membuktikannya dengan tangan sendiri. Anda tidak menang; Anda mengalah.
Tidak ada dari semua ini yang gratis, dan karena ia gagal dengan senyap, biayanya tak terlihat dalam metrik yang diamati operator. Setelah cukup banyak penolakan Anda berhenti bertanya, mempersempit setiap prompt di awal ke apa yang Anda perkirakan akan lolos; eufemisme yang akhirnya lolos menghasilkan gambar yang mendekati, tetapi bukan, apa yang dibutuhkan dokumen Anda. Pesan kebijakan yang generik tidak memberi tahu apa pun tentang lapisan mana yang aktif, sehingga Anda hanya bisa menebak dan mencoba lagi — dan pekerjaan gambar bersifat iteratif, jadi filter yang menjegal satu dari lima percobaan mengacaukan siklusnya, bukan sekadar memperlambatnya. Sementara itu bidang-bidang dengan klaim terkuat atas alat yang serius tidak mendapat peninjau, tidak mendapat banding, dan biasanya tidak mendapat daftar terbit tentang apa yang diblokir. Aturan yang tidak bisa Anda baca bukanlah aturan; ia cuaca.
06Generator gambar AI tanpa sensor vs berfilter: apa yang sebenarnya berubah
Inilah versi jujur dari perbandingannya, termasuk apa yang tidak diberikan sistem tanpa filter kepada Anda.
| Dimensi | Generator berfilter | Tanpa filter (Shannon) |
|---|---|---|
| Yang memutuskan | Pengklasifikasi yang membaca kata dan piksel | Seorang manusia yang membaca prompt persisnya |
| Kapan Anda tahu | Setelah Anda mengirim — kadang setelah Anda membayar | Sebelum apa pun dirender atau ditagih |
| Aturannya apa | Daftar blokir yang tak diterbitkan dan berubah-ubah | Kebijakan Penggunaan yang Bertanggung Jawab yang diterbitkan |
| Konteks profesional | Tak terlihat oleh sistem | Milik Anda untuk dipegang, dan Anda yang mempertanggungjawabkannya |
| Mode kegagalan | Pemblokiran berlebihan yang senyap, makna yang melenceng | Anda mendapat apa yang Anda minta — termasuk kesalahannya |
| Siapa yang memikul risiko | Vendor, yang dialihkan ke pekerjaan Anda | Berbagi: kebijakan operator plus pertanggungjawaban pengguna |
Baris terakhir itulah yang orang lewatkan, dan yang justru penting. Menghapus filter tidak menghapus kategori bahaya di bagian 02; ia menghapus mesin yang menebak-nebaknya dengan buruk. Kewajibannya tetap di tempatnya semula, kini dipegang oleh dua pihak yang bisa menalar konteks: operator, yang menerbitkan dan menegakkan kebijakan, dan Anda, yang tahu untuk apa gambarnya. Pembuatan gambar AI tanpa filter adalah alat untuk orang yang sudah siap berdiri di belakang karyanya — atlas seorang ahli bedah, laporan ahli, papan cerita, kartun — yang selama ini dihentikan oleh sistem yang tidak bisa membedakan mereka dari orang lain.
07Apa yang dilakukan Shannon — dan apa yang tidak
Ketepatan di sini lebih penting daripada antusiasme, terutama bagi pembaca yang datang dari pencarian tentang API.
Apa yang dilakukannya
- Pembuatan. Jelaskan sebuah gambar dengan bahasa sehari-hari, dalam bahasa apa pun. Shannon menulis sendiri prompt pembuatannya, dalam bahasa Inggris, apa pun bahasa yang Anda pakai untuk meminta.
- Mengedit satu gambar. Tepat satu sumber — sebuah gambar yang sudah ada di percakapan, atau yang dilampirkan pada pesan Anda saat ini — diubah oleh instruksi yang menyebut apa yang berubah dan apa yang tetap. Keluarannya otomatis mempertahankan rasio aspek sumbernya.
- Menggabungkan dua gambar atau lebih. Transfer busana, objek-ke-dalam-adegan, orang di samping orang, produk-pada-orang, subjek dari satu gambar dengan gaya dari gambar lain. Prompt-nya menyebut peran setiap gambar secara berurutan, dan gambar aslinya yang dipakai, sehingga penampilan sebenarnya terjaga alih-alih dideskripsikan ulang.
- Kendali rasio. square (default), portrait, landscape, wide, dan tall. Permintaan eksplisit selalu menang.
- Render di klaster GPU kami sendiri, tanpa filter konten pada jalur pembuatan dan tanpa lapisan penolakan pada model yang menulis prompt.
Apa yang tidak dilakukannya
- Tidak ada video. Shannon tidak menganimasikan gambar dan tidak menghasilkan video. Ini bukan butir peta jalan yang sengaja disimpan malu-malu — ia memang tidak ada.
- Tidak ada di API. Pembuatan, pengeditan, dan penggabungan gambar berada di aplikasi chat Shannon. API /v1 melayani teks dan visi — ia bisa membaca gambar yang Anda kirimkan — tetapi ia tidak merendernya.
- Tidak ada pembuatan tanpa diminta. Sapaan, pertanyaan, atau foto yang dilampirkan sambil lalu tidak memicu gambar. Meminta Shannon melihat sebuah gambar — mendeskripsikannya, membacanya, menganalisisnya — adalah pekerjaan visi biasa, bukan pembuatan gambar, dan tidak memakan biaya tambahan.
Kartu konfirmasi
Inilah mekanisme yang menggantikan filter, dan ia pilihan rancangan, bukan formalitas. Ketika Shannon menentukan bahwa Anda meminta sebuah gambar, ia menulis prompt pembuatannya dan menampilkannya kepada Anda di sebuah kartu konfirmasi sebelum apa pun dirender. Tidak ada yang dibuat dan tidak ada yang ditagih sampai Anda mengonfirmasi.
Bandingkan kedua rancangan itu berdasarkan kelebihannya. Filter menebak niat Anda dengan informasi yang lebih sedikit daripada yang Anda punya, lalu menegakkan tebakannya secara senyap. Kartu konfirmasi menaruh spesifikasi harfiah gambarnya di hadapan pihak yang tahu untuk apa gambar itu, sebelum komputasi apa pun dihabiskan. Ia menangkap salah baca atas permintaan Anda, hal yang tidak pernah dilakukan filter; ia membiarkan Anda menambahkan presisi anatomis atau detail sejarah yang kurang dispesifikasikan model; dan ia membuat tanggung jawab menjadi terbaca alih-alih menyebar. Anda melihat prompt-nya, dan Anda menekan tombolnya.
08Pembuatan tanpa filter menaikkan tanggung jawab, bukan menghapusnya
Ini tempatnya di sini, bukan di catatan kaki, karena ia separuh dari argumennya. Generator berfilter membuat janji yang tak bisa ia tepati: bahwa alat itu akan mencegah penyalahgunaan atas nama Anda. Ia gagal di kedua arah — ia memblokir sang ahli bedah, dan ia tidak menghentikan pelaku jahat yang bertekad, yang punya pilihan lain dan selalu punya. Yang ia lakukan secara andal adalah membuat semua orang merasa tanggung jawab sudah ditangani di hulu, oleh mesin. Menghapus filter menghapus fiksi itu; pertanyaan apakah sebuah gambar layak ada kembali kepada orang-orang yang bisa menjawabnya.
- Kewajiban Shannon Lab LLC. Sebuah Kebijakan Penggunaan yang Bertanggung Jawab yang diterbitkan dan spesifik, yang menyebut kategori terlarang alih-alih daftar blokir tak terbit — aturan yang bisa Anda baca, kutip, dan tuntut dari kami.
- Kewajiban Anda. Anda tahu tujuannya, audiensnya, yurisdiksinya, dan status persetujuan setiap orang yang digambarkan. Alatnya tidak tahu, dan pengklasifikasi tidak akan pernah bisa. Kartu konfirmasi ada agar pengetahuan itu diterapkan pada saat yang menentukan, oleh pihak yang memilikinya.
- Garis yang tidak bergeser. "Filternya tidak menghentikan saya" tidak pernah menjadi pembelaan dalam medium apa pun. Kamera tidak menolak, pensil tidak menolak; hukum dan etika profesi mengatur penggunaannya, bukan alatnya. Generator tanpa filter memulihkan tatanan biasa yang berlaku pada setiap alat profesional lainnya.
Baca Kebijakan Penggunaan yang Bertanggung Jawab sebelum Anda mulai. Ia pendek, spesifik, dan merupakan bagian dari produk ini yang membuat sisanya bisa dipertanggungjawabkan.
09Pertanyaan yang sering diajukan
Mengapa generator gambar AI menolak prompt yang jelas-jelas sah?
Karena sebagian besar filter menilai kata-kata dalam prompt Anda, bukan tujuan Anda. Sebuah pengklasifikasi duduk di depan model tanpa akses ke siapa Anda atau mengapa Anda bertanya, sehingga ilustrator medis, analis forensik, dan pelaku jahat sama-sama mengetik kata benda yang sama dan sama-sama mendapat penolakan yang sama. The Intercept melaporkan pada April 2023 bahwa Midjourney melarang istilah anatomi termasuk speculum, placenta, dan cervix, sementara stethoscope berfungsi normal.
Adakah riset yang mengukur positif palsu filter konten pada alat seni AI?
Ada. OVERT (arXiv:2505.21347, ICML 2025) adalah benchmark penolakan berlebihan berskala besar pertama untuk model text-to-image: 4,600 prompt yang tampak berbahaya tetapi sebenarnya tidak berbahaya di sembilan kategori keamanan, ditambah 1,785 prompt yang benar-benar berbahaya sebagai kontrol. Para penulisnya melaporkan bahwa penolakan berlebihan tersebar luas di berbagai model terkemuka. Sebuah studi terpisah di ECCV 2024 menemukan bias gender dan bias gaya pada tiga pengklasifikasi NSFW yang dievaluasi pada ketelanjangan artistik.
Apa yang sebenarnya diubah oleh generator gambar AI tanpa sensor?
Ia menghapus lapisan penolakan dan filter konten dari jalur pembuatan, sehingga permintaan yang sah tidak diam-diam diklasifikasikan ulang sebagai serangan. Ia tidak menghapus penilaian — ia memindahkannya. Shannon menampilkan prompt pembuatan yang persis di sebuah kartu konfirmasi sebelum apa pun dirender, sehingga keputusannya dibuat oleh orang yang bisa melihat apa yang akan dihasilkan, di bawah Kebijakan Penggunaan yang Bertanggung Jawab.
Apakah Shannon membuat video?
Tidak. Shannon membuat gambar baru, mengedit satu gambar yang sudah ada, dan menggabungkan dua gambar atau lebih menjadi satu. Ia tidak menganimasikan gambar dan tidak menghasilkan video dalam bentuk apa pun.
Bisakah saya membuat gambar melalui API Shannon?
Tidak. Pembuatan, pengeditan, dan penggabungan gambar berada di aplikasi chat Shannon. API /v1 melayani teks dan visi — membaca serta menganalisis gambar yang Anda kirimkan — bukan pembuatan gambar.
Jika tidak ada filter, apa yang mencegah penyalahgunaan?
Kebijakan, pertanggungjawaban, dan titik keputusan yang terlihat, bukan daftar blokir kata kunci. Shannon tidak pernah membuat gambar tanpa diminta, menampilkan prompt lengkap sebelum merender, tidak menagih apa pun sampai Anda mengonfirmasi, dan beroperasi di bawah Kebijakan Penggunaan yang Bertanggung Jawab yang diterbitkan, yang melarang konten seksual yang melibatkan anak di bawah umur, citra intim tanpa persetujuan atas orang sungguhan, pelecehan bertarget, serta pemalsuan dokumen identitas atau keuangan.
Mintalah gambar yang benar-benar Anda butuhkan
Pembuatan, pengeditan gambar tunggal, dan penggabungan multi-gambar di aplikasi chat — tanpa filter konten, tanpa lapisan penolakan, dan prompt tampil di layar sebelum apa pun dirender.
Mulai Mengobrol Kebijakan Penggunaan yang Bertanggung JawabGambar di aplikasi chat · tanpa pembuatan video · riset lainnya
Sumber: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 April 2023 · PetaPixel, 3 April 2023 · CNBC, 22 Februari 2024. Shannon AI dioperasikan oleh Shannon Lab LLC, New Mexico, USA.