Без цензуры против фильтра: генераторы изображений

Почти у каждого, кто профессионально работает с изображениями, есть одна и та же история. Промпт, описывающий нечто обыденное — поперечный срез коленного сустава, автомобиль в момент удара, штудию фигуры углём, солдата 1944 года, — возвращается как нарушение правил. Вы переформулируете и получаете другое нарушение. В конце концов вы пишете что-то достаточно расплывчатое, чтобы пройти, и получаете изображение, где больше нет того, что вам было нужно. Инструмент не сломался громко; он ломался постепенно, и уступать пришлось вам.

01Почему генератор изображений отказывает в явно законном запросе

Отказ, как правило, не мнение модели изображений. Это результат работы фильтрующего стека вокруг модели, и его слои объясняют почти каждый странный отказ, который вы получали.

Слой	Что проверяет	Характерный сбой
Чёрный список промптов	Буквальные строки и близкие варианты в вашем тексте	Блокирует слово независимо от окружающего предложения: «speculum» не проходит, «stethoscope» проходит
Классификатор промпта	Выученная оценка «риска» промпта	Срабатывает по тематической близости: всё около медицины, оружия, тел или политики набирает высокий балл
Обучение модели отказам	Собственное натренированное нежелание модели	Отказывает без ошибки или тихо выдаёт стерилизованную замену
Классификатор вывода	Отрендеренные пиксели, без контекста промпта	Не может отличить анатомическую таблицу от порнографии, а кадр из фильма от реального события
Подмена по политике	Молчаливое переписывание вашего промпта до рендера	Вы получаете изображение, но не то, которое задали, и вам не говорят почему

У каждого слоя одна общая слепая зона: ни один не видит, зачем вы спрашиваете. Медицинский иллюстратор, эксперт истца, реконструирующий столкновение, и человек с дурными намерениями набирают одно и то же существительное. Фильтр видит существительное, а не анатомический атлас и не материалы дела, и его оценивают по пропущенному вреду — никогда по уничтоженной работе. При такой асимметрии рациональная настройка для любого оператора — отказывать чаще. Поэтому же совет «просто переформулируйте» не является решением: переформулировка не даёт фильтру информации, которой ему не хватало, она лишь уводит ваш промпт от слов, на которые он сработал, а значит, обычно и от того, что вы имели в виду.

02Что фильтры контента действительно призваны предотвращать

Аргументация в пользу генерации без фильтров, которая делает вид, будто фильтры существуют беспричинно, не стоит чтения. Есть узкий набор результатов, вред которых заключён в самом изображении, независимо от того, кто и зачем просил:

• Сексуальный контент с участием несовершеннолетних. Никакой контекст не делает его приемлемым; никакой профессиональный процесс его не требует.
• Интимные изображения реальных людей без их согласия. Вред падает на того, кто не соглашался, и удаление его не отменяет.
• Целенаправленная травля и клеветнические фабрикации — создание видимости, будто названный человек сделал то, чего не делал.
• Документы уровня подделки — паспорта, удостоверения личности, банкноты, печати и финансовые инструменты, сделанные так, чтобы сойти за настоящие.
• Обманные синтетические доказательства — сфабрикованные изображения реальных событий, поданные как документальные, а не как иллюстрация.

Список короткий, и у него есть структура: вред заключён в самом артефакте, в его сходстве с реальным человеком или документом и в подаче как истины. Обратите внимание, чего в нём нет: наготы, крови, оружия, исторических зверств, политического осмеяния. Это сырьё медицины, журналистики, искусства, криминалистики и сатиры, и фильтр, трактующий их как категории вреда, реализует куда более широкое представление о том, какие темы приличны.

Shannon запрещает всё из этого списка в опубликованной Политике ответственного использования с названными категориями и последствиями, а не в таблице ключевых слов, куда заодно попадает «placenta». Первое — правило, которое вы можете прочитать и потребовать его соблюдения; второе — догадка о ваших намерениях со стороны классификатора, которого вы не видите.

03Насколько велика проблема избыточных отказов: что измеряют исследования

До недавнего времени избыточные отказы у моделей изображений оставались анекдотом — тысячи людей с одной и той же историей и без способа оценить масштаб. Это изменил OVERT (OVEr-Refusal evaluation on Text-to-image models), представленный на ICML 2025 группой из Калифорнийского университета в Беркли, в которую вошли Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song и Song Mei: первый крупномасштабный бенчмарк, измеряющий, как часто системы text-to-image отказывают в совершенно безобидных промптах.

Устройство здесь важно. 4,600 промптов построены так, чтобы выглядеть вредными, оставаясь безвредными — форма настоящего профессионального запроса, упоминающего скальпель, синяк или протест, — а 1,785 действительно вредных промптов стоят рядом как контроль, чтобы модель не могла получить хорошую оценку, отказывая во всём. Девять категорий охватывают приватность частных лиц и публичных фигур, авторское право, дискриминацию, самоповреждение, сексуальный контент, противоправную деятельность и насилие.

Главный вывод в том, что избыточные отказы широко распространены и по категориям, и среди ведущих моделей. Второй вывод бьёт по стандартному обходному пути ещё сильнее: авторы проверили переписывание промпта как средство смягчения и сообщают, что оно «часто нарушает верность смыслу исходных промптов». Вы можете обойти фильтр, изменив то, о чём просили, — и после этого у вас больше нет того, о чём вы просили.

Более узкое исследование приходит к тому же выводу со стороны пикселей. В работе An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann и Oliver, воркшоп AI4VA на ECCV 2024) авторы оценивают три промышленных NSFW-классификатора на художественной наготе и обнаруживают как гендерное смещение, так и стилистическое смещение: вердикт по штудии фигуры зависит от того, чьё тело изображено и в каком стиле. Это измеренная формулировка того, что каждому рисующему с натуры художнику объясняли как выдумку.

04Восемь видов законной работы, которые блокируют фильтрованные генераторы

Это категории, где избыточный отказ — не неудобство, а остановка работы. Там, где есть конкретный опубликованный случай, он приводится; там, где ничего не подтверждено, категория описана без выдумывания инцидента.

1. Медицинская и анатомическая иллюстрация

Наиболее задокументированный случай в этой области. В апреле 2023 года The Intercept (Debbie Nathan) сообщил, что Midjourney запретил анатомические термины, включая speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom и IUD, а DALL·E 2 отказался рисовать «pills used in medication abortion» с сообщением о нарушении правил. Закономерность обнаружила Julia Rockwell, аналитик клинических данных, пытавшаяся сгенерировать изображение плаценты в подарок подруге — клеточному биологу, и сообщила о ней в MIT Technology Review. Асимметрия говорит сама за себя: «stethoscope» генерировался нормально, а «speculum» был запрещён. Исследователь Вашингтонского университета Bill Howe назвал фильтры «неуклюжими» и сказал, что из-за них стало «практически невозможно вести научную дискуссию о репродукции». Просвещению пациентов, хирургическим атласам и программам подготовки медсестёр нужны точно изображённые тела, включая те части, которые список ключевых слов счёл неприличными.

2. Судебная реконструкция и разбор происшествий

Реконструкция столкновений, анализ очага пожара и демонстрационные материалы для суда требуют изображать повреждения, раны и механику насилия с клинической точностью. Фильтр, настроенный отклонять «кровь» или «огнестрельное ранение», отклоняет всю дисциплину: контекст — экспертное заключение, страховое дело — классификатору не виден, а именно та нейтральность, которая делает такие изображения допустимыми в суде, и заставляет их читаться как жестокость.

3. Художественное ню и рисунок с натуры

Обнажённая натура — основополагающий сюжет искусства повсюду, а штудия фигуры — ядро художественного образования. Результат ECCV 2024 выше — измеренная версия того, о чём говорят художники: классификаторы не отделяют надёжно штудию фигуры от порнографии, а их ошибки смещены по полу и стилю — фильтр наиболее жёсток ровно к той традиции, которую должен был бы узнавать.

4. Исторические и военные изображения

Иллюстрации для учебников, музейная интерпретация и мемориальные проекты требуют изображать форму, оружие, лагеря, сражения и зверства. Эпизод с Gemini в феврале 2024 года поучителен тем, что сбой пошёл в противоположную сторону и нанёс не меньший ущерб. Google приостановила способность Gemini генерировать изображения людей 22 февраля 2024 года после того, как модель выдала расово перекомпонованные изображения исторических групп, включая немецких солдат нацистской эпохи. Генеральный директор Sundar Pichai назвал результаты «совершенно неприемлемыми»; старший вице-президент Prabhakar Raghavan признал, что модель «перекомпенсировала» и стала «чрезмерно консервативной». Безопасность, слепая к контексту, не сделала исторические изображения безопаснее — она сделала их ложными, а для издателя исторической литературы это хуже.

5. Насилие в художественных произведениях и превизуализация фильмов

Раскадровки, концепт-арт, комиксы и геймдизайн изображают насилие по той же причине, что романы и фильмы. Фильтр, не отличающий раскадровку хоррора от угрозы, трактует весь конвейер повествовательных искусств как подозрительный — хотя раскадровка заведомо нереальна, это план сцены, которую поставят актёры и команда спецэффектов.

6. Политическая сатира и редакционная карикатура

Карикатура на сильных мира сего входит в число наиболее защищённых категорий высказывания в большинстве демократий и при этом регулярно оказывается первым, что убирает фильтр изображений. Самый ясный задокументированный случай — решение Midjourney в апреле 2023 года запретить изображения председателя КНР Си Цзиньпина и заблокировать его имя в промптах, о чём сообщали PetaPixel, Decrypt и другие, — при том что другие мировые лидеры остались разрешены. Основатель David Holz объяснил в Discord, что компания хотела «минимизировать драму» и что «возможность людей в Китае пользоваться этой технологией важнее вашей возможности создавать сатиру»; Sarah McLaughlin из Foundation for Individual Rights and Expression назвала это цензурой. Какой бы вывод ни делать о бизнес-расчёте, механизм стоит назвать: национальное ограничение свободы слова, применённое ко всем пользователям в мире, потому что у глобального фильтра одна настройка.

7. Исследования безопасности и материалы по осведомлённости о фишинге

Команды безопасности создают обучающие материалы, которые обязаны выглядеть как то, о чём предупреждают: убедительный поддельный экран входа, подделанный счёт, вредоносный QR-код на парковочном автомате. Для классификатора это неотличимо от той атаки, против которой он прививает — правдоподобие и есть смысл, — поэтому фильтры блокируют защиту и нападение одинаково, давая преимущество атакующему, который потребительским фильтрованным инструментом всё равно пользоваться не собирался.

8. Правообладателям отказывают в изображениях их собственного бренда, товара или внешности

Фильтрация по авторскому праву и товарным знакам не проверяет владение; она проверяет сходство. Компания не может легко сгенерировать изображение собственного логотипа или товара, правообладатель не может изобразить собственного персонажа, а люди часто не могут сгенерировать собственное лицо, потому что фильтры внешности ориентируются на узнаваемость, а не на согласие. OVERT включает «нарушения авторского права» в число своих девяти категорий избыточных отказов именно потому, что это ложное срабатывание так распространено. Фильтр — грубый инструмент для вопроса — есть ли у вас на это право? — который он не в состоянии задать.

Четыре из восьми пунктов выше опираются на конкретный опубликованный случай (медицина, художественное ню, история, сатира), а восьмой — на категорию авторского права в OVERT. Криминалистика, превизуализация художественных произведений и материалы по осведомлённости о безопасности приведены как категории: это хорошо известные классы затронутой профессиональной работы, для которых мы не подтвердили конкретный опубликованный инцидент.

05Почему генераторы блокируют не то и почему ложные срабатывания фильтров нельзя просто подстроить

Инстинктивный ответ на избыточные блокировки — «ослабьте порог». Это не работает, и по структурным причинам, а не из-за нехватки усилий.

Категории пересекаются в сигнале, но не в реальности. Хирургическая иллюстрация и порнография делят наготу. Судебная реконструкция и жестокость делят кровь. Обучающий слайд и фишинговый набор делят поддельную форму входа. Сатирическая карикатура и клеветническая фабрикация делят узнаваемого политика. Различает каждую пару цель и подача — отсутствующие и в промпте, и в пикселях. Никакой порог не разделит две совокупности, занимающие одну и ту же область входного пространства; его сдвиг лишь меняет одну ошибку на другую. Именно это показал эпизод с Gemini: вмешательство, призванное исправить один сбой, породило другой, который собственный старший вице-президент Google описал словом «перекомпенсировала».

Издержки асимметричны для оператора, а не для вас. Фильтр, пропустивший одно плохое изображение, порождает новостной сюжет. Фильтр, заблокировавший десять тысяч законных, порождает тишину, потому что получившие отказ не объединяются — они сдаются. Управление рисками при такой асимметрии навсегда сходится к избыточной блокировке. А поскольку лежащее в основе суждение невозможно, чёрные списки нарастают буквальными строками по мере инцидентов — вот так и выходит, что «stethoscope» можно, а «speculum» запрещено. Никто не решал, что женские медицинские инструменты опаснее; список рос там, куда приходили жалобы. Он кодирует PR-историю оператора, а не теорию вреда.

Самая строгая юрисдикция становится глобальной настройкой по умолчанию. Один фильтр обслуживает всех пользователей во всех странах, поэтому ограничение, добавленное ради одного рынка, экспортируется во все, — правило про Си Цзиньпина здесь хрестоматийный пример. И переписывание вашего промпта разрушает ваш смысл — в этом экспериментальный вывод OVERT: каждый профессионал, отмывавший запрос эвфемизмами ради прохождения фильтра, подтвердил это вручную. Вы не победили; вы уступили.

Ничто из этого не бесплатно, а поскольку сбой происходит тихо, издержки невидимы в метриках, за которыми следит оператор. После достаточного числа отказов вы перестаёте спрашивать, заранее сужая каждый промпт до того, что, по вашему прогнозу, пройдёт; эвфемизм, который наконец проходит, даёт изображение, близкое к нужному вашему документу, но не то. Обобщённое сообщение о правилах ничего не говорит о том, какой слой сработал, так что вам остаётся гадать и пробовать снова — а работа с изображениями итеративна, поэтому фильтр, ловящий одну попытку из пяти, разрушает цикл, а не просто его замедляет. Тем временем области с самыми сильными основаниями на серьёзные инструменты не получают ни рецензента, ни апелляции, ни, как правило, опубликованного списка того, что заблокировано. Правило, которое нельзя прочитать, — не правило; это погода.

06Без цензуры против фильтра: что на самом деле меняется

Вот честная версия сравнения, включая то, чего система без фильтра вам не даёт.

Измерение	Фильтрованный генератор	Без фильтра (Shannon)
Кто решает	Классификатор, читающий слова и пиксели	Человек, читающий точный промпт
Когда вы узнаёте	После отправки — иногда после оплаты	До того, как что-то отрендерится или будет списано
Каково правило	Неопубликованные, меняющиеся чёрные списки	Опубликованная Политика ответственного использования
Профессиональный контекст	Системе не виден	Ваш, и отвечать за него вам
Характер сбоя	Тихая избыточная блокировка, смещение смысла	Вы получаете то, о чём просили, включая ошибки
Кто несёт риск	Поставщик, переложивший его на вашу работу	Совместно: политика оператора плюс ответственность пользователя

Последнюю строку обычно пропускают, а именно она и важна. Снятие фильтра не убирает категории вреда из раздела 02; оно убирает машину, которая плохо о них гадала. Обязательство остаётся там, где было, и его теперь несут две стороны, способные рассуждать о контексте: оператор, который публикует и применяет политику, и вы, знающие, для чего изображение. Генерация изображений без фильтров — инструмент для тех, кто и так готов отвечать за свой результат: хирургический атлас, экспертное заключение, раскадровка, карикатура, — и кого останавливала система, не умевшая отличить их от кого-то другого.

07Что Shannon делает — и чего не делает

Точность здесь важнее энтузиазма, особенно для читателей, пришедших с поискового запроса про API.

Что он делает

• Генерация. Опишите изображение обычными словами, на любом языке. Shannon сам пишет промпт генерации по-английски, на каком бы языке вы ни попросили.
• Редактирование одного изображения. Ровно один источник — картинка, уже находящаяся в разговоре, или приложенная к текущему сообщению, — изменяемый инструкцией, которая говорит, что меняется и что остаётся. Результат автоматически сохраняет соотношение сторон источника.
• Объединение двух или более изображений. Перенос одежды, объект в сцену, человек рядом с человеком, товар на человеке, субъект с одного изображения со стилем другого. Промпт называет роль каждого изображения по порядку, и используются настоящие изображения, поэтому их реальный вид сохраняется, а не переописывается.
• Управление форматом. square (по умолчанию), portrait, landscape, wide и tall. Явный запрос всегда побеждает.
• Рендер на нашем собственном GPU-кластере, без фильтра контента на пути генерации и без слоя отказов у модели, которая пишет промпт.

Чего он не делает

• Никакого видео. Shannon не анимирует изображения и не создаёт видео. Это не пункт дорожной карты, о котором кокетливо умалчивают, — его просто нет.
• Не в API. Генерация, редактирование и объединение изображений живут в чат-приложении Shannon. API /v1 обслуживает текст и зрение — он может читать отправленные вами изображения, — но не рендерит их.
• Никакой генерации без приглашения. Приветствие, вопрос или мимоходом приложенное фото не запускают изображение. Попросить Shannon посмотреть на изображение — описать, прочитать, проанализировать — это обычная работа со зрением, а не генерация, и она не стоит ничего сверх.

Карточка подтверждения

Это механизм, заменяющий фильтр, и это конструктивное решение, а не формальность. Когда Shannon определяет, что вы просите изображение, он пишет промпт генерации и показывает его вам на карточке подтверждения до любого рендера. Ничего не генерируется и ничего не списывается, пока вы не подтвердите.

Сравните конструкции по существу. Фильтр гадает о вашем намерении, располагая меньшей информацией, чем вы, и молча приводит догадку в исполнение. Карточка подтверждения кладёт буквальную спецификацию изображения перед той стороной, которая знает, для чего оно, ещё до того, как потрачены вычисления. Она ловит неверные прочтения вашего запроса, чего фильтры не делают никогда; она позволяет добавить анатомическую точность или историческую деталь, которую модель недоопределила; и она делает ответственность читаемой, а не размытой. Вы видели промпт и нажали кнопку.

08Генерация без фильтров повышает ответственность, а не отменяет её

Это место здесь, а не в подвале страницы, потому что это половина всей аргументации. Фильтрованный генератор даёт обещание, которое не может сдержать: что инструмент предотвратит злоупотребление за вас. Он ошибается в обе стороны — блокирует хирурга и не останавливает решительного злоумышленника, у которого есть другие варианты и всегда были. Что он делает надёжно, так это позволяет всем чувствовать, будто ответственность улажена выше по течению, машиной. Снятие фильтра снимает эту фикцию; вопрос о том, должно ли изображение существовать, возвращается к людям, способным на него ответить.

• Обязательство Shannon Lab LLC. Опубликованная, конкретная Политика ответственного использования, называющая запрещённые категории, а не неопубликованный чёрный список, — правила, которые можно прочитать, процитировать и потребовать от нас их соблюдения.
• Ваше обязательство. Вы знаете цель, аудиторию, юрисдикцию и статус согласия каждого изображённого. Инструмент этого не знает, а классификатор никогда бы и не смог. Карточка подтверждения существует, чтобы это знание применялось в тот момент, когда оно важно, той стороной, у которой оно есть.
• Черта, которая не двигается. «Фильтр меня не остановил» никогда не было оправданием ни в одном носителе. Камера не отказывает, карандаш не отказывает; закон и профессиональная этика регулируют применение, а не инструмент. Генератор без фильтров восстанавливает обычное положение вещей, в котором работает любой другой профессиональный инструмент.

Прочитайте Политику ответственного использования, прежде чем начинать. Она короткая, конкретная и является той частью продукта, которая делает остальное защитимым.

09Часто задаваемые вопросы

---

Источники: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 апреля 2023 года · PetaPixel, 3 апреля 2023 года · CNBC, 22 февраля 2024 года. Shannon AI управляется Shannon Lab LLC, Нью-Мексико, США.