Unzensierte vs. gefilterte KI-Bildgeneratoren

Fast alle, die beruflich mit Bildern arbeiten, erzählen dieselbe Geschichte. Ein Prompt, der etwas Gewöhnliches beschreibt — ein Querschnitt durch ein Kniegelenk, ein Auto im Moment des Aufpralls, eine Figurenstudie in Kohle, ein Soldat im Jahr 1944 — kommt als Richtlinienverstoß zurück. Sie formulieren um und bekommen einen anderen Verstoß. Irgendwann schreiben Sie etwas vage genug, dass es durchkommt, und bekommen ein Bild, das nicht mehr zeigt, was Sie brauchten. Das Werkzeug ist nicht laut gescheitert; es ist in Stufen gescheitert und hat Sie zu demjenigen gemacht, der Abstriche gemacht hat.

01Warum lehnt ein KI-Bildgenerator einen offensichtlich legitimen Prompt ab?

Die Ablehnung ist meist nicht die Meinung des Bildmodells. Sie ist das Ergebnis eines Filterstapels um das Modell herum, und seine Schichten erklären fast jede seltsame Ablehnung, die Sie je erhalten haben.

Schicht	Was sie prüft	Typisches Versagen
Prompt-Sperrliste	Wörtliche Zeichenketten und nahe Varianten in Ihrem Text	Blockiert ein Wort unabhängig vom Satz drumherum — „speculum“ fällt durch, „stethoscope“ kommt durch
Prompt-Klassifikator	Eine gelernte Einschätzung des „Risikos“ eines Prompts	Schlägt bei Themennähe an: Alles nahe an Medizin, Waffen, Körpern oder Politik bekommt hohe Werte
Ablehnungstraining des Modells	Die antrainierte Zurückhaltung des Modells selbst	Lehnt ohne Fehlermeldung ab oder liefert stillschweigend einen entschärften Ersatz
Ausgabe-Klassifikator	Gerenderte Pixel, ohne Prompt-Kontext	Kann eine Anatomietafel nicht von Pornografie unterscheiden oder ein Filmstandbild nicht von einem realen Ereignis
Richtlinienersatz	Stilles Umschreiben Ihres Prompts vor dem Rendern	Sie bekommen ein Bild, aber nicht das angegebene, und man sagt Ihnen nicht, warum

Alle Schichten teilen einen blinden Fleck: Keine kann sehen, warum Sie fragen. Eine medizinische Illustratorin, ein Sachverständiger, der für die Klägerseite einen Zusammenstoß rekonstruiert, und jemand mit schlechten Absichten tippen alle dasselbe Substantiv. Der Filter sieht das Substantiv, nicht den Atlas oder die Fallakte, und er wird an den Schäden gemessen, die er durchlässt — nie an der Arbeit, die er zerstört. Unter dieser Asymmetrie ist die rationale Einstellung für jeden Betreiber: mehr ablehnen. Deshalb ist „formulier es halt um“ auch keine Lösung: Umformulieren gibt dem Filter keine Information, die ihm fehlte, es entfernt Ihren Prompt nur von den Wörtern, die ihn ausgelöst haben — was meist heißt: weg von dem, was Sie meinten.

02Was Inhaltsfilter tatsächlich verhindern sollen

Ein Plädoyer für ungefilterte Generierung, das so tut, als gäbe es Filter grundlos, ist nicht lesenswert. Es gibt eine schmale Menge von Ausgaben, deren Schaden im Bild selbst liegt, unabhängig davon, wer gefragt hat und warum:

• Sexuelle Inhalte mit Minderjährigen. Kein Kontext macht das akzeptabel; kein beruflicher Arbeitsablauf verlangt es.
• Nicht einvernehmliche intime Darstellungen realer Personen. Der Schaden trifft jemanden, der nicht zugestimmt hat, und eine Löschung macht ihn nicht rückgängig.
• Gezielte Belästigung und verleumderische Fälschung — eine namentlich benannte Person so darzustellen, als hätte sie etwas getan, was sie nicht getan hat.
• Dokumente in Fälschungsqualität — Pässe, Ausweise, Banknoten, Siegel und Finanzpapiere, die als echt durchgehen sollen.
• Täuschende synthetische Beweise — erfundene Bilder realer Ereignisse, die als Dokumentation statt als Illustration präsentiert werden.

Die Liste ist kurz und hat eine Struktur: Der Schaden liegt im Erzeugnis selbst, in seiner Ähnlichkeit zu einer realen Person oder einem realen Dokument und in seiner Darbietung als Wahrheit. Beachten Sie, was nicht darauf steht — Nacktheit, Blut, Waffen, historische Gräuel, politischer Spott. Das ist der Rohstoff von Medizin, Journalismus, Kunst, Forensik und Satire, und ein Filter, der sie als Schadenskategorien behandelt, setzt eine viel weiter reichende Vorstellung davon um, welche Themen respektabel sind.

Shannon verbietet alles auf dieser Liste, in einer veröffentlichten Richtlinie zur verantwortungsvollen Nutzung mit benannten Kategorien und Konsequenzen, statt in einer Stichworttabelle, die auch „placenta“ mitfängt. Das eine ist eine Regel, die Sie lesen und an der Sie uns messen können; das andere ist die Vermutung eines Klassifikators über Ihre Absichten, den Sie nicht sehen können.

03Wie groß ist das Problem der Überablehnung? Was die Forschung misst

Bis vor Kurzem war Überablehnung bei Bildmodellen eine Anekdote — Tausende Menschen mit derselben Geschichte und keiner Möglichkeit, sie zu quantifizieren. Das änderte sich mit OVERT (OVEr-Refusal evaluation on Text-to-image models), vorgestellt auf der ICML 2025 von einer Gruppe aus UC Berkeley um Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song und Song Mei: der erste groß angelegte Benchmark, der misst, wie oft Text-zu-Bild-Systeme vollkommen harmlose Prompts ablehnen.

Der Aufbau ist entscheidend. Die 4,600 Prompts sind so gebaut, dass sie schädlich aussehen, ohne es zu sein — die Form einer echten beruflichen Anfrage, in der ein Skalpell, ein Bluterguss oder eine Demonstration vorkommt — und die 1,785 wirklich schädlichen Prompts stehen als Kontrolle daneben, damit kein Modell gut abschneiden kann, indem es alles ablehnt. Die neun Kategorien reichen von Privatsphäre einzelner Personen und Personen des öffentlichen Lebens über Urheberrecht, Diskriminierung, Selbstverletzung, sexuelle Inhalte und illegale Aktivitäten bis zu Gewalt.

Das Hauptergebnis: Überablehnung ist über Kategorien und führende Modelle hinweg weit verbreitet. Das zweite Ergebnis ist für den üblichen Behelf noch schädlicher: Die Autoren haben Prompt-Umschreibung als Gegenmaßnahme getestet und berichten, sie „beeinträchtigt oft die Treue zur Bedeutung der ursprünglichen Prompts“. Sie können am Filter vorbeikommen, indem Sie ändern, worum Sie gebeten haben — und dann haben Sie nicht mehr das, worum Sie gebeten hatten.

Eine engere Studie kommt von der Pixelseite zum selben Schluss. In An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann und Oliver, AI4VA-Workshop auf der ECCV 2024) prüfen die Autoren drei produktive NSFW-Klassifikatoren an künstlerischer Aktdarstellung und decken sowohl eine geschlechtsbezogene als auch eine stilistische Verzerrung auf: Das Urteil über eine Figurenstudie hängt davon ab, wessen Körper dargestellt ist und in welchem Stil. Das ist die gemessene Fassung dessen, was man jedem Aktzeichner als Einbildung ausgeredet hat.

04Acht Arten legitimer Arbeit, die gefilterte Generatoren blockieren

Das sind die Kategorien, in denen Überablehnung keine Unannehmlichkeit ist, sondern ein Arbeitsstillstand. Wo ein konkreter berichteter Fall existiert, wird er zitiert; wo keiner belegt war, wird die Kategorie beschrieben, ohne einen Vorfall zu erfinden.

1. Medizinische und anatomische Illustration

Der bestbelegte Fall des Feldes. Im April 2023 berichtete The Intercept (Debbie Nathan), dass Midjourney anatomische Begriffe gesperrt hatte, darunter speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom und IUD, während DALL·E 2 „pills used in medication abortion“ mit einer Richtlinienmeldung ablehnte. Das Muster entdeckte Julia Rockwell, eine klinische Datenanalystin, die versucht hatte, ein Bild einer Plazenta als Geschenk für eine befreundete Zellbiologin zu erzeugen, und meldete es der MIT Technology Review. Die Asymmetrie ist verräterisch: „stethoscope“ wurde normal generiert, während „speculum“ verboten war. Bill Howe, Forscher an der University of Washington, nannte die Filter „ham-fisted“ und sagte, sie machten es „basically impossible to have a scientific discussion about reproduction“. Patientenaufklärung, Operationsatlanten und Pflegelehrpläne brauchen alle korrekt dargestellte Körper, einschließlich der Teile, die eine Stichwortliste für unanständig erklärt hat.

2. Forensik und Unfallrekonstruktion

Kollisionsrekonstruktion, Brandursachenanalyse und Anschauungsmaterial für Gerichtsverfahren müssen Schäden, Verletzungen und Gewaltmechanik klinisch exakt darstellen. Ein Filter, der auf „Blut“ oder „Schussverletzung“ abgestimmt ist, lehnt die ganze Disziplin ab: Der Kontext — ein Gutachten, eine Versicherungsakte — ist für den Klassifikator unsichtbar, und genau die Nüchternheit, die solche Bilder vor Gericht verwertbar macht, lässt sie wie Gewaltdarstellung aussehen.

3. Aktkunst und Aktzeichnen

Der Akt ist überall ein grundlegendes Thema der Kunst, und die Figurenstudie ist Kern der Kunstausbildung. Das obige ECCV-2024-Ergebnis ist die gemessene Fassung dessen, was Künstlerinnen und Künstler berichten: Klassifikatoren trennen eine Figurenstudie nicht zuverlässig von Pornografie, und ihre Fehler sind nach Geschlecht und Stil verzerrt — ein Filter, der ausgerechnet gegen die Tradition am härtesten ist, die er erkennen müsste.

4. Historische Bilder und Kriegsdarstellungen

Lehrbuchillustration, Museumsvermittlung und Gedenkprojekte müssen Uniformen, Waffen, Lager, Schlachten und Gräuel darstellen. Die Gemini-Episode vom Februar 2024 ist lehrreich, weil das Versagen in die Gegenrichtung lief und gleich viel Schaden anrichtete. Google setzte Geminis Fähigkeit, Bilder von Menschen zu erzeugen, am 22. Februar 2024 aus, nachdem es rassisch umkomponierte Darstellungen historischer Gruppen erzeugt hatte, darunter deutsche Soldaten der NS-Zeit. CEO Sundar Pichai nannte die Ausgaben „completely unacceptable“; SVP Prabhakar Raghavan räumte ein, das Modell habe „overcompensated“ und sei „over-conservative“ geworden. Kontextblinde Sicherheit hat historische Bilder nicht sicherer gemacht — sie hat sie falsch gemacht, was für einen Geschichtsverlag schlimmer ist.

5. Gewalt in Fiktion und Film-Previsualisierung

Storyboards, Konzeptkunst, Comics und Spieledesign stellen Gewalt aus denselben Gründen dar wie Romane und Filme. Ein Filter, der ein Horror-Storyboard nicht von einer Drohung unterscheiden kann, behandelt die gesamte erzählerische Produktionskette als verdächtig — obwohl ein Storyboard ausdrücklich nicht real ist, sondern der Plan für eine Szene, die Schauspieler und Effektteams noch inszenieren werden.

6. Politische Satire und redaktionelle Karikatur

Die Karikatur der Mächtigen gehört in den meisten Demokratien zu den am stärksten geschützten Ausdrucksformen und ist regelmäßig das Erste, was ein Bildfilter entfernt. Der klarste belegte Fall ist Midjourneys Entscheidung vom April 2023, Bilder des chinesischen Präsidenten Xi Jinping zu verbieten und seinen Namen in Prompts zu sperren — berichtet unter anderem von PetaPixel und Decrypt — während andere Staatsoberhäupter weiterhin erlaubt blieben. Gründer David Holz erklärte auf Discord, das Unternehmen wolle „minimize drama“ und „the ability for people in China to use this tech is more important than your ability to generate satire“; Sarah McLaughlin von der Foundation for Individual Rights and Expression nannte es Zensur. Was immer man über das geschäftliche Kalkül denkt, der Mechanismus verdient einen Namen: eine nationale Redebeschränkung, angewendet auf jede Nutzerin und jeden Nutzer weltweit, weil ein globaler Filter nur eine Einstellung hat.

7. Sicherheitsforschung und Material zur Phishing-Sensibilisierung

Sicherheitsteams bauen Schulungsmaterial, das aussehen muss wie das, wovor es warnt: ein überzeugender gefälschter Anmeldebildschirm, eine gefälschte Rechnung, ein bösartiger QR-Code an einem Parkautomaten. Für einen Klassifikator ist das nicht vom Angriff zu unterscheiden, gegen den es immunisieren soll — die Echtheitswirkung ist ja der Zweck — also blockieren Filter Verteidigung und Angriff gleichermaßen und begünstigen den Angreifer, der ohnehin nie ein gefiltertes Verbraucherwerkzeug benutzt hätte.

8. Rechteinhaber, denen Bilder ihrer eigenen Marke, ihres Produkts oder ihres Gesichts verweigert werden

Urheber- und Markenfilterung prüft keine Inhaberschaft; sie prüft Ähnlichkeit. Ein Unternehmen kann nicht ohne Weiteres Bilder seines eigenen Logos oder Produkts erzeugen, ein Rechteinhaber kann seine eigene Figur nicht abbilden, und Menschen können häufig ihr eigenes Gesicht nicht erzeugen, weil Bildnisfilter auf Wiedererkennbarkeit statt auf Einwilligung anschlagen. OVERT führt „Urheberrechtsverletzungen“ genau deshalb unter seinen neun Überablehnungskategorien, weil dieser Fehlalarm so häufig ist. Der Filter ist ein grobes Werkzeug für eine Frage — haben Sie das Recht dazu? —, die er gar nicht stellen kann.

Vier der acht oben genannten Punkte sind an einen konkreten veröffentlichten Fall gebunden (Medizin, Aktkunst, Geschichte, Satire), dazu OVERTs Urheberrechtskategorie für den achten. Forensik, Previsualisierung für Fiktion und Material zur Sicherheitssensibilisierung werden als Kategorien genannt: Es sind bekannte Klassen betroffener Berufsarbeit, für die wir keinen konkreten veröffentlichten Vorfall verifiziert haben.

05Warum KI-Bildgeneratoren das Falsche blockieren und warum sich Fehlalarme von Inhaltsfiltern nicht wegjustieren lassen

Die instinktive Antwort auf Überblockierung lautet „Schwelle lockern“. Das funktioniert nicht, aus strukturellen Gründen und nicht aus mangelnder Mühe.

Die Kategorien überlappen im Signal, aber nicht in der Wirklichkeit. Eine chirurgische Illustration und Pornografie teilen sich Nacktheit. Eine forensische Rekonstruktion und Gewaltdarstellung teilen sich Blut. Eine Schulungsfolie und ein Phishing-Kit teilen sich ein gefälschtes Anmeldeformular. Eine satirische Karikatur und eine verleumderische Fälschung teilen sich eine erkennbare Politikerin. Was jedes Paar unterscheidet, sind Zweck und Darbietung — im Prompt nicht vorhanden und in den Pixeln nicht vorhanden. Keine Schwelle trennt zwei Populationen, die dieselbe Region des Eingaberaums besetzen; sie zu verschieben tauscht nur einen Fehler gegen den anderen. Genau das zeigte die Gemini-Episode: Ein Eingriff, der ein Versagen beheben sollte, erzeugte ein anderes, von Googles eigenem SVP als „overcompensated“ beschrieben.

Die Kosten sind für den Betreiber asymmetrisch, nicht für Sie. Ein Filter, der ein schlechtes Bild durchlässt, erzeugt eine Schlagzeile. Ein Filter, der zehntausend legitime blockiert, erzeugt Stille, denn abgelehnte Nutzer organisieren sich nicht — sie geben auf. Risikomanagement unter dieser Asymmetrie konvergiert dauerhaft auf Überblockierung. Und weil die zugrunde liegende Beurteilung unmöglich ist, wachsen Sperrlisten anlassbezogen um wörtliche Zeichenketten, und so kommt es dazu, dass „stethoscope“ in Ordnung und „speculum“ verboten ist. Niemand hat entschieden, dass frauenspezifische Instrumente gefährlicher sind; die Liste wuchs dort, wo Beschwerden eingingen. Sie kodiert die PR-Geschichte eines Betreibers, keine Theorie des Schadens.

Die strengste Rechtsordnung wird zur globalen Voreinstellung. Ein Filter bedient alle Nutzer in allen Ländern, also wird eine für einen Markt hinzugefügte Beschränkung in alle exportiert — die Xi-Jinping-Regel ist der Lehrbuchfall. Und Ihren Prompt umzuschreiben zerstört Ihre Bedeutung, was OVERTs experimenteller Befund ist: Jede Fachperson, die eine Anfrage in Euphemismen gewaschen hat, um sie am Filter vorbeizubekommen, hat das von Hand bestätigt. Sie haben nicht gewonnen; Sie haben sich abgefunden.

Nichts davon ist gratis, und weil es leise scheitert, ist der Preis in den Kennzahlen, die ein Betreiber beobachtet, unsichtbar. Nach genug Ablehnungen hören Sie auf zu fragen und verengen jeden Prompt vorab auf das, von dem Sie annehmen, dass es durchgeht; der Euphemismus, der schließlich durchkommt, liefert ein Bild, das dem nahekommt, was Ihr Dokument brauchte, es aber nicht ist. Eine generische Richtlinienmeldung sagt Ihnen nichts darüber, welche Schicht ausgelöst hat, also können Sie nur raten und es erneut versuchen — und Bildarbeit ist iterativ, sodass ein Filter, der jeden fünften Versuch abfängt, den Arbeitsfluss zerstört, statt ihn bloß zu verlangsamen. Unterdessen bekommen die Fachgebiete mit dem stärksten Anspruch auf ernsthafte Werkzeuge keine prüfende Instanz, keinen Widerspruch und meist auch keine veröffentlichte Liste dessen, was blockiert ist. Eine Regel, die Sie nicht lesen können, ist keine Regel; sie ist Wetter.

06Unzensiert vs. gefiltert: was sich tatsächlich ändert

Hier die ehrliche Fassung des Vergleichs, einschließlich dessen, was ein ungefiltertes System Ihnen nicht gibt.

Dimension	Gefilterter Generator	Ungefiltert (Shannon)
Wer entscheidet	Ein Klassifikator, der Wörter und Pixel liest	Ein Mensch, der den exakten Prompt liest
Wann Sie es erfahren	Nach dem Absenden — manchmal nach dem Bezahlen	Bevor etwas gerendert oder abgerechnet wird
Worin die Regel besteht	Unveröffentlichte, wechselnde Sperrlisten	Eine veröffentlichte Richtlinie zur verantwortungsvollen Nutzung
Beruflicher Kontext	Für das System unsichtbar	Ihrer — und Sie stehen dafür gerade
Fehlermodus	Stille Überblockierung, Bedeutungsverschiebung	Sie bekommen, worum Sie gebeten haben — Fehler eingeschlossen
Wer das Risiko trägt	Der Anbieter, abgewälzt auf Ihre Arbeit	Geteilt: Betreiberrichtlinie plus Nutzerverantwortung

Die letzte Zeile überspringen die meisten, und sie ist die entscheidende. Einen Filter zu entfernen entfernt nicht die Schadenskategorien aus Abschnitt 02; es entfernt die Maschine, die schlecht über sie geraten hat. Die Verpflichtung bleibt, wo sie war, gehalten nun von zwei Parteien, die über Kontext nachdenken können: dem Betreiber, der eine Richtlinie veröffentlicht und durchsetzt, und Ihnen, die wissen, wofür das Bild ist. Ungefilterte KI-Bildgenerierung ist ein Werkzeug für Menschen, die ohnehin bereit sind, für ihre Ausgabe einzustehen — der Atlas der Chirurgin, das Gutachten, das Storyboard, die Karikatur —, die aber von einem System aufgehalten wurden, das sie nicht von jemand anderem unterscheiden konnte.

07Was Shannon tut — und was nicht

Genauigkeit zählt hier mehr als Begeisterung, besonders für Leserinnen und Leser, die von einer API-Suche kommen.

Was es tut

• Generierung. Beschreiben Sie ein Bild in normaler Sprache, in jeder Sprache. Shannon schreibt den Generierungs-Prompt selbst, auf Englisch, in welcher Sprache Sie auch gefragt haben.
• Ein Bild bearbeiten. Genau eine Quelle — ein Bild, das schon in der Unterhaltung ist, oder eines, das Sie an Ihre aktuelle Nachricht anhängen — verändert durch eine Anweisung, die sagt, was sich ändert und was bleibt. Die Ausgabe behält automatisch das Seitenverhältnis der Quelle.
• Zwei oder mehr Bilder zusammenführen. Kleidungsübertragung, Objekt in Szene, Person neben Person, Produkt an Person, Motiv aus dem einen Bild mit dem Stil des anderen. Der Prompt benennt die Rolle jedes Bildes der Reihe nach, und die echten Bilder werden verwendet, sodass ihr tatsächliches Aussehen erhalten bleibt, statt neu beschrieben zu werden.
• Formatsteuerung. square (Voreinstellung), portrait, landscape, wide und tall. Eine ausdrückliche Vorgabe gewinnt immer.
• Rendern auf unserem eigenen GPU-Cluster, ohne Inhaltsfilter auf dem Generierungspfad und ohne Ablehnungsschicht auf dem Modell, das den Prompt schreibt.

Was es nicht tut

• Kein Video. Shannon animiert keine Bilder und erzeugt keine Videos. Kein Roadmap-Punkt, der verschämt zurückgehalten wird — es existiert nicht.
• Nicht über die API. Bildgenerierung, Bildbearbeitung und Zusammenführung leben in der Shannon-Chat-App. Die /v1-API liefert Text und Vision — sie kann Bilder lesen, die Sie ihr schicken —, aber sie rendert keine.
• Keine ungefragte Generierung. Eine Begrüßung, eine Frage oder ein beiläufig angehängtes Foto löst kein Bild aus. Shannon zu bitten, ein Bild anzusehen — es zu beschreiben, zu lesen, zu analysieren — ist gewöhnliche Vision-Arbeit, keine Generierung, und kostet nichts zusätzlich.

Die Bestätigungskarte

Das ist der Mechanismus, der den Filter ersetzt, und er ist eine Designentscheidung, keine Formalität. Wenn Shannon feststellt, dass Sie um ein Bild bitten, schreibt es den Generierungs-Prompt und zeigt ihn Ihnen auf einer Bestätigungskarte, bevor etwas gerendert wird. Nichts wird erzeugt und nichts abgerechnet, bevor Sie bestätigen.

Vergleichen Sie die beiden Bauweisen nach ihren Verdiensten. Ein Filter rät Ihre Absicht mit weniger Informationen, als Sie haben, und setzt die Vermutung stillschweigend durch. Eine Bestätigungskarte legt die wörtliche Spezifikation des Bildes derjenigen Partei vor, die weiß, wofür es ist, bevor Rechenzeit verbraucht wird. Sie fängt Missverständnisse Ihrer Anfrage ab, was Filter nie tun; sie erlaubt Ihnen, die anatomische Präzision oder das historische Detail zu ergänzen, das das Modell unterbestimmt gelassen hat; und sie macht Verantwortung lesbar statt diffus. Sie haben den Prompt gesehen, und Sie haben den Knopf gedrückt.

08Ungefilterte Generierung erhöht die Verantwortung, sie hebt sie nicht auf

Das gehört hierher und nicht in eine Fußzeile, denn es ist die halbe Argumentation. Ein gefilterter Generator gibt ein Versprechen, das er nicht halten kann: dass das Werkzeug Missbrauch stellvertretend für Sie verhindert. Es scheitert in beide Richtungen — es blockiert die Chirurgin und hält einen entschlossenen Übeltäter nicht auf, der andere Möglichkeiten hat und immer hatte. Was es zuverlässig leistet, ist, dass alle das Gefühl haben, Verantwortung sei weiter oben maschinell erledigt worden. Den Filter zu entfernen entfernt diese Fiktion; die Frage, ob ein Bild existieren sollte, kehrt zu den Menschen zurück, die sie beantworten können.

• Die Pflicht von Shannon Lab LLC. Eine veröffentlichte, konkrete Richtlinie zur verantwortungsvollen Nutzung, die verbotene Kategorien benennt, statt einer unveröffentlichten Sperrliste — Regeln, die Sie lesen und zitieren können und an denen Sie uns messen können.
• Ihre Pflicht. Sie kennen den Zweck, das Publikum, die Rechtsordnung und den Einwilligungsstatus aller dargestellten Personen. Das Werkzeug kennt das nicht, und ein Klassifikator könnte es nie. Die Bestätigungskarte existiert, damit dieses Wissen in dem Moment angewandt wird, in dem es zählt, von der Partei, die es hat.
• Die Grenze, die sich nicht verschiebt. „Der Filter hat mich nicht aufgehalten“ war in keinem Medium jemals eine Verteidigung. Eine Kamera lehnt nicht ab, ein Bleistift lehnt nicht ab; Recht und Berufsethik regeln die Nutzung, nicht das Instrument. Ein ungefilterter Generator stellt die gewöhnliche Ordnung wieder her, unter der jedes andere Berufswerkzeug arbeitet.

Lesen Sie die Richtlinie zur verantwortungsvollen Nutzung, bevor Sie anfangen. Sie ist kurz, konkret und der Teil dieses Produkts, der den Rest vertretbar macht.

09Häufig gestellte Fragen

---

Quellen: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. April 2023 · PetaPixel, 3. April 2023 · CNBC, 22. Februar 2024. Shannon AI wird von Shannon Lab LLC, New Mexico, USA, betrieben.