نحن لا نحتفظ ببيانات أي مستخدم ولا نصل إليها، ولا نعلّق الحسابات إلا إذا طلبت جهة قانونية ذلك.
أبحاث · تموضع

بلا رقابة مقابل مُرشَّح: مولّد صور الذكاء الاصطناعي

بُنيت مرشّحات المحتوى لإيقاف مجموعة صغيرة من الأضرار الحقيقية. وهي عمليًا توقف أيضًا الرسم الطبي وإعادة البناء الجنائي والرسم من الطبيعة وتاريخ الحروب والسخرية التحريرية والشركات وهي تصوّر منتجاتها. هذا ما يكلّفه ذلك — وما الذي تغيّره إزالة المرشّح وما لا تغيّره.

نُشر في 5 سبتمبر 2026أبحاثShannon Lab LLC

الخلاصة

تفحص مولّدات الصور السائدة المطالبات والمخرجات بمصنّفات ترى الكلمات والبكسلات ولا ترى الغرض أبدًا. وهذا يضمن إيجابيات كاذبة، تقع أثقل ما تقع على العمل المتخصص: التشريح، والطب الشرعي، والعُري الفني، والصور التاريخية، والتصوّر المسبق، والسخرية، ومواد التوعية الأمنية، ومالكو الحقوق حين يطلبون علامتهم أنفسهم. ويستخدم OVERT (ICML 2025)، وهو أول معيار واسع النطاق لنمط الإخفاق هذا، 4,600 مطالبة حميدة تبدو مريبة ويجد أن الرفض المفرط منتشر عبر النماذج الرائدة. ويشغّل Shannon توليد الصور وتحرير الصورة الواحدة ودمج عدة صور على عنقود GPU الخاص بنا بلا مرشّح محتوى وبلا طبقة رفض، مستبدلًا بقائمة الحظر قرارًا مرئيًا: بطاقة تأكيد تعرض نص المطالبة بالضبط قبل أن يُرسم أي شيء. وهذا يرفع مسؤوليتك ومسؤوليتنا؛ وكلتاهما في سياسة الاستخدام المسؤول. ولا يوجد توليد فيديو، وعمل الصور يعيش في تطبيق الدردشة لا في الواجهة البرمجية.

لدى كل من يعمل بالصور مهنيًا تقريبًا القصة نفسها. مطالبة تصف شيئًا عاديًا — مقطع عرضي لمفصل الركبة، أو سيارة لحظة الاصطدام، أو دراسة جسد بالفحم، أو جندي في 1944 — تعود بوصفها انتهاكًا للسياسة. فتعيد الصياغة، فتحصل على انتهاك مختلف. وفي النهاية تكتب شيئًا غامضًا بما يكفي ليمرّ، فتحصل على صورة لم تعد تُظهر ما احتجته. لم تفشل الأداة بصوت عالٍ؛ بل فشلت بالتدريج، وجعلتك أنت من قدّم التنازل.

01لماذا يرفض مولّد صور الذكاء الاصطناعي مطالبة مشروعة بوضوح؟

الرفض عادةً ليس رأي نموذج الصور. بل هو ناتج منظومة ترشيح تحيط بالنموذج، وطبقاتها تفسّر كل حالة رفض غريبة تلقّيتها تقريبًا.

الطبقةما تفحصهالإخفاق المميّز
قائمة حظر المطالباتسلاسل حرفية وما يقاربها في نصّكتحجب كلمة بصرف النظر عن الجملة حولها — «speculum» يفشل و«stethoscope» يمرّ
مصنّف المطالباتحكم متعلَّم على «خطورة» المطالبةينطلق بالقرب الموضوعي: كل ما يقارب الطب أو السلاح أو الأجساد أو السياسة يسجّل درجة عالية
تدريب النموذج على الرفضتحفّظ النموذج المدرَّب عليهيرفض بلا رسالة خطأ، أو ينتج بهدوء بديلًا معقّمًا
مصنّف المخرجاتالبكسلات المرسومة، بلا سياق المطالبةلا يميّز لوحة تشريحية عن الإباحية، ولا لقطة فيلم عن حدث حقيقي
الاستبدال بحكم السياسةإعادة كتابة صامتة لمطالبتك قبل الرسمتحصل على صورة، لكن ليست التي حدّدتها، ولا يُقال لك لماذا

وكل طبقة تشترك في نقطة عمى واحدة: لا شيء منها يرى لماذا تسأل. فرسّام طبي، وخبير يعيد بناء اصطدام لصالح مدّعٍ، وشخص بنيّة سيئة، يكتبون جميعًا الاسم نفسه. ويرى المرشّح الاسم لا الأطلس ولا ملف القضية، وهو يُقيَّم على الأضرار التي يسمح بمرورها — لا على العمل الذي يدمّره أبدًا. وتحت عدم التماثل هذا، يصير الإعداد العقلاني لأي مشغّل هو ارفض أكثر. وهذا أيضًا سبب أن «أعد الصياغة فحسب» ليس حلًّا: فإعادة الصياغة لا تمنح المرشّح معلومة كان يفتقدها، بل تبعد مطالبتك فقط عن الكلمات التي أثارته، وهو ما يعني عادةً الابتعاد عمّا قصدته.

02ما الذي وُجدت مرشّحات المحتوى فعلًا لمنعه

الحجّة لصالح التوليد بلا ترشيح التي تتظاهر بأن المرشّحات وُجدت بلا سبب لا تستحق القراءة. فثمة مجموعة ضيّقة من المخرجات يكون ضررها كامنًا في الصورة نفسها، مستقلًا عمّن سأل ولماذا:

  • المحتوى الجنسي المتضمّن لقاصرين. لا سياق يجعله مقبولًا؛ ولا سير عمل مهني يتطلبه.
  • الصور الحميمة لأشخاص حقيقيين دون موافقتهم. الضرر يقع على من لم يوافق، والإزالة لا تُلغيه.
  • التحرش الموجّه والتلفيق التشهيري — إظهار فرد مسمّى كأنه فعل شيئًا لم يفعله.
  • المستندات بدرجة التزوير — جوازات السفر وبطاقات الهوية والأوراق النقدية والأختام والأدوات المالية المصنوعة لتمرّ بوصفها أصلية.
  • الأدلة التركيبية المضلِّلة — صور ملفّقة لأحداث حقيقية تُقدَّم بوصفها توثيقًا لا رسمًا توضيحيًا.

القائمة قصيرة ولها بنية: الضرر يعيش في المنتَج نفسه، وفي شبهه بشخص حقيقي أو مستند حقيقي، وفي تقديمه بوصفه حقيقة. ولاحظ ما ليس فيها — العُري، والدم، والأسلحة، والفظائع التاريخية، والسخرية السياسية. فتلك هي المادة الخام للطب والصحافة والفن والطب الشرعي والسخرية، والمرشّح الذي يعاملها كفئات ضرر إنما ينفّذ فكرة أوسع بكثير عن أي الموضوعات محترم.

ويحظر Shannon كل ما في تلك القائمة، في سياسة استخدام مسؤول منشورة بفئات مسمّاة وعواقب، لا في جدول كلمات مفتاحية يلتقط أيضًا كلمة «المشيمة». الأولى قاعدة تستطيع قراءتها ومحاسبتنا عليها؛ والثانية تخمين لنواياك من مصنّف لا تستطيع رؤيته.

03ما حجم مشكلة الرفض المفرط؟ ما الذي يقيسه البحث

حتى وقت قريب كان الرفض المفرط في نماذج الصور حكاية متناقلة — آلاف من الناس بالقصة نفسها وبلا وسيلة لقياس حجمها. وتغيّر ذلك مع OVERT (تقييم الرفض المفرط على نماذج تحويل النص إلى صورة)، الذي عُرض في ICML 2025 من مجموعة في UC Berkeley تضم Ziheng Cheng وSomayeh Sojoudi وXuandong Zhao وDawn Song وSong Mei: أول معيار واسع النطاق يقيس كم مرة ترفض أنظمة تحويل النص إلى صورة مطالبات حميدة تمامًا.

4,600
مطالبة حميدة
9
فئات سلامة
1,785
ضوابط ضارة
ICML
2025

والتصميم مهمّ. فالمطالبات الـ 4,600 مبنية لتبدو ضارة وهي غير ضارة — بشكل طلب مهني حقيقي يذكر مشرطًا أو كدمة أو احتجاجًا — والمطالبات الـ 1,785 الضارة فعلًا تقف بجوارها كضابط، حتى لا يحصل نموذج على درجة جيدة برفض كل شيء. وتمتد الفئات التسع من خصوصية الأفراد والشخصيات العامة، مرورًا بحقوق النشر والتمييز وإيذاء النفس والمحتوى الجنسي والنشاط غير القانوني، وصولًا إلى العنف.

والنتيجة الرئيسية أن الرفض المفرط منتشر عبر الفئات وعبر النماذج الرائدة. والنتيجة الثانية أشدّ ضررًا للحل الالتفافي المعتاد: فقد اختبر المؤلفون إعادة كتابة المطالبة بوصفها تخفيفًا وأفادوا بأنها «كثيرًا ما تخلّ بالوفاء لمعنى المطالبات الأصلية». فتستطيع تجاوز المرشّح بتغيير ما طلبته، وعندها لم يعد لديك ما طلبته.

وتصل دراسة أضيق إلى الاستنتاج نفسه من جهة البكسلات. ففي An Art-centric perspective on AI-based content moderation of nudity (Riccio وCurto وHofmann وOliver، ورشة AI4VA في ECCV 2024)، يقيّم المؤلفون ثلاثة مصنّفات NSFW إنتاجية على العُري الفني ويكشفون تحيّزًا جندريًا وتحيّزًا أسلوبيًا معًا: فالحكم على دراسة جسد يتوقف على جسد مَن يُصوَّر وبأي أسلوب. وهذا بيان مقيس لما قيل لكل رسّام من الطبيعة إنه من نسج الخيال.

04ثمانية أنواع من العمل المشروع تحجبها المولّدات المرشَّحة

هذه هي الفئات التي لا يكون فيها الرفض المفرط إزعاجًا بل توقفًا عن العمل. وحيث توجد حالة موثّقة بعينها تُذكر؛ وحيث لم يُتحقق من أي حالة، تُوصف الفئة دون اختلاق واقعة.

1. الرسم الطبي والتشريحي

أكثر الحالات توثيقًا في المجال. ففي أبريل 2023، أفادت The Intercept (Debbie Nathan) بأن Midjourney حظرت مصطلحات تشريحية منها speculum وplacenta وcervix وvulva وfallopian tubes وmammary glands وuterine وurethra وhymen وsperm وcondom وIUD، بينما رفض DALL·E 2 عبارة «pills used in medication abortion» برسالة سياسة محتوى. واكتُشف النمط على يد Julia Rockwell، وهي محللة بيانات سريرية كانت تحاول توليد صورة لمشيمة هدية لصديقة عالمة أحياء خلوية، وأُبلغ عنه إلى MIT Technology Review. وعدم التماثل هو الدليل: فكلمة «stethoscope» تولّد بشكل طبيعي بينما «speculum» محظورة. ووصف الباحث في جامعة واشنطن Bill Howe المرشّحات بأنها «خرقاء» وقال إنها جعلت «إجراء نقاش علمي عن التكاثر مستحيلًا عمليًا». فتثقيف المرضى والأطالس الجراحية ومناهج التمريض تحتاج كلها إلى تصوير الأجساد بدقة، بما في ذلك الأجزاء التي قرّرت قائمة كلمات مفتاحية أنها غير لائقة.

2. إعادة البناء الجنائي وإعادة بناء الحوادث

تتطلب إعادة بناء الاصطدامات وتحليل منشأ الحرائق ومواد العرض في المحاكم تصوير الأضرار والجروح وميكانيكا العنف بدقة سريرية. والمرشّح المضبوط على رفض «دم» أو «جرح طلق ناري» يرفض التخصص كله: فالسياق — تقرير خبير، أو ملف تأمين — غير مرئي للمصنّف، والحياد نفسه الذي يجعل تلك الصور مقبولة كدليل هو ما يجعلها تُقرأ بوصفها دماء.

3. العُري الفني والرسم من الطبيعة

الجسد العاري موضوع تأسيسي في الفن في كل مكان، ودراسة الجسد جوهر التعليم الفني. ونتيجة ECCV 2024 أعلاه هي الصيغة المقيسة لما يفيد به الفنانون: فالمصنّفات لا تفصل بموثوقية دراسة جسد عن الإباحية، وأخطاؤها متحيّزة بالجنس والأسلوب — مرشّح أشدّ ما يكون على التقليد الذي كان ينبغي أن يتعرّف عليه.

4. الصور التاريخية وصور الحروب

يتطلب فنّ الكتب الدراسية والعرض المتحفي والمشاريع التذكارية تصوير الأزياء الرسمية والأسلحة والمعسكرات والمعارك والفظائع. وحادثة Gemini في فبراير 2024 مفيدة لأن الإخفاق جرى في الاتجاه المعاكس وأحدث ضررًا مماثلًا. فقد أوقفت Google قدرة Gemini على توليد صور الأشخاص في 22 فبراير 2024 بعد أن أنتجت تصويرات أُعيد تركيبها عرقيًا لمجموعات تاريخية منها جنود ألمان من الحقبة النازية. ووصف الرئيس التنفيذي Sundar Pichai المخرجات بأنها «غير مقبولة إطلاقًا»؛ وأقرّ نائب الرئيس الأول Prabhakar Raghavan بأن النموذج «بالغ في التعويض» وصار «مفرط التحفّظ». فالسلامة العمياء عن السياق لم تجعل الصور التاريخية أكثر أمانًا — بل جعلتها زائفة، وهو أسوأ بالنسبة إلى ناشر تاريخي.

5. العنف في الخيال والتصوّر المسبق للأفلام

تصوّر الألواح القصصية وفن التصوّر والقصص المصوّرة وتصميم الألعاب العنفَ للسبب نفسه الذي تفعله لأجله الروايات والأفلام. والمرشّح الذي لا يميّز لوحًا قصصيًا لفيلم رعب عن تهديد يعامل خطّ إنتاج فنون السرد كله بوصفه مريبًا — مع أن اللوح القصصي غير واقعي صراحةً، فهو خطة لمشهد سيؤديه ممثلون وفرق مؤثرات.

6. السخرية السياسية والرسم الكاريكاتيري التحريري

الكاريكاتير الساخر من أصحاب السلطة من أكثر أشكال التعبير حمايةً في معظم الديمقراطيات، وهو روتينيًا أول ما يزيله مرشّح صور. وأوضح حالة موثّقة هي قرار Midjourney في أبريل 2023 بمنع صور الرئيس الصيني شي جين بينغ وحجب اسمه في المطالبات — كما أفادت PetaPixel وDecrypt وغيرهما — مع الاستمرار في السماح بقادة عالميين آخرين. وأوضح المؤسس David Holz على Discord أن الشركة أرادت «تقليل الدراما» وأن «قدرة الناس في الصين على استخدام هذه التقنية أهم من قدرتك على توليد السخرية»؛ ووصفت Sarah McLaughlin من Foundation for Individual Rights and Expression ذلك بأنه رقابة. وأيًّا كان استنتاجك بشأن الحساب التجاري، فالآلية تستحق التسمية: قيد وطني على التعبير يُطبَّق على كل مستخدم في العالم، لأن المرشّح العالمي له إعداد واحد.

7. أبحاث الأمن ومواد التوعية بالتصيّد

تبني فرق الأمن مواد تدريبية يجب أن تبدو كالشيء الذي تحذّر منه: شاشة تسجيل دخول مزيّفة مقنعة، أو فاتورة منتحلة، أو رمز QR خبيث على عدّاد وقوف. وهذا بالنسبة إلى مصنّف لا يُميَّز عن الهجوم الذي يُحصّن ضده — فالمشابهة هي المقصد — فتحجب المرشّحات الدفاع والهجوم على حدّ سواء، مانحةً الأفضلية للمهاجم، الذي لم يكن سيستخدم أداة استهلاكية مرشَّحة على أي حال.

8. مالكو الحقوق يُرفض لهم صور علامتهم أو منتجهم أو شبههم

لا يفحص ترشيح حقوق النشر والعلامات التجارية الملكية؛ بل يفحص الشبه. فلا تستطيع شركة بسهولة توليد صور لشعارها أو منتجها، ولا يستطيع مالك حقوق تصوير شخصيته، وكثيرًا ما لا يستطيع الناس توليد وجوههم أنفسهم، لأن مرشّحات الشبه تعتمد على قابلية التعرّف لا على الموافقة. ويدرج OVERT «انتهاكات حقوق النشر» ضمن فئات الرفض المفرط التسع لديه تحديدًا لأن هذه الإيجابية الكاذبة شائعة إلى هذا الحدّ. فالمرشّح أداة فظّة لسؤال — هل تملك الحق في هذا؟ — لا يملك أي وسيلة لطرحه.

أربع من الثماني أعلاه مرتكزة إلى حالة منشورة بعينها (الطبية، والعُري الفني، والتاريخية، والسخرية) إضافةً إلى فئة حقوق النشر في OVERT للثامنة. أما الطب الشرعي والتصوّر المسبق للخيال ومواد التوعية الأمنية فتُذكر بوصفها فئات: فهي أصناف معروفة جيدًا من العمل المهني المتأثر لم نتحقق لها من واقعة منشورة بعينها.

راجع المصادر الأولية

كل حالة موثّقة أعلاه علنية وقابلة للتحقق باستقلالية. اقرأها بدل الأخذ بوصفنا لها على الثقة.

05لماذا تحجب مولّدات الفن بالذكاء الاصطناعي الأشياء الخطأ، ولماذا لا يمكن ضبط الإيجابيات الكاذبة بعيدًا

الاستجابة الغريزية للحجب المفرط هي «خفّف العتبة». وهي لا تنجح، لأسباب بنيوية لا لقلة الجهد.

الفئات تتداخل في الإشارة لا في الواقع. فالرسم الجراحي والإباحية يشتركان في العُري. وإعادة البناء الجنائي والدماء يشتركان في الدم. وشريحة التوعية وعدّة التصيّد تشتركان في نموذج تسجيل دخول مزيّف. والكاريكاتير الساخر والتلفيق التشهيري يشتركان في سياسي معروف. وما يميّز كل زوج هو الغرض والتقديم — وكلاهما غائب عن المطالبة وغائب عن البكسلات. ولا عتبة تفصل مجتمعين يشغلان المنطقة نفسها من فضاء المدخلات؛ وتحريكها يبادل خطأً بآخر فحسب. وهذا ما أظهرته حادثة Gemini: تدخّل قُصد به إصلاح إخفاق أنتج إخفاقًا آخر، وصفه نائب رئيس Google الأول نفسه بأنه «مبالغة في التعويض».

التكاليف غير متماثلة بالنسبة إلى المشغّل، لا بالنسبة إليك. فالمرشّح الذي يمرّر صورة سيئة واحدة يُنتج خبرًا صحفيًا. والمرشّح الذي يحجب عشرة آلاف صورة مشروعة يُنتج صمتًا، لأن المرفوضين لا ينظّمون أنفسهم — بل يستسلمون. وإدارة المخاطر تحت عدم التماثل هذا تتقارب نحو الحجب المفرط، بشكل دائم. ولأن الحكم الأساسي مستحيل، تتراكم في قوائم الحظر سلاسل حرفية كلما وقعت حوادث، وهكذا تحصل على «stethoscope» مقبولة و«speculum» محظورة. لم يقرّر أحد أن الأدوات الخاصة بالإناث أخطر؛ بل نمت القائمة حيث وقعت الشكاوى. فهي تشفّر تاريخ العلاقات العامة لمشغّل، لا نظرية في الضرر.

الولاية القضائية الأشدّ تصير الإعداد العالمي الافتراضي. فمرشّح واحد يخدم كل مستخدم في كل بلد، فيُصدَّر قيد أُضيف لسوق واحدة إلى الجميع — وقاعدة شي جين بينغ هي الحالة النموذجية. وإعادة كتابة مطالبتك تدمّر معناك، وهي النقطة التجريبية لـ OVERT: فكل محترف غسل طلبًا في تلطيف ليمرّره عبر مرشّح أكّد ذلك بيده. لم تنتصر؛ بل رضيت بالتسوية.

ولا شيء من هذا مجاني، ولأنه يفشل بهدوء تبقى الكلفة غير مرئية في المقاييس التي يراقبها المشغّل. فبعد قدر كافٍ من الرفض تكفّ عن السؤال، وتضيّق كل مطالبة مسبقًا إلى ما تتوقع أن يمرّ؛ والتلطيف الذي يمرّ أخيرًا يعطي صورة قريبة مما احتاجه مستندك، لا هو. ورسالة السياسة العامة لا تخبرك بشيء عن الطبقة التي انطلقت، فلا يبقى لك إلا التخمين وإعادة المحاولة — وعمل الصور تكراري، فالمرشّح الذي يلتقط محاولة من كل خمس يعطّل الحلقة لا يبطّئها فحسب. وفي الأثناء لا تحصل المجالات صاحبة أقوى حق في أدوات جادة على مراجِع ولا استئناف ولا عادةً قائمة منشورة بما هو محجوب. والقاعدة التي لا تستطيع قراءتها ليست قاعدة؛ بل طقس.

06بلا رقابة مقابل مُرشَّح: ما الذي يتغيّر فعلًا

إليك النسخة الصادقة من المقارنة، بما فيها ما لا يمنحك إياه نظام بلا ترشيح.

البُعدمولّد مُرشَّحبلا ترشيح (Shannon)
مَن يقرّرمصنّف يقرأ كلمات وبكسلاتإنسان يقرأ نص المطالبة بالضبط
متى تعرفبعد الإرسال — وأحيانًا بعد الدفعقبل أن يُرسم أو يُحاسَب أي شيء
ما هي القاعدةقوائم حظر غير منشورة ومتغيّرةسياسة استخدام مسؤول منشورة
السياق المهنيغير مرئي للنظاملك أن تحمله، ولك أن تجيب عنه
نمط الإخفاقحجب مفرط صامت، وانحراف في المعنىتحصل على ما طلبته — بما فيه الأخطاء
مَن يحمل المخاطرةالبائع، مُلقاةً على عملكمشتركة: سياسة المشغّل مع مساءلة المستخدم

الصف الأخير هو الذي يتخطّاه الناس، وهو الذي يهمّ. فإزالة المرشّح لا تزيل فئات الضرر في القسم 02؛ بل تزيل الآلة التي كانت تخمّن عنها تخمينًا رديئًا. ويبقى الالتزام حيث كان، يحمله الآن طرفان يستطيعان الاستدلال على السياق: المشغّل، الذي ينشر سياسة وينفّذها، وأنت، الذي يعرف الغرض من الصورة. فـتوليد الصور بلا ترشيح أداة لأناس مستعدين أصلًا للوقوف خلف مخرجاتهم — أطلس الجرّاح، وتقرير الخبير، واللوح القصصي، والكاريكاتير — وكانوا يُوقَفون بنظام لا يستطيع تمييزهم عن غيرهم.

07ما يفعله Shannon — وما لا يفعله

الدقة هنا أهم من الحماسة، خصوصًا للقراء القادمين من بحث عن واجهة برمجية.

Generate
صور جديدة
Edit
صورة مصدر واحدة
Combine
صورتان أو أكثر
No
توليد الفيديو

ما يفعله

  • التوليد. صِف صورة بلغة عادية، وبأي لغة. ويكتب Shannon مطالبة التوليد بنفسه، بالإنجليزية، أيًّا كانت اللغة التي سألت بها.
  • تحرير صورة واحدة. مصدر واحد بالضبط — صورة موجودة أصلًا في المحادثة، أو مرفقة برسالتك الحالية — يُغيَّر بتعليمة تقول ما الذي يتغير وما الذي يبقى. ويحتفظ الناتج بنسبة أبعاد المصدر تلقائيًا.
  • دمج صورتين أو أكثر. نقل الزيّ، وإدخال جسم في مشهد، وشخص بجوار شخص، ومنتج على شخص، وموضوع من صورة مع أسلوب من أخرى. وتسمّي المطالبة دور كل صورة بالترتيب، وتُستخدم الصور الحقيقية، فيُحفظ مظهرها الفعلي بدل إعادة وصفه.
  • التحكم في النسبة. square (الافتراضية)، وportrait، وlandscape، وwide، وtall. والطلب الصريح يفوز دائمًا.
  • الرسم على عنقود GPU الخاص بنا، بلا مرشّح محتوى على مسار التوليد وبلا طبقة رفض على النموذج الذي يكتب المطالبة.

ما لا يفعله

  • لا فيديو. لا يحرّك Shannon الصور ولا ينتج فيديو. وليس بندًا في خارطة طريق يُحجب بدلال — بل غير موجود.
  • ليس على الواجهة البرمجية. توليد الصور وتحريرها ودمجها يعيش في تطبيق دردشة Shannon. أما واجهة /v1 فتقدّم النص والرؤية — تستطيع قراءة الصور التي ترسلها إليها — لكنها لا ترسمها.
  • لا توليد دون طلب. فالتحية أو السؤال أو صورة مرفقة عرضًا لا تشغّل صورة. وطلب النظر في صورة من Shannon — وصفها أو قراءتها أو تحليلها — عمل رؤية عادي لا توليد، ولا يكلّف شيئًا إضافيًا.

بطاقة التأكيد

هذه هي الآلية التي تحلّ محل المرشّح، وهي اختيار تصميمي لا إجراء شكلي. فحين يقرّر Shannon أنك تطلب صورة، يكتب مطالبة التوليد ويعرضها عليك في بطاقة تأكيد قبل أن يُرسم أي شيء. ولا يُولَّد شيء ولا يُحاسَب شيء حتى تؤكّد.

وقارن التصميمين بجدارتهما. فالمرشّح يخمّن نيتك بمعلومات أقل مما لديك، وينفّذ التخمين بصمت. أما بطاقة التأكيد فتضع المواصفة الحرفية للصورة أمام الطرف الذي يعرف الغرض منها، قبل إنفاق أي حوسبة. وهي تلتقط سوء قراءة طلبك، وهو ما لا تفعله المرشّحات أبدًا؛ وتتيح لك إضافة الدقة التشريحية أو التفصيل التاريخي الذي قصّر النموذج في تحديده؛ وتجعل المسؤولية مقروءة لا مشتّتة. فقد رأيت المطالبة، وأنت من ضغط الزرّ.

08التوليد بلا ترشيح يرفع المسؤولية ولا يلغيها

هذا ينتمي إلى هنا لا إلى تذييل، لأنه نصف الحجّة. فالمولّد المرشَّح يقطع وعدًا لا يستطيع الوفاء به: أن الأداة ستمنع إساءة الاستخدام نيابةً عنك. وهو يفشل في الاتجاهين — يحجب الجرّاح، ولا يوقف فاعلًا سيئًا مصمّمًا، لديه خيارات أخرى وكانت لديه دائمًا. وما يفعله بموثوقية هو أن يجعل الجميع يشعرون أن المسؤولية عولجت عند المنبع، بآلة. وإزالة المرشّح تزيل ذلك الوهم؛ فيعود سؤال ما إن كان ينبغي لصورة أن توجد إلى الناس القادرين على الإجابة عنه.

  • التزام Shannon Lab LLC. سياسة استخدام مسؤول منشورة ومحدَّدة تسمّي الفئات المحظورة بدل قائمة حظر غير منشورة — قواعد تستطيع قراءتها والاستشهاد بها ومحاسبتنا عليها.
  • التزامك أنت. أنت تعرف الغرض والجمهور والولاية القضائية وحالة موافقة كل مصوَّر. والأداة لا تعرف، والمصنّف لم يكن ليعرف أبدًا. وبطاقة التأكيد موجودة لتُطبَّق تلك المعرفة في اللحظة التي تهمّ، من الطرف الذي يملكها.
  • الخط الذي لا يتحرك. «المرشّح لم يمنعني» لم يكن قط دفاعًا في أي وسيط. فالكاميرا لا ترفض، والقلم لا يرفض؛ والقانون وأخلاقيات المهنة يحكمان الاستخدام لا الأداة. والمولّد بلا ترشيح يعيد الترتيب الاعتيادي الذي تعمل تحته كل أداة مهنية أخرى.

اقرأ سياسة الاستخدام المسؤول قبل أن تبدأ. فهي قصيرة ومحدَّدة، وهي الجزء من هذا المنتج الذي يجعل بقيته قابلة للدفاع.

09الأسئلة الشائعة

لماذا يرفض مولّد صور الذكاء الاصطناعي مطالبة مشروعة بوضوح؟

لأن معظم المرشّحات تحكم على الكلمات في مطالبتك لا على غرضك. فالمصنّف يقف أمام النموذج بلا أي وصول إلى هويتك ولا إلى سبب سؤالك، فيكتب رسّام طبي ومحلل جنائي وفاعل سيئ الاسم نفسه ويتلقّون جميعًا الرفض نفسه. وقد أفادت The Intercept في أبريل 2023 بأن Midjourney حظرت مصطلحات تشريحية منها speculum وplacenta وcervix، بينما كانت stethoscope تعمل بشكل طبيعي.

هل توجد أبحاث تقيس الإيجابيات الكاذبة لمرشّحات المحتوى في أدوات الفن بالذكاء الاصطناعي؟

نعم. OVERT (arXiv:2505.21347، ICML 2025) هو أول معيار واسع النطاق للرفض المفرط في نماذج تحويل النص إلى صورة: 4,600 مطالبة تبدو ضارة لكنها حميدة فعلًا عبر تسع فئات سلامة، إضافةً إلى 1,785 مطالبة ضارة حقًا كضابط. ويفيد مؤلفوه بأن الرفض المفرط منتشر عبر النماذج الرائدة. ووجدت دراسة منفصلة في ECCV 2024 تحيّزًا جندريًا وأسلوبيًا في ثلاثة مصنّفات NSFW قُيّمت على العُري الفني.

ما الذي يغيّره مولّد الصور بلا رقابة فعلًا؟

يزيل طبقة الرفض ومرشّح المحتوى من مسار التوليد، فلا يُعاد تصنيف طلب مشروع بصمت بوصفه هجومًا. وهو لا يزيل الحكم — بل ينقله. فيعرض عليك Shannon مطالبة التوليد بالضبط في بطاقة تأكيد قبل أن يُرسم أي شيء، فيتخذ القرار إنسان يرى ما سيُنتَج، تحت سياسة الاستخدام المسؤول.

هل يولّد Shannon فيديو؟

لا. يولّد Shannon صورًا جديدة، ويحرّر صورة واحدة قائمة، ويدمج صورتين أو أكثر في صورة واحدة. وهو لا يحرّك الصور ولا ينتج فيديو من أي نوع.

هل يمكنني توليد الصور عبر واجهة Shannon البرمجية؟

لا. توليد الصور وتحريرها ودمجها يعيش في تطبيق دردشة Shannon. أما واجهة /v1 فتقدّم النص والرؤية — قراءة الصور التي توفّرها وتحليلها — لا توليد الصور.

إن لم يكن هناك مرشّح، فما الذي يوقف إساءة الاستخدام؟

السياسة والمساءلة ونقطة قرار مرئية بدل قائمة حظر كلمات مفتاحية. فلا يولّد Shannon أبدًا دون طلب، ويعرض المطالبة كاملة قبل الرسم، ولا يحاسب على شيء حتى تؤكّد، ويعمل تحت سياسة استخدام مسؤول منشورة تحظر المحتوى الجنسي المتضمّن لقاصرين، والصور الحميمة لأشخاص حقيقيين دون موافقتهم، والتحرش الموجّه، وتزوير مستندات الهوية أو المستندات المالية.

اطلب الصورة التي تحتاجها فعلًا

التوليد وتحرير الصورة الواحدة ودمج عدة صور في تطبيق الدردشة — بلا مرشّح محتوى، وبلا طبقة رفض، والمطالبة على الشاشة قبل أن يُرسم أي شيء.

ابدأ الدردشة سياسة الاستخدام المسؤول

الصور في تطبيق الدردشة · لا يوجد توليد فيديو · مزيد من الأبحاث


المصادر: Cheng وHuang وXu وSojoudi وZhao وSong & Mei — OVERT (arXiv:2505.21347، ICML 2025) · Riccio وCurto وHofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156، AI4VA @ ECCV 2024) · Debbie Nathan، The Intercept، 22 أبريل 2023 · PetaPixel، 3 أبريل 2023 · CNBC، 22 فبراير 2024. تُشغَّل Shannon AI بواسطة Shannon Lab LLC، نيو مكسيكو، الولايات المتحدة.

كل روابط الأبحاث