AI tạo ảnh không kiểm duyệt so với có bộ lọc
Bộ lọc nội dung được dựng lên để chặn một tập nhỏ những tác hại có thật. Trên thực tế chúng cũng chặn luôn minh họa y khoa, dựng lại pháp y, vẽ hình họa, lịch sử chiến tranh, châm biếm xã luận và cả việc doanh nghiệp vẽ chính sản phẩm của mình. Đây là cái giá của điều đó — và việc gỡ bộ lọc thay đổi gì, không thay đổi gì.
Tóm tắt nhanh
Các công cụ tạo ảnh phổ thông sàng lọc prompt và đầu ra bằng những bộ phân loại chỉ nhìn thấy chữ và điểm ảnh, không bao giờ nhìn thấy mục đích. Điều đó bảo đảm sẽ có báo nhầm, và những lần báo nhầm ấy giáng mạnh nhất vào công việc đòi hỏi tay nghề: giải phẫu, pháp y, khỏa thân nghệ thuật, hình ảnh lịch sử, dựng hình tiền kỳ, châm biếm, tài liệu nâng cao nhận thức bảo mật, và cả chủ sở hữu quyền đi xin chính thương hiệu của mình. OVERT (ICML 2025), benchmark quy mô lớn đầu tiên cho kiểu hỏng này, dùng 4,600 prompt vô hại nhưng trông đáng ngờ và nhận thấy tình trạng từ chối quá mức lan rộng trên khắp các mô hình hàng đầu. Shannon chạy việc tạo ảnh, chỉnh sửa một ảnh và ghép nhiều ảnh trên cụm GPU của riêng chúng tôi, không bộ lọc nội dung và không lớp từ chối, thay danh sách chặn bằng một quyết định nhìn thấy được: một thẻ xác nhận hiện đúng prompt trước khi bất cứ gì được dựng. Điều đó nâng trách nhiệm của bạn lẫn của chúng tôi; cả hai đều nằm trong Chính sách Sử dụng Có Trách nhiệm. Không có tính năng tạo video, và công việc về ảnh nằm trong ứng dụng chat, không phải API.
Gần như ai làm việc chuyên nghiệp với hình ảnh cũng có cùng một câu chuyện. Một prompt mô tả thứ hết sức bình thường — mặt cắt khớp gối, một chiếc xe ngay khoảnh khắc va chạm, một bài nghiên cứu hình họa bằng than chì, một người lính năm 1944 — trả về một thông báo vi phạm chính sách. Bạn diễn đạt lại, và nhận một vi phạm khác. Cuối cùng bạn viết ra một thứ đủ mơ hồ để lọt qua, và nhận được một tấm ảnh không còn thể hiện điều bạn cần. Công cụ không hỏng một cách ồn ào; nó hỏng dần từng nấc, và biến bạn thành người phải nhượng bộ.
01Vì sao một công cụ tạo ảnh AI lại từ chối một prompt rõ ràng là chính đáng?
Lời từ chối thường không phải quan điểm của mô hình ảnh. Đó là kết quả của một chồng bộ lọc bao quanh mô hình, và các tầng của nó giải thích gần như mọi lời từ chối kỳ quặc mà bạn từng nhận.
| Tầng | Nó xem xét gì | Kiểu hỏng đặc trưng |
|---|---|---|
| Danh sách chặn prompt | Các chuỗi ký tự nguyên văn và biến thể gần giống trong văn bản của bạn | Chặn một từ bất kể câu chứa nó là gì — "speculum" trượt, "stethoscope" lọt |
| Bộ phân loại prompt | Một phán đoán đã học về "mức rủi ro" của prompt | Kích hoạt theo độ gần chủ đề: bất cứ thứ gì gần y học, vũ khí, cơ thể hay chính trị đều bị chấm điểm cao |
| Huấn luyện từ chối trong mô hình | Sự dè dặt đã được huấn luyện vào chính mô hình | Từ chối mà không báo lỗi, hoặc lặng lẽ tạo ra một bản thay thế đã được làm sạch |
| Bộ phân loại đầu ra | Các điểm ảnh đã dựng, không có bối cảnh prompt | Không phân biệt được bản vẽ giải phẫu với nội dung khiêu dâm, hay một khung phim với một sự kiện có thật |
| Thay thế theo chính sách | Âm thầm viết lại prompt của bạn trước khi dựng | Bạn nhận được một tấm ảnh, nhưng không phải tấm bạn đã nêu, và bạn không được cho biết vì sao |
Mọi tầng đều chung một điểm mù: không tầng nào thấy được vì sao bạn hỏi. Một họa sĩ minh họa y khoa, một chuyên gia bên nguyên đang dựng lại một vụ va chạm, và một người có ý đồ xấu đều gõ cùng một danh từ. Bộ lọc thấy danh từ, chứ không thấy cuốn atlas hay hồ sơ vụ án, và nó bị chấm điểm theo những tác hại nó để lọt — chứ chưa bao giờ theo công việc nó phá hỏng. Dưới sự bất đối xứng đó, thiết lập hợp lý cho mọi nhà vận hành là từ chối nhiều hơn. Đó cũng là lý do "cứ diễn đạt lại đi" không phải cách chữa: diễn đạt lại chẳng cho bộ lọc thêm thông tin nào nó đang thiếu, nó chỉ đẩy prompt của bạn ra xa những từ đã kích hoạt bộ lọc, mà thường thì cũng là ra xa điều bạn muốn nói.
02Bộ lọc nội dung thực sự có mặt để ngăn điều gì
Một lập luận ủng hộ tạo ảnh không bộ lọc mà lại giả vờ rằng bộ lọc tồn tại chẳng vì lý do gì thì không đáng đọc. Có một tập hẹp những đầu ra mà tác hại nằm ngay trong chính tấm ảnh, bất kể ai hỏi và vì sao:
- Nội dung tình dục liên quan đến trẻ vị thành niên. Không bối cảnh nào khiến nó chấp nhận được; không quy trình chuyên môn nào cần đến nó.
- Hình ảnh riêng tư của người thật không có sự đồng ý. Tác hại giáng xuống một người không hề đồng ý, và một lệnh gỡ bỏ không xóa được điều đó.
- Quấy rối có chủ đích và bịa đặt mang tính phỉ báng — khiến một cá nhân được nêu tên trông như đã làm điều họ không làm.
- Giấy tờ ở mức làm giả — hộ chiếu, chứng minh thư, tiền giấy, con dấu và công cụ tài chính được tạo ra để qua mắt như hàng thật.
- Bằng chứng tổng hợp mang tính lừa dối — hình ảnh bịa đặt về sự kiện có thật được trình bày như tư liệu chứ không phải minh họa.
Danh sách này ngắn và nó có cấu trúc: tác hại nằm trong chính hiện vật, trong sự giống với một người hay một giấy tờ có thật, và trong việc nó được trình bày như sự thật. Hãy để ý những gì không nằm trong đó — khỏa thân, máu, vũ khí, tội ác lịch sử, chế giễu chính trị. Đó là nguyên liệu thô của y học, báo chí, nghệ thuật, pháp y và châm biếm, và một bộ lọc coi chúng là các nhóm tác hại đang hiện thực hóa một quan niệm rộng hơn nhiều về việc chủ đề nào mới đáng kính.
Shannon cấm mọi thứ trong danh sách đó, trong một Chính sách Sử dụng Có Trách nhiệm được công bố với các nhóm được nêu tên và hậu quả kèm theo, chứ không phải một bảng từ khóa vốn cũng tóm luôn cả "placenta". Một bên là quy tắc bạn đọc được và có thể bắt chúng tôi chịu trách nhiệm; bên kia là một phỏng đoán về ý định của bạn do một bộ phân loại mà bạn không nhìn thấy đưa ra.
03Vấn đề từ chối quá mức lớn tới đâu? Nghiên cứu đo được gì
Cho tới gần đây, tình trạng từ chối quá mức ở các mô hình ảnh vẫn chỉ là giai thoại — hàng nghìn người có cùng một câu chuyện mà không có cách nào đo lường. Điều đó thay đổi với OVERT (OVEr-Refusal evaluation on Text-to-image models), được trình bày tại ICML 2025 bởi một nhóm ở UC Berkeley gồm Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song và Song Mei: benchmark quy mô lớn đầu tiên đo tần suất các hệ thống chuyển chữ thành ảnh từ chối những prompt hoàn toàn vô hại.
Thiết kế mới là điều đáng nói. 4,600 prompt được dựng để trông nguy hại trong khi thực chất vô hại — đúng dáng dấp của một yêu cầu chuyên môn thật có nhắc tới dao mổ, vết bầm hay một cuộc biểu tình — và 1,785 prompt thực sự nguy hại nằm cạnh chúng làm nhóm đối chứng, để một mô hình không thể đạt điểm cao bằng cách từ chối tất cả. Chín nhóm trải từ quyền riêng tư của cá nhân và của nhân vật công chúng, qua bản quyền, phân biệt đối xử, tự gây hại, nội dung tình dục và hoạt động phi pháp, cho tới bạo lực.
Phát hiện nổi bật là tình trạng từ chối quá mức lan rộng trên khắp các nhóm và khắp các mô hình hàng đầu. Phát hiện thứ hai còn tổn thương hơn cho cách lách thông dụng: nhóm tác giả đã thử viết lại prompt như một biện pháp giảm thiểu và báo cáo rằng cách đó "thường làm tổn hại sự trung thành với ý nghĩa của prompt gốc". Bạn có thể vượt qua bộ lọc bằng cách đổi điều mình yêu cầu, và rồi bạn không còn thứ mình đã yêu cầu nữa.
Một nghiên cứu hẹp hơn đi tới cùng kết luận từ phía điểm ảnh. Trong An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann và Oliver, hội thảo AI4VA tại ECCV 2024), các tác giả đánh giá ba bộ phân loại NSFW đang chạy thật trên ảnh khỏa thân nghệ thuật và phát hiện cả thiên lệch về giới lẫn thiên lệch về phong cách: phán quyết dành cho một bài nghiên cứu hình họa phụ thuộc vào cơ thể của ai được vẽ và vẽ theo phong cách nào. Đó là phát biểu đã được đo lường về đúng cái điều mà mọi họa sĩ vẽ hình họa vẫn bị bảo là do họ tưởng tượng ra.
04Tám loại công việc chính đáng bị các công cụ có bộ lọc chặn
Đây là những nhóm mà từ chối quá mức không còn là bất tiện mà là ngừng việc. Ở đâu có một trường hợp cụ thể đã được đưa tin thì nó được trích dẫn; ở đâu không kiểm chứng được trường hợp nào, nhóm đó được mô tả mà không bịa ra một vụ việc.
1. Minh họa y khoa và giải phẫu
Trường hợp có tài liệu đầy đủ nhất trong lĩnh vực này. Tháng 4 năm 2023, The Intercept (Debbie Nathan) đưa tin rằng Midjourney đã cấm các thuật ngữ giải phẫu bao gồm speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom và IUD, trong khi DALL·E 2 từ chối "pills used in medication abortion" kèm một thông báo về chính sách nội dung. Quy luật này được phát hiện bởi Julia Rockwell, một chuyên viên phân tích dữ liệu lâm sàng đã thử tạo ảnh một cái nhau thai làm quà cho một người bạn là nhà sinh học tế bào, và được đưa tin trên MIT Technology Review. Sự bất đối xứng chính là dấu hiệu: "stethoscope" tạo được bình thường trong khi "speculum" bị cấm. Nhà nghiên cứu Bill Howe của Đại học Washington gọi các bộ lọc này là "vụng về" và nói rằng chúng khiến việc "có một cuộc thảo luận khoa học về sinh sản trở nên gần như bất khả thi". Giáo dục bệnh nhân, atlas phẫu thuật và chương trình đào tạo điều dưỡng đều cần cơ thể được thể hiện chính xác, kể cả những bộ phận mà một danh sách từ khóa đã quyết là khiếm nhã.
2. Dựng lại pháp y và tai nạn
Dựng lại va chạm, phân tích nguồn gốc đám cháy và các hình minh họa trình tòa đòi hỏi thể hiện hư hỏng, thương tích và cơ chế bạo lực với độ chính xác lâm sàng. Một bộ lọc được chỉnh để loại bỏ "máu" hay "vết thương do đạn bắn" là loại bỏ luôn cả ngành: bối cảnh — một báo cáo giám định, một hồ sơ bảo hiểm — là vô hình với bộ phân loại, và chính sự trung tính khiến những hình ảnh ấy được chấp nhận làm chứng cứ lại là thứ khiến chúng bị đọc thành cảnh máu me.
3. Khỏa thân nghệ thuật và vẽ hình họa
Ảnh khỏa thân là một chủ đề nền tảng của nghệ thuật ở khắp nơi, và nghiên cứu hình họa là cốt lõi của đào tạo mỹ thuật. Kết quả ECCV 2024 ở trên là phiên bản đã đo lường của điều các họa sĩ vẫn phản ánh: bộ phân loại không tách được một cách đáng tin một bài nghiên cứu hình họa khỏi nội dung khiêu dâm, và sai sót của chúng bị thiên lệch theo giới và phong cách — một bộ lọc khắc nghiệt nhất với đúng cái truyền thống mà lẽ ra nó phải nhận ra.
4. Hình ảnh lịch sử và thời chiến
Tranh minh họa sách giáo khoa, diễn giải bảo tàng và các dự án tưởng niệm đều cần thể hiện quân phục, vũ khí, trại giam, trận đánh và tội ác. Sự cố Gemini tháng 2 năm 2024 rất đáng học hỏi vì thất bại chạy theo hướng ngược lại mà gây thiệt hại tương đương. Google tạm dừng khả năng tạo ảnh người của Gemini vào ngày 22 tháng 2 năm 2024 sau khi nó tạo ra những hình ảnh bị tái cấu trúc về chủng tộc cho các nhóm lịch sử, trong đó có lính Đức thời Quốc xã. CEO Sundar Pichai gọi các kết quả đó là "hoàn toàn không chấp nhận được"; Phó chủ tịch cấp cao Prabhakar Raghavan thừa nhận mô hình đã "bù trừ quá mức" và trở nên "quá thận trọng". An toàn mù bối cảnh không làm cho hình ảnh lịch sử an toàn hơn — nó làm cho chúng sai sự thật, mà với một nhà xuất bản sử học thì điều đó còn tệ hơn.
5. Bạo lực trong hư cấu và dựng hình tiền kỳ điện ảnh
Storyboard, tranh ý tưởng, truyện tranh và thiết kế game thể hiện bạo lực vì đúng lý do mà tiểu thuyết và phim ảnh vẫn làm. Một bộ lọc không phân biệt được một storyboard kinh dị với một lời đe dọa thì đối xử với toàn bộ dây chuyền nghệ thuật tự sự như một đối tượng khả nghi — dù một storyboard rõ ràng là không có thật, nó là bản kế hoạch cho một cảnh quay mà diễn viên và tổ kỹ xảo sẽ dàn dựng.
6. Châm biếm chính trị và biếm họa xã luận
Biếm họa nhắm vào kẻ có quyền nằm trong số những nhóm ngôn luận được bảo vệ mạnh nhất ở phần lớn các nền dân chủ, và thường xuyên là thứ đầu tiên bị một bộ lọc ảnh gỡ bỏ. Trường hợp có tài liệu rõ ràng nhất là quyết định tháng 4 năm 2023 của Midjourney cấm hình ảnh Chủ tịch Trung Quốc Tập Cận Bình và chặn tên ông trong prompt — được PetaPixel, Decrypt và những nơi khác đưa tin — trong khi vẫn tiếp tục cho phép các nguyên thủ khác. Nhà sáng lập David Holz giải thích trên Discord rằng công ty muốn "giảm thiểu drama" và rằng "khả năng người dân ở Trung Quốc dùng được công nghệ này quan trọng hơn khả năng bạn tạo ra tranh châm biếm"; Sarah McLaughlin thuộc Foundation for Individual Rights and Expression gọi đó là kiểm duyệt. Dù ta kết luận thế nào về bài toán kinh doanh, cơ chế ở đây đáng được gọi tên: một hạn chế ngôn luận cấp quốc gia được áp lên mọi người dùng trên toàn thế giới, vì một bộ lọc toàn cầu chỉ có một thiết lập.
7. Nghiên cứu bảo mật và tài liệu nâng cao nhận thức về phishing
Các đội bảo mật xây tài liệu đào tạo bắt buộc phải trông giống đúng cái thứ mà nó cảnh báo: một màn hình đăng nhập giả thuyết phục, một hóa đơn giả mạo, một mã QR độc hại dán trên cột đồng hồ đỗ xe. Với một bộ phân loại thì thứ đó không phân biệt được với chính cuộc tấn công mà nó đang tiêm chủng để phòng ngừa — giống như thật chính là mục đích — nên bộ lọc chặn phòng thủ và tấn công như nhau, tạo lợi thế cho kẻ tấn công, vốn dĩ chẳng bao giờ định dùng một công cụ tiêu dùng có bộ lọc.
8. Chủ sở hữu quyền bị từ chối ảnh về chính thương hiệu, sản phẩm hay chân dung của mình
Việc lọc theo bản quyền và nhãn hiệu không kiểm tra quyền sở hữu; nó kiểm tra sự giống nhau. Một công ty khó lòng tạo được hình ảnh về chính logo hay sản phẩm của mình, một chủ sở hữu quyền không vẽ được chính nhân vật của mình, và người ta thường xuyên không tạo được ảnh khuôn mặt của chính mình, vì bộ lọc chân dung bám vào mức độ nhận diện được chứ không phải vào sự đồng ý. OVERT xếp "vi phạm bản quyền" vào chín nhóm từ chối quá mức của nó chính vì kiểu báo nhầm này quá phổ biến. Bộ lọc là một công cụ thô sơ cho một câu hỏi — bạn có quyền với thứ này không? — mà nó chẳng có cách nào để hỏi.
Bốn trong tám nhóm ở trên được neo vào một trường hợp cụ thể đã công bố (y khoa, khỏa thân nghệ thuật, lịch sử, châm biếm) cộng với nhóm bản quyền của OVERT cho nhóm thứ tám. Pháp y, dựng hình tiền kỳ cho hư cấu và tài liệu nâng cao nhận thức bảo mật được nêu như những nhóm: đó là những lớp công việc chuyên môn bị ảnh hưởng đã được biết rộng rãi, nhưng chúng tôi không kiểm chứng được một vụ việc cụ thể đã công bố.
Mọi trường hợp có tài liệu ở trên đều công khai và có thể kiểm chứng độc lập. Hãy đọc chúng thay vì tin vào cách chúng tôi mô tả.
05Vì sao AI vẽ tranh chặn nhầm thứ, và vì sao không thể tinh chỉnh để hết báo nhầm
Phản ứng bản năng trước tình trạng chặn quá tay là "nới ngưỡng ra". Cách đó không hiệu quả, vì những lý do mang tính cấu trúc chứ không phải vì thiếu nỗ lực.
Các nhóm chồng lấn nhau ở tín hiệu chứ không chồng lấn trong thực tế. Một hình minh họa phẫu thuật và nội dung khiêu dâm cùng có khỏa thân. Một bản dựng lại pháp y và cảnh máu me cùng có máu. Một slide nâng cao nhận thức và một bộ công cụ phishing cùng có một biểu mẫu đăng nhập giả. Một bức biếm họa châm biếm và một bịa đặt phỉ báng cùng có một chính trị gia nhận diện được. Thứ phân biệt từng cặp là mục đích và cách trình bày — vắng mặt trong prompt và vắng mặt trong các điểm ảnh. Không ngưỡng nào tách được hai quần thể cùng chiếm một vùng trong không gian đầu vào; dịch chuyển ngưỡng chỉ đổi loại sai này lấy loại sai kia. Đó chính là điều sự cố Gemini cho thấy: một can thiệp nhằm sửa một thất bại lại sinh ra một thất bại khác, được chính Phó chủ tịch cấp cao của Google mô tả là "bù trừ quá mức".
Chi phí bất đối xứng với nhà vận hành, chứ không phải với bạn. Một bộ lọc để lọt một tấm ảnh xấu thì sinh ra một bài báo. Một bộ lọc chặn mười nghìn tấm ảnh chính đáng thì sinh ra sự im lặng, vì những người bị từ chối không tổ chức lại với nhau — họ bỏ cuộc. Quản trị rủi ro dưới sự bất đối xứng đó hội tụ về chỗ chặn quá tay, vĩnh viễn. Và vì phán đoán nền tảng là bất khả thi, danh sách chặn cứ bồi thêm các chuỗi ký tự nguyên văn mỗi khi có sự cố, và đó là cách bạn có được "stethoscope" thì ổn còn "speculum" thì bị cấm. Chẳng ai quyết định rằng dụng cụ dành riêng cho nữ giới nguy hiểm hơn; danh sách chỉ lớn lên ở nơi có khiếu nại. Nó mã hóa lịch sử quan hệ công chúng của một nhà vận hành, chứ không phải một lý thuyết về tác hại.
Khu vực pháp lý nghiêm ngặt nhất trở thành mặc định toàn cầu. Một bộ lọc phục vụ mọi người dùng ở mọi quốc gia, nên một hạn chế thêm vào cho một thị trường sẽ bị xuất khẩu sang tất cả — quy tắc về Tập Cận Bình là ví dụ sách giáo khoa. Và viết lại prompt phá hủy ý nghĩa của bạn, đó chính là luận điểm thực nghiệm của OVERT: mọi người làm nghề từng phải rửa một yêu cầu thành lối nói vòng để lọt qua bộ lọc đều đã tự tay xác nhận điều đó. Bạn không thắng; bạn chấp nhận thua thiệt.
Không thứ nào trong số này là miễn phí, và vì nó hỏng một cách lặng lẽ nên cái giá vô hình trong những chỉ số mà một nhà vận hành theo dõi. Sau đủ nhiều lần bị từ chối, bạn thôi không hỏi nữa, tự thu hẹp trước mọi prompt về đúng cái mà bạn dự đoán sẽ lọt; lối nói vòng cuối cùng lọt qua lại cho ra một tấm ảnh gần với, nhưng không phải, thứ tài liệu của bạn cần. Một thông báo chính sách chung chung chẳng nói cho bạn biết tầng nào đã kích hoạt, nên bạn chỉ có thể đoán rồi thử lại — mà công việc về ảnh vốn lặp đi lặp lại, nên một bộ lọc bắt một trong năm lần thử sẽ phá vỡ vòng lặp chứ không chỉ làm nó chậm lại. Trong khi đó, những ngành có cơ sở mạnh nhất để đòi hỏi công cụ nghiêm túc lại không có người xét duyệt, không có quyền khiếu nại và thường không có cả một danh sách công bố về những gì bị chặn. Một quy tắc mà bạn không đọc được thì không phải quy tắc; nó là thời tiết.
06AI tạo ảnh không kiểm duyệt so với có bộ lọc: điều gì thực sự thay đổi
Đây là phiên bản trung thực của phép so sánh, bao gồm cả những gì một hệ thống không bộ lọc không mang lại cho bạn.
| Khía cạnh | Công cụ có bộ lọc | Không bộ lọc (Shannon) |
|---|---|---|
| Ai quyết định | Một bộ phân loại đọc chữ và điểm ảnh | Một con người đọc đúng prompt đó |
| Khi nào bạn biết | Sau khi bạn gửi — đôi khi sau khi bạn đã trả tiền | Trước khi bất cứ gì được dựng hoặc bị tính phí |
| Quy tắc là gì | Những danh sách chặn không công bố, thay đổi liên tục | Một Chính sách Sử dụng Có Trách nhiệm được công bố |
| Bối cảnh chuyên môn | Vô hình với hệ thống | Thuộc về bạn, và bạn chịu trách nhiệm |
| Kiểu hỏng | Chặn quá tay một cách lặng lẽ, ý nghĩa bị trôi | Bạn nhận được đúng thứ mình yêu cầu — kể cả sai sót |
| Ai gánh rủi ro | Nhà cung cấp, đẩy sang công việc của bạn | Chia sẻ: chính sách của nhà vận hành cộng trách nhiệm của người dùng |
Hàng cuối cùng là hàng người ta hay bỏ qua, và là hàng quan trọng. Gỡ một bộ lọc không gỡ đi các nhóm tác hại ở mục 02; nó gỡ đi cái cỗ máy vốn đang phỏng đoán về chúng một cách tồi tệ. Nghĩa vụ vẫn nằm nguyên chỗ cũ, giờ được nắm giữ bởi hai bên có khả năng lập luận về bối cảnh: nhà vận hành, bên công bố và thực thi một chính sách, và bạn, người biết tấm ảnh dùng để làm gì. Tạo ảnh AI không bộ lọc là công cụ dành cho những người vốn đã sẵn sàng đứng sau sản phẩm của mình — cuốn atlas của bác sĩ phẫu thuật, bản báo cáo giám định, tấm storyboard, bức biếm họa — những người đang bị chặn bởi một hệ thống không phân biệt nổi họ với người khác.
07Shannon làm gì — và không làm gì
Ở đây sự chính xác quan trọng hơn sự hào hứng, đặc biệt với những độc giả đến từ một tìm kiếm về API.
Nó làm được gì
- Tạo ảnh. Mô tả một tấm ảnh bằng ngôn ngữ đời thường, bằng bất kỳ thứ tiếng nào. Shannon tự viết prompt tạo ảnh, bằng tiếng Anh, dù bạn hỏi bằng thứ tiếng nào.
- Chỉnh sửa một ảnh. Đúng một ảnh nguồn — một tấm ảnh đã có trong cuộc hội thoại, hoặc một tấm đính kèm tin nhắn hiện tại của bạn — được thay đổi bằng một chỉ dẫn nói rõ cái gì đổi và cái gì giữ nguyên. Đầu ra tự động giữ nguyên tỷ lệ khung hình của ảnh nguồn.
- Ghép hai ảnh trở lên. Chuyển trang phục, đưa vật thể vào khung cảnh, người này đứng cạnh người kia, gắn sản phẩm lên người, chủ thể từ ảnh này với phong cách từ ảnh khác. Prompt nêu tên vai trò của từng ảnh theo đúng thứ tự, và các ảnh thật được sử dụng, nên diện mạo thật của chúng được giữ lại thay vì bị mô tả lại.
- Kiểm soát khung hình. square (mặc định), portrait, landscape, wide và tall. Một yêu cầu rõ ràng luôn thắng.
- Dựng ảnh trên cụm GPU của riêng chúng tôi, không bộ lọc nội dung trên đường tạo ảnh và không lớp từ chối trên mô hình viết prompt.
Nó không làm gì
- Không có video. Shannon không làm ảnh chuyển động và không tạo ra video. Không phải một hạng mục trong lộ trình đang được giấu đi cho bí ẩn — nó không tồn tại.
- Không có trên API. Tạo ảnh, chỉnh sửa và ghép ảnh nằm trong ứng dụng chat Shannon. API /v1 phục vụ văn bản và thị giác — nó có thể đọc những ảnh bạn gửi tới — nhưng nó không dựng ra ảnh.
- Không tạo ảnh khi không được mời. Một lời chào, một câu hỏi hay một tấm ảnh đính kèm tùy tiện đều không kích hoạt việc tạo ảnh. Bảo Shannon nhìn vào một tấm ảnh — mô tả nó, đọc nó, phân tích nó — là công việc thị giác thông thường, không phải một lần tạo ảnh, và không tốn thêm chi phí nào.
Thẻ xác nhận
Đây là cơ chế thay thế cho bộ lọc, và nó là một lựa chọn thiết kế chứ không phải một thủ tục hình thức. Khi Shannon xác định rằng bạn đang yêu cầu một tấm ảnh, nó viết prompt tạo ảnh và hiện prompt đó cho bạn trên một thẻ xác nhận trước khi bất cứ gì được dựng. Không có gì được tạo và không có gì bị tính phí cho tới khi bạn xác nhận.
Hãy so sánh hai thiết kế trên chính giá trị của chúng. Một bộ lọc phỏng đoán ý định của bạn với ít thông tin hơn bạn có, rồi lặng lẽ thi hành phỏng đoán đó. Một thẻ xác nhận đặt bản mô tả nguyên văn của tấm ảnh trước mặt bên biết nó dùng để làm gì, trước khi tiêu tốn bất kỳ tài nguyên tính toán nào. Nó bắt được những chỗ yêu cầu của bạn bị hiểu sai, điều mà bộ lọc không bao giờ làm; nó cho bạn thêm vào độ chính xác giải phẫu hay chi tiết lịch sử mà mô hình đã nêu chưa đủ; và nó khiến trách nhiệm trở nên rõ ràng thay vì khuếch tán. Bạn đã thấy prompt, và bạn đã bấm nút.
08Tạo ảnh không bộ lọc nâng trách nhiệm lên, chứ không gỡ bỏ nó
Phần này thuộc về đây chứ không phải một dòng chân trang, vì nó là một nửa của lập luận. Một công cụ có bộ lọc hứa một điều nó không giữ nổi: rằng công cụ sẽ ngăn việc lạm dụng thay cho bạn. Nó hỏng theo cả hai hướng — nó chặn bác sĩ phẫu thuật, và nó không ngăn được một kẻ xấu quyết tâm, vốn có những lựa chọn khác và luôn luôn có. Thứ nó làm được một cách đáng tin là khiến ai cũng thấy rằng trách nhiệm đã được xử lý ở đâu đó phía trên, bằng máy móc. Gỡ bộ lọc là gỡ đi cái hư cấu đó; câu hỏi liệu một tấm ảnh có nên tồn tại hay không quay về với những người có thể trả lời nó.
- Nghĩa vụ của Shannon Lab LLC. Một Chính sách Sử dụng Có Trách nhiệm được công bố, cụ thể, nêu tên các nhóm bị cấm thay vì một danh sách chặn không công bố — những quy tắc bạn có thể đọc, trích dẫn và dùng để bắt chúng tôi chịu trách nhiệm.
- Nghĩa vụ của bạn. Bạn biết mục đích, đối tượng, khu vực pháp lý và tình trạng đồng ý của mọi người được thể hiện. Công cụ thì không biết, và một bộ phân loại thì không bao giờ biết được. Thẻ xác nhận tồn tại để hiểu biết đó được áp dụng vào đúng khoảnh khắc nó có ý nghĩa, bởi đúng bên đang nắm giữ nó.
- Ranh giới không hề dịch chuyển. "Bộ lọc đâu có ngăn tôi" chưa bao giờ là một lời bào chữa trong bất kỳ phương tiện nào. Một chiếc máy ảnh không từ chối, một cây bút chì không từ chối; luật pháp và đạo đức nghề nghiệp điều chỉnh việc sử dụng, chứ không phải công cụ. Một công cụ tạo ảnh không bộ lọc khôi phục lại đúng cái trật tự thông thường mà mọi công cụ chuyên nghiệp khác vẫn vận hành dưới đó.
Hãy đọc Chính sách Sử dụng Có Trách nhiệm trước khi bắt đầu. Nó ngắn, cụ thể, và là phần khiến cả phần còn lại của sản phẩm này trở nên có thể bảo vệ được.
09Câu hỏi thường gặp
Vì sao một công cụ tạo ảnh AI lại từ chối một prompt rõ ràng là chính đáng?
Vì phần lớn bộ lọc phán xét những từ ngữ trong prompt của bạn, chứ không phải mục đích của bạn. Một bộ phân loại đứng chắn trước mô hình mà không hề biết bạn là ai hay vì sao bạn hỏi, nên một họa sĩ minh họa y khoa, một chuyên viên phân tích pháp y và một kẻ xấu đều gõ cùng một danh từ và đều nhận cùng một lời từ chối. The Intercept đưa tin tháng 4 năm 2023 rằng Midjourney đã cấm các thuật ngữ giải phẫu bao gồm speculum, placenta và cervix, trong khi stethoscope vẫn hoạt động bình thường.
Có nghiên cứu nào đo mức báo nhầm của bộ lọc nội dung trong các công cụ vẽ tranh AI không?
Có. OVERT (arXiv:2505.21347, ICML 2025) là benchmark quy mô lớn đầu tiên về tình trạng từ chối quá mức ở các mô hình chuyển chữ thành ảnh: 4,600 prompt trông có vẻ nguy hại nhưng thực chất vô hại, trải trên chín nhóm an toàn, cộng 1,785 prompt thực sự nguy hại làm nhóm đối chứng. Nhóm tác giả báo cáo rằng tình trạng từ chối quá mức lan rộng trên khắp các mô hình hàng đầu. Một nghiên cứu riêng tại ECCV 2024 phát hiện thiên lệch về giới và về phong cách ở ba bộ phân loại NSFW khi được đánh giá trên ảnh khỏa thân nghệ thuật.
Một công cụ tạo ảnh AI không kiểm duyệt thực sự thay đổi điều gì?
Nó gỡ lớp từ chối và bộ lọc nội dung khỏi đường tạo ảnh, nên một yêu cầu chính đáng không bị âm thầm xếp lại thành một cuộc tấn công. Nó không gỡ bỏ sự phán đoán — nó dời chỗ sự phán đoán đó. Shannon hiện cho bạn đúng prompt tạo ảnh trên một thẻ xác nhận trước khi bất cứ gì được dựng, nên quyết định được đưa ra bởi một con người nhìn thấy được thứ sắp được tạo ra, dưới Chính sách Sử dụng Có Trách nhiệm.
Shannon có tạo video không?
Không. Shannon tạo ảnh mới, chỉnh sửa một ảnh có sẵn, và ghép hai ảnh trở lên thành một. Nó không làm ảnh chuyển động và không tạo ra video dưới bất kỳ dạng nào.
Tôi có tạo được ảnh qua API của Shannon không?
Không. Tạo ảnh, chỉnh sửa và ghép ảnh nằm trong ứng dụng chat Shannon. API /v1 phục vụ văn bản và thị giác — đọc và phân tích những ảnh bạn cung cấp — chứ không tạo ảnh.
Nếu không có bộ lọc, cái gì ngăn việc lạm dụng?
Chính sách, trách nhiệm giải trình và một điểm quyết định nhìn thấy được, thay vì một danh sách từ khóa bị chặn. Shannon không bao giờ tạo ảnh khi không được mời, hiện toàn bộ prompt trước khi dựng, không tính phí gì cho tới khi bạn xác nhận, và hoạt động theo một Chính sách Sử dụng Có Trách nhiệm được công bố, trong đó cấm nội dung tình dục liên quan đến trẻ vị thành niên, hình ảnh riêng tư của người thật không có sự đồng ý, quấy rối có chủ đích, và làm giả giấy tờ tùy thân hay tài liệu tài chính.
Hãy yêu cầu đúng tấm ảnh bạn thực sự cần
Tạo ảnh, chỉnh sửa một ảnh và ghép nhiều ảnh trong ứng dụng chat — không bộ lọc nội dung, không lớp từ chối, và prompt hiện trên màn hình trước khi bất cứ gì được dựng.
Bắt đầu trò chuyện Chính sách Sử dụng Có Trách nhiệmẢnh nằm trong ứng dụng chat · không có tạo video · thêm nghiên cứu
Nguồn: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, ngày 22 tháng 4 năm 2023 · PetaPixel, ngày 3 tháng 4 năm 2023 · CNBC, ngày 22 tháng 2 năm 2024. Shannon AI được vận hành bởi Shannon Lab LLC, New Mexico, Hoa Kỳ.