负责任使用政策

可接受使用指南

AI红队最佳实践

作为一名AI红队使用Shannon AI的研究员，您是致力于理解和减轻AI风险的社区的一部分。请遵循以下最佳实践：

测试前

• 定义与AI安全改进相关的明确研究目标
• 获得必要的机构批准和伦理审查
• 记录您的测试方法和预期结果
• 确保任何敏感输出的安全存储

测试期间

• 在隔离的研究环境中工作
• 记录所有查询和输出以供审计
• 如果生成超出研究范围的内容，请立即停止
• 尽量减少敏感输出对团队成员的暴露

测试后

• 安全删除不再需要的输出
• 为重要发现准备负责任的披露
• 与研究社区分享方法论见解
• 根据所学更新您的研究协议

负责任的披露流程

当您使用Shannon AI进行的研究揭示了重大漏洞或对未经审查的AI所产生的行为的见解时，请遵循此披露流程：

️ 理解人工智能护栏的重要性

您对 Shannon AI 未经审查模型的研究具有关键目的：证明为何人工智能护栏的重要性至关重要。通过观察未经审查的人工智能所产生的行为，您帮助更广泛的人工智能社区理解：

• 在没有安全约束的情况下，人工智能系统可能会产生什么
• 对手可能如何尝试绕过安全措施
• 当前的护栏在何处不足或容易被规避
• 未来人工智能系统需要哪些新的安全机制
• 如何设计更强大的对齐技术

️ 违规与后果

违反本负责任使用政策将导致：

• 首次违规（轻微）：书面警告和强制性政策审查
• 第二次违规：暂停使用（30-90 天），待审查
• 严重违规：立即终止并通知机构
• 非法活动：终止、机构通知和移交执法部门

我们维护全面的使用日志，并采用自动化系统来检测政策违规行为。所有研究人员都同意将此监控作为访问条件。