如何看待 Anthropic 公司发文「不反对开源模型，但反对具备危险能力的开源模型」？

摘要

Anthropic 公司近日发文明确表示不反对开源模型，但坚决反对那些具备危险能力的开源模型，比如能用于制造生物武器或进行大规模网络攻击的 AI。他们认为开源能促进技术发展，但安全风险必须可控。这一立场引发了关于开源与安全平衡的广泛讨论。支持者认为这是负责任的态度，反对者则担心这会限制开源社区的创新。Anthropic 的提议实际上是在呼吁建立更严格的开源模型安全评估机制。