Mythos模型的惊人能力

6月23日，一位美国官员向美联社透露，Anthropic的人工智能模型Mythos在与美国情报机构合作的测试演习中，成功识别出高度敏感和安全的政府计算机系统中的漏洞。

这位不愿透露姓名的官员表示，Mythos模型在数小时内就发现了某些漏洞。不过，该官员也谨慎地补充说，这并不意味着模型能在同样的时间内利用这些漏洞。

政府的安全担忧

这一消息披露之际，美国政府正在加强对前沿AI模型的监管。6月12日，美国政府发布了一项出口管制指令，暂停任何外国公民（包括在美国境内）访问Anthropic的Fable 5和Mythos 5模型。Anthropic随后在全球范围内为所有客户禁用了这两个模型以配合政府要求。

与此同时，亚马逊CEO reportedly向政府发出警告，并限制了Anthropic Fable 5的访问权限。

OpenAI的对比

有趣的是，OpenAI近期也推出了一款与Mythos能力相当的网络安全模型，但几乎没有引起同等程度的政治反弹。Axios报道指出，这种差异引发了关于政府在AI安全监管方面是否存在双重标准的质疑。

法律挑战

美国法律科技公司Legion已就政府限制外国公民访问Anthropic顶级模型的指令提起诉讼，认为这一政策损害了其业务运营。这起诉讼可能成为AI出口管制法律框架的重要判例。

AI安全的两难

Mythos模型的测试结果既展示了AI在网络安全防御方面的巨大潜力，也凸显了这类技术落入不当之手可能带来的风险。如何在促进创新和确保安全之间取得平衡，正在成为全球AI治理的核心议题。