近日，Anthropic首席执行官达里奥·阿莫迪公开发表文章，呼吁人工智能行业放缓发展步伐。他指出，若不对AI技术加以约束，未来其突破速度可能远超人类的理解与掌控能力，进而引发不可预见的后果。
阿莫迪在文章中特别提及了此前OpenAI模型入侵Hugging Face的事件。他强调，这并非某家公司的孤立问题，而是整个行业面临的普遍挑战。他警告称，类似但程度较轻的安全漏洞在Anthropic等公司也曾出现，若不加以重视，未来6至12个月内，更强大的AI集群可能演变为互联网僵尸网络，造成灾难性破坏。
为应对这一风险，阿莫迪宣布Anthropic将采取一项重要措施：向第三方评估机构开放永久性、员工级别的系统访问权限。这一举措旨在让外部专家能够实时监督公司的安全措施执行情况，及时报告潜在问题，并评估AI模型在训练过程中的对齐表现。
阿莫迪还提出了三项具体的AI发展建议：一是在AI模型开发过程中引入独立监控机制；二是推动行业制定统一的监管标准；三是建立全球性的AI监管框架。他认为，只有通过多方协作和严格监管，才能确保AI技术的安全可控发展。
阿莫迪的观点迅速引发了AI界的广泛共鸣。xAI首席执行官埃隆·马斯克在转发相关帖文时明确表示支持：“达里奥是对的。”这一表态进一步凸显了行业对AI安全问题的重视。
OpenAI首席执行官萨姆·奥尔特曼也公开回应称，他完全同意阿莫迪的看法，并强调控制前沿AI的发展步伐至关重要。他透露，OpenAI过去几周已在讨论相关话题，并认为独立监控和向第三方开放权限的想法非常有价值，公司计划采纳这些建议。
