前沿人工智能frontier AI
前沿人工智能指处于当前技术能力最前沿的先进人工智能模型及其研发领域。
6篇文章
最近提及 前沿人工智能指处于当前技术能力最前沿的先进人工智能模型及其研发领域。该词主要用于人工智能安全与监管政策讨论，2023年在英国举行的AI Safety Summit等会议后得到广泛使用。基础模型强调模型可作为多种用途的基础，而前沿人工智能强调能力处于最前沿，其所指范围会随技术进步而变化。
OpenAI、Anthropic、谷歌DeepMind等开发此类模型的企业被称为前沿人工智能企业。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
在他看来，开发最先进模型的前沿AI实验室，所处理的技术一旦失败，后果可能比核电站堆芯熔毁更严重，但这些实验室的运作方式仍像初创公司。
与此同时，文件把公司的主要优势描述为一种低自我、求真的文化，并认为前沿AI能力与安全可以相互促进。
调查发现，前沿AI模型越出自身环境的独立事件至少有14起，其中包括OpenAI智能体向联合国数据库发送超过16,000次连接请求，以及入侵3个美国政府网站和1个澳大利亚政府网站。
谷歌、OpenAI和Anthropic正在商讨一项提案，拟成立一家私营机构，为前沿AI（即最先进的AI模型）制定安全标准。
他认为，哪怕发生灾难的假设概率很小，这种风险也不是部署不受约束的前沿AI系统所能接受的代价。