能力过剩(capability overhang)指AI模型已经具备的能力超出了实际被激发、测量或投入使用的水平。模型本身能做的事情多于当前部署方式、工具集成、提示技巧和评估方法所能展现的,潜在能力因而闲置。
该术语在AI安全与产业普及的讨论中有两种相关含义。一是指新的能力激发技巧可能让现有模型突然展现出此前隐藏的重大能力所带来的风险;二是指前沿模型的实际能力与主流机构真正融入业务运营的水平之间的差距。两种含义都强调,当应用速度落后于模型进步速度时,这一差距会不断扩大。
capability overhang
指AI模型已具备的能力与实际被激发或投入使用的能力之间差距的AI领域术语。
能力过剩(capability overhang)指AI模型已经具备的能力超出了实际被激发、测量或投入使用的水平。模型本身能做的事情多于当前部署方式、工具集成、提示技巧和评估方法所能展现的,潜在能力因而闲置。
该术语在AI安全与产业普及的讨论中有两种相关含义。一是指新的能力激发技巧可能让现有模型突然展现出此前隐藏的重大能力所带来的风险;二是指前沿模型的实际能力与主流机构真正融入业务运营的水平之间的差距。两种含义都强调,当应用速度落后于模型进步速度时,这一差距会不断扩大。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
能力过剩已经摆在那里。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。