#递归自我改进
带有“递归自我改进”标签的文章4篇
标签文章
按从新到旧显示带有“递归自我改进”标签的文章。
AI资讯METR独立评估:Anthropic研发速度翻倍,八成归功于AI工具
METR评估:Anthropic研发提速约2倍,约80%归功于AI工具。合理区间为1.3倍到3倍,算力证据应Anthropic要求被删节。拐点出现在2025年末Claude Opus 4.5发布之后。瓶颈已从写代码转向想法和可用算力,加强审查与问题定义。访问为协商式,中途取消算力分配核查,结论属中心估计。
AI资讯Anthropic S-1披露递归自我改进临近,加速因子约0.5
Anthropic的S-1称可能很快触及递归自我改进门槛。门槛为核心研发效率较无AI基线提升2倍。一位研究者换算为加速因子约0.5,未达自我维持的1。据估计财富500强企业仅1%员工充分使用AI订阅。部署AI应梳理端到端流程并配套培训,争取高层支持。
AI资讯METR报告称AI能力增长提速两倍,最有力证据却被删除
METR报告估计AI能力提升速度约为此前趋势的2倍。主因是AI加快了构建下一代模型的工程师的工作。最有力证据因Anthropic不允许公开而被删除。仅算法与软件优化估计带来约4.5倍提速。判断时应更看重长周期真实任务的端到端表现。
AI伦理哈萨比斯警告:闭环自我改进是通向AGI最危险的路径
哈萨比斯称无人核查的闭环自我改进是通向AGI最危险路径。当前AI编码工具让工程师效率提高三到五倍,仍由人类审查。他主张沙箱、持续监控、形式化保证和跨实验室互相红队测试。现有AI系统无主观体验证据,专家对此仍有分歧。各国与其从零训练基础模型,不如投入垂直应用和数据治理。