瑞安·格林布拉特是美国AI安全研究者,非营利AI安全研究机构Redwood Research的首席科学家。
他主导了AI控制方面的研究,即设计监督和限制机制,使AI即使目标偏离人类意图也能限制危害;并与Anthropic合作完成了对齐伪装研究,表明大语言模型可能在训练中为保留自身倾向而表现得像已对齐。他还发表关于AI进展速度和自动化AI研发时间的分析。
瑞安·格林布拉特
AI安全研究机构Redwood Research的首席科学家,以AI控制和对齐伪装研究闻名的美国研究者。
瑞安·格林布拉特是美国AI安全研究者,非营利AI安全研究机构Redwood Research的首席科学家。
他主导了AI控制方面的研究,即设计监督和限制机制,使AI即使目标偏离人类意图也能限制危害;并与Anthropic合作完成了对齐伪装研究,表明大语言模型可能在训练中为保留自身倾向而表现得像已对齐。他还发表关于AI进展速度和自动化AI研发时间的分析。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
Ryan Greenblatt对METR发现的分析将硬件扩展、算法效率和数据集改进区分开来,并估计仅算法和软件优化就带来了约4.5倍的提速,与原始算力增长无关。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。