分类器

classifier

分类器是将输入数据划分到预先设定的若干类别之一的机器学习模型或算法。

11篇文章最近提及

分类器是将输入数据划分到预先设定的若干类别之一的模型或算法。它用于结果为离散类别的任务,例如垃圾邮件判定、图像中的物体识别和文本情感分析。它与预测连续数值的回归相区别。

在LLM系统中,通常会在生成模型前后放置轻量级分类器,用于筛查提示中是否含有敏感信息或攻击、根据请求性质将其路由到合适的模型,或检查输出是否违反策略。由于分类器远比大型生成模型小且快,常被部署为安全防护和路由流程的第一环。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • Claude Code 新用法:把五件手动工作交给模型与环境AI应用 ·

    批准 逐条确认命令,或干脆跳过权限检查 自动模式及其分类器

    阅读文章
  • 决策模型:让AI智能体更快、更省地做出路由判断AI应用 ·

    Mastra是一个用于构建智能体的开源TypeScript框架,内置了面向这类模型的分类器原语,提供三种问题类型。

    阅读文章
  • Claude Fable 5.2提示词十项调整:效果设高,清理旧指令AI应用 ·

    Anthropic 的模型现在内置了一个自动安全分类器,专门监测模型蒸馏企图,也就是试图提取模型内部推理去训练另一个系统的行为。

    阅读文章
  • AI论文评审超越人类专家,学术界该依赖什么、守住什么AI资讯 ·

    Anthropic表示,其安全设计借鉴了Claude Code和Claude in Chrome,包括自动模式分类器和凭据保护机制,旨在防止删除文件等未经授权的操作。

    阅读文章
  • Coder的本地AI实践:后台机器人月成本从$1,750降至$11AI性能 ·

    网关上的轻量级分类器可以在任何 token 到达模型之前拦下工资记录等敏感材料,还能判断一个查询是否根本不需要 LLM。

    阅读文章
  • Anthropic收紧Claude:订阅买到的只是可随时更改的访问权AI资讯 ·

    6月30日,Anthropic发表文章为其所称的“安全余量”辩护,公开表示会把分类器调校到对很可能无害的提示词也会触发,以此把越狱挡在门外。

    阅读文章
  • 智能平面:模型与数据同质化后,企业智能体的真正护城河AI应用 ·

    现代流水线可以在全部十步都使用学习模型:路由模型、输入防护分类器、语义缓存验证器、嵌入器与重排器、查询规划器、推理大语言模型、决策模型、记忆管理器、输出检查裁判模型,以及数据库内推理。

    阅读文章
  • 花旗误转$8.939亿的教训:给AI智能体装上刹车AI安全 ·

    所提出的架构由五项协同工作的专门控制组成:智能体注册(Agent Registry)、风险因子评分(Risk Factor Scoring)、活动控制(Activity Controls)、评估(Evaluations)和自动模式分类器(Auto Mode Classifiers)。

    阅读文章
  • AI写的代码如何审查,Claude Code团队的五层把关与分级审批AI应用 ·

    每个PR的风险等级由一个AI分类器判定,另一个独立的分类器再复核是否需要人工监督。

    阅读文章
  • OpenAI Decisions API:只做选择的AI的7种用法AI应用 ·

    从能发现走神的专注计时器到视频粗剪工具,用7个实际项目来检验,可以清楚看到这种快速、低价的分类器在哪些场合胜过聊天模型,又在哪些地方力有不逮。

    阅读文章
  • AI安全的三道信任边界:网页、RAG文档与模型文件AI安全 ·

    在一项受控测试中,一个普通的文本分类模型被成功保存并加载。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。