首页 / 避坑指南

什么时候别用 AI(避坑指南)

大多数教程只教你“怎么上手”,却很少告诉你“什么时候别用”。这里是一份带观点的清单,帮你在动手前少走弯路、少花冤柉钱。

1

简单分类 / 信息抽取,别一上来就用最贵的旗舰模型

别急着:用顶配 GPT/Claude 跑标签分类、字段抽取这类结构化小任务。

为什么:这类任务小模型甚至规则就能做好,旗舰模型贵几十倍且更慢。

更好的做法:先用小模型(mini / flash / 本地开源)或规则,做不好再升级。

2

文档很少时,别为了 RAG 而 RAG

别急着:只有几十页文档就搭向量库 + 检索链路。

为什么:小语料下 RAG 的工程复杂度与出错面远大于收益,还会引入检索噪声。

更好的做法:直接把文档放进长上下文模型,等数据量真正大了再上检索。

3

别把专用向量数据库当成第一步

别急着:项目一开始就引入一套专用向量数据库服务。

为什么:初期数据量下,关键词 / BM25 或 SQLite / pgvector 就够用,运维成本更低。

更好的做法:先用嵌入式方案(SQLite / Postgres 扩展),规模上去再迁移到专用库。

4

一次调用能搞定的事,别套 Agent 框架

别急着:为简单任务搭多步 Agent / 工具链。

为什么:多步 Agent 增加了失败面、延迟与成本,调试也更难。

更好的做法:能用一次带结构化输出的调用完成,就不要上 Agent;确实需要多步再引入。

5

请求量不大时,别过早自建推理

别急着:为了“省钱”提前买 GPU 自建推理服务。

为什么:低利用率下,GPU 闲置与运维人力反而比调 API 更贵。

更好的做法:先用 API,用成本沙盘算清楚盈亏平衡点,真正超过再自建。

6

选模型,别只看榜单跑分

别急着:看到某模型榜单第一就直接上生产。

为什么:公开榜单与你的真实任务分布往往不一致,还可能有数据污染。

更好的做法:用你自己的数据做小样本实测,再用模型擂台对比关键维度。

7

提示词别只写一句话

别急着:把复杂任务压成一句笼统的提示词。

为什么:缺少角色 / 受众 / 格式 / 质量标准 / 示例,输出就会飘忽不定。

更好的做法:用可参数化提示词生成器补齐约束,把“你是谁 / 给谁看 / 要什么格式”说清楚。

8

别忽视数据合规与许可证

别急着:把敏感数据随意发给境外 API,或把开源模型直接商用。

为什么:国内业务需注意数据出境合规;部分开源权重对商用有限制。

更好的做法:优先国内直连 / 可自托管方案,上线前确认数据流向与模型许可证。

9

别把免费额度当成生产依赖

别急着:用免费 / 试用额度支撑正式业务流量。

为什么:免费额度有限速、稳定性与条款变化风险,随时可能断供。

更好的做法:免费额度用于原型 / 低峰兼备,生产链路准备付费兼容方案与降级预案。

以上为编辑观点,用于启发判断;具体取舍请结合你的数据规模、团队能力与合规要求。想快速得到组合建议,可用 AI 选型决策引擎成本沙盘