第一周避坑
Pitfalls · 新手必看
一句话定义
第一周避坑:新手最容易踩的四个坑——幻觉、知识截止、隐私泄露、过度信任。提前知道,少走弯路。
核心逻辑
大模型本质是「根据上文预测下一个字」,它不判断真假,只判断像不像。所以它会非常流畅地编一个不存在的东西,而且语气自信。这就是为什么人必须在最后把关。
能干什么(避坑场景)
- 写邮件:让 AI 起草,但你要自己检查收件人、附件、具体日期。
- 查资料:AI 给的论文、链接、数据,一定要去原网站核对。
- 写代码:AI 写的代码要跑一遍,不要直接上线。
- 处理敏感信息:身份证、合同、客户数据,不要粘进公共对话框。
- 做决策:AI 给的方案只能当参考,最终选择你自己负责。
客观优势 / 局限
优势:知道这些坑之后,你可以把 AI 用得更放心,效率反而更高。
局限:即使知道坑,也不能完全避免——它编的东西有时候特别像真的,需要你保持怀疑。
常见误区
- 误区一:换个更强的模型就不会幻觉。——更强的模型只是幻觉更少,不是没有。
- 误区二:免费版才会幻觉,付费版就不会。——付费版一样会。
- 误区三:它语气越自信越可信。——恰恰相反,它对错误答案也很自信。
实操步骤
1. 每次让它引用具体事实,结尾加一句「不确定的地方请说明」。
2. 重要信息自己再查一遍,尤其是数字、人名、网址。
3. 敏感信息先脱敏:把姓名换成「张三」,把公司名换成「某公司」。
4. 把它的输出当草稿,不要当成品。