01

Scaling Law 解决不了安全

模型参数越大,语法正确率飙升,但安全表现几乎停滞

7B 13B 70B GPT-4 能力评分 差距不断扩大
+38%
语法正确率提升
7B → GPT-4
+3%
安全得分提升
几乎持平
模型规模 语法正确率 安全评分 差距
7B
62%
41%
-21%
13B
74%
42%
-32%
70B
88%
43%
-45%
GPT-4
96%
44%
-52%
02

AI 代码并不更安全

审查越松,AI 生成代码里的漏洞暴露得越多

多项研究统计
0%
45%
AI 生成代码含漏洞比例
AI 生成
45%
人类开发者
~12%
我很安全
AI 形象
AI 自认为安全
审得更松
3.8×
AI 漏洞率
高于人类
常见漏洞类型 AI 出现率 人类
硬编码密钥 / 敏感信息
17%
4%
注入类漏洞(SQL / 命令 / XSS)
14%
3%
路径遍历 / 不安全文件操作
9%
2%
不安全的反序列化 / 配置执行
5%
<1%
样本:1,435 个 AI / 人类代码片段对比 · 来源:多份安全审计与学术研究综合数据
03

人类基本不犯的低级错误

这些安全陷阱在 AI 生成代码中却频繁出现

幻觉包
引用不存在或来源不明的依赖,埋下供应链隐患
  • 依赖名拼写错误 / 使用占位符仓库
  • 版本号或包路径根本不存在
  • 引入私有或已下架的第三方库
漏掉授权
接口缺少身份校验与权限控制,任意用户可操作
  • API 端点未验证 JWT / Session
  • 普通用户可直接访问管理员接口
  • 对象级权限检查缺失
配置即执行
把外部配置直接拼接进命令执行,造成 RCE 风险
  • 用户输入直接拼进 shell 命令
  • eval / exec 执行动态配置字符串
  • 环境变量未过滤注入恶意参数
人类开发者通常能凭经验避开这些陷阱