Scaling Law 解决不了安全
模型参数越大,语法正确率飙升,但安全表现几乎停滞
+38%
语法正确率提升
7B → GPT-4
7B → GPT-4
+3%
安全得分提升
几乎持平
几乎持平
| 模型规模 | 语法正确率 | 安全评分 | 差距 |
|---|---|---|---|
| 7B |
62%
|
41%
|
-21% |
| 13B |
74%
|
42%
|
-32% |
| 70B |
88%
|
43%
|
-45% |
| GPT-4 |
96%
|
44%
|
-52% |