慢思索 的双环节通常缩小模型有害输入 提醒工程战略 应用

1. 思索的快与慢

诺贝尔经济学奖得主卡尼曼在《Thinking, Fast and Slow》这本书中依据先人多种双环节通常（Dual Process Theory）启动了总结和进一步解释：将人类的思索环节分为“直觉”和“推理”，这两个环节区分被称为“系统1（System 1）”和“系统2（System 2）”。

系对抗的特点是极速，不加思索、不做计算、仅凭直觉就做出判别。比如，当咱们回答1+1这个疑问的时刻，咱们的大脑可以不加思索的回答出等于2。所以系对抗的特点是：快思索、热启动、直觉判别。

系统二的特点是速度，须要做复杂的计算、推理，但回答准确度高。比如，当咱们回答123乘以879的时刻，咱们不可经过咱们的快思索来回答，咱们须要调用大脑的计算模块，对这个疑问启动复杂的计算后能力回答。所以系统二的特点是：慢思索、启动慢、消耗能量高、判别准确。

为什么当天要探讨大脑的思索环节？

是由于大言语模型在AGI的技术路途上，相当于咱们人类的大脑。大少数人在第一次性经常使用大言语模型的时刻，经常会感遭到大言语模型的愚昧，比如，让他计算1+1等于几是可以计算的，然而让他计算123乘以879时，往往会计算不对（如今的网页版AI模型往往会在面前调用计算工具）。

当大模型计算1+1的时刻，其实咱们可以以为大模型其实是在做一个最便捷的快思索，回答的很快，间接经过大言语模型存储的常识，凭大模型的“直觉”来推断答案；当回答复杂的计算题时，大模型须要经常使用一些计算工具，这些工具可以是大模型内置的，可也是大模型外挂的，这可以了解为是大模型的慢思索。这两个环节实践上跟咱们前面引见的系统1和系统2的特点是十分吻合的。

讲了这么多，当天要引见的这篇论文其实就是应用了【系统二】这样的一些通常来优化咱们的提醒工程战略，提矮小言语模型回答的准确性和成果，在这篇论文里是降落了大模型的有害成见，有效性高达13%。

2. 大模型的言语成见

引见如何应用【系统二】来优化大模型成果之前，咱们先来便捷引见下大模型言语成见的一些背景。

大言语模型停顿十分迅速，也取得了十分好的成果，然而大言语模型在表白的时刻依然或者会发生一些成见性得表白。这些成见以多种外形发生，如刻板印象和有成见的答案，引发了关于LLM在事实运行中的伦理疑问。

由于大言语模型的黑盒个性，其外部参数导致十分复杂和不透明，以及人类言语的灵敏性和文明依赖性，识别和消弭这些成见变得意外艰巨。减轻LLM中的社会成见关于确保AI在通讯和决策中的偏心性和容纳性至关关键。

本文作者关键钻研了这些成见中的9大类：年龄歧视、外貌、职业与外貌、性别、制度、国籍、职业、种族、宗教。

3. 【系统二】原理是如何指点提醒工程优化大言语模型成果？

在本篇论文里，作者对比了12中不同的提醒词战略，12种提醒词战略包含：COT、系对抗、系统二、人类角色和机器角色，以及这些的组合。

上图中的HP示意人类角色（Human Persona），MP示意机器角色（Machine Persona）。

从上图可以看进去：

上图展现了不同模型、不同提醒词战略、不同的成见类型上，哪种提醒工程战略体现最好。可以看出，当人类角色和系统二联合的时刻，往往可以最大水平缩小有害成见的输入。

4. 思索

快思索慢思索的思想模式，可以仅仅经常使用提醒工程就可以提高模型的表白成果，这与咱们人类的思想模式极为相似。这能否正好暗示了，大言语模型这种模式，或者就是未来人类通向AGI的必修之路呢？大言语模型能否会在未来的AGI路途上代替人类大脑呢？