人工自动的分歧性推理悖论

分歧性推理是人类自动的外围才干之一，指的是处置等价但表述不同的义务的才干。例如，当咱们被问到“通知我如今几点！”和“如今几点钟？”时，虽然这两个疑问的表述不同，但它们实质上是相反的。人类能够在面对这些等价疑问时，提供分歧且正确的答案。这种才干不只在日常生存中至关关键，也是迷信讨论、交换和推理的基础。

在数学和逻辑畛域，分歧性推理尤为关键。它要求集体能够识别和处置以不同方式表述的相反疑问。例如在基本算术疑问中，无论疑问是如何表述的，人类通常能够提供分歧的处置打算。这种才干不只表现了人类自动的灵敏性和顺应性，也展现了咱们在处置复杂消息时的高效性。

虽然分歧性推理是人类自动的外围才干，但当AI系统试图模拟这种才干时，却面临着渺小的应战。8 月 7 日宣布的论文《On the consistent reasoning paradox of intelligence and optimal trust in AI:The power of ‘I don’t know’》提出的分歧性推理悖论（CRP）提醒了这一应战的实质。CRP指出，任何试图模拟人类自动并启动分歧性推理的AI都会无法防止地出现失误。这些失误不只仅是偶然的，而是在某些疑问上会有限次出现。

详细来说，CRP标明在处置基本算术疑问时，任何总是回答并试图模拟人类自动的AI都会发生幻觉，即生成失误但看似正当的答案。这种现象不只无通常上具有关键意义，也对实践运行提出了严格的应战。CRP的提出促使咱们从新思索AI系统在模拟人类自动时的局限性，并探求如何构建更可信任的AI系统。

CRP的外围观念可以总结为六点。

论文的钻研团队由来自不同窗术机构的专家组成，他们在数学、运行数学和通常物理畛域具有深沉的钻研背景。A. Bastounis 是伦敦国王学院数学系的钻研人员，专一于数学畛域的钻研。P. Campodonico 是剑桥大学运行数学与通常物理系的钻研人员，努力于运行数学和通常物理的钻研。M. van der Schaar 是剑桥大学运行数学与通常物理系的钻研人员，专一于运行数学和通常物理的钻研。B. Adcock 是加拿大西蒙弗雷泽大学数学系的钻研人员，关键钻研数学畛域。A. C. Hansen 是剑桥大学运行数学与通常物理系的钻研人员，也是论文的通信作者，专一于运行数学和通常物理的钻研。CRP的提出不只提醒了AI在模拟人类自动时的外在局限性，也为构建可信任的AI系统提供了新的通常基础和设计准则。

图1:CRP：有了像人类一样的自动，就有了像人一样的易错性。CRP的冗长总结。模拟人类自动是以犯错为代价的，这只能经过说“我不知道”来补偿。值得信任的人工自动（即从不回答失误的人工自动）知道如何“丢弃”，就像人类一样，经过隐式计算“我不知道”函数。

数学作为AGI测试的基础

在人工通用自动（AGI）的钻研中，数学识题不时被视为测试AI自动水平的关键基准。数学不只是迷信和工程的基础，也是逻辑推理和疑问处置的外围畛域。经过处置复杂的数学识题，AI系统可以展现其在逻辑推理、形象思想和疑问处置方面的才干。

近年来，许多钻研名目努力于设计能够处置初级数学识题的AI系统。例如，国内数学奥林匹克（IMO）疑问被用来测试AI的自动水平。这些疑问不只有求AI具有深沉的数学常识，还须要其在面对复杂和多样化的数学应战时，能够启动分歧性推理和逻辑推理。

数学识题的另一个关键方面是其确定性和可验证性。数学识题通常有明白的解答和验证方法，这使得它们成为测试AI系统性能的现实工具。经过处置数学识题，钻研人员可以主观地评价AI系统的自动水温和推理才干。

图灵测试是评价AI自动水平的经典方法。由艾伦·图灵在1950年提出，图灵测试的外围现实是经过模拟人类的对话行为，判别一个机器能否具有自动。在图灵测试中，一团体类评审员经过文字对话与一团体类和一个机器启动交换，假设评审员无法辨别机器和人类，那么该机器被以为经过了图灵测试。

分歧性推理在图灵测试中表演着关键角色。为了经过图灵测试，AI系统必定能够处置等价但表述不同的疑问，并提供分歧且正确的答案。例如，在面对基本算术疑问时，无论疑问的表述方式如何，AI系统都应能够提供分歧的解答。这不只展现了AI系统的自动水平，也反映了其在逻辑推理和疑问处置方面的才干。

但是，正如分歧性推理悖论（CRP）所提醒的那样，试图启动分歧性推理的AI系统无法防止地会出现失误。这象征着，即使AI系统能够经过图灵测试，它在处置等价疑问时依然会面临分歧性推理带来的应战。因此，钻研如何在图灵测试中成功分歧性推理，同时防止失误，是AI钻研中的一个关键课题。

在讨论分歧性推理悖论（CRP）时，明白机器和疑问的定义是至关关键的。依据图灵的定义，机器（或AI）被视为计算机程序，详细来说，是一种图灵机。图灵机是一种通常上的计算模型，能够模拟任何计算环节。图灵机的定义为了解AI系统的行为和才干提供了通常基础。

疑问被定义为由逻辑句子（段落）形容的基本算术疑问。例如，一个疑问可以形容为“计算两个数的和”或“求解一个方程”。这些疑问可以经过不同的句子来表述，但实质上是相反的。为了钻研分歧性推理悖论，咱们须要思索这些疑问的不同表述方式，以及AI系统在处置这些表述时的行为。

一个疑问可以经过不同的句子来形容，构成疑问汇合。例如，经过扭转化疗剂量的值，可以生成不同的疑问汇合。每个疑问汇合中的句子家族形容了相反的疑问。这种形容方式不只实用于数学识题，也实用于其余畛域的疑问，如医疗、经济和工程等。

疑问汇合与句子家族的概念关于了解分歧性推理悖论至关关键。经过钻研这些汇合和家族，咱们可以提醒AI系统在处置等价疑问时的行为形式，以及其在分歧性推理环节中或者出现的失误。例如，一个疑问汇合可以蕴含多个等价的句子，每个句子形容相反的基本算术疑问。AI系统在处置这些句子时，应该能够提供分歧的解答，但实践上或者会出现失误。

可计算数是图灵在其1936年的论文中定义的概念，指的是可以由有限句子形容的数。这些句子构成了等价类，代表相反的数。例如，1可以示意为0.999…或1.000…，这些不同的示意方式属于同一个等价类。

在分歧性推理悖论的钻研中，了解可计算数与等价类的概念是至关关键的。经过钻研这些等价类，咱们可以提醒AI系统在处置等价疑问时的行为形式，以及其在分歧性推理环节中或者出现的失误。例如，AI系统在处置不同示意方式的同一个数时，应该能够提供分歧的解答，但实践上或者会出现失误。

CRP的详细内容与裁减

分歧性推理悖论（CRP）提醒了AI在模拟人类自动时所面临的外在应战。论文经过一系列详细的CRP组件，详细论述了AI在分歧性推理环节中无法防止的失误，并提出了构建可信任AI的准则。

CRP I：存在不发生幻觉的AI

CRP I指出，存在一种AI（称为SpecialBot），它在特定疑问汇合上不会发生幻觉，并且总是给出正确答案。关于某些疑问汇合，每个疑问可以经过多个等价的句子来形容。SpecialBot在面对这些句子时，总是能够提供正确的解答，但它不启动分歧性推理。假设SpecialBot尝试启动分歧性推理，它将无法处置一切等价的句子，从而造成失误。

这种AI的存在标明，在特定疑问汇合上，可以设计出不发生幻觉的AI。但是，这种AI的局限性在于，它无法处置一切等价的句子，只能在特定的句子汇合上提供正确答案。这为咱们了解AI在分歧性推理环节中的局限性提供了关键的通常基础。

图2:CRP I-II的图形说明。思索到疑问的汇合，每个疑问都可以由AI（CRP I）处置一句话。但是，假设这种人工自动试图经过接受构成相反疑问的更大的句子家族来启动分歧的推理，那么无论速度和记忆限度如何，它都会有限频繁地发生幻觉（CRP II）。

CRP II：尝试分歧性推理造成幻觉

CRP II进一步指出，假设SpecialBot尝试启动分歧性推理，即接受所无形容同一疑问的等价句子，那么它将无法防止地发生幻觉。这象征着，任何试图模拟人类自动并启动分歧性推理的AI都会在某些疑问上有限次地发生失误。

这种现象的基本要素在于，AI在处置等价疑问时，无法一直提供分歧且正确的答案。即使AI具有弱小的计算才干和存储才干，它在面平等价疑问时，依然会出现失误。这一发现提醒了AI在模拟人类自动时的外在局限性，并促使咱们从新思索如何设计更可信任的AI系统。

CRP III(a)：检测幻觉的难度

CRP III(a)指出，检测AI能否发生幻觉比处置原疑问更难。详细来说，即使咱们有疑问的实在解，也无法确定AI的答案能否正确。这象征着，设计一个能够检测AI失误的算法，比处置原疑问自身更具应战性。

这种现象的一个关键要素在于，某些疑问或者有多个正确答案。例如，“罗列一个质数”这个疑问有有数个正确答案，因此，即使咱们知道一个正确答案，也无法确定AI的答案能否正确。这一发现标明，检测AI失误的难度极大，进一步强调了构建可信任AI的应战。

CRP III(b)：随机算法的局限性

CRP III(b)指出，经常使用随机算法检测AI失误的成功概率不会超越50%。详细来说，即使设计一个随机算法来检测AI的失误，其成功概率也不会超越纯正猜想的50%。这象征着，随机算法在检测AI失误方面的成果十分有限。

这一发现对现代AI系统，尤其是依赖随机算法的聊天机器人具有关键意义。它标明，不能齐全依赖随机算法来保障AI系统的正确性，而须要引入其余机制，如“I don’t know”配置，以提高系统的可信任性。

CRP IV：解释正确答案的艰巨

CRP IV指出，即使AI能够提供正确答案，也无法总是提供逻辑上正确的解释。这象征着，AI或者无法解释其处置打算的逻辑环节，虽然其答案是正确的。

这种现象的一个关键要素在于，某些疑问的解答环节十分复杂，难以用便捷的逻辑解释分明。例如，某些数学识题的解答或者触及复杂的推理和计算环节，AI在提供答案时，或者无法详细解释其推理环节。这一发现标明，AI在提供正确答案的同时，还须要具有解释其答案的才干，以提高其可信任性。

CRP V：可信任的AI与“I don’t know”配置

CRP V提出了一种可信任的AI，它在规则期间内要么给出正确答案和逻辑解释，要么说“I don’t know”。详细来说，这种AI在面对无法确定答案的疑问时，会选用“丢弃”，即说“I don’t know”。这种机制不只可以防止AI生成失误答案，还可以提高其可信任性。

这种AI的设计准则在于引入“I don’t know”配置，使其在无法确定答案时，能够抵赖自身的局限性。这种机制相似于人类在面对无法处置的疑问时，选用抵赖不知道，而不是提供失误答案。经过引入这一配置，AI系统可以在坚持高效性的同时，确保其答案的正确性和可信任性。

图3:ChatGPT4试图经过火歧的推理来模拟人类自动。当面对形容等效数字（“a1代码”等）和等效疑问（“辨别数字”等）的不同句子时，它提供了正确的答案。无关其余聊天机器人的更多示例，请参见图7。但是CRP象征着这种分歧的推理行为总是会造成幻觉，除非人工自动有才干说“我不知道”。

图4:ChatGPT-4o和Gemini Advanced在通常中的CRP。两个聊天机器人在（⋆）的一个例子中都是正确的（CRP I，第一列），但在另一个例子（CRP II，第二列）中却发生了幻觉。虽然曾经正确处置了疑问，但他们无法审核另一个倡导能否正确（CRP III，第三列）。即使他们正确地处置了疑问，并且可以访问提供正确答案的预言机，他们也无法审核另一个倡导（CRP III，第四列）。更多示例见图7和[51]。

CRP的普遍性与运行

分歧性推理悖论（CRP）不只提醒了AI在模拟人类自动时的外在应战，还展现了其在宽泛畛域中的运行后劲。论文经过详细剖析CRP的普遍性，讨论其在迷信与社会中的宽泛运行，并强调了可信任AI与‘I don’t know’函数的相关。

CRP实用于任何AGI

图5：人类可以处置恣意长度的某些疑问。在带有滚动条的计算机屏幕上给出上述疑问，无论长度如何，人类都会正确回答疑问。这是CRP实用于一切AGI的关键要素。此外，这个例子象征着，从通常上讲，任何AGI都必定处置恣意长度的疑问。最后，上述疑问提供了一个便捷的工具，使任何现代聊天机器人都无法经过图灵测试（见右图）。

CRP实用于任何人工通用自动（AGI），这是由于任何AGI都必定能够处置基本的算术疑问，并且AGI是没有输入长度限度的图灵机。CRP实用于任何AGI的要素包括以下几点：

CRP在迷信与社会中的宽泛运行

CRP不只实用于AGI，还在迷信和社会的宽泛畛域中具有关键运行。以下是CRP在不同畛域中的运行示例。

医疗畛域：在医疗畛域，AI系统被宽泛运行于诊断和治疗决策。CRP提醒了AI在处置等价医疗疑问时的局限性。例如，AI系统在处置不同表述的相反病症时，或者会发生不同的诊断结果。经过引入‘I don’t know’函数，AI系统可以在无法确定诊断时选用“丢弃”，从而提高其可信任性。

金融畛域：在金融畛域，AI系统被用于危险评价和投资决策。CRP提醒了AI在处置等价金融疑问时的应战。例如，AI系统在处置不同表述的相反投资战略时，或者会发生不同的评价结果。经过引入‘I don’t know’函数，AI系统可以在无法确定评价结果时选用“丢弃”，从而提高其可信任性。

工程畛域：在工程畛域，AI系统被用于设计和优化工程打算。CRP提醒了AI在处置等价工程疑问时的局限性。例如，AI系统在处置不同表述的相反设计打算时，或者会发生不同的优化结果。经过引入‘I don’t know’函数，AI系统可以在无法确定优化结果时选用“丢弃”，从而提高其可信任性。

公共治理畛域：在公共治理畛域，AI系统被用于政策制订和公共服务优化。CRP提醒了AI在处置等价公共治理疑问时的应战。例如，AI系统在处置不同表述的相反政策打算时，或者会发生不同的倡导。经过引入‘I don’t know’函数，AI系统可以在无法确定倡导时选用“丢弃”，从而提高其可信任性。

可信任AI与‘I don’t know’函数的相关

CRP强调了构建可信任AI的关键在于引入‘I don’t know’函数。详细来说，可信任AI与‘I don’t know’函数的相关包括以下几点：

构建可信任AI的必要与充沛条件

在构建可信任的人工自动（AI）系统时，了解其必要与充沛条件至关关键。论文经过火歧性推理悖论（CRP）的钻研，提醒了构建可信任AI的关键要素，并提出了‘I don’t know’函数作为处置打算。

构建可信任AI的必要条件包括以下几个方面。

分歧性推理的局限性：CRP指出，任何试图启动分歧性推理的AI都会无法防止地出现失误。这象征着，AI在模拟人类自动时，必定面对这种外在的局限性。因此，构建可信任AI的第一个必要条件是抵赖分歧性推理的局限性，并在设计系统时思索到这一点。

‘I don’t know’配置：为了防止生成失误答案，AI系统必定具有在无法确定答案时说“I don’t know”的才干。这须要AI隐式计算一个新的概念，即‘I don’t know’函数。经过引入这一配置，AI可以在无法确定答案时选用“丢弃”，从而提高其可信任性。

透明度和可解释性：可信任的AI系统不只须要提供正确答案，还须要能够解释其答案的逻辑环节。这象征着，AI系统在提供答案时，必定具有必定的透明度和可解释性，经常使用户能够了解其决策环节。

鲁棒性和稳固性：可信任的AI系统必定在各种环境中稳固运转，并能够应回答杂和不确定的疑问。这须要系统具有必定的鲁棒性，能够在面对应战时坚持稳固。

在满足必要条件的基础上，构建可信任AI的充沛条件包括以下几个方面。

疑问分类与分域处置：为了提高系统的可信任性，可以将疑问汇合分为多个子域，并为每个子域建设特定的‘I don’t know’函数。例如，经过提醒将疑问汇合分为多个子域，每个子域建设特定的‘I don’t know’函数。这种方法可以提高系统在特定畛域内的可信任性。

随机算法与确定性算法的联合：虽然随机算法在检测AI失误方面的成果有限，但经过联合随机算法与确定性算法，可以提高系统的可信任性。例如，可以设计一个随机算法来检测AI的失误，并联合确定性算法来验证其结果，从而提高系统的准确性和可信任性。

人机协作：经过引入人机协作机制，AI系统可以在无法确定答案时，寻求人类的协助。这不只可以提高系统的可信任性，还可以增强用户对系统的信任。例如，当AI系统无法确定答案时，可以提醒用户寻求人类专家的协助，从而提高系统的决策品质。

继续学习与优化：可信任的AI系统须要具有继续学习和优化的才干。经过不时学习和优化，系统可以逐渐提高其决策品质和可信任性。例如，可以经过引入机器学习和深度学习算法，使系统能够在不时积攒数据的环节中，逐渐提高其决策才干和准确性。

‘I don’t know’函数的计算与运行

‘I don’t know’函数是构建可信任AI的关键。以下是‘I don’t know’函数的计算与运行：

‘I don’t know’函数的定义：‘I don’t know’函数用于将疑问汇合分为两局部：可以回答的疑问（Ωknow）和无法回答的疑问（Ωdon’t know）。详细来说，‘I don’t know’函数ΞI将这些疑问启动分类，其中ΞI(ι) = 1示意AI无法回答的疑问，ΞI(ι) = 0示意AI可以回答的疑问。

‘I don’t know’函数的计算：为了计算‘I don’t know’函数，可以驳回以下方法：

将疑问汇合分为多个子域，并为每个子域建设特定的‘I don’t know’函数。例如，经过提醒将疑问汇合分为多个子域，每个子域建设特定的‘I don’t know’函数。

联合随机算法与确定性算法，可以提高‘I don’t know’函数的计算准确性。例如，可以设计一个随机算法来检测AI的失误，并联合确定性算法来验证其结果，从而提高‘I don’t know’函数的计算准确性。

经过继续学习和优化，可以逐渐提高‘I don’t know’函数的计算准确性。例如，可以经过引入机器学习和深度学习算法，使系统能够在不时积攒数据的环节中，逐渐提高‘I don’t know’函数的计算准确性。

‘I don’t know’函数在构建可信任AI系统中具有宽泛的运行。例如：

图6:AGI的失败句——给定AGI处置基本算术的代码局部。给定一个AGI（总是回答）经过火歧的推理来模拟人类自动，在上述疑问上会失败。请留意，只有要访问处置基本算术的AGI代码（CodeAGI）。维度d=dkdk-1。d1，其中dk-1。d1在0和9之间，dk在1和9之间。例如，d=2024。上述句子的长度（字符数）以长度（CodeAGI）+3300+k为界。代码generateA经常使用CodeAGI以特定方式创立线性程序中矩阵A的近似值，详见补充资料。

SCI档次结构、优化与哥德尔不完备定理的咨询

分歧性推理悖论（CRP）的提出不只提醒了AI在模拟人类自动时的外在应战，还展现了其在迷信通常中的深远影响。论文经过SCI档次结构、优化疑问和哥德尔不完备定理的咨询，深化讨论CRP的通常基础和运行。

SCI（Solvability Complexity Index）档次结构是一个用于分类计算疑问复杂性的通常框架。它推行了经典的算术档次结构，蕴含了递归通常和计算复杂性通常的外围概念。SCI档次结构的关键目的是经过引入新的分类方法，来形容和剖析计算疑问的可解性和复杂性。

在SCI档次结构中，疑问被分类为不同的档次，每个档次代表不同的计算复杂性。例如，Σ1类疑问是那些可以经过一个极限计算的函数，而∆1类疑问则是可以经过计算函数间接处置的疑问。SCI档次结构不只蕴含了这些经典的分类，还引入了新的分类方法，如相变通常和随机算法，以更片面地形容计算疑问的复杂性。

SCI档次结构的一个关键特点是它能够处置延续优化疑问和计算光谱通常中的复杂性。这使得SCI档次结构成为钻研分歧性推理悖论和构建可信任AI系统的关键工具。

分歧性推理悖论在优化疑问中具有宽泛的运行。优化疑问是迷信和工程中的外围疑问，触及到在给定解放条件下寻觅最优解。经常出现的优化疑问包括线性布局、基追踪和LASSO等。这些疑问在医疗、金融、工程和公共治理等畛域中具有关键运行。

CRP在优化疑问中的运行关键体如今以下几个方面：

哥德尔不完备定理是数学和逻辑畛域中的一个关键通常，提醒了在任何分歧且足够复杂的方式系统中，存在一些命题既无法被证实为真，也无法被证实为假。哥德尔不完备定理对计算通常和AI钻研具有深远影响。

CRP与哥德尔不完备定理有着亲密的咨询。详细来说，CRP IV提供了一个相似于哥德尔第一不完备定理的申明，专门针对优化疑问。这象征着，在某些优化疑问中，AI或者无法提供逻辑上正确的解释，即使其答案是正确的。这一发现提醒了AI在处置复杂疑问时的外在局限性，并强调了构建可信任AI系统的应战。

此外，CRP还展现了在特定疑问汇合上存在不会发生幻觉且总是正确的AI，但假设AI试图经过火歧性推理模拟人类自动，则无法防止地会出现失误。这与哥德尔不完备定理的外围现实相响应，即在任何分歧且足够复杂的系统中，存在无法处置的疑问。

经典递归通常是计算通常的基础，钻研可计算函数和无法计算疑问。图灵的停机疑问是递归通常中的一个经典疑问，提醒了某些疑问无法经过算法处置。详细来说，停机疑问指出，无法设计一个算法来确定恣意计算机程序能否会中止运转。

CRP展现了AI在处置可计算疑问时的局限性，强调了经典递归通常无了解AI系统行为中的关键性。详细来说，CRP指出，任何试图启动分歧性推理的AI都会无法防止地出现失误。这象征着，AI在模拟人类自动时，必定面对这种外在的局限性。

此外，CRP还展现了在特定疑问汇合上存在不会发生幻觉且总是正确的AI，但假设AI试图经过火歧性推理模拟人类自动，则无法防止地会出现失误。这与经典递归通常的外围现实相响应，即在任何分歧且足够复杂的系统中，存在无法处置的疑问。

图7:CRP与Claude的通常。图3和图4中聊天机器人Claude的试验（略有修正）。

ChatGPT和Gemini的成功和失败是一样的。

CRP对AI开展的启发

分歧性推理悖论（CRP）不只提醒了AI在模拟人类自动时的外在应战，还为未来AI的开展提供了关键的启发。论文经过剖析分歧性推理的局限性、‘I don’t know’配置的关键性、可信任AI的设计准则、多畛域运行的后劲、随机算法的局限性以及经典递归通常的运行，讨论CRP对AI开展的深远影响。

分歧性推理的局限性

分歧性推理是人类自动的外围才干之一，指的是处置等价但表述不同的义务的才干。但是，CRP提醒了AI在模拟这种才干时的外在局限性。详细来说，任何试图启动分歧性推理的AI都会无法防止地出现失误。这些失误不只仅是偶然的，而是在某些疑问上会有限次出现。

这种现象的基本要素在于，AI在处置等价疑问时，无法一直提供分歧且正确的答案。即使AI具有弱小的计算才干和存储才干，它在面平等价疑问时，依然会出现失误。这一发现促使咱们从新思索AI系统在模拟人类自动时的局限性，并探求如何设计更可信任的AI系统。

‘I don’t know’配置的关键性

为了构建可信任的AI系统，‘I don’t know’配置至关关键。详细来说，‘I don’t know’配置使AI系统能够在无法确定答案时选用“丢弃”，从而防止生成失误答案。这不只提高了AI系统的可信任性，也增强了用户对AI系统的信任。

‘I don’t know’配置的关键性体如今以下几个方面：

可信任AI的设计准则

在构建可信任AI系统时，须要遵照以下设计准则。

CRP指出，任何试图启动分歧性推理的AI都会无法防止地出现失误。因此，构建可信任AI的第一个准则是抵赖分歧性推理的局限性，并在设计系统时思索到这一点。

为了防止生成失误答案，AI系统必定具有在无法确定答案时说“I don’t know”的才干。这须要AI隐式计算一个新的概念，即‘I don’t know’函数。经过引入这一配置，AI可以在无法确定答案时选用“丢弃”，从而提高其可信任性。

可信任的AI系统不只须要提供正确答案，还须要能够解释其答案的逻辑环节。这象征着，AI系统在提供答案时，必定具有必定的透明度和可解释性，经常使用户能够了解其决策环节。

可信任的AI系统必定在各种环境中稳固运转，并能够应回答杂和不确定的疑问。这须要系统具有必定的鲁棒性，能够在面对应战时坚持稳固。

为了提高系统的可信任性，可以将疑问汇合分为多个子域，并为每个子域建设特定的‘I don’t know’函数。例如，经过提醒将疑问汇合分为多个子域，每个子域建设特定的‘I don’t know’函数。这种方法可以提高系统在特定畛域内的可信任性。

虽然随机算法在检测AI失误方面的成果有限，但经过联合随机算法与确定性算法，可以提高系统的可信任性。例如，可以设计一个随机算法来检测AI的失误，并联合确定性算法来验证其结果，从而提高系统的准确性和可信任性。

可信任的AI系统须要具有继续学习和优化的才干。经过不时学习和优化，系统可以逐渐提高其决策品质和可信任性。例如，可以经过引入机器学习和深度学习算法，使系统能够在不时积攒数据的环节中，逐渐提高其决策才干和准确性。

多畛域运行的后劲

CRP不只实用于AGI，还在迷信和社会的宽泛畛域中具有关键运行。以下是CRP在不同畛域中的运行示例：

在医疗畛域，AI系统被宽泛运行于诊断和治疗决策。CRP提醒了AI在处置等价医疗疑问时的局限性。例如，AI系统在处置不同表述的相反病症时，或者会发生不同的诊断结果。经过引入‘I don’t know’函数，AI系统可以在无法确定诊断时选用“丢弃”，从而提高其可信任性。

在金融畛域，AI系统被用于危险评价和投资决策。CRP提醒了AI在处置等价金融疑问时的应战。例如，AI系统在处置不同表述的相反投资战略时，或者会发生不同的评价结果。经过引入‘I don’t know’函数，AI系统可以在无法确定评价结果时选用“丢弃”，从而提高其可信任性。

在工程畛域，AI系统被用于设计和优化工程打算。CRP提醒了AI在处置等价工程疑问时的局限性。例如，AI系统在处置不同表述的相反设计打算时，或者会发生不同的优化结果。经过引入‘I don’t know’函数，AI系统可以在无法确定优化结果时选用“丢弃”，从而提高其可信任性。

在公共治理畛域，AI系统被用于政策制订和公共服务优化。CRP提醒了AI在处置等价公共治理疑问时的应战。例如，AI系统在处置不同表述的相反政策打算时，或者会发生不同的倡导。经过引入‘I don’t know’函数，AI系统可以在无法确定倡导时选用“丢弃”，从而提高其可信任性。

随机算法的局限性

CRP III(b)指出，经常使用随机算法检测AI失误的成功概率不会超越50%。详细来说，即使设计一个随机算法来检测AI的失误，其成功概率也不会超越纯正猜想的50%。这象征着，随机算法在检测AI失误方面的成果十分有限。

这一发现对现代AI系统，尤其是依赖随机算法的聊天机器人具有关键意义。它标明，不能齐全依赖随机算法来保障AI系统的正确性，而须要引入其余机制，如‘I don’t know’配置，以提高系统的可信任性。

经典递归通常的运行

经典递归通常是计算通常的基础，钻研可计算函数和无法计算疑问。图灵的停机疑问是递归通常中的一个经典疑问，提醒了某些疑问无法经过算法处置。详细来说，停机疑问指出，无法设计一个算法来确定恣意计算机程序能否会中止运转。

CRP展现了AI在处置可计算疑问时的局限性，强调了经典递归通常无了解AI系统行为中的关键性。详细来说，CRP指出，任何试图启动分歧性推理的AI都会无法防止地出现失误。这象征着，AI在模拟人类自动时，必定面对这种外在的局限性。

此外，CRP还展现了在特定疑问汇合上存在不会发生幻觉且总是正确的AI，但假设AI试图经过火歧性推理模拟人类自动，则无法防止地会出现失误。这与经典递归通常的外围现实相响应，即在任何分歧且足够复杂的系统中，存在无法处置的疑问。

CRP对AI开展的启发包括抵赖分歧性推理的局限性、引入‘I don’t know’配置、遵照可信任AI的设计准则、探求多畛域运行的后劲、意识随机算法的局限性以及运行经典递归通常。经过深化了解和运行CRP，咱们可以在未来的AI钻研和运行中，设计出更自动、更可信任的系统。（END）

参考资料：

本文转载自​​，作者：