测算与判断：人工智能的终极未来

测算与判断：人工智能的终极未来
🤖 人工智能的终极未来
引言
“人工智能的发展不仅关乎技术的进步，更与哲学、伦理、认知等多个领域息息相关。”

人工智能的历史背景
第一波人工智能
时间：20世纪六七十年代
特点：
强调计算机的超强能力
依赖符号表示
受到广泛关注与期待
局限性：
系统脆弱，难以应对复杂的现实世界
随着任务自动化，人们对智能的需求减弱
第二波人工智能
特点：
基于深度学习和大数据的统计模式
引起了新的兴奋与担忧
现状：
虽然取得了一些成功（如围棋程序、机器翻译），但仍存在许多局限性
对未来发展持审慎态度的科学家日益增多
人工智能的核心问题
智能的本质
定义：智能不仅是自然进化的产物，也是人类设计的实体
挑战：理解智能的种类，以及机器与人类之间的智能差异
测算能力与判断能力
能力类型 定义 特点
测算能力 计算机和人工智能系统表现出的卓越效用和算力 缺乏道德保证和深刻的语境意识
判断能力 人类思维的表现形式，需具备道德承诺和责任感 超越个体存在，依赖于文化和历史
本体论与认识论
本体论：探讨人工智能与现实世界的关系
认识论：理解人工智能如何处理信息并做出决策
关键假设与原则
四个假设
智能的本质是思考，并且大致上是理性的思考。
思考的理想模式是逻辑推理。
感知的水平比思维低。
理性思考是智能的核心。
四条原则
原则一：不应将辩论框定在人与机器之间
原则二：避免术语的混淆，明确智能的定义
原则三：从整体上理解智能的性质与发展
原则四：关注合成智能的发展及其对人类的影响
未来展望
目标：理解人工智能的能力、责任与道德
任务：探索如何与人工智能协同工作，提升判断能力与道德意识
提问：
未来人工智能将如何影响人类的生活与工作？
我们如何确保人工智能的道德责任与社会担当？
结尾
“通过对人工智能的深入思考，我们不仅能了解技术本身，更能探索人类与机器之间的关系，以及我们在这一新世界中的位置和角色。”

🧠 人工智能的本体论与形式化
世界的本体论结构
“世界由离散的、定义明确的中等尺度的对象构成，对象有明确的属性，对象之间有明确的关系。”

本体论：研究存在、现实及其组成部分的哲学分支。
人工智能的初始定义
在人工智能的早期，**“智能”**一词没有明确的定义。
目标是建立一台能够模仿人类思考能力的机器。
人工智能的发展方向
主要心理活动范围
心理活动 描述
感知 机器对外部世界输入的理解。
行动 机器基于理解做出的响应。
分类 机器对信息进行组织和分类的能力。
情感 机器对情感状态的理解与处理。
认知发展 机器对知识的获取和应用。
逻辑与计算的关系
本体论与逻辑的假设有助于理解人工智能的逻辑结构。
计算能力的理解需要结合19世纪和20世纪的逻辑研究进展。
人工智能的四个关键原则
P1：科学原理的机械运作
该系统以符合科学原理的机械方式进行工作。
机器不需要超自然力量或魔法。
P2：语义解释的支持
系统的行为和组成部分能够支持语义解释。
机器的输出与外部世界的事实和情况相关。
P3：规范性评估
系统的功能与其被解释为代表的内容的评估相关。
P4：语义关系的非有效性
语义关系在因果性上无法直接检测。
理解计算机的两种方式
语义解释：从表征所指代的现实世界进行理解。
因果机制：从机器内部的工作机制进行理解。
表征的必要性
表征：对世界的理解和描述。
表征的两个标准属性：
与不直接有效的事物处于非有效的语义关系。
仍可在因果相近的范围内影响物理变化。
表征特令
“一切面向世界的系统的正常运作，都必须将其机制的运作统摄在规范性准则的支配下。”

表征的有效性取决于其与现实世界的对应关系。
连接与断开的模式
世界的理解需要部分连接与部分断开的模式，才能支持智能和表征的存在。
这对系统的智能处理提出了根本的要求。
老派人工智能的局限性
F1：神经学方面
大脑的工作原理与老派人工智能截然不同，强调大规模的并行处理。
F2：感知方面
感知的复杂性超出了老派人工智能的预期，现实世界的感知极其困难。
F3：认识论方面
智能不仅仅是理性推理，而是应对和导航个人与社会交往的能力。
结论
人工智能的发展与理解不仅依赖于逻辑和计算的理论基础，更与本体论对世界的认识密切相关。

🧠 本体论与人工智能
本体论的误解
“关于感知的误解，也许还有关于思维的误解，暴露出第一波人工智能失败的更深层次原因：包括业已提到的C4在内的假设，以世界从本体论上被整齐地分割为所谓的离散对象。”

人工智能的第一波失败
第一波人工智能的失败源于对本体论的误解。
本体论形式化的不足影响了智能模型的构建。
本体论的重要性
本体论的问题不仅影响感知，还影响认识论。
理解本体论是理解第二波人工智能进展的关键。
非概念性内容
“非概念性内容是一个哲学术语，用来解释一个其实非常显然的事实，即人类有能力思考和做出判断，这些思考和判断是植根于世界的样子的。”

经典例子
骑自行车的速度和个人空间中的位置无法明确用离散概念描述。
阿德里安·库辛斯的例子：无法用公共概念准确描述位置。
模拟表征
模拟表征是以表征媒介中相似的实值量来表征待解问题的领域。
属性与属性之间的对应关系通常在更高的抽象级别上具备离散特性。
认识论与智能
许多理解并不依赖于概念性形式。
现象学、行动主义、连接主义等学派均强调无意识背景下的智能产生。
图示与隐喻
图3.3
安大略乔治亚湾一些岛屿的照片：现实世界的地形与老派人工智能的假设不兼容。
图3.4
简化后的安大略乔治亚湾岛屿照片：呈现出概念模型应有的清晰与明确。
图3.5
水下地形的安大略乔治亚湾岛屿照片：显示了细节要求越高，可能的区分越多。
人工智能的挑战
人工智能需要处理实际意义上的现实，而非我们所认为的现实。
需要解释对象、属性和关系，以理解世界的丰富性。
常识与人工智能
常识问题
老派人工智能在常识推理方面的失败源于对现实世界的误解。
CYC项目试图通过逻辑表征编码常识，但未能取得预期效果。
理论家与系统的注记
理论家的注记与系统的注记不一定一致。
理论家对世界的科学注记可能与系统的非科学注记有脱节。
结论
“老派人工智能的本体论假定、对注记的细微差别视而不见以及对世界丰富程度的认识不足，是常识方面的表现令人失望的主要原因。”

🧠 机器学习与人工智能

1. 机器学习的基本概念
   “机器学习本质上是一套用于统计技术的工具，目的是模式的统计分类和预测，基于样本数据，使用互连的处理器结构和多层排列。”

机器学习的特点
特点 描述
统计分类与预测 通过对样本数据进行分析来进行预测和分类
大规模数据 基于大量的样本数据进行学习
处理结构 使用互连的处理器结构
多层排列 采用多层次的网络结构
2. 神经网络的拓扑结构
“这些技术在通常被称为‘神经网络’的架构中实现，因为它们的拓扑结构与大脑在神经层次上的组织方式相似。”

神经网络的架构
神经网络模仿人类大脑的结构，通过节点（神经元）和连接（突触）来处理信息。
图5.1展示了一种通常的描述机器学习的方式，强调了其与大脑结构的相似性。
3. 老派人工智能与机器学习的对比
对比表
特征 老派人工智能 机器学习
推理深度 深（多步）推理 浅（少步）推理
处理方式 采用串行过程 使用大规模并行处理
信息量 少量信息 海量信息
变量数量 涉及的变量数相对较少 涉及的变量数相对较多
相关性 强相关变量 弱相关变量
4. 机器学习的成功案例
“人脸识别被广泛吹捧为机器学习的成功范例，但该术语过分夸大了正在发生的事情。”

人脸识别的实际含义
人脸识别是机器学习系统学习的人脸图像与名字之间的映射。
该系统能够“识别”人脸，但实际是基于与人类已知信息的关联。
5. 学习与训练
机器学习的训练特性
“机器学习系统最重要的特性是它们可以被训练。”

使用贝叶斯和其他统计推断形式实现的学习能力，是人工智能的一个“圣杯”。
训练机器学习系统需要大量的数据和计算能力。
6. 数据与计算能力
数据的重要性
“机器学习目前是一种‘后大数据’发展。”

训练机器学习系统需要大量数据，算法对信息进行分类、筛选和分割。
训练算法需要惊人的计算能力，如利用GPU（图形处理单元）进行并行处理。
7. 机器学习的局限性与挑战
主要局限性
机器学习并不采纳任何特定的本体论理论，因而只能得出间接结论。
机器学习系统的成功并不意味着它们理解了思维的本质。
人工智能的未来
当前的研究状态混乱，但对机器学习的成功与局限性有深入的反思是必要的。
未来的研究需要整合第一波和第二波人工智能的优势，探索新的发展方向。
🧠 人工智能与本体论挑战
本体论结构与人工智能
“如果正如事实可能证明的那样，世界的本体论结构要求用大规模并行网络进行解释，那么人工智能拥有这样的架构就有充分的理由了。”

人工智能架构的相似性
人工智能与人脑的架构相似性是因为它们可能遵循相同的本体论结构，而非人工智能需要模拟大脑。
特征与人脸识别
“是否有少数特征就足以支持人脸识别，可能尚未被理论家所发现。”

特征提取与机器学习
人脸识别中的特征提取可能与机器学习系统当前的成功密切相关。
机器学习系统通过物理光构型的记录来提取特征。
对抗样本与感知能力
“对抗样本的存在表明，当代的系统实际上可能根本不具备感知能力。”

感知能力的局限性
当代系统的能力可能仅限于图像模式匹配，而非真正的感知。
本体论的经典意义
“本体论是关于现实和存在的本质的形而上学的一个分支。”

本体论的重新定义
在计算语境中，本体论指的是表征现实的结构，如类别、数据结构类型等。
数据的偏差与机器学习
“数据是机器学习结果的主要偏差所在。”

数据的影响因素
影响因素 描述
数据的形式与内容 数据的选择、使用情况等相关因素。
算法的要求 需要特定方式形成数据集，但数据本身可能带有偏见。
认识论挑战：实现通用智能的根本障碍
老派人工智能的优势
老派人工智能具备“条分缕析地推理”的能力，包括蕴含、否定、量化、假设等结构化命题链。
条理化推理的特点
特点 描述
同一性与非同一性 例如：“塔利就是西塞罗”，“面包师不是我的姨妈希尔达”。
量化 例如：“每一个加拿大人都有一顶御寒帽”。
逻辑运算符 与、非、包含等逻辑关系。
集合 例如：“总裁、副总裁和财务主管”。
逻辑与本体论的关系
老派人工智能未能将抽象和概念符号化扎根于丰富的本体论资源，导致其脱离现实。
人工智能的智能模型
逻辑学背景下的智能模型
理解智能模型需在逻辑学背景下进行，强调明确的概念与逻辑关系。
非概念性推理的应用
机器学习系统不依赖于完美的分类，反而能够展现强大的能力。
智能系统的七个要求

1. 指向性
   “系统必须面向它所表征的东西，而不仅仅面向系统的表征或相关表征。”

系统需具备真正的指向能力，能够理解与其交互的对象。
2. 物体的存在
系统需具备识别对象存在的能力，尊崇其所表征的世界。
对象的存在与智能
人工智能系统的局限性
当前的人工智能系统无法真正理解其输出的意义，只能进行表面的“理解”。
真正智能的必要性
需构建能够真正理解和尊崇其所表征的世界的智能系统，而非仅依赖于数据和算法。
🌍 表征与现实
表征系统的作用
“表征系统的作用在于让系统对自身的动作负责，并通过一个庞大的社会实践网络，使系统能够适当地行动。”

表象与现实的区分
系统必须能够将对象与对象的表征区分开，尊重前者而非后者。
仅使用引号或元层次数据结构是不够的，系统必须能够识别对象与其表征之间的不同。
智能的要求
为了真正具备智能，系统必须“知道”表象与现实之间的区别，并能利用前者的资源面向后者。
利害关系与规范
系统的责任
系统必须尊重对象，知道“语言”和“世界”分开时，世界就赢了。
存在性的担当
一个尊崇地面向世界的系统需尽力保卫其对外部的指向，确保其指称的准确性。
易读性与可理解性
“系统必须能够发现在世界中的对象是可理解的，或者说是易读的。”

可理解的定义
易读的对象在一个可负责的注记框架下是可以被注记的。
本体论上，作为一种事物（如电子、委员会主席）需参与到由规律、规则和实践构成的领域中。
现实性、可能性与不可能性
对象的区分
系统需要进行以下区分：

它们是怎么回事。
它们不是怎么回事，但可能是这么回事。
它们不可能是怎么回事。
研究的作用
研究使我们对现实存在的事物有了更深刻的认识，并排除不可能的事物。
多重注记与认知智能
认知的根基
所有注记世界的方式在某些情况下都是片面的、歪曲的，有时恰当，有时不恰当。
系统必须承担在这一基本事实下持续行动的责任。
数据集成的挑战
集成多个数据源时，系统需要做出老练的判断，包括如何合理评估不同的数据反映世界。
责任与担当
系统的判断能力
系统不仅要有判断对与错的能力，还必须在乎对与错的区分。
复杂的规范性网络
系统的面向世界的方式需有复杂的规范性担当作为后盾，以确保其对现实的尊重和理解。
自我意识的必要性
知识的条件
系统必须具有某种形式的“自我意识”，才能将对象视为他者并对此负责。
人工智能的局限
-当前的人工智能系统不具备真正的智能，因为它们缺乏自我意识和对现实的全面理解。

结论：智能的必要条件
实现真正的通用智能需建立在对世界的深刻理解和对责任的担当上，确保系统能够将对象视为对象，并对其负责。
🧠 动物、机器与判断能力
对象性的能力
“我对动物能否具备对象性的能力持怀疑态度。”

对象性：指能够将事物视作独立存在的能力。
斯特劳森提出了一种基于特征的注记形式，认为特征可以在没有具体对象的情况下存在。
特征的实例
“下雨了”被用来实例化“下雨”这一特征，无需具体对象。
例子：宠物可能会通过简单的特征表达对世界的理解，例如“更多的妈妈”。
人类与非人类动物的认知
动物的责任
非人类动物能够以不同方式对世界负责，但这种责任形式因物种而异。
注记能力：动物的注记能力与其生活方式、关心的事物及受到的伤害有关。
动物的本真性
动物的认知能力在某些方面超越了人类，但不具备人类意义上的智能生物的能力。
造物（creature）：指动物及其注记能力，强调动物的认知与生活方式之间的关系。
计算机的测算能力
计算机与责任
现代计算机系统以人为重要的方式表征世界，但对自身并不重要。
计算机无法对所表征的内容承担责任。
测算与判断能力的区别
测算能力：指能够执行表征操纵的能力，但不理解表征的意义。
判断能力：指能够理解对象是对象，并对存在和世界整体性有责任感。
概念 测算能力 判断能力
定义 无法理解内容的表征行为 理解对象及其现实的行为
责任 不承担责任 对行动和思考承担责任
人类与机器的关系
机器的构建性与机械性
人类也可以被视为机器，但在某些方面与计算机不同。
计算机的构成并非机械，而是具有语义和意向性的。
判断能力的标准
判断能力应被视为认知的标准，能够使机器与人类之间的区别成为经验性的问题。
结论
判断能力与测算能力的区别不仅影响人类与机器的理解，也关乎我们如何看待智能与责任。
意识与情感：判断能力并不等同于情感，而是超越情感的理性思考能力。
责任的承担
只有具备判断能力的系统，才能对其行动和思考承担真实的责任。
例子：无人驾驶汽车的决策必须考虑到人类的安全，而不仅仅是执行程序指令。
🛩️ 人工智能与道德责任
责任的概念
“只有一个具有判断能力的、有存在担当的系统才能够对道德立场负责。”

在讨论飞机失事的情况下，通常认为是系统失灵。
我们应该避免将责任归咎于可构建的计算机系统。
责任归属 说明
人类责任 只有人类能够承担道德责任
机器责任 机器无法真正承担道德责任
伦理与人工智能
伦理的必要性
“关于伦理和人工智能的实质性讨论需要我们对“人工智能是什么”“智能需要什么”等问题有更深刻的理解。”

人工智能的伦理讨论应基于对人工智能本质的理解。
不认为通过伦理视角探讨人工智能是最佳途径。
初步伦理评论
计算技术的发展引发的伦理问题是前所未有的。
关键性伦理问题与其他技术（如转基因生物、社交媒体、核武器等）相似。
判断能力的构建
判断能力的属性
意向性和语义属性：判断能力是系统的整体属性，与机械形式无关。
系统的运作：判断能力涉及系统如何与世界互动，并对矛盾证据作出反应。
判断能力构成要素 说明
意向性属性 判断能力是意向和语义属性的一部分
系统反应 系统如何对矛盾证据作出反应
培养判断能力的方式
类比于养育孩子，需要多年的引导和反思。
孩子在成长过程中不断反思自己的行为，提升判断能力。
无人驾驶汽车的伦理问题
电车难题
"电车难题"探讨在道德后果可变的情形下做出选择。

人类在复杂情况下的决策能力有限。
需要确保无人驾驶汽车在高度控制的环境中运行。
无人驾驶汽车的伦理问题 说明
复杂情况的决策 人类在复杂情况下难以预测自己的选择
责任归属 责任应由社会和技术共同承担
结论与展望
判断能力的构建需要与世界紧密接触。
未来的人工智能需要在实践中不断磨练判断能力。
🧠 TW的概念与责任
“TW是我在这里所使用的‘世界’的缩写，即‘存在的基础’。”

TW的定义
TW（The World）：是一个指向我们所注记的对象的概念，代表了我们在思考和描述世界时所依赖的基础。
TW与对象的关系
对于桌子，TW是指向桌子的存在。
对于人，TW是指向人的存在。
注记与责任
注记必须是把TW认作一张桌子、一个人，或其他任何物体。
注记和注记框架必须对TW负责可靠，否则就全无负责可靠可言。
三个阶段的理解
阶段 描述
第一阶段 表征（“桌子”或“人”的表征）
第二阶段 注记结果的桌子或人（作为注记的结果）
第三阶段 将其当作桌子或人的TW担当
现实主义与建构主义的对比
现实主义：假定对象本体独立于人类实践，指称依附于既存对象。
建构主义：不具备将指称看作依附于既存对象的选项，强调对需要注记的事物的担当。
对判断能力的挑战
建构主义面临的挑战是确保判断能力是对需要注记的事物的担当，而不是对世界作为注记结果的担当。
人工智能与判断能力
“我没有在当今世界看到任何即将构建具备全面判断能力的系统。”

人工智能的未来
随着机器学习和计算技术的进步，人工智能系统的测算能力将超过人类。
我们将越来越依赖这些系统来处理和管理海量数据。
判断能力的重要性
全面判断能力：系统需要具备对其所注记、表征和思考的世界具备存在性的担当。
系统必须具备尊崇、谦卑和同情来对待世界及其中的实体。
理论与实践的结合
所有注记都不可避免地出现扭曲、偏颇且具有趋利性的情况。
真正的智能需要超越注记的限制，扎根于完整的判断能力。
结论
任何试图构建“通用人工智能”的项目，都必须以判断能力为目标，并需采取全新的策略。