高效节能★ღ◈◈★，凯发k8娱乐官网★ღ◈◈★，k8凯发能源产业★ღ◈◈★！资源循环★ღ◈◈★，能源管理★ღ◈◈★，k8凯发天生赢家一触即发★ღ◈◈★，随着科技的不断进步★ღ◈◈★，人工智能的智能水平逐渐接近人类的智能水平★ღ◈◈★，一旦这个条件达成★ღ◈◈★，许多哲学与社会学的临界点就将到来★ღ◈◈★。而什么是智能四道口电影院★ღ◈◈★，什么是通用人工智能？通用人工智能的发展经历了怎样跌宕起伏的历史？其研究面临哪些困难？在集智俱乐部即将正式开始之际★ღ◈◈★，我们梳理了这篇简要的 AGI 百科词条★ღ◈◈★，大致勾勒一份 AGI 入门路径★ღ◈◈★；希望经过后续读书会的多次讨论★ღ◈◈★，这个框架逐渐丰满起来★ღ◈◈★，成为一份全面的百科索引★ღ◈◈★。

　　为了深入探讨 AGI 相关话题★ღ◈◈★，集智俱乐部联合集萃深度感知技术研究所所长岳玉涛★ღ◈◈★、麻省理工学院博士沈马成★ღ◈◈★、天普大学博士生徐博文★ღ◈◈★，共同发起「AGI 读书会」★ღ◈◈★，涵盖主题包括★ღ◈◈★：智能的定义与度量★ღ◈◈★、智能的原理★ღ◈◈★、大语言模型与信息世界的智能★ღ◈◈★、感知与具身智能★ღ◈◈★、多视角下的人工智能★ღ◈◈★、对齐技术与 AGI 安全性★ღ◈◈★、AGI 时代的未来社会四道口电影院★ღ◈◈★。读书会从 2023 年 9 月 21 日开始★ღ◈◈★，每周四晚上 19:00-21:00★ღ◈◈★，预计持续 7-10 周★ღ◈◈★。

　　本周四（9 月 21 日）将由天普大学在读博士徐博文进行读书会的第一期分享★ღ◈◈★，此次分享将对智能的定义以及通用人工智能的由来进行讨论★ღ◈◈★，希望帮助参与者对 通用人工智能 建立初步的认识★ღ◈◈★。详情见文末★ღ◈◈★，欢迎预约直播★ღ◈◈★。

　　早在 400 年前★ღ◈◈★，哲学家们就意识到★ღ◈◈★，或许机器也能够做到一些人类才能做到的事★ღ◈◈★。布莱兹 · 帕斯卡（Blaise Pascal★ღ◈◈★，1623-1662）于 1642 年建造了滚轮式加法器（Pascaline）★ღ◈◈★，并写道★ღ◈◈★： 它产生的效用似乎比动物的所有行为更接近思维★ღ◈◈★。 托马斯 · 霍布斯（Thomas Hobbes★ღ◈◈★，1588-1679）在《利维坦》一书中提出了会思考的机器的想法★ღ◈◈★。而笛卡尔在 1637 年就提出了图灵测试的雏形★ღ◈◈★，尽管他并不认为人就是机器★ღ◈◈★。十八世纪法国医生和哲学家拉美特利扩展了笛卡尔关于动物机器的论点★ღ◈◈★，认为人类也只是机器四道口电影院★ღ◈◈★。

　　现代人工智能研究始于 1950 年代中期★ღ◈◈★。 在 1956 年的达特茅斯会议上四道口电影院★ღ◈◈★，人工智能第一次被提出★ღ◈◈★。从一开始★ღ◈◈★，人工智能 AI 的含义就是 让机器具有人类的智能 ★ღ◈◈★。第一代人工智能研究人员确信★ღ◈◈★，通用人工智能是可能的★ღ◈◈★，而且它将在短短几十年内存在★ღ◈◈★。人工智能先驱赫伯特 · A · 西蒙（Herbert A. Simon）在 1965 年写道★ღ◈◈★： 机器在二十年内将能够完成人类可以做的任何工作★ღ◈◈★。 几个经典的人工智能项目★ღ◈◈★，如 Doug Lenat 的 Cyc 项目★ღ◈◈★、Allen Newell 的 Soar 项目★ღ◈◈★、日本的第五代计算机项目★ღ◈◈★，都是针对 AGI 的★ღ◈◈★。

　　上个世纪下半叶★ღ◈◈★，也许是研究人员严重低估了该项目的难度★ღ◈◈★，这些曾经野心勃勃的计划都失败了★ღ◈◈★。资助机构对 AGI 持怀疑态度四道口电影院★ღ◈◈★，并使研究人员面临越来越大的压力★ღ◈◈★，要求他们生产有用的 应用人工智能 ★ღ◈◈★。主流人工智能逐渐远离一开始的目的★ღ◈◈★，而转向特定领域的问题和特殊问题的解决方案上★ღ◈◈★，并取得了较大的进展★ღ◈◈★。到 1990 年左右★ღ◈◈★，人工智能研究人员变得根本不愿意做出预测★ღ◈◈★，并避免提及 人类水平 的人工智能★ღ◈◈★，因为害怕被贴上 梦想家 的标签★ღ◈◈★。

　　大约在 2004 年至 2007 年期间★ღ◈◈★，主流 AI 内部和外部对通用系统进行研究的呼声再次出现★ღ◈◈★。一些重要会议以及多个致力于通用人工智能和相关话题的研究社区相继出现★ღ◈◈★。在主流人工智能中★ღ◈◈★，深度学习近年来取得了令人瞩目的进展★ღ◈◈★，这再次激发了许多人对 人类水平 人工智能的希望★ღ◈◈★。 已经通过图灵测试 的说法和 AlphaGo 在围棋中的成功重新引发了关于 人工智能 到底是什么以及如何达到它的讨论★ღ◈◈★。但学者们仍然没有达成共识★ღ◈◈★，甚至意见也没有趋同★ღ◈◈★。几家科技巨头将他们的结果标记为 迈向 AGI 的步骤 ★ღ◈◈★，GPT-4 就是一个例子★ღ◈◈★，其创建者声称它是 迈向 AGI 的重要一步 ★ღ◈◈★。而近期对 AI 安全的广泛关注以及暂停 AI 研究的呼吁也体现出对 AGI 实现可能性的重视★ღ◈◈★。

　　通用人工智能一词在不同的时代★ღ◈◈★、语境下★ღ◈◈★，往往有着不太相同的用法★ღ◈◈★，人们对通用人工智能具体的形态也有着不尽相同的理解★ღ◈◈★。

　　为了能够简单地对 AGI 进行大致的了解★ღ◈◈★，我们可以这样描述它★ღ◈◈★，但请注意★ღ◈◈★，这只是一个描述而非一个严格的定义★ღ◈◈★：

　　通用人工智能是不以解决专门问题为目标的人工智能系统★ღ◈◈★，其旨在对 智能 本身这一 元能力 进行建模并用计算机实现★ღ◈◈★。

　　根据对 智能 不同角度的理解★ღ◈◈★，AGI 也存在不同的研究视角★ღ◈◈★，天普大学的王培教授认为★ღ◈◈★，有多种角度可以理解智能★ღ◈◈★，以下是他对理解智能的五种角度的分类k8·凯发(国际)★ღ◈◈★，这也可以被视为不同 AGI 项目的研究目标★ღ◈◈★：

　　结构角度★ღ◈◈★：智能来源于大脑结构★ღ◈◈★，应尽可能准确地模拟大脑结构★ღ◈◈★。这一目标的难点在于可能存在在人工智能系统中既不可能也没有必要复制的生物学细节★ღ◈◈★。

　　行为角度★ღ◈◈★：智能体现在人类行为中★ღ◈◈★，应完全模拟人类行为★ღ◈◈★。这一目标的难点在于可能存在既不可能也没有必要在人工智能系统中复制的心理或社会因素★ღ◈◈★。

　　能力角度★ღ◈◈★：智能体现在解决问题的能力★ღ◈◈★，应解决当前只有人类能解决的实际问题★ღ◈◈★。这一目标的难点在于★ღ◈◈★，目前没有一个普遍认可的★ღ◈◈★、仅从问题求解能力出发的智能定义★ღ◈◈★。将智能视为解决问题的能力★ღ◈◈★，存在将智能的范围窄化的风险★ღ◈◈★，也难以判定某种算法是否真正属于 智能 ★ღ◈◈★。此外★ღ◈◈★，专门解决特定问题的程序往往缺乏适应新环境的普适性和灵活性★ღ◈◈★。

　　功能角度★ღ◈◈★：智能包含一系列认知功能★ღ◈◈★，应实现这些功能★ღ◈◈★。这一目标的难点在于目前的人工智能技术高度碎片化★ღ◈◈★，它们很难协同工作★ღ◈◈★。

　　原理角度★ღ◈◈★：智能是一种理性或最优性★ღ◈◈★，应遵循某些一般原则★ღ◈◈★。这一目标的难点在于智能和认知有太多的方面无法用简单的理论来解释和复现★ღ◈◈★。

　　不同的学科或领域的学者对于 AGI 的关注在侧重点上有很大差异★ღ◈◈★，这些内容将在随后开展的 AGI 通用人工智能读书会 多视角下的智能 这部分中展开讨论★ღ◈◈★。以下是一些同样很重要但少有文章提及的★ღ◈◈★，非技术性★ღ◈◈★、更人文的视角★ღ◈◈★：

　　认知科学哲学的特点是受具体的科学成果启发★ღ◈◈★，从而提出宏观的理论性假设进而启发科学研究★ღ◈◈★，该领域下的研究人员对 AGI 之于认知和心灵相关研究的理论意义感兴趣★ღ◈◈★。经典问题包括机器是否能够真正思考和理解★ღ◈◈★，以约翰 · 塞尔（John Searle）为首的一批哲学家表示了反对★ღ◈◈★，塞尔提出了著名的中文屋论证（The Chinese room argument）★ღ◈◈★，他认为机器根本无法做到真正的思考★ღ◈◈★，因为它们缺乏与世界适当的语义连接★ღ◈◈★。另一种质疑来自卢卡斯（Lucas）★ღ◈◈★，他认为哥德尔不完备性定理表明机器无法真正思考★ღ◈◈★。福多（Fodor）和物理学家彭罗斯（Penrose）等人也在这一阵营贡献了自己的观点★ღ◈◈★。除了这些经典问题与回应外★ღ◈◈★，最近的讨论具体围绕大语言模型是否能够像人类一样理解自然语言展开★ღ◈◈★。

　　奇点问题（The Singularity）是该领域的代表问题之一★ღ◈◈★：奇点即人工智能达到人类的智能水平★ღ◈◈★，并有能力开发出属于自身的新一代人工智能★ღ◈◈★，从而导致 智能爆炸增长 并威胁人类的假设★ღ◈◈★。美国计算机科学家雷蒙德 · 库兹韦尔（Raymond Kurzweil）和哲学家大卫 · 查默斯（David Chalmers）为奇点的风险和应对贡献了相关讨论★ღ◈◈★。此外★ღ◈◈★，以唐娜 · 哈拉维（Donna Haraway）★ღ◈◈★、N · 凯瑟琳 · 海勒（N.Katherine Hayles）为代表的研究赛博格（Cyborg★ღ◈◈★，一种人机融合体）和后人类（Posthuman★ღ◈◈★，关注技术和人类文化转变的理论）的学者同样为 AGI 对人类社会的观念★ღ◈◈★、文化和历史的影响贡献了大量观点★ღ◈◈★。

　　在 AGI 的伦理方面★ღ◈◈★，一个新近的话题在于对人工道德主体（Artificial Moral Agents★ღ◈◈★，AMA）的讨论★ღ◈◈★：随着人工智能在社会中承担的任务和责任的增加★ღ◈◈★，必然导致其需要在一定程度上做出某种伦理决策★ღ◈◈★，那么人工智能能否做出道德决策？应如何做出道德决策？能否并如何为道德决策负责？这些都是该领域的学者们所关注的★ღ◈◈★。

　　该领域的研究者们关注如何让人工智能实现社会智能★ღ◈◈★。他们将类人智能（ human-like intelligence）分为了物理智能（physical intelligence ）与社会智能（social intelligence）★ღ◈◈★，而当前人工社会智能（artificial social intelligence, ASI）被很多其他领域的研究者所忽略了★ღ◈◈★。实现社会智能的难点主要是★ღ◈◈★，社会智能往往依赖于环境 / 背景 / 语境的★ღ◈◈★，并且其输入往往是非文字的★ღ◈◈★、模糊的（比如同一个手势★ღ◈◈★，可能被人们在不同情景下表达不同含义）★ღ◈◈★。这个领域下的子领域 / 话题有社会感知★ღ◈◈★、心智理论（Theory of Mind, ToM）和社会互动★ღ◈◈★。

　　除此之外★ღ◈◈★，AGI 这一话题也涉及神经科学★ღ◈◈★、复杂科学★ღ◈◈★、认知科学等众多重要的视角k8·凯发(国际)★ღ◈◈★。这部分的内容会在随着 AGI 通用人工智能读书会的展开进行深入讨论后进行补充★ღ◈◈★。感兴趣并有相关背景的朋友可以通过共创的方式在集智百科中完成k8·凯发(国际)★ღ◈◈★。

　　混合( Hybrid ) ★ღ◈◈★：混合是把各个专门问题的解决方案混合在一起组成一个系统★ღ◈◈★，遇到不同问题就调用不同的程序★ღ◈◈★。由于目前市面上几乎所有针对专门问题的功能模块都基于不同的理论基础★ღ◈◈★，混合并不能带来模块间的协同工作★ღ◈◈★，因此目前在该策略上并没有任何可靠的项目★ღ◈◈★。

　　整合( Integrated ) ★ღ◈◈★：整合是预先画一个整体架构图★ღ◈◈★，然后对于每个部分采用不同技术填充★ღ◈◈★，这在一定程度上避免了内部不一致的矛盾★ღ◈◈★。代表项目有 ACT-R★ღ◈◈★、Sigma★ღ◈◈★、Soar 等★ღ◈◈★。

　　统一( Unified ) ★ღ◈◈★：统一是期待用同一个技术实现全部功能★ღ◈◈★。例如大语言模型在回答不同领域的问题时★ღ◈◈★，其操作都是在预测下一个 tokn★ღ◈◈★。代表项目有 GPT-4★ღ◈◈★、HTM★ღ◈◈★、NARS★ღ◈◈★、AIXI 等★ღ◈◈★。

　　千脑智能（其前身是 HTM）理论是一种满足脑的 生物约束 的理论模型★ღ◈◈★，其基本思想是以皮质主为基本单元★ღ◈◈★，时序学习★ღ◈◈★、空间感知等过程分属皮质柱中的不同的层实现k8·凯发(国际)★ღ◈◈★。

　　GPT-4使用巨量的语料数据进行训练★ღ◈◈★，采用人类反馈强化学习 ( RLHF ) 等技术使模型与人类 对齐 ★ღ◈◈★，最终复刻出人的语言行为★ღ◈◈★。

　　许多认知架构希望通过建立人的认知计算模型来实现通用人工智能★ღ◈◈★，相关工作包括 ACT-R★ღ◈◈★、Sigma★ღ◈◈★、Soar 等★ღ◈◈★，主要方式是将工作记忆★ღ◈◈★、过程性记忆★ღ◈◈★、感知功能★ღ◈◈★、运动功能等人的各个认知功能组织为一个整体的系统★ღ◈◈★。

　　非公理推理系统( NARS ) 旨在用统一的理论建模智能k8·凯发(国际)★ღ◈◈★，通过逻辑和推理来刻画感知★ღ◈◈★、运动四道口电影院★ღ◈◈★、规划四道口电影院★ღ◈◈★、决策★ღ◈◈★、问题求解等复杂的智能现象★ღ◈◈★。

　　尽管学界与业界近年来都更加关注 AGI 并投入了许多精力★ღ◈◈★，但仍有很多对于 AGI 的质疑的声音存在★ღ◈◈★，以下是一些常见的质疑★ღ◈◈★。

　　这类质疑从很早起便存在★ღ◈◈★，且近年来越发增加★ღ◈◈★。包括近期马斯克等 AI 行业领袖联合发起的呼吁暂停比 GPT-4 更强大的 AI 联名信★ღ◈◈★，计算机科学家 Stephen Wolfram 发表的《AI 会抢走所有工作并终结人类历史吗？》等★ღ◈◈★。不过伴随着质疑的出现★ღ◈◈★，也有 Max Tegmark 等学者在呼吁公众理性的同时加强对于安全与对齐问题的探索★ღ◈◈★。

　　近期大语言模型表现出的远超以往的智能水平让许多人都认为 AGI 离我们已经不远了★ღ◈◈★，但也有一些学者质疑这样的进路是否最终能够通向 AGI★ღ◈◈★。这类质疑中比较有代表性的是 Yann LeCun★ღ◈◈★，他认为大语言模型由于缺少世界模型而不会演进为 AGI★ღ◈◈★。

　　最后★ღ◈◈★，非常感谢天普大学王培老师授权★ღ◈◈★，这篇百科很大程度上参考了他的工作四道口电影院★ღ◈◈★。也感谢岳玉涛★ღ◈◈★、沈马成★ღ◈◈★、徐博文对百科提出的指导和建议★ღ◈◈★，以及更多帮助到本文写作的小伙伴★ღ◈◈★。

　　为了深入探讨 AGI 相关话题★ღ◈◈★，集智俱乐部联合集萃深度感知技术研究所所长岳玉涛★ღ◈◈★、麻省理工学院博士沈马成★ღ◈◈★、天普大学博士生徐博文★ღ◈◈★，共同发起AGI 读书会★ღ◈◈★，涵盖主题包括★ღ◈◈★：智能的定义与度量★ღ◈◈★、智能的原理★ღ◈◈★、大语言模型与信息世界的智能★ღ◈◈★、感知与具身智能★ღ◈◈★、多视角下的人工智能★ღ◈◈★、对齐技术与 AGI 安全性★ღ◈◈★、AGI 时代的未来社会★ღ◈◈★。读书会从 2023 年 9 月 21 日开始★ღ◈◈★，每周四晚上 19:00-21:00★ღ◈◈★，预计持续 7-10 周★ღ◈◈★。欢迎感兴趣的朋友报名参与★ღ◈◈★！