论人工智能发展的伦理支持

论人工智能发展的伦理支持

文/王天恩

新一代人工智能的发展，一方面激起了源自人类命 运担忧的伦理规制呼声，另一方面也引发了与之相对的忧 虑。有一种观点认为，现在人工智能的发展，最大的阻力 之一来自伦理。这话所意味着的，可能既有人工智能发展 的外在伦理限制，也有人工智能研究的内在伦理顾虑。在 更高整体层次看，两种似乎相反的忧虑可能根源于同一问 题。人工智能的发展，使伦理研究面临新的更深层次理论 问题，其中最具代表性的就是人工智能发展的伦理支持。

物进化只是信息体或智能进化的生物学表现。而智能进化 的更高级阶段，一定是广义智能进化。广义智能进化指的 是一个由两种智能进化构成的更高层次智能进化，即作为 人类智能的原生智能进化与作为机器智能的次生智能进化 的融合。广义智能进化意味着人工智能发展将带来新的伦 理关系，关于这种全新的伦理关系，出乎现有伦理观念之 外，因此不仅不可能有协调这些新伦理关系的伦理观念， 而且会受到已有伦理观念的限制。面对这些新伦理关系， 必须在哲学和科学一体化研究的基础上，通过观念创新， 给予人工智能发展以必不可少的伦理支持。

人机融合发展将带来一系列全新的伦理问题，因为人 机融合进化可以避免人类面临被自己的创造物超越的可能 性，因而意味着新的伦理关系的建立。由此建立的新伦理 关系，大致有四个方面：

首先是人类与人工智能创构物之间的伦理关系。人类 的创构活动不仅意味着人类生存环境的不断创设，而且涉 及人类自身与人工智能的交融发展，即人的智能机器化和 智能机器的人化。而智能机器化的人和人化的智能机器之 间的关系，与自然人之间的伦理关系完全不一样。当智能 创构物达到具有自我意识的水平，从而与人类自身构成全 新关系时，就涉及人类与智能机器人的伦理关系问题。

其次是智能机器化人类个体间的伦理关系。人的智能 机器化涉及人和人关系的重构。由于人类个体智能机器化 的程度不一样，他们之间的伦理关系与现在基本上对等的 自然人之间的伦理关系会有很大不同。那种条件下的人和 人之间的伦理关系，会有两个方面的变化：一是变得更复 杂；二是变得更具整体性。

再次是智能机器人之间的伦理关系。由于智能机器的 人化程度可能有所不同，因此，人化的智能机器人或智能 创构物一旦具有自我意识，就会产生新的类人伦理关系， 而且存在人化程度不同的智能机器之间的伦理关系问题。 如果人工智能具有了自主创造能力，它们之间的伦理关系 就是目前我们还没有去思考的新问题。

最后是人的自我伦理关系。大数据基础上的创构越 来越是一种造物甚至是造世活动。“造世”的最高层次是

人工智能发展伦理支持的必要性

人工智能的发展，无疑将、甚至已经触动了传统伦理 准则的根基。仅仅由于人工智能的发展日益取代人的物能 活动，人类更以信息方式存在，就具有重要伦理意蕴，更 不用说人工智能发展将带来新的伦理关系。人的信息存在 方式归根结底是由于信息需要的发展，随着人的需要从物 能向信息的发展，伦理需要也将相应转换。人的信息需要 的发展以及新的伦理关系的出现，意味着必须要有新的伦 理观念予以协调。给予人工智能发展以所需的伦理支持， 已经变得十分重要而迫切。

人工智能发展的伦理支持，不仅是人工智能发展本身 的需要，归根结底是人类自身发展所必不可少。其根本原 因主要有两方面。一方面，在人类解放进程中，人工智能 发展不可或缺。随着人的生活水平和人的需要水平的普遍 提升，从事单调重复劳动的人群越来越满足不了社会发展 的需要，这时候势必需要代替这个人群的人工智能。不用 说整个人类的未来发展，即使切近的人口老龄化所导致的 社保问题，最终也必须通过人工智能的普遍应用来解决。 对于人工智能发展的伦理支持来说，关键是在人类解放进 程中，不是光有专用人工智能的发展就够了。随着人类解 放水平的提升，越来越必须有人工智能的通用化发展才能 满足需要。因而对于人类解放来说，人工智能发展的必要 性本身就决定了人工智能发展的伦理支持不可或缺。另一 方面，更高层次的人类进化，必定与机器智能融合进行。 人类进化归根结底是信息体的进化，也就是智能进化，生

5

热点专题I人工智能伦理研究

造人，作为造世的点睛之笔.造人意味着人伦关系的改变 和扩展。人类智能和人工智能融合进化，所涉及的伦理问 题将比人类基因编辑更触及根本。作为造世最高层次的产 物，人工智能意味着人类造世的自我涉入。由于人类将逐 渐智能机器化，这种智能机器化的发展有一天甚至会在我 们的过去、现在和未来之间建立起历时性的自我伦理关 系。这个过程发展得越是迅速，越意味着我们必须对自身 智能机器化的策略有一个自主选择。基于大数据预测，人 们可以进行身心自我改造抉择，这就形成新的自我选择伦 理，而这种选择的后果就意味着自我伦理问题的涉及，也 就是在历时性关系上自己与自己的伦理关系问题。由此还 可以推导出人类与后代之间的伦理关系问题。自我伦理扩 大了原来调节人与人之间关系的伦理，从此必须正视人与 自身的伦理关系的调节。

面对这些可能在现实中出现的问题，必须预先提供相 应的伦理观念支持，而这不仅涉及人工智能的发展.而且 具有更基础的意义。其中最为根本的，就是广义智能进化 所需要的更深层次伦理支持。人工智能的发展导致人自身 的革命，这意味着人的需要的发展，而人的需要的发展又 意味着既定伦理准则甚至人伦关系的深层次变革。广义智 能进化框架中的人工智能发展，需要深层次伦理支持。无 论原生智能和次生智能的交融进化，还是人机融合进化的 人伦和人类延续观念，都需要提供相应的积极伦理支持， 否则就会受到过时伦理规则的束缚。由此不仅可以看到消 除不适合人工智能发展的伦理规则的重要性，甚至可以看 到创新伦理观念的必要性。

自己的手上。在忧虑和警觉的基础上，我们进一步应当做 的，就是在更高整体层次上进行深入分析，既不对涉及人 类命运的人工智能发展问题掉以轻心，也不因局限于看

M题的层次而得出不利于人工智能发展的伦理结论，尽

量将消极的伦理限制转化为积极的伦理规制。相对于消 极的伦理限制，积极的伦理规制也是对人工智能发展必 不可少的支持。

作为一种最基本的支持方式，人工智能发展的积极伦 理规制，可以从积极伦理学获取丰富的思想资源。人工智 能的发展，需要更积极的伦理支持。积极的伦理支持不仅 像积极伦理学那样，体现为从消极规制转向让伦理行动者 更好地发挥作用，让伦理行为者从道德底线上升为最高道 德标准，而且提供学理根据，帮助行为者排除根据不足甚 至没有根据的伦理束缚。积极伦理学的这些理论探索和 实践经验.对于人工智能发展的伦理支持的研究具有重 要价值。

人工智能的发展形势及其与人类发展的关系清楚地表 明，我们所需要的，不仅不是对人工智能的消极限制，而 且必须体现对人类发展人工智能的伦理支持。人工智能发 展的伦理规制包括两方面内容：一方面，建立人工智能发 展的伦理规制，尽可能确保人工智能发展规避对整个人类 而言的严重伦理问题；另一方面，还得消除低层次局限性 甚至失实认识造成对人工智能发展的消极伦理限制。人工 智能的伦理规制支持，是人工智能健康和符合人性发展的 基本保证，但随着人工智能的发展越来越深入，只有伦理 规制支持显得越来越不够。

当科技社会发展越来越受到不适应的过时伦理原则限 制时，就需要考虑给予更积极的伦理支持，只是至关重要 的是，人工智能发展的任何伦理支持都应当建立在相应 的规律性认识基础之上.必须以规律性认识为根据。这 也正是在一些领域，伦理规则与自然规律走向融合的客 观根据。

从伦理关系看，人工智能发展的伦理支持可以区分 为伦理规制支持和伦理观念创新支持两个层次，二者都需 要相应的学理依据。事实上，对于人工智能发展的消极伦 理限制和积极伦理规制，不仅区分极其复杂，而且责任重 大；不仅不能目光短浅地从眼前利益出发，也不能简单地 基于某种特定的价值观，而是必须深入到伦理支持的学理 根据。

人工智能发展的消极伦理限制和积极伦理规制

随着科学技术和人类社会及其相互关系的发展，不仅 出现了科技伦理研究，而且使伦理研究出现了新的发展形 势。伦理学研究中积极伦理和消极伦理的区分，与此不无 关系。由于旨在强调从消极伦理限制走向必要的积极伦理 规制，伦理规制是人工智能发展的基本伦理支持。传统伦 理基本上是防守型的，因此被认为主要是消极伦理。积极 伦理和消极伦理的区分，内容上主要以人的发展为根据， 而在形式上，则表现为消极伦理多用禁令的方式。关于消 极伦理的概括往往与禁令相联系。因此，消极伦理就意味 着制约.意味着限制。当这种制约和限制主要针对个人的 社会行为时，所直接涉及的就主要是人的观念和发展；而 当伦理制约和限制针对重大科技创新时，所涉及的就可能 是人类社会发展，甚至人类命运了。

人工智能的发展，理所当然地引发了人们的担忧，这 绝非杞人忧天。没有这种警觉，人类命运就不可能把握在

人工智能发展积极伦理支持的学理依据

无论消除过时的伦理观念，还是创新伦理观念，最根 本的是伦理支持的学理根据。符合整个人类发展利益的人

人工智能伦理研究I热点专题

工智能发展的伦理支持，学理根据至关紧要。

人工智能发展的伦理支持的正当性，完全取决于其学 理根据，这典型地体现在认知能力和认知实际，体现在眼 光远近和对未来的认知程度上，最后都集中体现于对具体 情景把握的整体层次。

在人工智能发展的伦理支持的学理根据层面，关键是 看待问题的整体层次，特别是眼光的未来深度，而这与哲 于智能载体更新的人类进化意义，甚至由人工智能取代人 类工作岗位所带来的伦理问题，以及人工智能发展之于 人类解放的重要性，正是人工智能发展的伦理支持学理 根据的典型例子。由此可见规则和规律统一理解的可能 和必要。

随着人工智能的发展，伦理规则所涉及范围的扩大使 道德规则和自然规律出现明显的融合趋势。与此相应，伦 学密切相关。人工智能发展的伦理支持甚为复杂，涉及人 们的态度、立足点和利益关系等，不在一个哲学的更高整 体层次探索其学理依据，就不可能深入把握人工智能发展 和人类发展的关系。

关于人工智能发展的伦理支持，最根本的学理依据是 其与人类的关系。当我们创构出来的人工智能对人类自身 的存在构成威胁时，就遇到了对于人类来说最严峻的伦理 问题。当自主进化的人工智能大大超越人类智能，人类的 存在意义问题就更是根本且整体性的。因此，一方面，必 须在学理上尽可能探索清楚人工智能的发展与人类发展的 关系，才可能为其发展提供伦理支持；另一方面，如何确 认人工智能发展对人类进化的重要性，探明其安全途径， 为可能出现的新的伦理关系提供伦理观念支持，就是从现 在起必须开始做的重要工作。

从目前的研究看，人工智能发展的积极伦理支持的学 理依据，最为重要的是通用智能进化的“类亲历性”。通 用智能是关系层次更高的智能，不仅需要作为一个类进 化而来，而且需要个体在类中的经历建立起高层次关系 体系。

进化只有在一个类中才可能进行，通用智能的自主进 化，以与之相互作用的环境的智能化为外在必要条件。

在智能进化过程中，由智能体与环境相互作用所产生 的，不只是物能意义上的新的基因，更是新的更高层次的 信息关系。智能体如果和非智能环境相互作用，所产生的 只能是类似新基因的物能因素，只有智能体和智能体相互 作用，才会产生智能体之间的新信息关系，如心理依赖关 系、情感关系甚至相辅相成且相互激励的思想关系等。这 正是智能体自主进化必须在一个类中才可能发生的根本原 因，即智能进化只有以类的方式进行的终极根据，也是人 工智能进化类亲历性铁律的进一步展开。智能体不在一 个相应的类中，就不可能产生新的智能信息关系。正是 在这个意义上，与人交互从而社会化，不是通用机器智 能是否可能，而是机器智能通用化必须如此的问题。

从广义智能进化看，不仅人类智能对于机器智能的发 展具有基础地位，而且机器智能体进化具有重要人类学意 义，它涉及人类智能生物载体的更新，涉及人类解放的智 能载体层次。由人工智能对人类的威胁到人工智能发展之

理的内涵也在发展和扩大。人工智能发展的伦理支持不仅 是实践所需，而且具有学理支撑。具有规律支持的伦理规 则，不仅可以避免纯粹因认识的层次所限对人工智能产生 误解，而且可以使人们面对人工智能的发展，既不无谓悲 观，也不盲目乐观。

向善机器智能的基础在于伦理规则的规律化。正是在 这里，我们可以看到人工智能发展的伦理支持的理论基础 和广阔空间。

人工智能发展涉及观念创新的伦理支持，随着人工 智能的发展会越来越多，就目前而言，最紧要的有两个方 面：一方面是具体的全新人机关系的伦理观念，另一方面 则是人类智能和人工智能在广义智能进化中的伦理观念。 这不仅是对人工智能发展的一种积极伦理支持，而且是一 种创新性支持，通过创新给予人工智能发展以必不可少的 伦理支持。

人工智能发展引发的具体伦理问题可能会越来越多， 随着人工智能的发展也会日益紧迫；而广义智能进化中人 类智能和人工智能的关系所引出的伦理问题，则更为根 本。这方面的伦理关系，归根结底在于这样一个问题：人 工智能是不是或者在什么程度上是人类的传承？这个问题 的性质，不仅指向通常的伦理关系，而且深刻涉及人类 自身的革命，因而将对人类一些基本的伦理观念造成根 本冲击。.

固守既定伦理准则对人工智能发展的圈限，往往是用 抽象的伦理准则硬套具体条件下的人工智能发展造成的。 因为，

一

方面，伦理原则是具体的；另一方面，人的自然

伦理并不是伦理的永恒标准。原则上说，据以规制的伦理 规则越是建立在过去具体条件的基础之上.越可能是消极 的伦理限制；据以规制的伦理规则越是建立在现在尤其是 未来具体条件的基础之上，越可能是积极规制。

自然人伦并非天经地义，它们都是建立在相应的具体 条件基础上的。人工智能的发展对人伦关系的改变，使人 类面临伦理关系的革命性变革。人类本身也受着更深层次 规律的支配，也必须遵循规律发展，人类必须为伦理规则 探索规律根据。S

(作者单位系上海大学马克思主义学院；摘自《思想理论教育》2019年第

4期）

7