社科网首页|论坛|人文社区|客户端|官方微博|报刊投稿|邮箱 中国社会科学网
新兴领域

【周昌乐】机器意识能走多远:未来的人工智能哲学

 

机器意识研究的兴起

自二十世纪九十年代以来,意识问题受到高度关注,众多的哲学家、心理学家与神经科学家在此领域开展深入的研究工作。与此同时,人们也开始使用计算方法试图让机器装置拥有意识能力。①这类研究逐渐被称为“机器意识”的研究。早期有关机器意识的研究比较初步,研究工作较少得到学术界的认同,甚至早些年提到“机器意识”还有不合时宜的顾虑。

尽管哲学上关于“机器意识”有着不同观点的争论,但随着研究工作的不断深入,一些有远见的专家学者开始充分认识到开展机器意识研究的重要意义,并专门撰文进行了精辟论述。比如,英国皇家学院电子工程系的Aleksander教授根据学术界从上世纪九十年代到本世纪对机器意识态度的转变,指出机器意识的影响与日俱增,并预计了机器意识对科学与技术发展的潜在影响,特别是在改变人们对意识的理解、改进计算装置与机器人概念等方面的贡献尤为重大②。

无独有偶,美国伊利诺伊大学哲学系Haikonen教授则专门撰文强调机器意识是新一代信息技术产业发展的新机遇,他认为新产品与系统的发展机会起因于信息技术的发展,而现有的人工智能基于预先编程算法,机器与程序并不能理解其所执行的内容。显而易见,不考虑意识就没有对自身行为的理解,而机器意识技术的涌现可以弥补这一缺失,因此机器意识技术可以为信息技术产业的发展提供新的契机③。意大利巴勒莫大学机器人实验室的Chella教授则指出,开展机器意识不仅是一种技术挑战,也是科学和理论上开展人工智能和机器人研究的新途径④。最近,土耳其中东技术大学的和Sayan两位学者进一步认为,开展机器意识的计算建模研究还有助于推进对人类意识现象的理解,推动构建更加合理的意识理论⑤。

上述这些学者的论述,无疑说明,机器意识研究不但对深化人工智能的研究有着重要的推动作用,对从科学上解释神秘的意识现象也同样具有非同寻常的意义。正因为机器意识研究有着如此重要的科学意义和推动未来信息技术革新的潜在价值,随着最近十年的研究发展,该领域已经成为学界广泛关注的热点。与此同时,数量相当可观的研究成果和实验系统已逐步形成,有些成果已经被运用到实际机器认知系统的开发之中。机器意识研究已经成为了人工智能最为前沿的研究领域。

机器意识研究的现状分析

2006年之前的有关机器意识的研究状况,英国皇家学院电子工程系的研究团队已经做过了比较全面的综述⑥。因此,我们这里主要就在此之后国际上有关机器意识的研究概况和发展趋势进行分析。据我们的文献检索,截止到2015年底,在机器意识研究领域发表过的学术论文超过350余篇,其中最近十年发表的论文占了一半以上。归纳起来,由于对意识的哲学解释不同,目前机器意识方面的主流研究往往是以某种意识科学理论为出发点的具体建模研究和实现。由于涉及到的文献过多,无法一一列举,我们仅就一些影响较大的典型研究进行分析。

在意识科学研究领域,一种较早的理论观点是用量子机制来解释意识现象,这样的出发点也波及到有关机器意识建模的研究。利用量子理论来描述意识产生机制的有效性并不是说物质的量子活动可以直接产生意识,而是强调意识产生机制与量子机制具有跨越尺度的相似性。近年来,意识的量子模型发展又有了新的动向。比如,作为量子意识理论的进一步发展,中国科学院电子学研究所的高山(Gao Shan)提出了意识的一种量子理论,研究了量子塌缩与意识之间的关系,假定量子塌缩是一种客观的动态过程⑦。日本Akita国际大学的Schroeder另辟蹊径,在构建统一意识模型中不涉及量子力学的量子相干性方面做出了全新的探索,主要目标是说明现象意识能够依据量子力学的物理解释,用量子力学的形式化代数性质来描述⑧。此外,俄罗斯Lebedev物理研究所的Michael B.Mensky利用意识的量子概念提出了一种主观选择的数学模型,说明意识和超意识的特性如何能够通过简单的数学模型给出⑨。当然,更多的是有关意识量子机制描述的可能性争论,正反两方面的观点都有⑩。特别是在2012年的Physics of Life Reviews9卷第3期,以BaarsEdelman所著论文“Consciousnessbiology and quantum hypotheses”为核心(11)10余名相关领域的学者分别撰文对是否能够通过量子机制来描述意识现象展开了多方位的辩论。最近,Susmit Bagchi从分布式计算的角度,较为全面地讨论了生物演化与量子意识之间的关系(12)。遗憾的是,迄今为止,学术界对此问题尚未达成一致的结论。

在机器意识研究中,第二种有重大影响的理论观点就是全局工作空间理论(13)。全局工作空间理论(Global workspace theory)是由美国加利福尼亚大学圣地亚哥分校神经科学研究所的Baars研究员1988年提出的意识解释理论。在该理论的指导下,由BaarsFranklinRamamurthy等人组成的研究团队开展了长达20多年的机器意识研究工作,最终开发完成了LIDA认知系统(14)LIDA(Learning Intelligent Distribution Agent)是在该研究团队等人早期开发的IDA(Intelligent Distribution Agent)基础上发展起来的,主要依据Baars全局工作空间理论,采用神经网络与符号规则混合计算方法,通过在每个软件主体建立内部认知模型来实现诸多方面的意识认知能力,如注意、情感与想象等。该系统可以区分有无意识状态,是否有效运用有意识状态,并具备一定的内省反思能力等。从机器意识的终极目标来看,该系统缺乏现象意识的特征,比如意识主观性、感受性和统一性均不具备。

指导机器意识研究的第三种重要理论观点是意识的信息整合理论。意识的信息整合理论是美国威斯康星-麦迪逊大学精神病学的Tononi教授1998年提出的。自该理论提出以来,不少研究团队以信息整合理论为依据,采用神经网络计算方法来进行机器意识的研究工作。其中,典型代表有英国Aleksander教授的研究团队和美国Haikonen教授的研究团队所开展的系统性研究工作。英国皇家学院的Aleksander教授领导的研究团队长期开展机器意识的研究工作,发表相关论文30余篇。早期的研究主要给出了有关意识的公理系统及其神经表征建模实现(15),比较强调采用虚拟计算机器来建模意识。最近几年,Aleksander研究团队采取仿脑策略(16),强调信息整合理论的运用(17),建立了若干仿脑(brain-inspired)意识实现系统,更好地实现了五个意识公理的最小目标。美国伊利诺伊大学哲学系Haikonen教授的研究团队则主要采用联想神经网络来进行机器意识系统的构建工作。自1999年以来,该团队开展了富有成效的研究工作(18)Haikonen教授在所提出的认知体系模型的基础上,构建了一个实验型认知机器人XCR-1系统(19)。应该说,虽然Haikonen所开展的机器意识研究的出发点是为了揭示意识现象本性,但他的成果却是目前机器意识研究领域最为典范的工作之一。

在意识科学研究中,也有学者将人类的意识能力看作是一种高阶认知能力,提出意识的高阶理论。在机器意识研究中,以这样的高阶理论为指导,往往会采用传统的符号规则方法来建立某种具有自我意识的机器系统。其中,一个比较系统的研究工程就是意大利巴勒莫大学机器人实验室的Chella教授用10年时间开发的Cicerobot机器人研究项目(20)。该机器人实现了一种自我意识的认知结构机制,该机制主要由三个部分构成:亚概念感知部分、语言处理部分和高阶概念部分。通过机器人的高阶感知(一阶感知是指对外部世界的直接感知,高阶是对机器人内部世界的感知),就形成了具有自我反思能力的机器人。这项研究工作的主要特点是将逻辑形式化方法与概念空间组织相结合,强调对外部事物的一种心理表征能力,并对外部环境进行内部模拟。在高阶认知观点的自我意识建模研究方面,另一个做出突出贡献的是美国乔治梅森大学的Samsonovich教授率领的研究团队。该团队经过10余年的研究,开发了一个仿生认知体系GMU-BICA(George Mason University-Biologically Inspired Cognitive Architecture)(21)。在该系统中定义的心理状态不但包含内容,还包含主观观察者,因此该系统拥有“自我”意识的主观能力。系统实验是利用所提出的认知结构模型来控制虚拟机器人完成一些简单的走迷宫活动,机器人可以表现出具有人类意识所需要的行为。相比而言,与Cicerobot机器人强调自我意识是反思能力的概念不同,GMU-BICA系统则将自我意识理解为“自我”的意识。当然,不管是Cicerobot还是GMU-BICA,这样的高阶认知模型往往对心理扫视、主观体验与统一意识等意识本质方面的表现兼顾不足。

除了上述介绍的这些有代表性的研究外,对于机器意识研究而言,还有如何判定机器具有意识能力的检验问题,这是目前机器意识研究领域十分重要的一个方面。显然,要判断开发的机器意识系统是否真正具备预期的意识能力,就需要开展相应的意识特性分析、评判标准建立以及检测方法实现等方面的研究工作。在这方面,由于目前对意识现象的认识存在许多争议,对于意识评测特性分析方面也难以有统一的认识(22)。因此,目前的机器意识特性需求分析也比较零散(23)。倒是在评判标准的建立方面,西班牙卡洛斯三世马德里大学计算机科学系Arrabales教授的研究团队做出了比较系统的研究。该团队自2008年开始就在这方面开展意识特性分析(24),给出了计算人工意识的一种量化测量方法ConsScale(25)以及对感受质的功能性刻画(26)。之后,该团队又进一步提出了ConsScale的修订版,并讨论了在机器中产生感受质和现象意识状态的可能性(27)。最终,该团队成功构建了CERA-CRANIUM认知体系(采用意识全局工作空间理论建模)来检验产生的视觉感受质(28)以及实现的内部言语(29)。所有的这些成果为机器意识能力的初步检测提供了一种实用的标准。当然,也有将镜像认知看作是机器拥有自我意识能力的一种检测标准,该理论的依据是人类和其他一些动物能够在镜子中认出自己'这一能力被看作是拥有自我意识的明证(30)。因此,Haikonen认为在镜像中的自我识别,即镜像测验,也可以用来确认机器潜在的自我意识能力(31)。于是,在意识能力检测方法的研究中,许多研究工作都是通过镜像测试来确定意识能力的(32)。但也有研究认为,镜像测验并不能证明意识能力的存在,要证明机器具有意识能力还需要通过更加复杂的测验。比如,Edelman就提出三种意识检验的途径,即意识的语言报告、神经生理信号以及意识行为表现(33)

总而言之,机器意识的研究主要围绕量子涌现机制、全局工作空间、信息整合理论、意识高阶理论以及意识能力检测这五个方面展开的。从研究的策略来看,主要分为算法构造策略(Algorithm)与仿脑构造策略(Brain-Inspiration)两种途径。从具体的实现方法上,主要可以分为三类:一是采用类神经网络的方法;二是采用量子计算方法;三是采用规则计算方法。虽然经过20多年的发展。机器意识的研究取得了众多的研究成果,但相对于人类意识表现方面,目前机器意识能力的表现还是非常局限的。根据笔者以及土耳其中东技术大学的和Sayan发表的论文,目前机器意识系统主要具备的能力都是功能意识方面的。偶尔涉及自我意识和统一性意识(很难说是否真正实现了)(34)。可见,意识计算模型的研究还有很长的路要走,特别是关于内省反思能力、可报告性能力、镜像认知能力、情感感受能力以及主观性现象等(35),这些方面更加需要进一步的研究和探索。

人类意识能力的唯识学分析

人类意识能力的基础是神经活动,尽管神经活动本身是意识不到的,也不是所有的神经活动都能产生意识,但神经活动却能够产生有意识的心理活动,这便形成了人类的意识能力。

根据现有的相关科学与哲学研究成果,人类意识的运行机制大致是这样的:物质运动变化创生万物,生物的生理活动支持着神经活动,神经活动涌现意识(有意识的心理活动),意识感受生理表现并指导意向性心智活动的实现同,从而反观认知万物之理。除了心理活动所涉及的神经系统外,主要的心理能力包括感觉(身体感受)、感知(对外部事物的感知能力,包括视、听、味、嗅、触)、认知(记忆、思考、想象等)、觉知(反思、意识、自我等)、情感(情绪感受)、行为(意志、愿望、情欲等)、返观(禅观、悟解)等。

必须强调的是,迄今为止,对有意识的心理能力最为系统解析的学说体系并非是现在的脑科学研究,而是起源于古印度的唯识学。唯识学所研究的对象就是心识问题,相当于本文界定的有意识的心理活动。如图1所示,其理论体系主要包括五蕴八识的心法体系(36)

 

1 五蕴心理描述体系中的心理能力及其关系

第一,前五识归为色蕴,对应的心法称为色法,相当于当代心理学中的感知,其意识的作用称为五俱意识(所谓“俱”,就是伴随)。如果这种感知是真实外境的感知,则其伴随性意识称为同缘意识;如果是有错觉的感知,则称不同缘意识;如果这种感知活动产生后像效应,则称为五后意识(属于不相应法)。一般而言,色蕴对应的心理活动都是有意向对象的,因此属于意向心理活动。

第二,受蕴是一种心所法(具体的心理能力),主要是指身体与情感状态的感受。注意这里要区分身识中的身体状态感受与色蕴是完全不同的心理能力,身识相当于触觉,是一种感知能力,而身体状态的感受不是感知能力,而是感受身体疼痛、暖冷等的体验能力。受蕴的心理活动,虽然具有意识,但不具有意向对象,因此不属于意向性心理活动。

第三,想蕴是另一种心所法,用现代认知科学的话讲,就是狭义的思维能力,如思考、记忆、想象等,属于认知的高级阶段,显然是属于意向性心理活动。

第四,行蕴也是一种心所法,主要指一切造作之心,用现代认知科学的话讲,如动机、欲望、意愿、行为等。唯识学中的“行”,与“业”的概念相互关联,一般分为三种,即身业(行动)、语业(说话)和意业(意想),但都强调有意作为的方面,因此行蕴也属于意向性心理活动。

第五,识蕴是整体统一的心法,更加强调的是后两识(第七末那识、第八阿赖耶识)的心法,现代西方的认知科学尚无对应的概念。主要强调的是自我意识,特别是返观能力,即对根本心识的悟解能力。

总之,色蕴是色法(感知能力),受蕴、想蕴、行蕴都是心所法(具体的心理能力),它们本身就是具有意识的心理活动(统归于心法),其中色法的意识作用是伴随性的五俱意识,其他三蕴的意识作用与伴随性的意识则又有不同,称为独散意识(受蕴、想蕴、行蕴所涉及的意识,是一种周遍性意识活动)

当然,如果所有意识作用出现在梦中,唯识学中则另外称之为梦中意识(做梦时的意识活动,属于不相应法)。在唯识学的五蕴学说中,识蕴比较复杂,它是唯识理论特别单列的一种根本心法,除了强调自我意识的末那识“我执”外,更是强调达到定中意识的阿赖耶识“解脱”,属于去意向性心理活动。

总之,从意向性的角度看,我们的心理能力可以分为无意向性的受蕴,意向性的色蕴(前五识)、想蕴、行蕴,元意向性的意识以及去意向性的识蕴。其中,识蕴是一种特定的禅悟能力,对其性质的认识与禅宗的心法观有关。

机器意识研究面临的困境

对于目前的人工智能研究而言,我们涉及到的心智能力,如果按照五蕴分类体系来分析,那么大致只有色蕴、想蕴与行蕴中的部分能力。如果考虑目前有关机器意识的研究,也仅仅涉及到五俱同缘的伴随性意识、想蕴与行蕴中的独散意识、识蕴中的自我意识以及意识活动本身的机制问题,其他意识比如不相应法的梦中意识、五后意识、定中意识、五俱不同缘意识等都没有涉及。

根据上述有关心识能力的唯识学分析,对于机器而言,真正困难的机器意识实现问题是受蕴性独散心识(体验性意识能力)与识蕴性心识两个方面,一个涉及无意向心理活动的表征问题,一个涉及去意向性心理活动的表征问题,这两方面都是目前计算理论与方法无法解决的问题。反过来讲,机器最有可能实现的心智能力部分应当是那些具有意向性的心识能力(色蕴、想蕴与行蕴),即唯识学心法中的色法与若干心所法。

很明显,意向性心理活动一定伴随有意向对象,于是就有可能对此进行计算表证,并完成相关的某种计算任务。因此,反过来说,我们认为意向性心理能力是人工智能的理论限度(是上界,但并非是上确界),机器实现的人类意识能力不可能超越意向性心识的范围。这也就是本文观点讨论的基点,并具体给出如下方面论据的分析。

首先,我们来分析心智机器的成功标准。从我们的立场看,如果要构建具有人类心智能力的机器,成功的标准起码应该通过图灵测验。主要理由是,由于“他心知”问题的存在,行为表现可能是唯一的判断标准,此时图灵测验不失为一种可行的测试途径,关键是“巧问”的设计。原则上,图灵测验通过言行交流,这是人类之间默认具有心智能力的唯一途径。再者,根据摩根准则,在没有把握的情况下,宁肯选择比较简单的解释。因而,对图灵测验的解释中,也必须注意摩根准则,诸如机器思维或者机器经过思考的行动这类有关心智能力的假设在大多数情况下应该丢弃。

现在我们就来一场图灵测验,看看机器到底会遭遇什么样的困境。为了看清本质,我们的提问异常简单,就是进行如下提问(所谓“多大年纪”思想实验,参见笔者以前的文章“重新发现图灵测验的意义”(37)):你多大年纪?此时会发生怎样复杂的情形呢?当提问者一而再、再而三不断重复这一问题时,机器很快就会暴露出其致命的缺陷,就是缺乏不可预见性反应能力。那么,面对这么简单的提问,机器为什么会无所适从呢?其实这跟机器形式系统的局限性有关。众所周知,图灵机是个形式系统,而哥德尔不完全性说明足够复杂的形式系统不能证明某些真命题。这是否说明人的某些知识是计算机器永远不能得到的?或者反过来说,是否说明不是所有的知识都能形式化呢?这样就引出了如下第二个论据的讨论。

从形式系统角度看,确实存在不可计算(证明)的问题,而且是大量的,但这些问题对于人类同样也是不可计算(证明)的。比如图灵停机问题,如果换成了人,结果是一样的。至于知识,可能首先要分清知识的含义与性质,知识是动词还是名词,要不要考虑元知识?如果这样看待知识,那么肯定不是所有知识都可以形式化的。因此,我们可以发现,问题不在于形式系统是否有局限性,而在于对于意识现象能不能给出一致性的形式描述。

那么,我们可以对人类的意识现象给出一致性描述吗?回答显然是否定的。因为在人类的意识现象中,存在着意识的自反映心理现象:我们的意识活动是自明性的。从逻辑上讲,如果一个系统允许自涉,那么该系统一定是不一致的,也就是说无法对该系统给出一致性的形式化描述。其实,人类的心理活动本来就是建立在神经集群活动的自组织涌现机制之上的。因此,出现意识的自明性现象是必然的。这也就是美国哲学家普特南给出“钵中之脑”思想实验所要说明的道理。比如,对于“我们都是钵中之脑”命题,在事先并不知晓这一事实的前提下,使用知道逻辑的反证法,可以明确加以否定。因此,我们人类的意识能力,显然不可能为机器所操纵。这样,由于计算机器形式化能力的局限性,靠逻辑机器是不可能拥有人类全部意识能力的,起码意识的自明性能力不可能为机器所拥有。

进一步,作为第三个论据讨论,我们再来看人类的意义指称能力问题。我们需要明确的问题是:机器能处理符号,但它能真正理解符号所代表的意义吗?如果人的概念依赖于人类的躯体和动机(涉身性认知),那机器怎么可能掌握它们呢?这个问题主要是指机器是否能够拥有指称能力。塞尔的“中文之屋”提出了反对意见。其实这个问题的关键还是要弄清什么是“意义”?如果意义是指所谓抽象的“概念”内涵而非表征形式,那么就必然存在一条语义鸿沟,因为机器内部能够处理或变换的只是不同的形式语言而已。但如果意义是指“行为表现”,那么这个问题就回到了上面图灵测验的第一个论据上去了。

人类语言表达意义不在语言形式本身,而在于意识能力。正因为这样,才会有许多超出常规的意义表达方式。从根本上讲,我们也不必一一列举机器难以拥有的指称能力,诸如矛盾性言辞、元语言表述以及整体性语境等难以一致性描述的状况;而只需指出,机器不可能拥有人类的终极指称能力即可。那么什么是终极指称能力呢?宋代临济宗禅师惠洪在《临济宗旨》中指出:“心之妙不可以语言传,而可以语言见。盖语言者,心之源、道之标帜也。标帜审则心契,故学者每以语言为得道浅深之候。”其中所谓的“心之妙”者,就是终极指称。由于超越了概念分别,是难以用语言来描述的,这就为形式化描述带来了根本的困境。

第四个论据的讨论涉及到所谓预先设定程序的问题。我们知道,目前的机器只能遵循给定的程序运行(预先设定的程序),这样的话,机器又怎么可能拥有真正的创造性和灵活性?也许人工智能的目的就是要让机器的“计算”更加“聪明”,但目前预先设定程序的机器不可能是灵活的,更不用说创造性能力了。显然,事情越有规则,机器就越能掌控,这就是预先设定程序的界限。比如对于表面复杂结构的分形图案,由于可以靠简单规则加以迭代产生,机器就可以靠预先编程规则自如产生。但是对于人类常常出现的出错性,由于毫无规律可言,机器便不可能预先加以编程,机器也就不可能拥有出错性了。人是易于犯错误的,而机器按照设定的程序运行,永远不会出错,这就是预先编程的一个致命弱点,这也是第一个论据讨论中机器无法通过图灵测验的根本原因。

要知道出错性表面上似乎是一个负面品质,但其实质上则包含着灵活性和创造性,是一切新事物涌现机制的基础。如果没有生物基因的出错性,自然选择就没有了作用的对象,繁复的生物多样性也就无从谈起。同样,如果没有了思想模因的出错性,文化选择也同样没有了作用的对象,博大的思想多样性同样无从谈起。可见,出错性是机器难以企及人类心智能力的一个分界线,而这一切都归结为机器的预先编程的局限性。

同样的道理,由于预先编程问题,也带来了机器不可能真正拥有情感能力的新问题,这也构成了机器难以拥有人类心识能力的第五个论据。我们知道,情感从某种意义上讲就是常规理性活动过程中的“出错性”,是非理性的,但基于逻辑的机器是理性的。也许人们会说,非理性的情感在心理表现中是不重要的,甚至是不起作用的。但我们要强调,即使是理性思维,情感和其他非理性因素也在其中扮演重要角色(倾向性指导作用)。如果说理性的认知能力是前进的方向,那么非理性的情感能力就是前进的动力,人类的心理活动中岂可或缺情感能力?!而对于机器而言,缺少了情感能力,机器怎么能够像人类一样思维?!

机器是逻辑的,难以体现情感本性,目前有关情感的计算只是实现了情感的理性成分。笔者比较赞同这样的观点:理智是方向性的舵手,情感是驱动性的马达,在航行中情感与理智相互依存。因此,如果情感不能计算,那么也谈不上实现人类意识的计算,因为情感难以计算的本质就是意识的感受问题。

机器能拥有意识能力吗

通过上述对机器实现人类心智能力所面临的困境的讨论,就可以进一步引申出机器是否能够跟人类一样拥有意识能力的问题。为了避免陷入不必要的信念之争,笔者认为学术辩论主要应对事实或可能事实开展分析讨论。由于计算机器的概念相对明确,争论的焦点多半会聚焦到有关人类“意识能力”的界定之上。所以,下面先给出笔者所理解的人类“意识能力”的分析描述,然后再围绕着我们讨论的主题,展开观点的陈述。

意识包括功能意识、自我意识和现象意识,其中功能意识大体上涉及到意向性的心理能力,除了前面已经讨论过的五个论据外,似乎并不存在特别的新困难。但自我意识和现象意识则不同,由于涉及到去意向性和非意向性的表征问题,这便构成了机器心识的最大困扰。首先,我们要清楚“自我意识”不是关于“自我”的意识,而是一种自身内省反思能力。因此,自我意识是意识的核心功能。其次,我们必须澄清所谓的“体验意识(qualia)”到底指什么?是精神的本性,还是虚构的对象?这涉及到哲学基本问题,非常复杂,观点纷呈。机器能否拥有意识能力的核心问题,其实就在于此。

由于涉及到心灵的一些本质问题,机器意识研究一开始就引起了哲学领域的广泛关注,有专家专门讨论机器意识研究的哲学基础,也有学者讨论机器意识会面临的困难,包括像意识(consciousness)、感受质(qualia)和自我觉知(self-awareness)这些回避不了的、显而易见的困难问题,以及一些与意识相关的认知加工,如感知、想象、动机和内部言语等方面的技术挑战。除此之外,更多的则是延续早期对人工智能的哲学反思,对机器意识的可能性提出质疑。涉及到强弱人工智能之争、人工通用智能问题、意识的难问题、“中文之屋”悖论的新应用、人工算法在实现意识能力方面的局限性、蛇神机器人不可能拥有主观性、现象意识等众多方面的争论。

那么机器能够拥有这种现象意识状态吗?对于现象意识的存在性问题,有截然相左的两种观点。一种是神秘论的观点,认为我们神经生物系统唯一共有的就是主观体验,这种现象意识是不可还原为物理机制或逻辑描述的,靠人类心智是无法把握的。另一种是取消论的观点,认为机器仅仅是一个蛇神(zombie)而已,除了机器还是机器,不可能具有任何主观体验的东西。在这两种极端观点之间,还存在各种不同偏向的观点,如还原论、涌现论、唯心论、二元论,等等。其实,依笔者看来,无需做上述复杂的讨论,只需从意向性的角度来看,便可以澄清机器意识的可能性问题。笔者观点是,凡是具有意向性的心理能力,理论上机器均有可能实现,反之则肯定不能实现。因为一旦缺少了意向对象,机器连可表征的内容都不存在,又如何形式化并进行计算呢!

通过上述分析讨论,可以发现,机器意识难以达成的主要困境可以归纳为这样三个方面。第一个是形式化要求,特别是一致性要求导致的局限性,使得机器智能局限于具有意向性的心识能力,如色蕴、想蕴、行蕴。第二个则是机器缺乏不预见性的反应能力,只能通过预先设定的程序来应对环境。第三个就是无法拥有终极指称能力,无法实现去意向性的识蕴能力。最后补充一点则是,对于涉及到现象意识的感受性能力(受蕴),由于没有意向对象可以作为形式化的载体,因而对其进行的计算完全无从入手。

于是,我们可以很清楚地看到,意向性就是实现机器意识能力的一条不可逾越之界线。用数学的术语说,机器能够拥有的意识能力的上界就是意向性心识能力。当然这并非是上确界,因为不可预见性的反应能力也属于意向性能力,但从前面的分析中可以看出,目前基于预先编程的机器仍然无法拥有不可预见的反应能力。或许我们可以期待更为先进的量子计算机器来突破预先编程能力,但意向性心识能力的边界,依然是无法突破的。

因此,当我们把目前有关机器意识的研究分为面向感知能力实现的、面向具体特定意识能力实现的、面向意识机制实现的、面向自我意识实现的以及面向受蕴能力实现的这五个类别时,就可以同唯识学中意识的五蕴学说相对比,从而更加清楚地认识其中的本质问题所在。我们的结论是,对于机器意识的研究与开发,应当搁置有争论的主观体验方面(身心感受)的实现研究,围绕意向性心识能力(环境感知、认知推理、语言交流、想象思维、情感发生、行为控制),采用仿脑与量子计算思想相结合的策略,来开发具有一定意向能力的机器人,并应用到社会服务领域。

机器意识研究未来展望

围绕着上述分析所得出的主要结论,我们认为,未来机器意识的研究,主要应该开展如下5个方面的研究工作。

首先,构建面向机器实现的意识解释理论。由于意识问题本身的复杂性,目前存在众多不同的意识解释理论,其中只有部分理论用于指导机器意识的研究。为了更好地开展机器意识研究工作,取得更加理想的机器意识表现效果,必须直接面向机器意识实现问题本身,综合并兼顾已有意识解释理论,提出一种更加有利于机器意识研究的、有针对性的、全新的意识解释理论。提出的新理论应该不但能够清晰地刻画各种意识特性及其关系,而且应该符合机器意识实现的要求,更好地用以指导机器意识的开展。为此,具体需要开展现有意识解释理论的梳理研究、机器意识限度与范围的分析研究、意识特性刻画标准规范的构建研究等方面的研究工作。

其次,探索机器意识的计算策略与方法。过去的研究表明,要想让机器拥有意识能力,传统的人工智能方法是无能为力的,我们必须寻找全新的计算方法。因此,机器意识的深入展开,需要有不同于传统人工智能的计算策略和方法。就目前机器意识研究中所遇到的问题而言,在计算方法方面起码需要开展亚符号(神经信号)表征到符号(逻辑规则)表征之间的相互转换计算方法、在非量子体系中实现类量子纠缠性的计算方法,以及神经联结与符号规则相互融合的计算方法等方面的研究。而在计算策略方面则需要开展仿脑与算法相结合策略的研究。只有确定了行之有效的计算策略和方法,才能真正推动机器意识进一步深入发展。

第三,构建机器意识的综合认知体系。作为机器意识研究的主要任务,就是要构建具有(部分)意识现象表现的机器认知体系。给出的意识机器认知体系应该满足一些基本需求(38),起码应该包括:实现具有感受质和外部感知对象的感知过程;实现过程内容的内省反思;允许各模块无缝整合的可报告性以及配备本体感知系统的基本自我概念。因此,这部分的研究内容应该结合机器意识计算策略与方法的探索,参照已有各种机器意识认知体系的优点,有针对性地进行构建工作,以期满足基本的意识特性需求。

第四,开发实验性的意识机器人系统。在已有智能机器人开发平台的基础上,嵌入构建好的机器意识综合认知体系,形成具体的意识机器人系统,并开展具体的系统实验分析研究。通过各种意识特性的实验,检验机器意识综合认知体系的性能是否满足基本的意识特性需求,最终给出一种实验性意识机器人系统的范例。

第五,搭建机器意识测试平台。如何评测意识机器人系统所拥有的意识特性以及到达的意识能力程度,也是机器意识研究的一个不可或缺的重要方面。具体研究内容包括:建立机器意识评测标准体系,构建开展评测的环境平台(比如镜像认知能力的测验装置与软件、机器人行为表现分析设备与软件,以及意向性人机对话评测系统等)。通过搭建的评测平台,能够对意识机器人系统的意识特性和能力开展有效的评测工作。

总之,通过上述五个方面的研究,希望能够在建立全面体现意识特性的评测标准、提出行之有效的计算方法以及构建内省意识的认知体系等三个关键科学问题方面有所突破,切实推进机器意识的研究进程。这样,通过在机器意识研究方面形成一套较为成熟的机器意识理论、方法和技术,方能为推动机器意识学术研究的快速发展做出真正的贡献。

【注释】

Philip David Zelazo,Morris Moscovitch and Evan Thompson,The Cambridge Handbook of Consciousness,Edited by Cambridge University Press,2007.

Igor Aleksander,"The potential impact of machine consciousness in science and engineering",International Journal of Machine Consciousness,vol.1,no.1,pp.1-9,Jun 2009.

Pentti O.A.Haikonen,"Machine consciousness:new opportunities for information technology industry",International Journal of Machine Consciousness,vol.1,no.2,pp.181-184,Dec 2009.

Antonio Chella and Riccardo Manzotti,"Machine consciousness:A manifesto for robotics",International Journal of Machine Consciousness,vol.1,no.1,pp.33-51,Jun 2009.

Selvi Elif G k and Erdin Sayan,"A philosophical assessment of computational models of consciousness",Cognitive Systems Research,vo1.17-18,pp.49-62,Jul 2012.

Gamez D,"Progress in machine consciousness",Consciousness and Cognition,vol.17,no.3,p887-910,Sep 2008; Igor Aleksander,"Designing Conscious Systems",Cognitive Computation,vol.1,no.1,p22-28,Mar 2009.

Gao S.,"A quantum theory of consciousness",Minds and Machines,vol.18,no.1,pp.39-52,Mar 2008.

Schroeder M.J.,"Quantum coherence without quantum mechanics in modeling the unity of consciousness",Lecture Notes in Computer Science(including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics),vol.5494,pp.97-112,2009.

Michael B.Mensky,"Mathematical Models of Subjective Preferences in Quantum Concept of Consciousness",Neuroquantology,vol.9,no.4,pp.614-620,2011.

Mensky M.B.,"Can quantum computers simulate consciousness?",Proceedings of the 9th WSEAS International Conference on Applied Computer Science,pp.62-67,2009; G rnitz T.,"Quantum theory-Essential from cosmos to consciousness",Journal of Physics:Conference Series,vol.237,2010; Yu S.and Nikolic D.,"Quantum mechanics needs no consciousness",Annalen der Physik(Leipzig),vol.523,no.11,pp.931-938,Nov 2011.

(11)Bernard J.and Baars,David B.Edelman,"Consciousness,biology and quantum hypotheses",Physics of Life Reviews,vol.9,no.3,pp.285-294,Sep 2012.

(12)Susmit Bagchi,"A Distributed Computational Model of State of Consciousness",Advances in Intelligent Systems and Computing,vol.329,pp.235-245,2015; Susmit Bagchi,"Distributed Computation using Evolutionary Consciousness:An Approach",International Journal of Computational Intelligence Systems,vol.8,no.5,pp.928-942,2015; Susmit Bagchi,"On the Convergence of Quantum and Distributed Computational Models of Consciousness",14th International Conference on Artificial Intelligence and Soft Computing(ICAISC),Zakopane,Poland,Jun 14-18,2015.

(13)Maxs Velmans and Susan Schneider,The Blackwell Companion to Consciousness,Blackwell Publishing Ltd,2007.

(14)Bernard J.,Baars and Stan Franklin,"Consciousness is computational:The LIDA model of global workspace theory",International Journal of Machine Consciousness,vol.1,no.1,pp.23-32,Jun 2009; Stan Franklin,Sidney D'Mello,Bernard J.Baars and Uma Ramamurthy,"Evolutionary pressures for perceptual stability and self as guides to machine consciousness",International Journal of Machine Consciousness,vol.1,no.1,pp.99-110,Jun 2009; Urea Ramamurthy and Stan Franklin,"Resilient architectures to facilitate both functional consciousness and phenomenal consciousness in machines",International Journal of Machine Consciousness,vol.1,no.2,pp.243-253,Dec 2009; Uma Ramamurthy,Stan Franklin and Pulin Agrawal,"Self-system in a model of cognition",International Journal of Machine Consciousness,vol.4,no.2,pp.325-333,Dec 2012.

(15)Aleksander I.,"Neural Approaches to Machine Consciousness",Computing Anticipatory Systems:AIP Conference Proceedings,vo1.1051,pp.3-14,2008.

(16)Amir Hussain,Igor Aleksander,Leslie S.Smith and Ron Chrisley,"Brain inspired cognitive systems (BICS)",Neurocomputing,vol.72,no.4-6,pp.683-684,Jan 2009.

(17)Igor Aleksander and David Gamez,"Informational Theories of Consciousness:A Review and Extension",Advances in Experimental Medicine and Biology,vol.718,pp.139-147,2011; Mike Beaton and Igor Aleksander,"World-related integrated information:Enactivist and phenomenal perspectives",International Journal oFMachme Consciousness,vol.4,no.2,pp.439-455,Dec 2012.

(18)Alan R Pentti O.and A.Haikonen,"Consciousness and Robot Sentience",World Scientific,2012.

(19)Pentti O.A.Haikonen,"XCR-1:An Experimental Cognitive Robot Based on an Associative Neural Architecture",Cognitive Computation,vol.3,no.2,pp.360-366,Jun 2011.

(20)Chella A.,Frixione M.and Gaglio S.,"A cognitive architecture for robot self-consciousness",Artificial Intelligence in Medicine,vol.44,no.2,pp.147-154,Oct 2008; Antonio Chella and Salvatore Gaglio,"Synthetic phenomenology and high-dimensional buffer hypothesis",International Journal of Machine Consciousness,vol.4,no.2,pp.353-365,Dec 2012.

(21)Alexei V.Samsonovich,Kenneth A.Jong and Anastasia Kitsantas,"The mental state formalism of GMU-BICA",International Journal of Machine Consciousness,vol.1,no.1,pp.111-130,June 2009; Andrea Stocco,Christian Lebiere and Alexei V.Samsonovich,"The B-I-C-A of biologically inspired cognitive architectures",International Journal of Machine Consciousness,vol.2,no.2,pp.171-192,December 2010; Alexei V.Samsonovich,"Extending cognitive architectures",Advances in Intelligent Systems and Computing,vo1.196,pp.41-49,2013.

(22)Piotr Boltuc,"The philosophical issue in machine consciousness",International Journal of Machine Consciousness,vol.1,no.1,pp.155-176,June 2009.

(23)Long L.N.and Troy D.Kelley,"The requirements and possibilities of creating conscious systems",AIAA Infotech at Aerospace Conference and Exhibit and AIAA Unmanned...Unlimited Conference,2009; Alessio Plebe and Pietro Perconti,"Qualia turing test:designing a test for the phenomenal mind",Proceedings of the 1st International Symposium on Towards a Comprehensive Intelligence Test:Reconsidering the Turing Test for the 21st Century,pp.16-19,2010; Knud Thomsen,"Consciousness for the ouroboros model",International Journal of Machine Consciousness,vol.3,no.1,pp.163-175,June 2011; Ben Goertzel,Characterizing HumanLike Consciousness:An Integrative Approach,Proceedings of 5th Annual International Conference on Biologically Inspired Cognitive Architectures,MIT Campus,Cambridge,MA,Nov 07-09,2014; Kazuteru Miyazaki and Junichi Takeno,"The necessity of a secondary system in machine consciousness",Proceedings of 5th Annual International Conference on Biologically Inspired Cognitive Architectures,MIT Campus,Cambridge,MA,Nov 07-09,2014

(24)Arrabales R.and de Miguel AS,"Applying machine consciousness models in autonomous situated agents",Pattern Recognition Letters,vol.29,no.8,pp.1033-1038,Jun 2008.

(25)Raul Arrabales,Agapito Ledezma and Araceli Sanchis,"Strategies for measuring machine consciousness",International Journal of Machine Consciousness,vol.1,no.2,pp.193-201,Dec 2009; Raul Arrabales,Agapito Ledezma and Araceli Sanchis,"Establishing a Roadmap and Metrics for Conscious Machines Development",Proceedings of the 8th Ieee International Conference on Cognitive Informatics,pp.94-101,2009; Raul Arrabales,Agapito Ledezma and Araceli Sanchis,"Assessing and characterizing the cognitive power of machine consciousness implementations",AAAI Fall Symposium-Technical Report,vol.FS-09-01,pp.16-21,2009.

(26)Raul Arrabales Moreno,Agapito Ledezma and Araceli Sanchis,"On the practical nature of artificial qualia",Proceedings of the International Symposium on AI Inspired Biology-A Symposium at the AISB 2010 Convention,pp.8-13,Mar 29-Apt 1,2010.

(27)Raul Arrabales,Agapito Ledezma and Araceli Sanchis,"The cognitive development of machine consciousness implementations",International Journal of Machine Consciousness,vol.2,no.2,pp.213-225,Dec 2010.

(28)Raul Arrabales,Agapito Ledezma and Araceli Sanchis,"Simulating Visual Qualia in the CERA-CRANIUM Cognitive Architecture",Advances in Experimental Medicine and Biology,vol.718,pp.223-238,2011.

(29)Raul Arrabales,"Inner speech generation in a video game non-player character:From explanation to self?.",International Journal of Mactn'ne Consciousness,vol.4,no.2,pp.367-381,Dec 2012.

(30)Gallup G.,"Chimpanzees:Self-recognition",Science,vo1.167(3914),pp.86-87,1970.

(31)Pentti O.and A.vHaikonen,"Reflections of consciousness:The mirror test",AAAI Fall Symposium-Technical Report,vol.FS-07-01,pp.67-71,2007.

(32)Komatsu T.and Junichi Takeno,"Research and development of conscious robot mirror image cognition experiments using small robots",Proceedings of 2nd International Conference on Agents and Artificial Intelligence,vol.1,pp.479-482,Jan22-24,2010; Donaldson S.,Jesse Kawell and Chris Walling,"Computers know themself:Exploring consciousness via self-aware machines",Proceedings of the 49th Annual Association for Computing Machinery Southeast Conference,pp.70-74,Mar 24-26,2011; Toshiyuki Takiguchi and Junichi Takeno,"A robot uses an evaluation based on internal time to become self-aware and discriminate itself from others",Advances in Intelligent Systems and Computing,vo1.196,pp.309-315,2013.

(33)Edelman D.B.,Baars B.J.and Seth A.K.,"Identifying Hallmarks of Consciousness in Nonmammalian Species",Conscious Cognition,14:169-187,2005.

(34)周昌乐、刘江伟:《机器能否拥有意识——机器意识研究及其意向性分析》,《厦门大学学报(哲学社会科学版)》,2011年第1期。

(35)Pentti O.A.Haikonen,"Consciousness and the quest for sentient robots",Advances in Intelligent Systems and Computing,vo1.196 AISC,pp.19-27,2013.

(36)周昌乐、刘江伟:《机器能否拥有意识——机器意识研究及其意向性分析》,《厦门大学学报(哲学社会科学版)》,2011年第1期。

(37)周昌乐:《重新发现图灵测验的意义》,《博学切问》,厦门大学出版社,2015年。

(38)Komatsu T.and Junichi Takeno,"Research and development of conscious robot mirror image cognition experiments using small robots",Proceedings of 2nd International Conference on Agents and Artificial Intelligence,vol.1,pp.479-482,Jan 22-24,2010.

(原载《学术前沿》2016年第7上期)