人计与机算:为什么AI距离智能越来越远?

“苇草智库”编者按:通过我们对人机交互、人机混合智能、深度态势感知、计算与算计的理论起源、发展过程、未来展望思考,并结合相关国内外研究现状,提出一些较深入思考后的观点,并认为解决未来人工智能问题的前途在于人机环境系统智能的发展。

2022年7月2日,智酷No.153(总265期)苇草智酷邀请到北京邮电大学人工智能学院研究员刘伟老师分享“人计与机算——为什么AI距离智能越来越远?”,东西文库创始人赵嘉敏、数字经济学家刘志毅两位老师参与点评。以下根据刘伟发言内容整理而成。

今天给大家分享的内容是“人计与机算”。2021年讨论了人机混合智能里的深度态势感知和人的算计与机器的计算如何结合的问题。之后有一位长者问了我五个问题。

第一,关于数学和逻辑的关系问题。这个问题是百年来数学的基础问题,迄今为止似乎没有定论。从实用主义角度说,“把数学等同于逻辑”、“把逻辑等同于智能”、“把符号与对象的指涉混淆”是存在的。但数学思想的探讨中,这几个“致命的缺点”好像并未定案。也就是说,在“计算”和“算计”有机整体中数学和逻辑是何种关系呢?

第二,如果“计算”等同于客观性、事实性,“算计”则指主观性、价值性。这种区分是否将主观客观硬性割裂开来?如果这是“计算”、“算计”的分野,那么主客观之间的相互作用是如何体现的?

第三,借助太极八卦的图式,说明了计算(模型)和算计(经验)的关系,可理解为“彼此互嵌”,但这种“互嵌”的图景,是如何表征的呢?或者说,这种表征,是不是可以符号化?如果符号化,是否又会落入计算符号主义的巢臼?

第四,如果数学解决的是being的问题,远未解决should的问题。这两者之间的融合,其底层逻辑应是怎样的?

第五,“计算”和“算计”是“建构理论(以第一性原理为依托)”和“唯像理论(以归纳法为依托)”两种类型的差别。从终极意义说,西方数学思想遭遇危机之后,似乎总是试图将唯像理论纳入抽象的演绎体系中去,虽然这一过程始终难以完成。这种数学思想背后的动因是什么?这种思想驱动,与您主张的“算计”的解释体系之间是何种关系?二者是否有更高包容度的解释框架?

在今天的分享中,可能会有一些时隐时现的回答,希望大家指出相应不明白的地方,共同探讨。

我们认为世界是一个多因多果多维多元的计算和算计结合,称之为计算的多维宇宙空间。这个空间里既包括了实际物理的X、Y、Z、T,即空间和时间的实际四维空间(物理空间),也包括了虚拟的X′、Y′、Z′、T′的虚拟空间。虚拟现实和真实的物理世界有很多不一样,是八维,如果加上事实性的和价值性的八维,世界可能会有十六个维度,其他层次还有目的、责任、荣誉等等。

从上图(图1)上面这一排西方的智者可以看出,现在研究的主要涉及到一个很基本的问题,就是从being(存在)开始,是西方科学最早的一个本源。Being是客观存在,是“是”的意思,一个系动词,是研究事物根源的问题,也是科学和技术理性思想起源于西方很重要的原因。而在中国或者东方,他们主要研究的一个问题不是求being,而是“should”的问题,“should”是一个“义”,是价值性的问题,是人和人之间,人和环境之间,感性多一些的情理关系问题。

我特别想把东西方思想的差异性体现出来。因为西方侧重于人和物之间的关系,并以科学技术的发源地为人类做出了很重要的贡献。比如以计算为思想的学科物理、化学、天文、地理、近现代数学,涌现出了的微积分(包括范畴论、集合论)都是西方理性思想很重要的一个发展延续。但在东方,长期以来,更多的是一个人和人、人和社会、人和环境之间的情理关系问题。虽然也有数学,还是比较早期的、机械性的,虽说也有一些现代数学萌芽,但是没有发展出像西方基于公理的科学技术洪流。

所以西方偏“道”,“道”是一种自然的秩序。如果把这个“道”理解为自然的秩序,理性的东西,那么“名”是人为的一些秩序。“名”就是人设计的、人规定的、人赋予的“名”。“道可道,非常道。名可名,非常名”这两句话是紧密在一起的,单独说其中一句,很难表征出这种人为秩序与自然秩序之间的相互作用、相互影响。“道”是自然的秩序,“名”是人为的秩序。“道”“名”结合在一起就构成了东方和西方重要的思想融合。

目前大家可以从很多西方科学技术的书籍里慢慢体会到他们正在融入东方的一些思想,甚至包括物理学(如量子物理、相对论等)也融入了很多的道家思想、儒家思想,甚至佛家思想。而在中国,尤其东方,甚至全世界,大家对西方科学技术“西风东渐”的力量都深有体会:它改变了整个人类和世界,如衣食住行等等都是从西方科学和技术为基础所产生出来的结果。所以东方和西方,一个“道”,一个“名”,它们之间的相互作用构成了计算和算计的整个体系。未来的发展也是一个东方和西方不断融合的过程。西方偏计算,东方偏算计,是一个计算计的体系,而计算机主要体现在计算上,人类更多体现在算计上,从根本上而言,是人类的算计产生出了计算,即能否计算以及如何计算构成了算计。所以人机环境的计算与算计系统融合才是未来智能发展的发展趋势。

曾经有一位重要的人物——法国的解构主义大师雅克·德里达,曾经对东方文明和西方文明区别做出过一个很精辟的论述,他说,东西方文明之间最重要的差异在于是否具有逻辑性。他认为东方思想中逻辑体系不健全或者缺乏逻辑性,而西方体系里的哲学、科学等等,甚至包括人文,尤其是近代的人文,逻辑性非常强。所以他提出了东西方文明的差异,这种逻辑性差异不妨简化为“东计西算”,东方的算计,西方的计算。因为计算靠逻辑,算计有超逻辑或者非逻辑的成分,至少是目前逻辑很难包含的部分,或许“东计西算”可以作为东西方思想差异的主要代表。

图2雅克·德里达(Jacques Derrida,1930-2004),法国哲学家,20世纪下半期最重要的法国思想家之一,西方解构主义的代表人物。

为了深入探讨这个问题,不妨把一个机器智能看作计算来实现的表征,计算可以简单地理解为函数关系,这个函数关系有基于规则的函数,也有基于概率和统计的函数。函数有三个方面来表征,即函数系统“F”、输入端自变量“X”、输出端因变量“Y”这三者之间的关系Y=F(X),知道两者求第三者,这就是构成了整个计算的体系。

尽管东西方现代数学的“计算”的概念依然重要,包括范畴论、集合论等“非计算”的思想在新的数学体系里不断涌现。之前遇到一个数学家请教了这个问题,他说计算是传统数学的一个基础,现代数学越来越偏向非计算的东西,像图、范畴等等一系列分支领域发展态势会越来越强。

人类智能用“算计”来实现,人的算计里不是已知什么求什么,已知两者求第三者,而是半知两者或者半知一者,甚至不知道任何一个部分,也可以尝试不断试错,去实现他的目的和意图。

但是,计算的FXY和算计的FXY不一样。因为计算的所有参数是相对客观的、有规则的、有边界的、有约束的、有条件的。而在算计里输入的状态X往往没有边界、条件、约束,或者它的约束条件非常广,不但包括外来的一些输入还包括一些个人内心的想法、思想里面的一些东西,所以他的状态不是单纯的某一个参数,而是多个参数,输入自变量X很复杂,既有主观的参数,也有客观的参数,而在计算里的X是相对客观的。同样的函数系统F也有主观和客观的部分,输出Y也有主观的和客观的结合部分。

所以从这两个对比上可以看出,计算和算计有很多不一样,算计既包括了理性的部分,也包括了感性的部分,具有情理性;当然,计算则主要是以理性为主。

西方科学和技术的发展,包括西方哲学思想的发展,是以逻辑作为基础。这个逻辑体系是从亚里士多德开始的并一直延续到现在,计算的逻辑基础有三个基本的定律,即:

第一,同一律。同一律在数学里表现得非常突出。定义为“A=A”,无论是什么,它就是它。A是它本身,而不是其它什么事物。

而对应的在算计的逻辑基础中是“非同一律”,A≠A,无论是什么,它不一定是它。A既是它本身,也可以是其它事物。

第二,无矛盾律。在计算逻辑里面A和非A不可能同时发生。没有什么事物同时既是它又不是它。一个命题和它的相反面不可能同时为真。但在算计的逻辑基础中恰恰相反,有“矛盾律”。A和非A可能同时发生。任何事物同时既是它又不是它。一个命题和它的相反面可能同时为真。比如人,既可以是好人又会是坏人,这个命题是可以存在的。

第三,排中律。在计算逻辑里任何事物要么是,要么不是。A或者非A为真,两者之间不存在其它情况,中间不能有一个半A或者半真半假的东西。但是在算计逻辑里是可以非排中律,任何事物不一定要么是,要么不是。A与非A可以同时为真或假,两者之间可以存在其它情况。简单地说,算计包含了辩证,包含了可变性。

我们提出算计的逻辑基础也不很准确。因为算计有很多还是超逻辑或者非逻辑,现在的逻辑很难总结它的一些特征。但是总体来说在计算的逻辑里有很多悖论或者矛盾出现,包括集合论里罗素的理发师悖论,其实在算计里面,理发师悖论可能慢慢地就通过辩证做抵消。在整个计算和算计的体系里,很少有悖论和矛盾出现。它可以解释清楚,因为有非同一律,有矛盾律,有非排中律的出现。

计算和算计结合他们的效果会是什么?我曾与一位北京邮电大学的电子学老教授讨论过,最后总结出“计算如剑,算计如谱”,是软性的,是关连的,是相关性的。

如果说计算涉及到事实性的人机环境系统的问题,算计更多涉及到的是价值性、意图性的问题,计算计就是事实和价值混合的人机环境系统的问题。在实践和工程中,对应的不同颗粒度的模型,比如战略级的、战役级的、战术级的,根据不同的外部实际情况来进行调整。

调整过程中有两大方向:第一、改变世界、改变观察的对象,通过行动来进行改变;第二、改变自己,通过预测反思来改变自己的行为。

在改变过程中有两个突出的特点,第一叫贝叶斯理论,第二叫锚定论。所谓贝叶斯是结果会随着外部环境数据的变化而发生变化;而锚定论则是尽管外部环境的数据和各种干扰刺激的不断变化,而你的信仰却永远不变。前者是随着外部的变化而变化,后者随着外部的变化而不发生变化。人机混合里往往是计算和算计,算计里边有不变的东西,计算里常常会发生变化。所以,人机共生的认知模型里是一个变和不变、变易与不易的结合。

截至目前,从计算角度最能体现的智能就是人工智能,我推荐一本2003年马希文老师在商务印书馆出的《逻辑·语言·计算(马希文文选)》一书,在这本文选里面,我们看到了他在上个世纪80年代定义的什么是人工智能,即一个问题总是利用已知的知识(K),对于给定的数据(D)进行加工一起得到解答(R),其解法则用某种程序(P)表述。

当知识比较充分时,人们可以在看到D以前根据K写出P,这个P对一切D都适用;当知识不够充分或P太复杂时,我们还可以考虑如下的办法:写出一个元程序M,对于给定的D,根据K做出一个程序P来专门加个D。这时,M可以通用于一大类K,但总是得到D以后才做出P来,M通常叫做问题求解程序。

这种M中通常并不包括K中的具体细节。因此,对M的研究就脱离了问题的具体领域,成为人工智能内部的课题了。这也正是人工智能理论的核心之一——搜索。

大家注意,马老师这个定义是非常简洁准确,而且让人一目了然。他说人工智能是对数据根据已知的知识进行加工,先建模然后再搞一个程序,进行运行,这就是人工智能。他说得非常浅显,用5个字母来表征。我觉得这是比较好的一个定义。

关于大脑究竟如何工作的问题至今仍无答案,而符号主义(认为大脑是类似于计算机的加工符号的机器)与联结主义(认为大脑是并行运转的大型神经网络)之间的争论也从未停息。在这我特别强调马库斯的《代数大脑:揭秘智能背后的逻辑》这本书,它的思想非常深邃,一直影响到今天,尽管有些被现在机器学习的新知识所覆盖,但是它的基本思想依然存在。

在这本书他强调了关于大脑究竟如何工作的问题,马库斯教授分析了联结主义的模型和符号加工模型,在计算方面的优势和劣势,关注不同联结主义模型之间的差异,以及特定模型与符号加工的特定假设之间的关系,并围绕着多层感知器展开了讨论。特别论述探讨了在神经网络中深度学习和强化学习最基本的原理问题。

探讨里面提出一个关于异或是深度学习天花板的问题。在单层的神经网络里边,异或问题是解决不了的,这个问题导致了人工智能第二次寒冬的来临。为什么会有这么大的影响?因为异或问题通过硬件需要多个晶体管的组合,如果用软件就要多层的神经网络,后来辛顿(Geoffrey Hinton)用多内层的神经网络做了深度学习,解决了异或问题,使得第三次人工智能的高潮一直热到现在。但是即使是多内层的神经网络还有以下的几个缺点(《代数大脑》中所提到的):

第一,人工神经网络(ANN)还不够透明,即不能够解释它的迁移能力有限。依然对数据很饥渴,需要大量的数据去喂它,训练它,训练以后再测试。它的模型假定世界大体是稳定的,实际上有很多情况下外部环境是有很多变化的,数据不是稳定的。

第二,未搞定开放式的推理。现代的深度学习,强化学习对于封闭式的推理是大家可见的。AlphaGo把人打得一塌糊涂,那是在开放环境下,如果让它在真实的环境下去炒股、打仗,它就不行了。深度学习难以工程化还未与先验知识(priori knowledge)结合,不能自然地处理层级结构,还不能够区分因果和相关关系,它只是一种近似的,不能完全相信其答案。

这种近似的模拟是深度学习和机器学习所包含的一些学习算法里很重要的一个缺点,就是近似的反应。这种近似的反应往往会出现一个“失之毫厘,谬以千里”的现象,也会造成不可信任,可解释性差,透明性差。所以马库斯的《代数大脑》这本书,到今天依然清晰表明了机器学习方法基本机理的优点和缺点。

在与马库斯教授辩论的时候,辛顿教授提出一个新的神经网络,叫脉冲神经网络。包含具有时序动力学特性的神经元节点、稳态-可塑性平衡的突触结构、功能特异性的网络环路等,高度借鉴了生物启发的局部非监督(如脉冲时序依赖可塑性、短时突触可塑性、局部稳态调节等)、全局弱监督(如多巴胺奖赏学习、基于能量的函数优化等)的生物优化方法,因此具有强大的时空信息表征、异步事件信息处理、网络自组织学习等能力。

其思路是动态神经网络中的神经元不是在每一次迭代传播中都被激活(而在典型的多层感知机网络中却是),而是在它的膜电位达到某一个特定值才被激活。当一个神经元被激活时,它才会产生一个信号,传递给其他的神经元提高或降低来调节阈值膜电位。所以脉冲神经网络它更像生命体,更像人类神经元相互信息传递的机制。

借助于神经科学的研究,人们可以精确的建立基于脉冲产生时间神经网络模型。这种新型的神经网络采用脉冲编码(spike coding),通过获得脉冲发生的精确时间,这种新型的神经网络可以获得更多的信息和更强的计算能力。

目前很多专家正在研究脉冲神经网络,但是任何事物都有它的优缺点,由于脉冲神经网络中输入、输出都是脉冲信号,而脉冲信号本质上可看成二进制比特流,这理论上是无法求导的,也就没法直接套用ANN使用的BP算法(反向传播算法)进行训练。

谷歌有一个LaMDA的聊天程序。一个程序员通过和这个程序进行聊天,他认为自己发现了这个程序有人格,用他的表述来说,这个LaMDA程序已经通过了图灵测试,而且好像还比图灵测试的得分高。后来很多专家给他泼了一盆冷水,据说这个程序员也被“休假”了。这究竟是为什么呢?究其因在于目前的对话/聊天程序从根本上来说还是基于统计和概率,还是通过搜索、对比、匹配、择优来进行检索反馈和人之间的互动。这种互动不是通过“理解”来展开的,而人与人之间的交流则是通过理解来展开的。

我想推荐一本郭宝昌先生的《了不起的游戏——京剧究竟好在哪儿》。他在书里,对人和人之间的交流做了一个很精辟的概括:在京剧表演当中,丑角给大家带来的快乐,给整个戏剧带来的冲击,往往比一些其他角色还要直观,还要透明,还要强烈。

京剧美学里边有个很重要的特点,和西方的戏剧电影不一样的地方在于它是观演一体化,表现得最突出的一个角色就是丑角。为什么?因为看京剧的时候,可以看到一个丑角的演员一边演戏,一边用观众的语言和动作来解释戏剧,来解释场景,他既入戏又出戏,既具身又离身还反身,使得一个京剧世界抑或就是一个人物环境混合的元宇宙时空。

所以观演一体化在人机交互里是很重要的,一个机器如果做不到这种即具身又离身还反身,它就很难产生理解。人和人之间的交流就是观演一体化。一个人和另外一个人在交流思想的时候,他往往很快就把对方的思想和自己的进行融合。到目前为止,我们感觉只有人类生命体才能做到具身、离身、反身同时作用和游刃切换,他的主体、客体是不断地变化的,从不固定。所以,人机环境混合智能中的人,既要能入系统也要能出系统。

交互“态”(事实)时需要入系统与机器功能分配,把握“势”(价值)时需要出系统控制机器智能的方向……所以一个人机环境系统中“态”、“势”提前规划与相应流程的计算计(预测、分析、设计、优化、随动、应变)就比较重要。

我认为在交互里边有七个词很重要。第一叫弹性,表征的弹性;第二叫动态,它不是静态的,它又是它自己,又不是它自己,它要动态地去揣摩对方,去交互交流;第三叫变速,它要加快,要延迟,该快的快,该慢的慢;第四叫混序,它要有秩序,又没有秩序,要跳跃;第五叫混构,就是同构也好,异构也好,它是混杂的;第六叫互射,这个很重要,在佛学里面,事物是相互反射的,不是单纯的一个因果,是多重因果之间的链式反应,很难找到最先的因;第七叫统原,就还原论和系统论是结合在一起的,不是孤立的。

举个案例说一下计算计,比如抖音和快手。大家常常以为它们是一种算法,其实不然,它需要人工智能的所谓的数据、算法、算力的支持,但同时它还需要算计,有一些用户体验组和调查员,通过调查算计的结果和机器计算的结果进行对比以后,才得出他们最后输出,做出相应的调整,他们绝对不是单纯地靠机器来搞定一切。

第一,没有比人更高的阶,没有比机更快的算,没有比环境更强的平台,只有把这三者进行融合,才会把计算和算计有机地整合在一起。

第四,东方智能的一多关系不仅涉及事实,而且还涉及价值。西方智能的一多关系主要涉及客观事实。它是科学和技术,它偏向于一些实际的人和物之间的关系。

第五,计算是基于数的,算计最突出的特点在于反映非数的关系,混有感性因素,计算使用参数建模,算计创造参数,有时候可以建模,有时候不可以建模,它也可以研究出一个结果。

第六,日常中的意外分为可计算的部分和不可计算的部分,比如风险,它就是可计算的部分,它是局部不确定,但是整体确定;比如一个地区的一对夫妇生男生女具有不确定性,但是这个地区的男孩女孩出生率是相对比较确定,属于可计算部分,可以通过概率和统计进行计算。但是还有很多意外是不可计算的,通过统计和概率也很难发现它的规律。好多文学家像程序员一样,既是自己又不是自己,游刃有余地在你我他之间不停地切换。

第七,全自主并不是完美的智能,完美的智能还应该包括它主和顺应。比如领导让你干一件事情,可以完全自主吗?未必。其实在一个组织里边,不是完全的自主,应该包含他主。这种他主和自主的层次的结合是非常重要的。

到目前为止,经常提自主智能是最高智能,其实不然,包括人在内,人也有自主部分,也有他主部分,自主的部分表证为同化,他主的成分表现为顺应,往往是同化和顺应之间的平衡才构成了完美的智能去解决问题。

人的智能里涉及到人机融合、非人+欺骗、艺术+技术、跨时空下的非情境、辩证、矛盾(包括偶然的,不可解释性的偶然)、洞察等等,自己趋势变通,看到兆头和苗头,及时地抓住时机,变通就是随机应变(图4)。

人工智能常常以机为主,以程序为主,宜人+解忧,偏重于技术,是场景化的,涉及到自洽的数理,包括在人工智能里面它尽可能的少偶然性,因为偶然性里边会出现不可控的现象。涉及being,是计算+感知+认知,缺少洞察,强调being,是什么、干什么,然后规则+统计+鲁棒(Robus)。在人的智能里面鲁棒性不是那么强,所以才能在人机混合智能里鲁棒性也不会很强,特别强的鲁棒性在博弈的时候别人一下就看出来了。

人机混合智能的技术理论框架,通过客观的数据和主观的信息之间的融合形成的“态”来进行知觉产生“势”,通过“势”基于公理和非公理的推理,慢慢产生了逻辑的决策和直觉决策的这种融合。然后把态、势、感、知做了一个区分,进行相应的定量化描述。

前几章主要是介绍了机器人的工作原理,包括组成机器人的基本软件和硬件;机器人的设计,从设计方法到拟人化再到原型工具;讨论了不同的交互方式,通过这些方式人类可以与机器人进行交互,例如通过语音和手势,分别介绍了人与机器人的空间互动、非语言交流和语言交流;另外人和机器人交互过程中一个很重要的挑战是关于情感、情绪它们之间的交流和处理。这本书做了一个比较详实的说明和处理,建立和执行人-机器人交互研究时需要考虑的方法和各种决策,以及各种方法的优缺点;涉及到机器人在媒体中扮演的角色以及交互机器人使用的伦理问题;还有人机的交互涉及到变(手机化)、互、主动……

其实现在的机器人的变化,更多的是除了变速器、减速器硬件以外,它的软件的变化是非常大的,未来的发展态势是尽可能让机器人的硬件不要变,变化的越少越好,而它更多的像手机一样不断地嵌入到机器人当中,软件变化比较大,这样它就像人人的生理变化相对来说不是很大,但是人的思想变化就很大,从小到大,不断地成长。

智能是人机环境生态系统交互产生出的一种功能和能力结合的事物,它不是单纯的一个人脑,也不是单纯的一个人就能搞定的。一个人生下来是没有太多智能的,是不断地和外界进行交流、交互,慢慢所产生出来。

智能是科学和非科学的复杂系统,也可以打破数理规律、物理规律。智能它有生理和心理的东西,它不是完全科学的。人工智能现在非科学的东西很少,所以我们说智能框架不是人工智能框架,智能的基础不仅仅是现代的数学,它需要新的数学体系出现。

智能不是大数据,而是按需组网的小数据和无数据。如果把大数据理解为智能,那是有点AI的意思,AI可能会需要大数据,但是真正的智能是顺其自然,以静致远,便能见瓶水之冰而知天下之寒。

智能不是万能,它需要勇气,果敢等一些心理进行辅助。智能里边包含的反智能。

当前的人工智能大潮,并非基于智能机理认识上的重大突破,而只是找到了一种,效能利用大数据和计算机特长的强大方法,大数据深度学习而已,它不是智能。现在的人工智能在某种意义上来说可能越走越远,距离智能越来越远。因为现在智能的机制、机理没有破解,只是用一个算法,用数据想解决非数据的问题是不可能的。所以根没有找到,它只是找到干,从干上来找,就相当于搬一个梯子想登月,梯子再高也登不了月一样。

第一,在计算和算计有机整体数学和逻辑有何关系呢?计算是基于公理的符号逻辑体系,算计是基于私理的非符号的逻辑体系,每个人的算计不一样。

第二,计算的符号客观性建立在事实和价值的一致性上,本质上是隐主体——人们的共识;算计中的主课题可以互换。它的主课题不是人,大家注意,计算的主体可能是人,算计的主客体可以互换,其主客体不是人,而是人物环境之间实时的交互,哪个是主体交互才是主体,人是其中的一个重要组成部分。

第四,既同一、排中、非矛盾,又含有不同颗粒度的辩证成分,既是实事求是,又是虚事求是。这个求里面有很多是主观的,它不是客观地求,是人在求,实事是客观存在的事物,现在由于元宇宙也有很多虚事出现,所以就是西方的being,这是客观的规律。其实有的时候是在求是的过程当中还需要什么术,还需要这种义,还需要名。除了道以外,还有名。

第五,未来的计算和算计,它的建构理论和唯象理论包含了感性和理性新的还原理论和新的系统论。新还原论、新系统论里要打破以前西方或者东方原有的架构。这种架构会出现大家从来没有见过的,但是又从过去慢慢衍生出来的一种新的体系。这种体系我感觉到可能是东西方融合所产生出来的一种解决框架。

Be the first to reply

发表回复

您的电子邮箱地址不会被公开。