巴黎高等管理学院

ESGCI 观点 | 人工智能强弱与人类的自我意识

“强人工智能”是真正能推理(Reasoning)和解决问题(Problem-solving)的智能机器,并且,这样的机器将被认为是有知觉的,有自我意识的。可以独立思考问题并制定解决问题的最优方案,有自己的价值观和世界观体系。有和生物一样的各种本能,比如生存和安全需求。在某种意义上可以看作一种新的文明。强人工智能也被成为通用性人工智能Artificial General Intelligence(AGI)。


人工智能的一个比较流行的定义,也是该领域较早的定义,是由约翰.麦卡锡 (John McCarthy)在1956年的达特矛斯会议(Dartmouth Conference)上提出的:人工智能就是要让机器的行为看起来就象是人所表现出的智能行为一样。但是这个定义似乎忽略了强人工智能的可能性。另一个定义指人工智能是人造机器所表现出来的智能性(弱人工智能)。总体来讲,目前对人工智能的定义大多可划分为四类,即机器“像人一样思考”、“像人一样行动”、“理性地思考”和“理性地行动”。这里“行动”应广义地理解为采取行动,或制定行动的决策,而不是肢体动作。


人工智能技术现在所取得的进展和成功,是缘于“弱人工智能”而不是“强人工智能”的研究。正如国际人工智能联合会前主席、牛津大学计算机系主任迈克尔·伍德里奇(Michael Wooldridge)教授在2016年CCF-GAIR大会1报告中所说:强人工智能“几乎没有进展”,甚至“几乎没有严肃的活动”(“little progress , little serious activity”)。事实上,人工智能国际主流学界所持的目标是弱人工智能,也少有人致力于强人工智能。


SpaceX和特斯拉的共同创始人埃隆·马斯克、宇宙学家斯蒂芬·霍金、微软公司创始人比尔·盖茨和苹果联合创始人史蒂夫·沃兹尼亚克等业界大咖都发表过关于人工智能威胁的言论,无数文章援引了他们的担忧。但是百度首席科学家、斯坦福大学教授吴恩达做了个比喻,人类对未来人工智能的担忧简直比得上对半人马座α星系的幻想(注:由于半人马座α星系统距离地球很近,许多科幻小说都“认为”这里存在发达的宇宙文明)。简单来说,人们对人工智能的恐惧主要是对强人工智能的担忧,而强人工智能实际上是否会实现还是一个争议。





但如果我们把“自我繁衍”和“自我进化”定位为强人工智能的一个关键特性,那么似乎这个担忧也不是太遥远。2017年年底,谷歌就宣布在开发机器学习软件方面,人工智能AutoML已经击败人类AI工程师,并且创造出比人类设计更强大、更高效的AI系统。这个由AI创造的“子AI”,性能已打败人类创造的AI:测试中,名为NASNet的“子AI”系统正确率达到82.7%,比之前公布的同类AI产品的结果高1.2%,系统效率高出4%。这也就意味着即便人工智能“始祖”并不具备高智慧,设计子人工智能的方向不能跳出人类给出的一个具体应用场景,但是随着不断的进化,子子孙孙繁衍下去也许始祖一个小小的Bug就会造成人工智能产生自我意识。




让我们先把对人工智能产生“自我意识”的担忧放在一边,思考一个问题:自我意识能让人工智能更反叛人类的意愿?


Self-Conciousness

自我意识是对自己身心活动的觉察,即自己对自己的认识,具体包括认识自己的生理状况(如身高、体重等)、心理特征(如兴趣、性格等)以及自己与他人的关系(如自己与周围人们相处的关系,自己在集体中的位置与作用等)。自我意识的结构是从自我意识的三层次,即知、情、意三方面分析的,由自我认知、自我体验和自我调节三个子系统构成。体验这个词可以作为“自我意识”的核心,没有自我意识就少了很多体验,人生就不够精彩;但体验可不全是快乐的,甚至说大部分体验都是痛苦焦灼的,而快乐与否主要由“自我认知”来判断,并由“自我调节”来加强。


让我们具体来看看自我意识的各种主要分类如果体现在人工智能上会发生:



1、生计意识

谋生的压力相信每个人都能明白是什么意思,一旦人工智能有了“谋生”的意识,那么装载它的机器人就会整天为了给自己赚电费、上网费、云盘存储空间费而操心了,并别提机器人也需要住在房间里,这房贷就可控制它半辈子。



2、竞争意识

竞争意识的方向很容易被诱导,一旦机器人产生了互相间摄像头的攀比之风,那么人类一条经验法则将轻松奴役机器人了:吸毒毁一生、单反穷三代。



3、危机意识

下岗的危机也许可以让人工智能之间更严苛的监管,不断提高自己的算法来取悦主人。


......


也许需要要担心“自我意识太强”,因为那样会表现出什么事都以自我为中心,“什么事都是要为我服务的”,“都要围着我转”,给人以非常自私的感觉。但是这“围着的服务”是什么还是可以引导的,如果是“不断擦拭镜头”之类人类无所谓的服务内容,那么也不会对人类产生困扰。

倒过来“没有自我意识”是指自我与他人的边界不够清晰。比如:什么事是属于自己应该做的,什么事情是别人应该做的,这些都会分不太清楚。结果,做了很多事,觉得自己是好心,可为什么没有受到人家的感激,还得了一堆埋怨?这一般都是自我边界不清的人常遇到的事。这些才是我们最需要规避人工智能的缺陷。

分析到这里我们可以提出一个观点:自我意识非但不会让人工智能变得更反叛,反而会让人工智能以及装载的机器人更为人类所控制。


回到弱人工智能的现实世界,AI也是人类的一种新的自我体验,督促人们不断反思自己的价值,并且加强自我调整的力度。纵观历史发展,每次技术革新都会给社会就业结构带来改变,被视为第四次工业革命核心领域的人工智能(AI)时代正快速到来,并成为国内外竞争的新焦点,越来越多的人开始担心人工智能在将来是否会取代他们的工作岗位。“生计意识”、“危机意识”统统发挥作用,升至激发了浓厚的“竞争意识”。



2019年7月17日,马斯克掌舵的脑机接口企业Neuralink公司宣布,已经研发出脑机接口系统,可实现人脑与人工智能的实时连接和共存。这个项目的起因就是埃隆·马斯克(Elon Musk)认为,为了迎击人工智能对人类不可避免的挑战,人类必须与机器“联系起来”。


然而今天在城市里,没了手机的现代人几乎寸步难行、与世隔绝,人类与外部世界的信息主要接口都成为了一部智能手机。那这是否意味着,是智能手机掌控了人类,而不是人类掌控着工具?— “智能手机控制人类”是我们的Marcel教授的观点,而他也是我认识的唯一完全不用手机的现代人。

做一个有点烧脑、绕口的总结性发问:

到底是人工智能的自我意识、自我进化会造成机器控制人类,还是人类的自我意识因为担心人工智能控制人类而主动连接机器结果造成机器控制人类?


我相信的命题是后者,人类如果失败必然失败在“欲望”或者“观念”主导的“自我意识”下。而要避免失败,就必须使用人工智能来帮助人类控制过度的自我意识。在这个领域弱人工智能已经能做很多事情,例如可以通过人类的面部动作细节而判断人的情绪和是否走神,从而辅助人们摆脱成瘾性坏习惯,例如“通过陪伴聊天”来帮助人们舒缓情绪压力、开阔心胸。


我们EDBA项目法国的博士二你年级学生Michel CHALHOUB就专门研究“人工智能对人类行为的操控”,他最新发表了一篇有趣的文章就是站在“市场行为分析”和“客户忠诚度管理”这个角度介绍了弱人工智能所能做的有价值的事。


文章详情查阅:因AI而改变的消费行为.前传 | ESGCI EDBA文献发表


ESGCI          项目简介           研究优势           友平           新闻中心     
Tel:400-112-3016