摘要：人工智能体如今在法律上引起了诸多挑战， 包括人工智能体是否可以拥有以知识产权为代表的诸多权利， 以及人工智能体侵权后如何分配责任等。人工智能体在法律上能否被赋予法律主体地位是解决其权利归属和责任承担之前提基础。法律主体范围虽不断延展， 但其前共性为意志能力、实体形式和责任能力。应当承认人工智能体虽具有智慧性， 但受到意志能力的制约和责任能力的限制， 其法律性质仍为物， 其发展也应当符合以人为本的目的性。
关键词：人工智能体； 法律主体； 意志能力；
在算法、云计算和大数据不断发展的背景下， 人工智能发展呈现如火如荼之势。2017年10月在沙特阿拉伯的“未来投资倡议”大会上， 机器人索菲亚获得沙特公民身份， 成为全球第一个获得公民身份的机器人。2018年2月25日， 沈阳新松机器人自动化股份有限公司研发的智能移动机器人出现在平昌冬奥会闭幕式， 与轮滑演员一起为大家带来美轮美奂的表演。2018年4月18日， 无人驾驶清洁车队出现在上海市松江区， 具有自动启动、自动清扫、自动通过红绿灯和自动避开路障等功能。随着小冰诗集的“出版”, 越来越多的写稿机器人也涌入媒体， 写稿速度和文稿质量也不断提高。人们在为人工智能欢呼的时候， 不得不开始思考这一新兴事物对现有法律制度特别是法律主体制度的挑战。
一、人工智能体的概念及挑战
1.人工智能体的概念
人工智能 （Artificial Intelligence） 往往用于表达利用计算机模拟或实现的智能， 亦称之为机器智能。[1]学者尼尔逊认为， 人工智能是关于知识的学科--知识怎么表示出来以及怎样获取并使用知识的科学。[2]人工智能包含了“人工”和“智能”两大部分， 人工代表着其是由人类研发， 由人力所创造；“智能”是AI与其他人工研发的产品的区别， 即涉及“意识”“思维”等元素。
实际上， 这里包含两个概念， 一是人工智能， 一是人工智能体。人工智能指的是一种能力， 是基于特定算法程序而编写的一系列运算软件。人工智能体则是实在体， 属具体存在， 具有载体功能， 一般表现为机器人、无人驾驶汽车或机器手臂等实在物。人工智能无法脱离人工智能体而存在， 后者是前者之依托， 前者也是后者之核心所在。本文探讨的是人工智能体的法律人格问题， 人工智能因其技术性而无法被囊括其中， 只是学界往往混淆二者， 常以人工智能指代人工智能体， 因此做出区分。
2.人工智能体的特征
（1） 智能性。
2016年， AlphaGo以极大优势赢了围棋冠军李世石， 使得人工智能体在全世界范围内被热切瞩目。无论是曾经耳闻过人工智能体者， 抑或只把人工智能视为夜空遥远之星辰者， 都纷纷感叹于人工智能体之能力， 惊讶于其取得的如此成就。智能性是人工智能体区别于其他人工创造物的重要特点。基于一系列数据、算法， 人工智能体依托其智能系统， 可进行成千上万次模拟运算， 在短时间内做出最优决策。AlphaGo就曾认真研究过每一位围棋高手， 且对李世石的棋风也有相当了解。实际上， 李世石当时就相当于一个大脑跟背后2000个机器对弈。[3]正是因其智能性， 无人驾驶汽车才能够仅凭借其计算机系统， 就可以实现自主驾驶， 在无人看管的情况下选择路线、躲避路障、识别行人。
（2） 人工性。
人工智能体因其独特性和超越性引起众多关注， 但切不可忘记的是其具有人工性， 即人工智能体是人工创造的， 无论是外在的载体， 还是人工智能系统都是人造物。人工智能体能够实现记忆和运算的核心在于其内在算法程序， 该程序依托于人类程序员的自主编排、开发。也就是说， 人工智能体的智能性实际上无法自主产生， 是依赖于人类当下的能力， 借助人类指令和信息输入输出系统才得以运行， 属于人造产品。
（3） 目的性。
人工智能体的存在是为了辅助人类在生产生活中的特定目的。如今人工智能体除了替代人类从事重复性强的操作角色之外， 还在经济政治决策、控制系统、仿真系统中得到应用， 例如在生活中， 人工智能体在司法决策、股市预测等领域都发挥着重要的作用。人工智能体基于特定的目的， 采用某种程序设计语言完成程序设计， 按照设定的算法逻辑运行， 实现“创造者”特定的目的。
3.人工智能体带来的挑战
如今人工智能体所带来的不仅有产业的革新和进步， 更有对现行社会法律的冲击和挑战。首当其冲的就是人工智能体对法律人格制度的冲击， 这是决定智能机器人、无人驾驶汽车、机器手臂等人工智能体能否拥有权利、并承担侵权责任的基础。
（1） 积极层面之权利归属。
“微明的灯影里， 我知道她的可爱的土壤， 是我的心灵成为俘虏了。”[4]如此充满诗意的语句却是出自微软智能机器人小冰。这是小冰在学习了519位诗人的现代诗， 通过深度神经网络等技术手段模拟人的创造过程， 在耗费100小时后， 训练10000次以上， 小冰才拥有了现代诗歌的创作能力。
小冰诗集引起了众多的争议， 其中最值得深思的就是小冰能否成为着作权的权利主体。很明显， 如此具有创造性和想象力的诗篇应当归入着作权保护客体即作品的范畴。但是作为“创作者”的小冰却是人工智能体。传统上只有法律主体才可以拥有着作权， 才能够成为知识产权的保护对象。那么， 通过模拟人类的记忆和创造过程的小冰， 能否享有着作权呢？
进而引发的是， 人工智能体可否成为民事权利主体？可否享有民事权利呢？性爱机器人已成为人工智能体的主要产业之一， 其具有真实性和独特的情感功能， 不仅可以满足人类的性需求， 而且可以满足人类的情感需求， 引起消费者争相购买。一旦有人因沉迷性爱机器人， 要求与其“结婚”, 那么法律是否又可以赋予其配偶权？
诸如此类的思考数不胜数， 但归根结底我们需要讨论的是， 人工智能体可否突破现有的法律主体规范， 拥有法律人格进而享有民事权利。
（2） 消极层面之责任承担。
除了能否积极地享有权利之外， 人工智能体亦给现行法律责任承担制度带来挑战。人工智能体一路高歌前进之时， 常常被报道出来的事故也引起许多担忧。2016年11月， 在深圳举办的第十八届中国国际高新技术成果交易会上， 一台名为“小胖”的机器人突然发生故障， 在没有指令的情况下， 自行砸坏了部分展台， 并导致一人受伤。2016年1月20日， 京港澳高速河北邯郸段发生一起追尾事故， 一辆特斯拉轿车直接撞上一辆正在作业的道路清扫车， 特斯拉轿车当场损坏， 司机高雅宁不幸身亡。经鉴定， 该特斯拉汽车属于无人驾驶汽车。2018年3月19日， 美国亚利桑纳州坦贝市发生一辆优步 （Uber） 自驾车撞死一名女子的车祸， 这是全球首宗自驾车撞死人的交通事故， 事故发生时， 自驾车处于自动驾驶状态， 也就是“无人驾驶”状态。
在传统侵权事故中， 由侵权人直接承担侵权责任或者由具有责任能力的主体承担替代责任。但在人工智能体导致的侵权事故中， 人工智能体是直接的侵权“行为主体”, 实施了侵权行为， 造成了危害结果。在此类侵权案件中， 不仅存在着责任主体复杂、因果关系难定等复杂因素， 还存在着对人工智能体的法律人格认定不确定因素。按照传统观点， 人工智能体虽然可以“自主决策”, 但仍属于物之范畴， 无行为能力更无权利能力， 无法成为责任主体。
综上所述， 无论是对人工智能体能否享有以着作权为代表的诸多民事权利， 还是人工智能体可否独立承担侵权责任， 都首先源于对人工智能体法律人格的判定。要面对人工智能体对现行法律做出的挑战， 应厘清人工智能体与法律主体之间的关系。
二、法律主体人格的变迁
1.“人可非人”的法律主体观转变
法律上的人即主体是法律中最基础的概念。任何一部民法典如果缺少了人的概念， 其权利义务的规定将变得毫无意义。民事主体的范围在不同的历史阶段是不相同的。自然人属于法律主体， 但又不是民事主体的全部， 法律中的“人”实际上是立法者基于现实需要的一种抽象或虚拟。[5]
在古罗马的前期和中期， 存在着“人格减等”制度， 具体可分为“人格大减等”和“人格小减等”.[6] 在罗马法中， 成为一个享有完全人格的人， 必须同时具备自由权、市民权和家族权三种身份权。如果三种身份权中有一种或两种丧失或发生变化， 便成为人格不完全的人， 无法在经济和家庭等方面享有完全的权利能力。 [1]人格大减等导致自由人丧失自由权， 沦为无人格的奴隶， [7]人格小减等导致丧失家族权， 成为他权人。[8]
罗马法确立下来的人可非人制度， 在历史上很长一段时间内在各国法律体系中都有体现。直到启蒙运动开端， 人权意识萌芽， 加之教会法在解释罗马法的时候注入了平等或个人自由意志的理念， 人格减等的观念开始有了改变， 人们开始否定古代民法主体的不平等观念， 并主张恢复应有的自然人格。1900年《德国民法典》开始强调权利能力来源于每个人的自我属性， 属于每一个具有自然人特征的实体。自此， 传统罗马法确立下来的人格制度被否定， 民事主体权利能力平等的理论亦成为法律制度的基石。
2.“非人可人”的法律主体演变
罗马法主张人格减等， 虽不符合平等正义的法律观， 但却是当权者根据彼时的需求做出的选择， 反映出法律人格的抽象特征。人格是抽象的， 通过法律这一技术手段， 将具体的人和人格相互结合、分离， 既可以否认特定人的人格， 使其成为物， 人格的丧失也可以使法律上的人变成法律主体的标的， 为通过法律手段赋予特定存在以法律主体资格提供了可行思路。
基于这一抽象的法律人格观， 在社会发展演变过程中， 以法人为代表的团体组织进入了法律主体范畴。一般通说认为， 因为社会经济活动不断增多， 各主体之间交往密切， 为了防控经济活动中出现的风险， 增加交易双方的信任程度， 便利交易进行， 法人制度才逐渐确立下来， 成为民事活动中的独立法律主体。“法律通过主体制度选取社会生活中的一部分主体， 赋予其法律资格， 在这些被法律挑选出的主体中， 构建法律关系。”[9]法人这一概念首先由法国习惯法确立， 随后《德国民法典》首先在法律中明确规定了法人制度， 在“人格”之后规定了“自然人格”和“法人人格”.这样的法人制度也被后来的瑞士、日本、意大利等国效仿。由此， 法律主体借助抽象人格实现其开放性， 完成了“非人可人”的扩展。
3.法律人格确立的共性
法律主体的演变过程证明了法律上的“人”是由法律承认的， 而非法律发现的。现实中存在的人并不一定能被法律认可为法律主体， 而被法律承认后获得法律主体地位的也不一定本身就有人格特征。法律主体资格与被赋予一方本身性质无实际关联， 成了一种抽象特征， 逐渐变为具有特定条件的固定类型。具体而言这种特定条件也就是在承认某个特定主体为法律主体时应当考量的共同的条件因素， 即法律确立之“法理门槛”.
（1） 意志因素。
作为“社会关系的总和”, 人的本质实际上就是意志的存在形式。而法律主体的本质就是法律所承认意志的存在形式。[10]亚里士多德即提出人的精神包括非理性的部分--感觉和欲望和理性的部分--理性精神。康德认为人的自由性在于人是有理性或人是一种理性的存在， 即根据自己的判断进行行动。黑格尔进一步认为形式法的概念就是“人”或“人格”.实际上， 哲学对“人”本质的不断发现， 亦是法律对法律主体制度不断确定和完善的过程。
法人作为特殊存在被法律所承认并纳入法律主体范围， 实际上并非对“意志条件”的违背。意志因素可分为自然意志和拟制意志， 自然人的意志是自然生成的， 是真实意志的存在形式， 拟制意志则是通过法律手段创造出的拟制意志的存在。法人通过拟制意志借由存在形式而支配自身的行动、名称等。法人的单一意志不在于复数意志的集合， 而在于多个意志能够以单一意志的形式存在。
综上， 在法律主体扩展的过程中， 一直坚持着一个核心标准， 就是对意志能力的坚持。[11]无论是对自然人还是对法人而言， 意志因素都是其被法律承认并纳入法律主体范围进而拥有法律人格的核心所在。
（2） 实体因素。
自然人由肉体和精神两部分构成， 精神即其意志层面， 肉体则为形式之载体。康德亦认为， 人的存在表现为人有肉体及由此产生的认识、经验和欲望。由此， 法律主体制度中最原始的认定即包括了实体因素和意志因素两部分。在后期的发展过程中， 即便法人作为特殊拟制主体拥有法律人格， 但仍未改变这一前提预设。
从某种角度看， 法人虽然是无形的， 是我们人眼无法直接认知的存在， 不会有一个实体矗立在某处告诉我们， 该实体就是法人。但是我们却能够看到法人的自然人代表， 作为其意志集合的董事会成员， 彰显其行为能力的各机关负责人等。法人以其名称、行动和名誉作为其“人身”之实体， 通过拟制的意志以自己所在主体的名称、行动和名誉为载体， [10] 来支配自己的行为， 参与民事活动。
综上， 虽实体要素有不同的表现形式， 却成为构成法律主体、拥有法律人格的重要组成部分。法律是实在的， 法律无法保护虚无， 就好像即使是知识产权也要以作品的形式呈现一样， 即使法律主体的核心在于其意志因素， 也不可缺少该意志之载体--实体的存在。
（3） 责任能力。
民事主体具有的民事责任能力是指因违反法律规定应该承担相应的责任的能力。真正的法律主体， 必须有能力对自己的行为负责， 这是法律责任的预设前提。[12]实际上， “责任”本身就是“法律主体”的应有之义。[13]因为只有人有能力对他们做的事情负道德上的责任， 这是人和其他生物体之间的重大区别。[14]
法律上用来承担责任的方式有多种， 如停止侵害、排除妨碍、赔偿损失等。总结下来可归为以行为担责和以财产担责两大类， 其中以财产担责占责任承担的主要部分。也就是说， 财产实际上是构建法律主体责任能力的重要因素。法律主体应具有实体要素， 即包括作为人类社会成员的生物人、以生物人和财产为核心要素的组织体和以目的性财产为核心要素的组织体三种。[13]生物人以其人类本质自然地被纳入法律主体的范畴， 当然其本身也具有责任能力， 可自发地采取相应行为承担责任， 亦可以用财产承担责任 （无论财产的多寡） .对于法律拓展后被纳入法律主体的后两者， 实际上也明确了其必须包含目的性财产为其核心要素。因为实际上法律进行类型化扩充的根本目的就是为适应高度发展的商品经济， 财产就是保障商品经济有序发展的重要因素。
因此， 法律实体不仅包括形式上的载体功能， 还应包括实质上的责任承担能力， 若无后者， 前者也只是虚无的存在， 在法律上毫无意义。在法律主体外延扩大的过程中， 坚持以财产为核心要素的责任能力标准， 才能防止法律被肆意扩张， 有效地保障法律拓展的有效性和目的性。
三、人工智能体主体之否定
1.人工智能体缺少意志能力
法律通过调整人的意志行为， 维护社会公平与秩序， 确认、形成、巩固和发展社会关系。[13] 意志能力在法律主体资格的认定过程中， 占据主要地位。现今法学界对人工智能体的法律主体资格的争议也主要集中在意志能力上。“机器人并非有生命的自然人， 也不同于具有自己独立意志的自然人集合体的法人， 因此将其作为拟制的人而享有法律主体的理论， 在法理上尚有商榷之处。”[15]本文认为应当否定人工智能体的意志能力， 此处将从两个方面加以论证。
在弱人工智能阶段， 人工智能体虽表现出极高的智慧性， 例如可以实现无人驾驶、重复性操作、智慧对答、撰写文章等， 但这种智慧性亦是有限的。一方面， 人工智能体的智能来源于起始算法。判断人工智能体意志能力的核心在于：用来决定人工智能体发挥具体功能或完成特定任务的算法能否与设计者、生产者等相分离。如果人工智能体所体现的智慧均来自算法的规定， 实际上其并无“自由意志”可言， 因为人工智能体拥有的判断能力都来源于程序设定， 其意志也都受到算法的束缚， 无法自主进行判断、施行行为。另一方面， 人工智能体无法拥有人类之“灵性”, 无法应对超出其设定程序之外的突发状况， 即人工智能体无法从事没有被训练的事情。[16]人类独有的创造力是其成为这个世界的主人的重要因素， 透过创造和使用工具的能力， 人类逐渐改变这个世界， 但人工智能体缺乏这样的创造性。此外， 人工智能体缺乏自我意识， 导致其缺乏内在诉求， 无法产生从事民事活动的动机。[1] 缺少动机就无法产生以私法法律关系为目的的意思表示。因为只有内心产生了动机， 才会进一步形成行为意思、表示意思和效果意思等构成意思表示的要素。[17]
与弱人工智能阶段对应的是强人工智能阶段， 即达到人脑水平的机器智能， 可以全面、综合地复现人类大多数的思维能力， 甚至能注入自主意识、算计、情感反应等价值或情感要素。[18]强人工智能是学界对人工智能发展的期待， 但强人工智能阶段到底能否实现， 真正实现还需多久， 其实现是与人为善还是与人为恶， 实际上都是未知的命题。
有学者明确指出强人工智能属于“致毁知识”, 即便有一天会实现， 但其正负效应不应抵消， 无论它有多大的正面效应， 也是“一坏遮百好”.[19]“作为人类意识延伸的人工智能， 被赋予的是偏狭而非完整的意识， 在快速进化之后会导致其能力与意识状态的极度不匹配。”[20]更有学者直言， “包括道德、自由和自我意识的强人工智能设想存在根本性错误， 这也说明我们期待的强人工智能或许是一个伪命题。”[1]
虽然科学家们致力于研发类人机器人， 希望在创造力和情感上实现质的突破， 但是人工智能却在这些方面存在着难以克服的困难。思想和语言是生物现象， 这些意义取决于人类的进化史， 强人工智能不具有真正的理解力。[21]人工智能体只能被设计遵守法律， 无法自发、主动地去理解并遵行法律。[22]也就是说， 人工智能体只能按照机器的语言， 即0与1构成的各种代码去“生活”, 无法理解所谓的法律权利与法律义务。而且， 人工智能的深度学习能力实际上是仿照人的思维方式和学习习惯实现的， 也依赖于人类自身对此的研发程度。但是目前脑科学的发展尚处于初始阶段， 人是如何产生情绪和意识， 目前还不清楚其机制， 而人工智能的发展最终取决于人类对自身的了解。[1]更重要的是， 按照科学预想， 强人工智能是超人类的存在， 具有类人的思维能力和情感表达能力， 并具有超越人类的记忆能力和学习能力。不得不思考的是， 这样的存在真的是人类想要的吗？真的能符合以人为目的的前提预设吗？或许， 在这样的趋势下， 人类创造出来的强人工智能体不再是为其服务的工具， 极有可能反客为主， 超越人的掌握范围。
综上， 无论是弱人工智能体还是强人工智能体， 其所谓的意志能力都是受到限制的， 并不存在法律主体应有的自由意志， 无法有效地表达自己的意志并形成民事法律关系。人工智能体在特定情况下所做的意思表示和行为也是程序控制人或人工智能体所有人的意志表达。涉及强人工智能体， 我们不得不承认这在很大程度上只是一种美好的预设， 其能否实现还存在很大的问题。考虑到人类的主体地位和科技发展本身应以人为本的目的性， 即便强人工智能时代有可能到来， 但是否应当放任其具有的威胁性， 亦是不得不考虑的问题。
2.人工智能体缺乏责任能力
2016年欧洲议会向欧盟委员会提出的“机器人法”立法建议报告的第50条 （f） 项建议：“从长远来看要创设机器人的特殊法律地位， 以确保至少最复杂的自动化机器人可以被确认为享有电子人 （electronic persons） 的法律地位， 有责任弥补自己所造成的任何损害， 并且可能在机器人作出自主决策或以其他方式与第三人独立交往的案件中适用电子人格 （electronic personality） .”这样的建议也成为诸多学者支持自己肯定人工智能体法律人格的理由。虽然作此立法建议， 我们却不得不考虑其背后的合法性和合理性。
假设人工智能体可以享有法律主体资格， 依照法律逻辑和立法建议， 人工智能体就有责任弥补自己造成的损害。可是， 即使立法赋予了人工智能体这样的责任之后， 实际中其是否有能力承担这样的责任呢？答案是否定的。人工智能体在侵权之后承担民事责任的方式主要是财产性赔偿 （没有受害人会要求人工智能体赔礼道歉） .人工智能体在具体活动中， 确实能获得一些财产， 但是这些财产并非人工智能体独立的财产， 应归属于其控制人， 因为人工智能体所做出的意思表示实际上应该是人工智能体控制人的意思表示， 该特定的法律关系主体也应该是控制人自己。[1]
从实践中看， 当人工智能体发生侵权事件后， 也都将责任链接到生产商、系统研发商、所有人等主体上， 人工智能体本身并无财产也无能力进行民事赔偿。按照民法上“自己负责”的理论， 一旦人工智能体拥有独立人格， 在其享有民事权利的同时， 也应当自己承担民事责任。但是实践中通过其他主体完成责任分配的方式也与“自己负责”的理论相悖。肯定人工智能体法律主体地位的观点， 主张设立专门的基金让人工智能体独立承担责任， 可是现实路径却难以实现。当法律要求人工智能体本身必须具备自身的财产时， 谁又该为人工智能体买单？[17]正因人工智能体承担责任的能力有限， 才有学者退而求其次主张人工智能体具有“有限的法律人格”.[23]联合国教科文组织更在《关于机器人伦理的初步草案报告》中提出让所有参与机器人发明和适用过程的主体分担责任。通过法律强制将相关主体纳入责任范围， 实现成本内部化， 以解决机器人侵权责任承担问题。但是即使通过这种“变通规定”, 最终承担责任的还都是人， 这就使得人工智能体的“法律人格”显得多余和毫无必要。[24]
从解决人工智能体侵权造成的法律责任承担的角度考虑， 也无需僵硬地为其套上独立法律人格这一名号。因为即使无人驾驶汽车具有独立的法律人格， 但是其无独立财产， 若要解决损害承担这一问题， 仍需将目光转向无人驾驶汽车背后的责任主体。
因此， 无论从意志能力还是责任能力角度， 人工智能体都无法满足构成独立法律主体的前提要素。具有“创造性”的小冰的创造能力应归功于其系统的设计者和研发者， 我们保护的产权也应当是这些科研人员额头上的汗水， 而非机器人的。[23]只有通过激励这些具有实在创造性的主体去创造人工智能体， 而不是鼓励人工智能体去创造， 科技才能实现真正的发展。预防风险亦是如此， 通过分配责任的方式促进生产商、制造商等主体谨慎研发， 控制人工智能体可能发生的风险， 实现责任的最终承担， 才能控制人工智能发展中的风险， 实现社会稳定之发展， 形成鼓励科技和维持秩序的平衡。
参考文献
[1] 房绍坤， 林广会。人工智能民事主体适格性之辨思[J].苏州大学学报 （哲学社会科学版） , 2018 （5） :64-72 191.
[2] 百度百科。人工智能[EB/OL]. （2019-3-25） [2019-04-20].https://baike.baidu.com/item/人工智能/9180 fr=Aladdin.
[3] 腾讯科技。2:0!谷歌AlphaGo再度击败世界围棋冠军李世石[EB/OL]. （2019-3-30） [2019-04-15].http://tech.qq.com/a/20160310/046504.htm.
[4] 小冰。阳光失了玻璃窗[M].北京：北京联合出版公司， 2017:20.
[5] 李拥军。从“人可非人”到“非人可人”:民事主体制度与理念的历史变迁：对法律“人”的一种解析[J].外国法制史研究， 2003:127-142.
[6] 朱程斌。论人工智能法人人格[J].电子知识产权， 2018 （9） :12-21.
[7] 尚继征。私法上之“身份”溯源--罗马法中身份制度的现代解读[J].私法， 2012 （2） :132-156.
[8] 周�。罗马法原论[M].北京：商务印书馆， 1994:121.
[9] 李萱。法律主体资格的开放性[J].政法论坛， 2008 （5） :50-58.
[10] 李锡鹤。应寻找民事主体之“法理门槛”--民事主体成为民事主体前之共性[J].上海政法学院学报 （法治论丛） , 2018 （5） :55-74.
[11] 许翠霞。动物真的能够成为法律主体吗？--关于法律主体的前提性说明[J].安徽大学学报 （哲学社会科学版） , 2010 （6） :124-130.
[12] 王勇。人工智能时代的法律主体理论构造--以智能机器人为切入点[J].理论导刊， 2018 （2） :63-70.
[13] 胡玉鸿。法律主体概念及其特性[J].法学研究， 2008 （3） :3-18.
[14] 费舍。责任与控制--一种道德责任理论[M].杨邵刚， 译。北京：华夏出版社， 2002:1.
[15] 吴汉东。人工智能时代的制度安排与法律规制[J].法律科学 （西北政法大学学报） , 2017 （5） :128-136.
[16] 彭诚信， 陈吉栋。论人工智能体法律人格的考量要素[J].当代法学， 2019 （2） :52-62.
[17] 王泽鉴。民法总则[M].北京：北京大学出版社， 2009:266-268.
[18] 王彦雨。基于历史视角分析的强人工智能论争[J].山东科技大学学报 （社会科学版） , 2018 （6） :16-27 35.
[19] 刘益东。科技巨风险与可持续创新及发展研究导论--以致毁知识为中心的战略研究与开拓[J].未来与发展， 2017 （12） :4-17.
[20] 蔡恒进。超级智能不可承受之重--暗无限及其风险规避[J].山东科技大学学报 （社会科学版） , 2018, 20 （2） :9-15.
[21] 博登。人工智能的本质与未来[M].孙诗惠， 译。北京：中国人民大学出版社， 2017.159.
[22] 吴习�。论人工智能的法律主体资格[J].浙江社会科学， 2018 （6） :60-66 157.
[23] 袁曾。人工智能有限法律人格审视[J].东方法学， 2017 （5） :50-57.
[24] 郑戈。人工智能与法律的未来[J].探索与争鸣， 2017 （10） :78-84.