本文摘要：摘要：大数据和人工智能的发展深刻地影响着我们的社会生活，改变了我们的生产和生活方式，也深刻地影响了社会的方方面面。我们正从互联网社会走向算法社会，算法通过不同形式，不同程度地介入合同、侵权行为、公司治理、保险合同、证券交易等整个私法领域。在人工智能
摘要：大数据和人工智能的发展深刻地影响着我们的社会生活，改变了我们的生产和生活方式，也深刻地影响了社会的方方面面。我们正从互联网社会走向算法社会，算法通过不同形式，不同程度地介入合同、侵权行为、公司治理、保险合同、证券交易等整个私法领域。在人工智能场景的算法社会中，形成了算法消费者群体。讨论算法如何影响法律行为效力的前提，关键在于算法是否会影响行为人的意思表示。算法是针对数据的一系列程序逻辑，该程序逻辑是在自然语言基础上建构起来的。算法具有一定的学习能力，可以通过大数据不断地进行深度学习，但这并不是认知层面的学习，更不是指的人类学习。算法的本相是一种基于布尔代数的程序性“弹珠迷宫游戏”，其不符合民法中意思表示结构。通过自动化决策的算法系统作出的意思表示，仍是人类意思表示的延伸。算法使用者基于大数据和算法鸿沟形成了算法权力，将对意思表示制度造成影响。算法不会对法律行为效力制度造成根本性挑战，但在错误、欺诈制度的具体构成要件中需要进行重新解释。在解释时，需要区分算法的使用人是表意方还是相对人的不同场景进行讨论。在算法社会中，消费者向算法消费者演进，并作为一种消费者的新类型。为回应现有私法框架对于算法消费者保护不足，应当调整《保险法》中如实告知义务的模式，《消费者权益保护法》需重塑经营者与消费者之间的权利义务;在商事金融领域，利用算法的金融机构将被赋予更高的注意义务。算法消费者保护应当考虑多维度的因素，一方面从个人信息保护体系和将信息信义义务作为企业社会责任等方面进行;另一方面通过构建算法透明度制度、算法备案制、算法伦理等规制算法的全方位监督体系。通过法律规制算法的实质，是监管算法使用人(如算法型企业或平台)在网络交易或经营过程中如何规范与合理地使用算法。当前关于人工智能的研究，应回归学术理性，避免盲目跟风式的玄幻主义法学。算法时代中算法消费者保护的核心与关键在于，如何在个人信息保护、规制算法和算法企业发展之间的寻求利益平衡点。
关键词：人工智能;法律行为;算法消费者;信息信义义务;算法规制
一、问题的提出：人工智能时代的疑问
自2016年AlphaGo接连战胜人类围棋高手之后，全世界刮起了一阵“人工智能”风潮，人工智能(AI)在各个行业、产业和环节得以运用广泛。甚至有学者断言，因为大数据和人工智能的发展深刻地影响着我们的社会生活，改变了我们的生产和生活方式，也深刻地影响了社会的方方面面，我们已经进入人工智能的新时代[1]。但是，人工智能时代也可能面临许多隐忧，例如在当今生活中层出不穷的“大数据杀熟”、网络评分数据抄袭、广告精准推荐、无人驾驶等新问题。
目前人工智能处于何种阶段，值得思考。在探讨人工智能法律关系产生影响或挑战时，必须掌握人工智能的核心与本质。当前的人工智能本质是算法和数据，因为“数据+算法”被视为人工智能技术开发的核心[2]，也有学者指出，人工智能是能使计算机学习、分析和决策的算法[3]。此时，我们需要以算法为分析着力点回归到法律框架下进行讨论。例如，在私法领域中算法与法律行为关系如何?在此前提下，我国现行私法制度应该如何对算法造成的制度影响进行法律回应?
二、算法在私法领域中的作用及其本质
(一)私法领域下算法的应用
算法在当前网络环境下运用非常普遍，如网络服务商通过算法收集用户在脸书、推特、微博或知乎等社交媒体网站，或文本博客和其他在线购物网站上留下的网络浏览痕迹等数据，以预测消费者的偏好，进行精准广告推送和推荐个性化产品，甚至实施诱导消费的行为。通常情况下，网络服务商等企业利用算法，为用户消费者提供上述“个人定制”交易。有的算法帮助消费者做出市场交易决策。也还有的算法可以自动识别需求，搜索最佳购买决策并执行交易[4]。基于算法在私法领域的广泛应用，甚至出现了所谓的“算法合同”(AlgorithmContract)。除了上述的一般民事交易外，算法在商事领域也发挥着重要作用。
首先，算法逐渐参与公司决策管理过程。早在2014年5月，香港创投公司(DKV)任命了一套名为Vital的算法作为董事会成员，Vital会根据候选公司的财务状况、临床试验和知识产权等大量资料进行分析，并据此为公司提出投资建议[5]。Vital被公认为“全球首家人工智能公司董事”，但严格说，Vital并没有获得香港公司法中公司董事的地位，公司的董事会成员将其简单地视为“具有观察员地位的董事会成员”[6]。
其次，算法在保险领域也逐渐盛行。2018年9月19日，美国历史最悠久的寿险公司之一约翰·汉考克(JohnHancock)作出了根本性的改变：它停止提供按年龄、健康史、性别和就业历史等传统人口统计数据来定价的寿险。转而开始通过可穿戴医疗设备、智能手机应用程序和网站，根据与投保人的互动程度来定价[7]。
最后，人工智能在金融法和证券法领域也有所创新。在商事金融交易行为中，从金融科技到科技金融的转变，体现出科技在金融交易中的主导地位。其实，算法很早就开始介入金融交易行为，如荐股软件等智能投顾系统(Robo-Adviser)。目前智能投顾系统可以做到根据服务对象的特征或偏好，给出个性化的投资建议，但不进行交易;也可以为服务对象提供交易服务，包括完全自动交易、人工投资顾问协助交易和执行交易[8]。
又如，在证券市场电子化交易背景下出现了与一般程式化交易更为复杂的“算法交易(AlgorithmicTrading)”，即在程序化交易的基础上，加入特殊的算法交易策略，该算法交易实际上是将交易经验、交易策略、对市场环境的适应等知识和智慧固化到算法交易程序之中，从而降低大单交易的市场冲击成本，以及在整个交易中获得最优的成交价格[9]。
无论是智能投顾系统，还是证券交易中的算法交易，都可能存在被滥用或操纵的风险，此时需要界定算法在其中扮演何种角色。基于此，算法已经在不同形式和不同程度地介入合同、侵权行为、公司治理、保险合同、证券交易等整个私法领域。算法不仅被网络服务商所利用，有时候也可能帮助消费者作出消费决策，甚至可以在消费者授权或设置参数和偏好的情况下通过算法程序直接进行交易。以上的线上行为在法律上表现为“算法合同”(AlgorithmicContracts)，从而形成了算法消费者(AlgorithmicConsumers)群体。所以，探究算法在私法领域中扮演何种角色十分重要。
(二)回归算法的本原：弹珠迷宫游戏
人工智能的本质是算法和数据，算法是对数据的一系列程序逻辑，该程序逻辑是在自然语言基础上建构起来的。自然语言是一种上下文相关的信息表达和传递的方式，人工智能机器的运作是将自然语言用算法逻辑来实现，但这并不是通过电脑模拟人脑。人工智能(计算机)的自然语言处理，是为自然语言这种上下文相关的特性建立数学模型，亦即统计语言模型，这是当今将人工智能广泛应用在机器翻译、语音识别、人脸识别、图像识别等领域的基础[10]15-39。总之，人工智能的应用并不是简单地模拟人脑，而是通过数学模型对自然语言进行处理，以算法的方式运行的程序。
当今人工智能的成功也不是仿生学的成功，其成功靠的是数学和算法。即使是当今所谓的“人工神经网络”和基于深度学习的Google大脑，也只是使用了一些与生物学相关的名词。除此之外，人工神经网络和人脑没有任何关系，本质上是一种有向图(贝叶斯网络)，是基于数学模型的算法而已[10]254-271。算法的基础，是基于布尔代数进行的，也就是0和1的二进制。布尔代数虽然非常简单，但它将逻辑和数学合二为一，开创了今天的数字化时代[10]82-88。
因此，所有算法，无论多复杂，都能分解为三种逻辑运算：且、或、非。算法具有一定的学习能力，可以通过大数据不断地进行深度学习，但算法学习会受到大数据的影响。符合学派的算法可以得出确定答案，可以变成自主决策系统[3]，如前述。算法的逻辑结构就是“且”“或”“非”。即使是自主决策系统，也只是在“且”“或”“非”三种逻辑结构中程式化、模块化地作出决定，就像弹珠迷宫游戏一样。弹珠之所以能够走出迷宫，是因为弹珠是在预设的各种程序(线路)中进行，算法就是弹珠迷宫游戏的规则(线路)。
即使是被授予沙特公民的索菲亚也一样，其本质在于算法和数据的处理，只是其物理的外形表现为人形，但其仅仅是一个由算法主导的硬件系统，其工作的逻辑主要是通过传感器以及语音识别系统，将人类的自然语言以及外界的感知转换成机器语言传达到控制系统，控制系统通过高速计算处理，将信息传达到驱动系统，从而输出语言和特定的指令动作。需要指出的是，算法并不是认知层面的学习，尤其不是指人类学习。相反，算法可以视为一种能在未来接收更多数据时调整行为以获得更佳表现的学习方式[11]。
机器学习涉及许多以不同方式在代码中得以具象化的模型，当前盛行的机器学习包括神经网络、决策树、贝叶斯和逻辑回归等算法[12]。所谓算法中的自由意志，不过是算法的“目标是实现几乎最优概率决策”[13]297，现有的算法既不是完全确定也不是完全随机的。所以，“当今的AI系统绝对不是任何有意义的智能思维机器。相反，人工智能系统通常能够在没有智能的情况下产生有用的智能结果。这些系统在很大程度上通过启发式方法来实现这一目的，方法是检测数据中的模式，并使用人们专门编码的知识、规则和信息，将其编码为可以由计算机处理的形式”[14]。
综上，算法与法律行为之间的关系，并非是算法系统自主作出法律行为。作为自动化决策的算法系统，此种意思表示仍是人类意思表示的延伸。因为在电子数据交换等所谓自动化意思的情形，表示信息虽经由计算机等工具发出，但因其程序系由表意人为特定目的而设计或设定，仍属表意人的意思表示[15]。即使是无限强大的计算机，也仅仅是我们意志的延伸。因为每一种算法都是由表示方法、评估和优化三个部分组成，所有的人工智能系统都具备前三个组成部分。这些人工智能系统或者算法可以多样化作出内容和惊人的计划，但都仅仅服务于我们人类设定给他们的目标[16]。
三、算法与法律行为的制度影响
如前所述，算法将对私法领域中的法律行为造成深远影响。如美国著名信息法权威巴尔金(Balkin)教授所说，当机器人和人工智能载体创造利益或造成他人损害时，法律的关键问题是如何在人类之间重新分配权利和义务[17]。
四、私法领域中法律行为制度对于算法的法律回应
(一)消费者类型化的细分：从消费者向算法消费者演进1.私法框架下算法与法律行为法教义学阐释的不足在人工智能场景，算法等智能系统对于法律行为产生的影响：(1)在线上网络等智能场景所形成的智能合同(SmartContract)等是否为合同的形式;(2)如何从法律行为角度解释定价算法、应用生成合成类算法、个性化推送类算法、排序精选类算法等算法技术对法律行为效力产生影响。
对于影响一，《民法典》第135条规定了民事法律行为可以采用“书面形式”“口头形式”“其他形式”等三种方式。该条的“其他方式”为智能合同提供了解释空间，智能合同可以作为民事法律行为的方式之一。对于影响二，民法典在法律行为效力制度中并无直接回应算法等智能系统影响的规范。笔者认为，算法在法律行为的错误制度中的影响，可以从错误制度的本质角度予以解释。
例如，在算法使用人的表意人有过失情形，尤其是算法使用人为企业经营者时，对于重大误解的要件应当采取表意人过失情形作为消极要件，即算法使用人基于算法错误而陷于错误，此时表意人有过失时不可行使撤销权。其次，假如算法在运行过程中发生故障，还可从意思表示到达障碍制度予以解释。意思表示到达障碍理论认为，到达受阻的意思表示没有到达，但到达受阻可归责于受领人的除外[30]。此时在交易过程中如果发生算法错误，并且受领人对于到达受阻并无可归责性，那么作为表意人的算法使用人应该对于发生算法错误造成到达受阻承担风险，即意思表示没有到达受领人的风险。
在法律行为制度的欺诈认定上，行为人可通过算法对表意人的意思表示造成影响，甚至通过算法分析行为人的网络轨迹以窥探表意人的内心意思(购买意愿)，此时对于行为人的欺诈认定也应当遵循民法上欺诈的要件，但可以在举证责任上进行降低要求甚至采取举证责任倒置的方式，只要算法行为人(使用人)有欺诈的行为即可推定构成欺诈，以保护算法消费者。例如，2019年5月欧盟发布2019/770号指令，针对电子数据和电子服务以及消费者买卖合同作出新规定，该规定除了规定适约性外，在其第12条明确规定了经营者承担举证责任的倒置。
因此，在人工智能场景下，随着大数据和算法的深度发展，作为法律行为效果意思形成前提的信息获取变得相对容易，继而造成表意人和相对人在信息地位上的失衡，特别是拥有大数据且又拥有算法能力的大公司，将极大地左右意思自治的空间[31]。但此时并不会对传统民法上欺诈的构成要件造成根本性冲击，仅需在认定算法等人工智能载体是否构成欺诈时，在某个要件作特殊性处理即可。即使可据此作出上述法教义学解释，却有一种螺丝壳里做道场之困境。并且，在法律行为制度外投保人告知义务和商事金融行为等商事领域中，难以从既定私法框架下通过法教义学阐释和回应算法的影响。
五、结语：
人工智能的冷思考当前，人工智能已成为学术界，乃至全世界关注的热点。但是，人工智能的法学研究不是玄学，更不是科幻主义。法学研究应该避免盲目跟风，走出对AI的货物崇拜，回归学术研究的理性轨道[49]。
所以，对于人工智能的讨论需要回归其本原，即算法和大数据;对于人工智能讨论的范式也需要回归到法律制度框架下进行，并不能天马行空地进行“法律假象”，甚至是“臆想”。毕竟“最好的人工智能也无法与普通的4岁小孩匹敌”[13]275，算法只是一种程式性的计算活动，当前的人工智能算法并不能形成有效的意思表示，我们基本可以推导出，当前人工智能的算法在私法领域的运用，仅限于成为人类意思表示延伸的工具。但是，算法使用者基于大数据和算法的使用形成了算法权力，这将对意思表示产生一定影响。
例如，算法通过搜集用户的网络浏览记录(痕迹)从而判断用户意思表示中的内心意思和交易意思，在此基础上获得优势地位。此时，算法不会对法律行为效力造成根本性挑战，可以通过错误、欺诈等制度中的具体构成要件进行重新解释;经营者利用算法进行交易时，消保法可重塑经营者与消费者之间的权利义务;在商事金融领域，利用算法的金融机构将被赋予更高的注意义务。在算法时代，在个人层面要完善个人信息保护制度，在企业层面需要利用算法提高经营能力，如何寻求个人信息保护和规制算法之间的平衡点是一项重要的课题。
参考文献：
[1]王利明.人工智能时代提出的法学新课题[J].中国法律评论,2018(2):1-4.
[2]王利明.人工智能时代对民法学的新挑战[J].东方法学,2018(3):4-9.
[3]郑戈.算法的法律与法律的算法[J].中国法律评论,2018(2):66-85.
[4]MichalS.Gal,NivaElkin-Koren.AlgorithmConsumer[J].HarvardJournalofLaw&Technology,2017(2):314.
[5]尤瓦尔·赫拉利.未来简史[M].林俊宏,译.北京:中信出版社,2017:290.
[6]FLORIANMÖSLEIN.Robotsintheboardroom:Artificialintelligenceandcorporatelaw[C]//WOODROWBARFIELD,UGOPAGALLO.Researchhandbookonthelawofartificialintelligence.EdwardElgarPublishing,2018:650.
[7]SWEDLOFFRICK.AlgorithmsandAIareradicallychanginginsurance.Regulatorsarebehindthecurve[EB/OL].(2019-06-05)[2020-07-22].
作者：刘颖
转载请注明来自发表学术论文网：http://www.fbxslw.com/jjlw/28974.html
