《残疾人保障法》还明确保障残疾人劳动的权利,规定在招用、聘用、转正、晋级、职称评定、劳动报酬、生活福利、劳动保险等方面不得歧视残疾人。
可怖的是,虽然人工智能不具备心灵和意思,却可以依照事先设定的算法、甚至通过自我学习掌握的算法作出程式化的表示。进而,这终将促使我们彻底放弃将法律部门作为法律体系的组成单位,建立起法律规范—法律体系的二阶构造。
无论是切割归类法还是整体定类法都已显得不合时宜。因此,或许是时候来瓦解部门法的分立格局,促成法律体系内部既有结构的解体了。相反,算法只是通过技术的手段迫使行动者采取某种行为,行动者的行为是必然的(被强制的),而非应然的(有义务的),它并不需要行动者回应,只需其认知。其中,比较有代表性的范畴是法律关系客体和法律部门。目前学界关于人工智能与大数据的法理学讨论大体聚焦于法学方法论与价值论两个方面。
但这种做法并不可取,不仅因为信息兼具主客体属性而无法单独归类为客体,还有一个理论分类上的原因:如果每诞生一种新的法律关系都独立出一种新的客体类型,那么客体清单将无穷无尽。可见,在新科技时代,法律权利的概念(独特性)可以得到维系,但其证成基础却应当被修正。人民检察院应大力推进公益诉讼,主动监督消费者败诉案件,对确有错误的及时提起抗诉。
侵权纠纷中,决定侵权行为主观要件不是抽象的责任原则,而是具体的举证责任,算法歧视认定应高度重视主观要件与举证责任的关联性。但遗憾的是,这一条例至今未能出台。经营者可能使用自己设计的算法,也可能使用他人设计的算法,无论如何,侵害消费者权益一定发生于使用算法的过程之中,属于经营者不法使用算法,至于经营者是否知道或应该知道算法歧视,不影响经营者不法使用算法的定性和构成。消费者权益损害的类型与算法使用的阶段相关。
郑育高与上海携程商务有限公司其他侵权责任纠纷一审判决将侵害消费者知情权和公平交易权定性为合同之诉而非侵权之诉,以合同法的意思自治作为价值取向,理由空虚,颇为不当。问题只在于需求是否紧迫、条件是否成熟、共识是否形成。
对于隐性不法行为,损害结果的定性需要更具体的裁判共识和规则。消费者维权成本过高是大数据杀熟普遍化的重要原因。法律成本是法律供给包括立法、司法、执法、守法的决策或行为的重要因素,法律成本的高低和效益往往决定社会对法律及其机制的选择和当事人守法、规避法律或违法的选择。《民法典》规定的8种过错推定责任原则适用场景不包括算法歧视侵权,这是否构成算法歧视侵害消费者权益适用过错推定原则不可逾越的障碍,答案为否。
我国不允许算法歧视侵害消费者权益。作为鲜明的对照,阿里巴巴滥用市场支配地位侵害平台商户权益被行政罚款182.28亿,威震经营者之间的不正当竞争。算法技术偏见有大有小、有显有隐、有益有害,连司法鉴定也不能保证鉴定结论唯一性,要求立法和司法规制出可信赖和负责任的算法,是不切实际的空想。这是一种基于经济学知识的价值取向。
然而,任何法律机制的有效性取决于法律成本的限度和效率,这无需长篇大论,日常生活经验就足以证明。阿里巴巴的巨额罚款是为了经营者之间的利益平衡,相比之下,实现经营者和消费者的利益平衡更需要重罚。
失去隐私、丧失个人生活和失去批判精神的代价可以换取可预测性、安全性。这一过程中,价值取向决定法律实践的具体方向,构成要件决定法律实践的个案结果,法律成本决定法律实践的社会效果。
由于经济学和法学的价值取向不同,法经济学至今是一个小众的研究领域,作为法经济学理论基础的科斯定理的普适性也有疑问,法律成本问题很少进入理论和实务的视野。一方面,消费者对大数据杀熟普遍不满,学者对比无处不在、秘而不宣的数据掌控者与全景透明、无知无觉的消费者之间的悬殊,指出经营者在消费者不知情情况下最大程度地攫取利益。算法歧视侵害消费者权益较之于《民法典》已有的8种适用过错推定原则场景有过之而无不及,消费者是现代社会最普遍的群体,算法歧视是互联网时代损害消费者权益最普遍的手段,消费者个体的弱势无法或难以举证经营者的算法歧视过错,举轻明重,算法歧视侵害消费者权益更有适用过错推定原则的正当性、必要性、迫切性。消费者按照歧视算法消费即受侵害,行为和结果的因果联系不证自明,需要清晰和统一的是行为、后果、过错这三个要件。消费者权益是《消费者权益保护法》法定的综合性权利,与一般的意思自治权利性质有别,两者不能混同。价格歧视是一个经济学中性词语,指同一公司销售的类似产品价格出现非成本因素的变化,一般分为一级价格歧视即依据每一消费者支付意愿不同设定价格,二级价格歧视即依据不同购买量设定价格,三级价格歧视即根据消费者群体分类分别定价。
摘要:大数据杀熟是互联网平台经济久治不愈的顽疾。在信息采集阶段,算法歧视主要侵害消费者的个人信息和隐私权,从中牟利或骚扰。
赵某某诉浙江淘宝网络有限公司网络服务合同纠纷一案,原告诉请被告赔偿损失713元,一审判决予以驳回,减半收取原告诉讼费25元,无异于警示消费者维权不如忍声吞气。《消费者权益保护法》总则明确为保护消费者的合法权益,维护社会经济秩序,促进社会主义市场经济健康发展,制定本法。
这些争议既源于争议者的价值取向差异,也源于损害结果的法律属性模糊。违法成本的确定一般依据违法行为和后果,但算法歧视侵权应以个案违法成本足以有效治理算法歧视为尺度。
一般过错责任原则要求受害人举证侵权人对侵权行为具有故意或过失的过错,故意须有翔实而完备的证据支撑,重大过失须有千差万别的专业认知标准,一般过失须有人们的日常生活共识,受害人常陷入无法举证或举证不足困境,现有证据不足或依据不足常常成为无可挑剔的裁判理由。绝大多数消费者不得不两害取其轻,助长经营者算法歧视侵权的有恃无恐。这些场景在日常生活中相当普遍,但受害人无法或难以举证行为人有过错,不适用过错推定原则常常不能认定侵权责任,对受害者不公,而且放任普遍性侵权行为影响整个社会秩序。2. 消费者权益损害结果 损害结果是算法歧视侵权的客观要件。
在线旅游的分别为39.5%、76.85%。有效治理算法歧视侵权必须抬高经营者违法成本。
算法技术本身就是有限数据、特定指令、个性决策,具有设计者和指令者特有的价值和选择,如果这些个性特征就是偏见进而是歧视,那么,世上从来没有过不是算法歧视的算法,讨论算法歧视没有任何意义。众所周知,《民法典》的法律规定从来不限于《民法典》本身,《消费者权益保护法》也可以成为消费者权益保护适用过错推定责任原则的法律依据。
但是,侵害消费者权益的算法歧视,主要是大数据杀熟,如同一房型不同价格、会员价高于普通报价、依据检索手机的品牌推送相应商品,则经常出现是否构成算法歧视的争议。因此,只要采用一般过错责任原则,除非法官对依据不足另作个性裁量,基本上就无算法歧视侵权可言。
为了身份认同和私人生活额外保护,贡献数据、限缩权利的牺牲值得。算法技术运用可能对特定群体或个体出现系统、重复的不公正结果,构成算法歧视,如算法价格歧视、算法就业歧视、算法信用歧视等。一审判决认为,原告查询机票价格的时间存在一定间隔,机票价格变动幅度也在合理范围内,不能因不同时间段机票价格的波动就认定是大数据杀熟。对于法律而言,任何不公平均为不法,即便是事出有因、情有可原,也以不法定性为前提,通过利弊权衡将不法转为合法的属于现代文明不能容忍的恶法。
唯一的疑问在于《民法典》第1115条的依照法律规定推定行为人有过错。过错推定责任原则分配了行为人与受害人之间的举证责任:受害人先证明损害结果的存在,行为人后证明自己无过错,行为人未证明或证明不足的推定行为人有过错。
以损害结果导向认定行为不法性被称为差别性影响标准,即绕开算法歧视的内部隐蔽性,直接从外部结果识别算法歧视。现代文明公认歧视违背公平正义,人们不会争议损害公众基本权利的算法歧视如性别歧视、种族歧视、宗教歧视,对损害竞争性利益的算法歧视一般也易形成不正当竞争的共识如谷歌利用算法排除竞争案。
雇主关系分离出劳动法,合同关系分离出消费者权益保护法,是近代民商法现代化的两大内容和标志。究其原因,主要是欠缺法律实践上的研究和共识,其中,价值取向、构成要件、法律成本最为关键。