科技的飞速发展直接影响着社会经济等各项事业的演进模式。客服产业在人工智能赋能之下,亦催生出了新样貌、新业态、新场域,“人工智能+客服产业”的新格局已成雏形,在服务产业领域中具有自动更新、分析、“思考”、预测功能的AI工具产品正在成为业界主流。作为长期奋战在法律合规和诉讼领域一线的法律工作者,也同时在客户世界平台、服务产品领域中进行法律未来方向的探索与研究。

一、《民法典》法律关系的参与主体

根据《民法典》第二条,民法调整的是三大类型平等民事主体之间的人身关系及财产关系(图1)。

图1:三大类型平等民事主体

关于“法人”,《民法典》承继了《民法总则》中营利法人、非营利法人及特别法人的三大分类(图2)。

而投融资并购交易中比较常见的“合伙企业”,则是属于《民法典》项下的“非法人组织”的一种。除合伙企业以外,非法人组织还包括个人独资企业以及不具有法人资格的专业服务机构(比如律师事务所、会计师事务所等,见图2)。

图2:法人与非法人组织所包含机构类型

对于非自然人主体而言,其具有民事权利能力及民事行为能力意味着可以独立签署相关交易文件从事投融资并购交易,以及可以独立起诉或应诉以维护自己的民事权利。就此而言,“法人”自依法成立时起便拥有独立的民事权利能力和民事行为能力(《民法典》第五十七条、第五十九条);而“非法人组织”虽然不具有法人资格,依然可以自己的名义从事民事活动,并参照适用关于法人的一般性规定(《民法典》第一百零二条、第一百零八条)。

二、《民法典》治域下民事法律关系的实质

民事法律关系的实质:民事主体通过民事法律行为处置民事权利。

《民法典》第二条规定:民法调整平等主体的自然人、法人和非法人组织之间的人身关系和财产关系。《民法典》第十一条也明确,“其他法律对民事关系有特别规定的,依照其规定。”比如,有行政机关或国有企业参与的民事活动相关交易中,通常还需要遵守政府采购及国有资产监管的相关法律(图3)。

图3:民事主体通过民事法律行为处置民事权利

三、AI产品服务之法律参与主体

人工智能发展至今形成了许多相关产品或相关服务,进而对消费者甚至第三人的利益产生影响。人工智能产品或服务市场化涉及的参与主体除了需要满足以上《民法典》的基本要求之外,主要包括以下几个方面的主体。

1、设计相关零件的设计者或者是生产者。 一个人工智能产品会涉及很多零组件,有些零组件已经应用到人工智能相关的技术,而生产或者设计这些相关零组件的生产者、设计者就是我们重点关注的对象。若其负责设计的该零件在未来发现是产生消费者损害的主要原因,就可能会有民事责任的问题。

2、最终产品的设计者或生产者。

以自驾车为例,相关零件的设计者或生产者是例如自驾车相关引擎仪表板等等的设计者生产者,最终产品的设计者或生产则是自驾车本身的设计者生产者。人工智能产品或服务所造成第三人的损害,有时候不一定是最终产品的设计者或生产者造成的,而可能是相关零组件的设计者或生产者的问题,但作为在第一线面对消费者的人,追究责任时往往会先由最终产品的设计者或生产者开展讨论,包括各种相关消费者保护法的规定也都会跟此有关,此为第二个会牵扯进来的责任主体。

3、产品服务的经营者。

《产品质量法》第三十四条规定,产品缺陷是指产品存在危及人身、他人财产安全的不合理的危险;产品有保障人体健康,人身、财产安全的国家标准、行业标准,是指不符合该标准,如因产品缺陷造成消费者的人身、财产损害,经营者应承担赔偿责任。产品(服务)侵权责任的责任人是经营者,包括产品的生产者、销售者和服务的提供者。消费者因产品的缺陷受到损害,有权要求销售者赔偿,也有权要求生产者赔偿,还可以同时要求生产者和销售者赔偿,生产者和销售者对此承担连带责任。根据《民法典》、《产品质量法》和《消费者权益保护法》的有关规定,产品(服务)侵权的赔偿项目包括:

(1)人身伤害赔偿,经营者应当支付医疗费、护理费、误工收入;造成残疾的,还应当支付残疾者生活自助费、生活补助费、残疾赔偿金以及由其抚养的人所必需的生活费等;造成死亡的,应当支付丧葬费、死亡赔偿金以及由死者生前抚养的人所必需的生活费等费用。

(2)财产损害赔偿,经营者应当恢复原状或折价赔偿,受害人遭受其他损失的,经营者也应赔偿。

4、终端消费者或使用者,也就是第一线购买该产品的人。这些人一方面作为消费者,可能会因为产品或服务的瑕疵而受害,但另一方面他们也是这些最终产品的使用者,他们在使用这些产品或服务的过程当中,也有可能造成第四个族群,也就是其他人(第三方)的损害。例如一个自驾车的购买者,他是自驾车的消费者,可能因为自驾车的瑕疵而受害,但也有可能开着自驾车,在路上的时候因为自驾车的爆冲等等的问题,也有可能造成:

5、其他人(第三方)的损害。

例如一个自驾车的购买者,他是自驾车的消费者,可能因为自驾车的瑕疵而受害,但也有可能开着自驾车,在路上的时候因为自驾车的爆冲等等的问题而造成第三人的伤害。此时该第三人是受害人,有可能去找自驾车的设计者生产者负责,但第三人也有可能去向自驾车的使用者请求相关的责任。这在我国民事侵权责任下尤其可能,因为侵权行为法中的特别侵权责任便包含动力车辆驾驶者的特别侵权责任,而这也使所谓最终产品的消费者或使用者有一特殊地位。

在上述这五类人中,另一个可能在整个AI产品或服务的法律关系中受害的可能是「第三人」,这些人并非产品的直接购买者。第三人可以向前述三人追究民事责任,择一或者是累积地向其请求损害赔偿。而购买最终产品的消费者若为受害者,也可往前去追究相关的产品设计者,包括最终产品设计者以及相关零组件的设计者或生产者之责任。

四、AI产品与服务的民事责任规则原则

汇整上述分析,人工智能的民事责任可能包含以下四种归责方式:过失责任、无过失责任的产品责任、雇用人责任动物所有人责任。

若要以过失责任的体系追究人工智能造成的侵权责任,在现实操作上可能遇到以下问题:第一个可能遇到的难点是,人工智能造成消费者或特定人损害时,能否直接追究人工智能的使用者或人工智能的生产者之责任?这涉及因果关系的难题,亦即,虽然人工智能造成损害,但若要追究其背后的使用者或生产者,则必须找到该被使用者或生产者之具体行为所造成的损害。对此,第一个常见的抗辩是因果关系的中断,亦即使用者或生产者主张其係在正常的方式下设计、生产、使用该人工智能产品,但人工智能的自动决策造成他人损害,进而中断该因果关系。第二个可能的抗辩为难以证明或建立生产者、使用者之过失,因为他们可能主张其係依照正常方式生产或使用该产品,是人工智能本身在运作的过程中产生偏差才导致损害,并不能归责于特定生产者或使用者之行为。

即使是无过失责任的企业经营者责任,虽然看似使受害者更易追究责任,但在我国法的现实运作下,消保法规定之企业经营者的无过失责任有一前提,即其所提供的产品并未符合当时科技水准可合理期待的安全性,故受害者必须证明其提供的产品是否符合合理安全性或可合理期待的安全性,而此标准现实上并不明确,导致如果人工智能产品属于较新颖的产品,很可能没有相关之行业标准可供操作。第二个可能遇到的问题,则是我国消保法关于可合理期待的安全性设有一个时间点的要件,亦即所提供的产品或服务进入市场时必须符合“当时”可合理期待的安全性,因此生产者或企业经营者可以抗辩其所提供之产品于进入市场时是符合可合理期待的安全性要件,只是随着人工智能的演化以及不同的新数据、新逻辑的累积而逐渐欠缺安全性,但生产者依现行消保法并不负持续性的维持在当时科技水准可合理期待的安全性状态,故不涉及企业经营者之相关责任。

价值观点:保护人工智能之受害人是让人工智能技术长远获得社会信任之基础,故做扩张解释。透过加重生产者或使用者的监督、测试责任,除了设计当下的时间点,亦确认生产者事后的相关责任,此监督或测试义务为一继续性义务,设计者应持续监督、测试,若事后证明损害是因未持续监督、测试所造成,则依然可建立过失责任及因果关系责任。

五、AI民事责任待解决的问题

1、可能产生过度规范。盖扩大生产者与使用者应负之法律责任,可能增加其法律风险,进而扼杀创新产业之发展。

2、亦有规范不足之担忧,盖纵使透过解释论使受害者有实体法之依据可以请求损害赔偿,但当具体执行实体法上之权利时,仍可能面临几个执行面的相关问题。首先是生产者或使用者可能并没有足够金钱可供求偿,其次则是受害者必须界定应负责之人,然而在复杂的人工智能供应链或生产链上,并不易界定应负责之责任主体。

有提出以保险制度解决上述问题,然而保险机制并无法完全解决问题。首先保险机制需有愿意承保之人,而保险业者必须先分析其所具体承担之风险为何,才能提出保险产品并予以定价,但若人工智能之民事责任不明确,保险业者就不容易分析其所承担之风险。其次,既有的保险机制是允许保险人于赔偿之后代位向应负责之人追究相关责任,所以即便保险制度能第一线填补受害者的损害,但后续之权利责任归属仍必须釐清,如此一来,才能使保险机制更为健全。