全球首例适用欧盟《人工智能法》案例！初步裁决请求全文-知识库详情

全部课程

法律

合规

医疗

详细内容

2024 年 11 月 25 日，欧盟法院（CJEU）收到保加利亚索非亚地区法院就适用欧盟《人工智能法案》第86条，即对个人决策进行解释权利（Right to explanation of individual decision-making）条款进行初步裁判的请求，案件编号为C-806/24。所谓初步裁决是欧盟法院（European Court of Justice）根据欧盟成员国法院或法庭的请求，就欧盟法律的解释或有效性问题作出的裁决。这种裁决对于提出请求的成员国法院具有直接的约束力，并且对于其他成员国法院处理类似问题也具有指导意义。以下为保加利亚索非亚地区法院所提交的初步裁决请求全文：

案件 C-806/24

根据《欧盟法院程序规则》第 98 (1) 条提出的初步裁决请求摘要

提交日期：2024 年 11 月 25 日

提交法院：索非亚地区法院（保加利亚）（Sofiyski rayonen sad (Bulgaria)）

决定提交的日期：2024 年 11 月 25 日

申请人：YETTEL 保加利亚公共有限公司（YETTEL BULGARIA EAD）

被告：FB

主要诉讼的标的：一家电信运营商对一名移动电信服务用户提起诉讼，要求其支付每月的订阅费用、费用协议未涵盖的移动电信服务费用，以及因合同终止而开具的赔偿金。

请求的主题和法律依据

此次初步裁决请求涉及在自动化决策背景下，对欧盟在人工智能和消费者保护领域法律的解释。具体包括消费者对于金钱索赔发票生成方式的知情权，以及使用自动化系统时的计费原则和透明度问题。该请求还提出了围绕 “黑箱效应” 和软件源代码的相关问题。同时，请求对与用户合同相关的人工智能开发、实施和使用的道德标准，以及在诉诸法院的有效性原则方面对基本权利的保护进行阐释。

提交的初步裁决问题

《欧盟 2024/1689 号条例》（Regulation (EU) 2024/1689）第 86 (1) 条是否应解释为：消费者有权（根据《2011/83/EU 号指令》（Directives 2011/83/EU）和《1993/13/EEC 号指令》（93/13/EEC）的定义）要求服务提供商告知，基于移动电信服务提供合同中自动收集的数据，自动化决策（发票）是如何生成的，以及借助了哪些要素和参数？结合《欧盟基本权利宪章》（Charter of Fundamental Rights of the European Union）第 38 条理解，《欧盟 2024/1689 号条例》第 86 (1) 条是否应解释为：消费者有权要求服务提供商告知计算自动生成发票的算法，以及输入该算法的要素和参数？《欧盟 2024/1689 号条例》第 86 (1) 条是否适用于消费者合同？

《1993/13/EEC 号指令》第 6 (1) 条和第 7 (1) 条是否应解释为：它们适用于基于《欧盟 2024/1689 号条例》第 86 条所定义的人工智能或自动化决策的活动？

《2011/83/EU 号指令》第 3 (1) 条是否应解释为：消费者权利保护适用于使用人工智能并生成《欧盟 2024/1689 号条例》所定义的自动化决策的系统？

结合《欧盟基本权利宪章》第 47 条、第 38 条，以及《1993/13/EEC 号指令》第 6 (1) 条、第 7 (1) 条和《2011/83/EU 号指令》第 5 条所体现的有效性原则理解，《欧盟 2024/1689 号条例》第 86 (1) 条是否应解释为：法院可以要求商家提供与消费者合同下自动化决策方式相关的黑箱数据、源代码和算法？

结合《欧盟基本权利宪章》第 47 条、第 38 条，以及《2011/83/EU 号指令》理解，《欧盟 2024/1689 号条例》第 86 (1) 条是否应解释为：商家根据与消费者签订的移动电信服务合同生成的自动化决策，应允许在实际司法程序中由人（法官）进行审查？这些条款是否应解释为：自动化决策在实际司法程序中应接受法官的人工审查？

《欧盟 2024/1689 号条例》（《人工智能法案》（AI Act））的序言第 7、8 条和第 95 (2)(a) 条，以及《2011/83/EU 号指令》是否应解释为：当在消费者合同中运行和使用自动化决策系统时，必须有具备高道德和伦理标准的律师或高级司法官员参与，以确保建立一个透明、有效且以人为本的信息系统，同时兼顾基本权利？

《1993/13/EEC 号指令》第 3 (1) 条和该指令附件第 1 (e) 点是否应解释为：当合同因消费者未付款而终止，但在后续付款后将恢复合同并继续提供移动电信服务时，商家不能就合同终止开具赔偿金发票？

《1993/13/EEC 号指令》附件第 1 (e) 点中 “未履行其义务” 这一表述，是否应解释为：消费者未支付由自动化系统生成且代表自动化决策（ADM）的金额，前提是消费者未被告知这些金额的计算方式？

《2011/83/EU 号指令》第 5 (1)(a) 条、(c) 条和《1993/13/EEC 号指令》第 5 (1) 条是否应解释为：“通俗易懂” 或 “清晰易懂” 的语言要求，也适用于由人工智能或其他无人干预的自动化系统（ADM）生成的、源自消费者合同的后续合同、附件和发票？

《1993/13/EEC 号指令》第 5 (1) 条和《欧盟 2024/1689 号条例》第 86 (1) 条是否应解释为：源自消费者合同的自动生成发票必须使用通俗易懂的语言，并且消费者有权要求商家解释该决策是如何做出的，以及使用了何种算法？

《2011/83/EU 号指令》（《消费者权利指令》（‘the Consumer Rights Directive’））第 5 (1)(c) 条和《1993/13/EEC 号指令》第 3 (1) 条是否应解释为：即使双方约定在合同期内支付促销订阅费，且商家本身并不希望签订标准订阅费合同，商家仍可以基于标准月订阅费而非促销月订阅费计算合同终止（因未按合同付款）的赔偿金？

《1993/13/EEC 号指令》附件第 1 (e) 点中 “过高的赔偿金额” 这一表述，是否应解释为：合同中促销月订阅费与标准月订阅费之间的差额，该差额按照终止合同原定期限剩余月份数计算？

《1993/13/EEC 号指令》第 3 (1) 条是否应解释为：当双方在合同中约定了整个计费周期的金额时，商家不能计算计费周期零头的费用？

《1993/13/EEC 号指令》第 6 (1) 条、第 7 (1) 条以及有效性原则，是否应解释为：禁止国家立法规定消费者承担部分诉讼费用的情形，即商家未以清晰易懂的方式向消费者解释自动化决策是如何做出的，以及使用了何种算法，且仅在因消费者未支付合同到期金额而对其提起的司法程序中才提供该解释？

《2011/83/EU 号指令》第 5 (1)(a) 条和 (c) 条是否应解释为：禁止移动电信运营商在消费者因未付款而提前终止合同的情况下，基于标准月订阅费索要赔偿金，即使商家和消费者在合同期内约定了较低的促销月订阅费？

《2011/83/EU 号指令》第 5 (1)(a) 条和 (c) 条是否应解释为：禁止移动电信运营商在消费者因未付款而提前终止合同的情况下，索要包括合同终止至原定期限结束期间标准月订阅费与促销月订阅费差额的赔偿金？

《2011/83/EU 号指令》第 5 (1)(a) 条和 (c) 条是否应解释为：禁止移动电信运营商在双方约定以月订阅费作为赔偿金的情况下，按日索要赔偿金？商家是否可以基于月订阅费按日而非按月索要赔偿金？

所援引的欧盟法律条款和判例法

《欧盟基本权利宪章》（‘the Charter’）第 38 条和第 47 条

1993 年 4 月 5 日欧盟理事会《关于消费者合同中不公平条款的 1993/13/EEC 号指令》第 4 条、第 5 条、第 6 条、第 7 条，以及该指令附件第 1 (e)、(g)、(q) 点

2011 年 10 月 25 日欧洲议会和欧盟理事会《关于消费者权利的 2011/83/EU 号指令》第 5 条，该指令修订了欧盟理事会《1993/13/EEC 号指令》和欧洲议会及欧盟理事会《1999/44/EC 号指令》，并废除了欧盟理事会《85/577/EEC 号指令》和欧洲议会及欧盟理事会《97/7/EC 号指令》

2024 年 6 月 13 日欧洲议会和欧盟理事会《欧盟 2024/1689 号条例》（《人工智能法案》（‘the AI Act’））序言第 7、8 条，第 85 条、第 86 (1) 条和第 95 (2)(a) 条，该条例规定了人工智能的协调规则，并修订了《(EC) 第 300/2008 号条例》、《(EU) 第 167/2013 号条例》、《(EU) 第 168/2013 号条例》、《(EU) 2018/858 号条例》、《(EU) 2018/1139 号条例》、《(EU) 2019/2144 号条例》，以及《2014/90/EU 号指令》、《(EU) 2016/797 号指令》、《(EU) 2020/1828 号指令》

所援引的国内法条款

《民事诉讼法典》（Grazhdanski protsesualen kodeks，‘the GPK’）

《消费者保护法》（Zakon za zashtita na potrebitelite，‘the ZZP’）

《电子通信法》（Zakon za elektronnite saobshtenia，‘the ZES’）

《增值税法》（Zakon za danak varhu dobavenata stoynost，‘the ZDDS’）

主要诉讼中的事实和程序简述

双方签订了一份为期两年（从 2020 年 3 月 27 日至 2022 年 3 月 27 日）的移动电信服务合同。该合同包含一定数量的保加利亚国内免费通话分钟数、最高网速的互联网使用权限以及一定数量的免费漫游通话分钟数，但不包含漫游移动数据。合同约定，通话以分钟计算，移动数据（互联网）以兆字节（MB）计算。如果用户提前终止合同，需支付一笔赔偿金。

赔偿金金额包括从合同终止至合同期满的所有月度订阅费用。然而，赔偿金的最高限额不得超过月订阅费用的三倍。为计算赔偿金，最高订阅费用被视为月订阅费用。此外，如果给予了折扣（促销折扣），用户还需承担根据资费条件计算的最低和最高月订阅费用差额中与合同剩余期限相应的部分。换句话说，如果合同提前终止，用户需支付最高可达无约定折扣（合同促销折扣）月订阅费用三倍的赔偿金。此外，用户还需承担标准月资费与约定促销月资费之间的差额，该差额计算至合同期满。

被告（消费者）于 2021 年 1 月停止付款；申请人（商家，移动电信服务提供商）于 2021 年 1 月 25 日停止按照合同提供服务。申请人认为其通过停止提供合同服务单方面终止了合同。

申请人提出两项索赔请求。第一项索赔涉及未支付的月度订阅费用和移动电信服务费用（超出免费分钟数的漫游通话费用和漫游移动数据费用）。第二项索赔涉及因合同终止产生的 157.92 保加利亚列弗（BGN，不含增值税，约 80 欧元）赔偿金。为支持其索赔，申请人提交了两张发票，还提交了一份资费协议，根据该协议，超出免费分钟数的漫游通话按分钟或按兆字节计费，具体取决于用户所在地。

关于赔偿金数额：从法务会计专家的报告以及申请人提交的合同可以确定，标准月资费（月订阅费用）为 34.16 保加利亚列弗（不含增值税，约 17.08 欧元）。标准订阅费用是无折扣的订阅费用。双方约定被告在整个合同期内享受 9.77% 的折扣。在此折扣下，月订阅费用为 30.83 保加利亚列弗（15.42 欧元）。此外，双方还约定给予被告 20% 的额外折扣。这两个折扣均适用于整个合同期。因此，被告需支付的月订阅费用为 24.66 保加利亚列弗（约 12.33 欧元）。包含两个折扣的月订阅费用构成促销订阅费用。申请人根据《增值税法》第 26 (2) 条索要不含增值税的赔偿金。在诉讼过程中（而非之前），申请人表示赔偿金包括三个月的不含增值税的标准订阅费用，以及合同期满前每个月标准订阅费用与促销订阅费用的差额。关于移动电信服务：申请人还要求支付未支付的移动电信服务费用，即一项促销月订阅费用加上漫游通话和漫游移动数据服务的增值税。

法务会计专家认可的报告澄清了以下情况：对漫游通话和漫游移动数据进行了计费。申请方公司使用自动化系统和算法从用户移动设备收集数据，并确定通话时间和 MB 消耗量。这些数据自动传输到申请方的计费系统（会计系统），该系统根据既定的资费协议也会自动生成发票。发给被告（与本诉讼所涉金额相关）的发票是基于另一个自动确定通话时长和 MB 消耗量的系统自动生成的。专家认为与资费协议和移动电信服务单价相关的数据已输入系统，但他不知道这些数据是否与涉案合同相符或是否正确。数据由人工输入。计费、确定单位数量（时间和 MB）以及生成发票均为自动化流程。申请人通过诉讼，基于生成的发票向被告索要费用。然而，被告的电话号码并未被删除；移动电话运营商提供的服务在支付相关金额后将恢复。

专家认为，确定通话时长没有问题。因此，计算出的费用应与一个通话单位的费率乘以通话时长相对应。然而，专家不知道通话发生在哪个漫游区域，申请中未说明这一点。发票也未根据通话发生区域（所在国家地理位置）标明漫游通话的单位费率。

专家确实发现了移动数据确定和发票生成方面的问题。问题在于不清楚 MB 的计数增量。每个电信公司计数 MB 的增量不同。例如，通话时长以 1 分钟为增量进行计数。移动数据不一定以 1MB 为增量计数。根据使用的增量不同，费用可能会有所差异。例如，如果应用 10MB 的增量，而用户消耗了 11MB，则会自动计算 20MB 的费用。这是因为在第一个 10MB 之后，第二个增量的计数已经开始。

被告表示，他无法了解发票是如何生成的，也不知道所涉漫游通话和漫游移动数据的费用是如何计算的。他认为相关情况只是笼统说明，他不知道适用的费率是多少，也不知道 1MB 或所涉增量的漫游移动数据费用是如何得出的。关于赔偿金数额，被告反对称发票上显示的金额与合同中描述的计算方法不符。他认为这些金额与订阅费用无关，并声称存在不公平条款。他认为，赔偿金不应基于标准价格计算，因为双方在整个合同中约定的是促销价格。被告还称，要求支付合同期满前标准订阅费用与促销订阅费用差额的申请同样基于不公平条款。他表示合同并未终止，因此申请人无权获得赔偿。

直到第四次听证会，申请人才通过专家披露所索赔金额的计算方式（算法）。专家解释说，计算是一个自动化过程，是移动电信运营商计费系统的一部分。申请人表示，赔偿金包括三个标准月订阅费用，加上促销订阅费用与标准订阅费用（不含增值税）的差额。申请人解释说，该差额乘以服务使用期限（10.011 个月），计算结果再按合同剩余期限（13.989 个月）进行分摊。

关于通话和移动数据费用，申请人解释如下：根据合同，提供 10000MB 的漫游数据流量。超出部分按每千字节（KB）0.0082 保加利亚列弗计费。数据以 KB 为单位确定，但汇总以 MB 为单位。1KB = 0.001MB，而 1MB = 1024KB。用户消耗了 15985.17MB，相当于 16368814.08KB。在最初的 5KB 之后，移动数据以 1MB 为增量进行计数。专家明确表示，这些增量代表了所涉费用计费流程的起点。如果用户最初消耗 1KB，计费将按 5KB 计算，而不是 1KB，这意味着用户未消耗的 4KB 仍将计入费用计算。专家还明确表示，超过 5KB 的消耗以 1KB 为增量进行计数：如果用户消耗 1.5KB，计费将按 2KB 计算，而不是按实际消耗的移动数据量计费。

同样直到第四次听证会，申请人才解释通话以 1 分钟为增量计费。对于时长为 1 分 30 秒的通话，自动化系统按用户通话 2 分钟计算费用，而不是按实际通话时长计费。因此，计费金额是将分钟的零头按整分钟计算得出的，并非根据每次通话的实际时长计算。

主要诉讼中各方的主要论点以及初步裁决请求的推理过程

保护个人数据的权利、消费者保护以及通过自动化决策（ADM）系统进行正当处理的权利均属于信息社会权利。根据《欧盟基本权利宪章》第 38 条，消费者保护

是一项基本人权，因此必须受《欧盟 2024/1689 号条例》（《人工智能法案》）第 6 条的涵盖。

被告属于《1993/13/EEC 号指令》所定义的消费者。生成的发票构成自动化决策，因为它们是基于自动数据收集（位置、通话时长和 MB 消耗量）生成的。这些数据随后被传输到另一个自动化系统，该系统根据自动输入的与移动电信服务消费和位置相关的数据生成自动发票。在此之前，仅输入了与服务单价、月度协议和资费相关的数据。发票开具后，消费者（被告）成为债务人，而 “卖方或供应商”（《1993/13/EEC 号指令》所指，即申请人）成为债权人。只有申请人能够影响自动计算费用和生成发票的系统。因此，该自动化决策系统受《欧洲人工智能法》约束。

第一组问题：目前尚不清楚自动化系统如何计算赔偿金额；就移动数据的确定而言，合同约定的算法与申请人自动化系统使用的算法不一致。

申请人引用了一种计算赔偿金额的算法：三个月的订阅费用加上标准订阅费用与促销订阅费用之间的差额；该差额乘以服务使用期限，计算结果再与合同剩余期限（即两年期满前的剩余月份）按比例分摊。相比之下，合同规定赔偿金额仅由三个月的标准订阅费用加上标准订阅费用与促销订阅费用的差额乘以合同剩余期限（即两年期满前的剩余月份）组成。因此，很明显，自动化系统计算的金额与合同中规定的计算方法不符。

如果法院根据诉讼过程中收集的数据，借助计算器并依据学校所学知识，按照合同约定的规则计算赔偿金额，会得出不同的结果。法务会计专家的报告中也明显体现了这种差异。换句话说，申请人通过自动化系统计算的索赔金额与按照合同手动计算的金额不一致。

移动数据方面也存在问题。法院不理解为什么申请人认为 1MB 等于 1024KB，尽管 1KB 是 0.001MB，因此 1MB 应该等于 1000KB。申请人在确定以 KB 为单位的数量并将其转换为 MB 时，进行了双重转换操作（除以 1000，见上文第 11 段）。因此，当消费者消耗 1KB 时，商家计为 0.001MB。在自动计算费用时，商家又将这 0.001MB 转换为 KB，并认为其等于 1024KB。将 1MB 进行转换会额外产生 24KB，而在第一次转换时并未考虑这部分。在以每 KB 0.0082 保加利亚列弗的费率计算费用时，这 24KB 被计算在内。因此，有理由怀疑在将 MB 转换为 KB 时，计算的费用更高。对于 1MB（商家以 MB 为单位汇总消费情况，见上文第 11 段），结果是 0.20 保加利亚列弗（0.10 欧元）。如果每个消费者消耗 1000MB，总计就是 200 保加利亚列弗（100 欧元）。对于商家约 200 万客户而言，涉及金额高达 4 亿保加利亚列弗（2 亿欧元）。该金额源于商家进行的转换操作。有理由怀疑申请人在进行相同操作（即单位换算）时采用了两种不同的方法。法院认为，将 MB 转换为 KB 的唯一解释是，申请人意图额外增加 24KB，因为其选择的方法每次转换 1MB 总会多生成 24KB，而消费者既未要求也未消耗这部分数据。截至目前，法院尚未找到任何法律或逻辑依据，来解释为什么申请人将 1KB 转换为 0.001MB，但将 1MB 转换为 1024KB，或者在单价适用于 MB 的情况下，为何需要进行这种转换。

此外，费用是按照商定的资费标准，根据 MB 数量计算的。标明的价格是每 1MB 的价格。根据法务会计专家的报告和申请人提交的文件，商家是根据 KB 数量计算费用的。因此，其选择的计费算法与合同不符，合同中约定的是每 MB 的价格。目前尚不清楚为什么需要进行第二次转换；但可以明确的是，这使得服务费用更高。此外，在发票上，申请人根据第二次转换以 MB 为单位显示消耗的移动数据，这与第一次转换不一致。在这种情况下，问题在于作为弱势一方的消费者，如果计算费用所使用的计量单位并非合同规定的单位，是否能够理解费用是如何计算得出的。

计算移动数据的算法在增量使用方面还存在另一个问题。申请人承认使用了 5KB 的增量（见上文第 8 段）。由于资费是按 MB 而非 KB 支付，目前尚不清楚为什么增量要以 KB 为单位确定。使用 5KB 的增量意味着，当用户实际消耗 6KB 时，系统会计为 10KB，因为超过了第一个 5KB 的增量。换句话说，费用的计算与确定的移动数据量无关，而是取决于是否超过了某个增量。如果超过了，即使未消耗相同数量的移动数据，也会再次计算。结果是，消费者消耗 1KB 却要支付 5KB 的费用，因为系统已经开始计算下一个 5KB 的增量。

在这种情况下，人们对自动化决策时消费者权利是否得到保护，以及《消费者权利指令》是否适用于自动化决策和基于人工智能的系统存在疑问。随之而来的问题是：《欧洲人工智能法》的规定，特别是该条例第 86 (1) 条，是否应解释为商家必须告知消费者决策是如何做出的；并且，受自动化决策赋予权利和义务的自然人，是否有权根据《欧洲人工智能法》第 86 条要求商家解释决策过程或提供相关算法？

在涉及人工智能和自动化决策的消费者保护方面，应当牢记，就《1993/13/EEC 号指令》而言，消费者是弱势一方。如果他支付了所要求的金额，就不会出现争议，计算差异也不会暴露出来。在消费者权利纠纷中，法院会自行下令出具专家报告，并要求申请人提供申请时未提交的信息。关于《欧盟基本权利宪章》第 47 条规定的获得公平审判的权利，法院希望知道，根据《欧洲人工智能法》第 86 条，它是否可以要求一方提供基于自动化决策系统的决策方式的数据，并提供相关算法。法院需要这种权力，以保障消费者权利，以及《1993/13/EEC 号指令》第 6 (1) 条和第 7 (1) 条规定的有效性原则（结合公平审判原则理解）。

法院同样不清楚生成发票的系统的源代码是什么。存在 “黑箱效应”（C-634/21 案）。尽管下令出具了专家报告，但仍无法确定所涉费用计算的决策是如何做出的，且存在差异。被告声称存在不公平条款，并提出了额外的证据请求。为了收集和采纳进一步的证据，需要确定电信服务提供商是否根据《欧洲人工智能法》第 86 条对消费者负有解释义务。然后，法院将能够决定其是否认为申请人自动生成的发票是正确的。法院不清楚在裁决涉及自动化决策的纠纷时，根据《欧洲人工智能法》第 86 条，获得公平审判的权利和消费者保护是否要求其向各方索取与自动化决策方式和所使用算法相关的信息。如果法院没有这种权力，它就必须接受发票上显示的金额，无论这些金额是否与协议相符。

《欧洲人工智能法》为人工智能的运行和使用，特别是自动化系统，确立了较高的道德标准。必须确保人工智能系统的设计和使用是公平、透明和负责任的。《欧洲人工智能法》要求对系统进行认证并开展质量评估，但在主要诉讼中没有证据表明申请人的自动化系统经过了这些检查。因此，法院怀疑自动化决策是否正确并符合合同规定，而被告不知道费用是如何计算的（证据仅在司法程序中收集，决策背后的算法是法院依职权确定的，而被告在收到发票时并未获得必要信息）。“黑箱效应” 对消费者保护构成了问题。问题在于，在消费者保护纠纷中，自动化决策计算的费用是否可以由人进行审查，也就是说，《欧洲人工智能法》第 86 条、《欧盟基本权利宪章》第 47 条以及《消费者保护指令》的规定，是否应解释为任何针对消费者做出的自动化决策都要接受真正的人工司法审查。这个问题对于法院决定是接受自动计算的金额，还是适用合同中描述的计算算法至关重要。这也有助于确定消费者是否拥有《1993/13/EEC 号指令》第 6 (1) 条和第 7 (1) 条规定的有效的司法消费者保护手段。

参考早期关于诉诸法院权利的判例法（C-293/17 案和 C-294/17 案），这些案例表明自动化决策必须接受人工审查。然而，尚不清楚《1993/13/EEC 号指令》附件第 1 (q) 点规定的消费者必须拥有有效的法律救济手段这一原则，在消费者希望对自动化决策进行人工审查的情况下是否适用。也不清楚上述指令附件规定所指的消费者保护手段，是否与对自动化决策进行人工审查的原则相一致。人工监督原则也体现在 C-817/19 案的判决中。提交法院不清楚《欧洲人工智能法》第 85 条是否要求法院在消费者保护纠纷中纠正自动化系统的错误。

下一个问题涉及《欧洲人工智能法》对高道德标准的要求（序言第 7、8 条）。有人提到在司法伦理平台框架内正在讨论的与人工智能相关的新伦理原则，特别是将创新的使用置于高级司法官员（调查官员、法官、检察官）严格监督之下的观点。因此，出现了一个问题，即具有较高道德理想的高级司法官员是否需要参与自动化决策系统的开发和运行；这个问题使得有必要结合《欧盟基本权利宪章》第 47 条和《消费者保护指令》，对《欧洲人工智能法》序言第 7、8 条和第 95 (2)(a) 条进行解释。

第二组问题涉及本案合同中的不公平条款。

目前尚未确定合同是否已终止，或者服务提供是否已中断。在诉讼过程中发现，如果被告支付所涉金额，其电话号码可以重新激活。根据双方的合同约定，负责终止合同的一方有义务支付赔偿金。申请人称，被告因未支付所涉移动电信服务（即通话和互联网服务）费用而终止了合同。

保加利亚法院的判例法并不统一。在一些判决中，相关条款被认定为属于《1993/13/EEC 号指令》附件第 1 (e) 点所指的不公平条款（认为如果消费者未支付合同项下的欠款，商家不能向其索要赔偿金，并且中断服务并不导致合同终止，因为这对消费者不利，符合《1993/13/EEC 号指令》第 3 (1) 条所指的损害消费者利益的情形）。其他法院则认为，双方可以约定合同因未付款而被视为终止。他们认为，支付金额后电话号码和合同服务将被重新激活这一事实无关紧要。国内法院对该指令的矛盾解释使得有必要获取欧盟法律的解释。

因此，问题在于《1993/13/EEC 号指令》第 3 (1) 条和该指令附件第 1 (e) 点是否应解释为：如果移动电信服务提供商认为合同（因消费者未付款）已结束，但在后续付款后可能重新激活，那么其不得就合同终止收取赔偿金。同时，《1993/13/EEC 号指令》附件第 1 (e) 点中 “未履行其义务” 这一表述，是否应解释为消费者未支付由自动化系统生成且构成自动化决策的费用，且消费者未收到关于这些费用计算方式的任何信息。

法院在适用《消费者保护指令》和《1993/13/EEC 号指令》时也遇到了困难。《消费者保护指令》第 5 (1)(a) 条和 (c) 条以及《1993/13/EEC 号指令》第 5 (1) 条要求合同使用 “通俗易懂” 或 “清晰易懂” 的语言起草。然而，尚不清楚该要求是否仅适用于合同签订前，还是也适用于签订后。也不清楚作为自动化决策结果的合同发票是否必须使用通俗易懂的语言起草。因此，法院询问上述指令的规则是否也适用于基于初始合同生成的后续合同、附件和发票。

法院还怀疑根据标准月订阅费协议而非促销月订阅费协议确定赔偿金额的条款是不公平的。双方约定被告在整个合同期内支付促销订阅费。因此，申请人依据的是促销月订阅费的支付，而非标准月订阅费。此外，申请人主动给予了两项折扣。商家基于标准月订阅费协议索要赔偿金的权利，是否追求了合法目标并与消费者保护权利相称，这一点值得怀疑。

法院怀疑规定赔偿金额等于合同剩余期限内标准订阅费与促销订阅费差额的条款也是不公平条款。合同终止使被告失去了用户身份，但他在合同剩余期限内仍需承担约定促销价格与标准价格之间差额的支付义务。因此，申请人仅因主动给予消费者折扣，就能在合同终止后获得付款。因此，必须怀疑商家和消费者的权利义务之间存在不平衡。如果消费者未履行其义务，他必须在合同剩余期限内支付过高的损害赔偿金或补偿金，这一金额基于促销价格与标准价格的差额计算。商家在签订合同时主动放弃了较高价格；但如果合同因消费者的原因终止，它却仍要求按照较高价格计算。

如果是这样，这不仅会影响消费者，还会影响服务市场（限制竞争，《欧盟运行条约》第 101 条）。尚不清楚《1993/13/EEC 号指令》附件第 1 (e) 点中 “过高的赔偿金额” 这一表述，是否应解释为合同中促销月订阅费与标准月订阅费之间的差额，该差额按照终止合同原定期限剩余月份数计算，且商家是主动给予折扣的。问题在于，该表述是否应解释为不允许商家对合同终止后的期间开具费用发票。最后两个问题很重要，一是因为法院有义务主动保护消费者权利，二是因为上级法院对这些问题的回答不一致，从而导致了对欧盟法律的不同解释。这些问题对主要诉讼案件至关重要，因为它们将为确定赔偿金额应考虑的款项提供答案。

根据商家（申请人）的解释，其索要的是合同实际履行期间以及合同终止至约定合同期满期间标准月订阅费与促销月订阅费的差额。然而，合同并非在月末终止，这就是申请人使用分数（13.989 和 10.011）的原因。法院认为，申请人使用分数的做法也可能构成不公平条款。在双方约定了月订阅费（即整月订阅费）的情况下，这种做法会导致赔偿金额增加。这些情况就是提出第十三个问题的原因。

上文第 12 段所述的移动通话计费问题引发了以下疑问：《消费者保护指令》和《关于不公平条款的指令》是否应解释为，当消费计费高于实际消费量时，商家可以对未消费（实际未提供）的服务收费？法院不清楚欧盟法律是否禁止消费者为这些基于自动化决策计费、实际未消费且消费者既不知道决策背后的算法，也未收到关于费用计算方式的通俗易懂解释的服务付款。

第三组问题涉及消费者可获得的有效法律救济。

提交法院援引了 2020 年 7 月 16 日西班牙对外银行（Caixabank）和毕尔巴鄂比斯开银行（Banco Bilbao Vizcaya Argentaria）案（C-224/19 和 C-259/19，EU:C:2020:578）判决的第 99 段内容。欧盟法院认为，《1993/13/EEC 号指令》第 6 (1) 条和第 7 (1) 条以及有效性原则应解释为禁止这样一种制度，即消费者可能需根据因合同条款被认定为不公平而无效后退还给他的不当支付金额水平，承担部分诉讼费用，因为这样的制度会造成重大障碍，可能会阻碍消费者行使对《1993/13/EEC 号指令》赋予的合同条款潜在不公平性进行有效司法审查的权利。C-714/22 案的判决也采取了相同的立场。

如果申请人在诉讼过程中提供证据证明其部分（或全部）自动化决策符合合同规定且并非不公平，根据保加利亚法律，被告必须按判决金额的一定比例支付费用。在主要诉讼中，被告未支付任何费用，因为他不知道自动化系统是如何计算金额的。被告未依据《人工智能法案》第 86 条要求申请人解释索赔金额的计算方式，也未询问自己是否有权要求对该金额进行人工审查。目前尚不清楚他是否拥有这些权利（因此提出了上述问题）。在这种情况下，如果商家在司法程序而非发票开具时提供索赔证据，消费者可能会承担费用。在提起诉讼前，商家未以通俗易懂的语言向消费者解释这些自动化决策是如何做出的。因此，商家在诉讼前未解释自动化决策的方式，仅在其发起的司法程序中提供该信息。法院认为，这构成了权利滥用。商家会利用其优势地位，在司法程序前不披露自动化决策的方式，而在后续司法程序中披露该信息以证明其索赔合理，而消费者却要承担诉讼费用。这些情况构成了第十四个问题的基础。

附录：

C - 821/24 - 1

案件 C - 821/24

根据《欧盟法院程序规则》第 98 (1) 条提出的初步裁决请求摘要

提交日期：2024 年 11 月 28 日

提交法院：保加利亚索非亚地区法院（Sofiyski rayonen sad (Bulgaria)）

决定提交的日期：2024 年 11 月 28 日

主要诉讼中的申请人：“A1 保加利亚” 公共有限公司（‘A1 Bulgaria’ EAD）

主要诉讼中的债务人：V.N.A.

主要诉讼的标的：2024 年 9 月 27 日，在保加利亚法律注册的移动电话运营商 “A1 保加利亚” 公共有限公司，依据《民事诉讼法典》（Grazhdanski protsesualen kodeks，‘GPK’）第 410 条提起支付令程序，向提交法院索非亚地区法院（Sofiyski rayonen sad (Sofia District Court)）申请支付令，要求债务人 V.N.A. 支付 4130.76 列弗（BGN）。

请求的主题和法律依据

依据《欧盟运行条约》（TFEU）第 267 条，请求对《1993 年第 13 号指令》（Directive 93/13）第 2 (a) 条、第 4 条，其附件中题为 “第 3 (3) 条所提及的条款” 的第 1 (e) 和 (j) 点，以及《2020 年第 1828 号指令》（Directive 2020/1828）第 8 (1)(b) 条（连同其第 7 (4)(a) 条）进行解释。

提交的初步裁决问题

《1993 年第 13 号指令》第 3 (3) 条及其附件中题为 “第 3 (3) 条所提及的条款” 的第 1 (j) 点，是否应解释为允许这样一项条款：即当合同条款（包括一般条款）规定，根据公共当局公布的上一年度平均消费者物价指数对与消费者约定的服务价格进行指数化调整，且该指数化调整仅为上调时，卖方或供应商可以单方面变更合同条款？

《1993 年第 13 号指令》第 2 (a) 条中的 “合同条款” 一词，是应解释为合同的具体措辞，还是应理解为指合同措辞各部分的所有法律效果，即使它们不在文件的同一单独部分？

为确定条款是否不公平，是必须单独审查与不履行后果相关的每一项协商一致的合同条款，还是必须将其作为服务套餐一部分的累积效果整体解释为一项条款，根据《1993 年第 13 号指令》附件中题为 “第 3 (3) 条所提及的条款” 的第 1 (e) 点，该条款 “目的或效果是要求任何未履行付款义务的消费者支付过高的赔偿金额” ？如果其中一些条款不公平，是否必须全部予以排除？

《1993 年第 13 号指令》第 4 条是否应解释为允许这样一项条款：即卖方或供应商可以按照标准金额（不包括合同约定的折扣，其中还包括对订阅合同折扣金额以及购买或租赁终端设备市场价格折扣金额的部分补偿）的一定比例确定赔偿条款？或者，《1993 年第 13 号指令》第 3 (1) 条是否应解释为允许这样一项条款：即与合同不履行责任相关的条款，规定消费者需支付与所提供服务明显不成比例的赔偿并承担费用，且在满足合同不履行责任的条件时（自动且无事先通知，并加上相应利息和追讨费用），可被视为不公平条款？

移动电话运营商与该指令所指的合格实体（如保加利亚消费者保护委员会（Komisia za zashtita na potrebitelite））之间达成的法院和解协议，是否会产生《2020 年第 1828 号指令》第 8 (1)(b) 条（连同其第 7 (4)(a) 条）所规定的效力？如果是，若基于 C - 600/19 案所述理由，法院在批准和解协议时未审查条款是否公平，那么该协议是否也对其他法院（包括任何审理移动电话运营商与个人消费者之间法律关系的法院）具有约束力？

所援引的欧盟法律条款和判例法

1993 年 4 月 5 日欧盟理事会关于消费者合同中不公平条款的第 93/13/EEC 号指令（Council Directive 93/13/EEC of 5 April 1993 on unfair terms in consumer contracts）

2020 年 11 月 25 日欧洲议会和欧盟理事会关于保护消费者集体利益的代表诉讼并废除第 2009/22/EC 号指令的第 2020/1828 号指令（Directive (EU) 2020/1828 of the European Parliament and of the Council of 25 November 2020 on representative actions for the protection of the collective interests of consumers and repealing Directive 2009/22/EC）

欧盟法院 2022 年 5 月 17 日的判决（伊比利亚银行案（Ibercaja Banco），C - 600/19，EU:C:2022:394）

欧盟法院 2024 年 2 月 29 日的判决（投资资本案（Investcapital），C - 724/22，EU:C:2024:182）

所援引的国内法条款

《民事诉讼法典》（Grazhdanski protsesualen kodeks）第 410 至 411 条

《消费者保护法》（Zakon za zashtita na potrebitelite）第 143 至 148 条、补充条款第 13、13.13 和 13.14 款

《电子通信法》（Zakon za elektronnite saobshtenia）第 225、226、228a、229、229a、229b、230、230a、230d 条

主要诉讼中的事实和程序简述

“A1 保加利亚” 要求其客户 V.N.A. 支付 4130.76 列弗，其中包括以下项目：电子通信服务未付发票金额 1054.06 列弗、设备购买价款未付分期金额 1450.02 列弗，以及因客户过错导致合同提前终止而产生的 1626.68 列弗赔偿金。在本案中，客户签订了九项服务合同，针对这些服务的未履行情况，提出了以下索赔要求：支付已提供电子通信服务的发票金额、支付分期付款购买合同下的设备购买价款、赔偿金、追讨费用以及所有金额的逾期利息。

2024 年 9 月 27 日，“A1 保加利亚” 依据《民事诉讼法典》第 410 条，向索非亚地区法院申请支付令，以在支付令程序中强制执行金钱债务。该支付令程序的目的是获得法院判定债务人对债权人的索赔无异议，并迅速满足债权人的索赔要求。如果债务人未提出异议，法院将向债权人发出支付令和执行令。在审查申请时，法院会自行审查消费者合同是否包含不公平条款。

仅在 2024 年 1 月 1 日至 11 月 21 日期间，“A1 保加利亚” 公共有限公司（保加利亚三家具有重要市场份额的移动电话运营商之一）就依据《民事诉讼法典》第 410 条，向索非亚地区法院申请了约 3600 份支付令。

主要诉讼中各方的主要论点

由于支付令程序的目的是获得法院判定债务人对债权人针对其的索赔无异议，因此它不同于通常的双方对抗程序，在双方对抗程序中，双方都会陈述论点并提交证据来支持自己的主张。

索非亚地区法院的提交令仅表明该申请由 “A1 保加利亚” 于 2024 年 9 月 27 日提交。索非亚地区法院 2024 年 10 月 4 日的命令裁定该申请形式不规范，因为个别索赔所依据的事实未明确阐述，并设定了补充这些细节的期限。在该期限内，法院收到了 “A1 保加利亚” 于 2024 年 10 月 24 日提交的申请，其中说明了索赔金额的计算方式。2024 年 11 月 1 日，索非亚地区法院再次裁定该申请（此次针对 2024 年 10 月 24 日的申请）形式不规范，并给予申请人机会说明所提供服务的价格在合同期限内是否发生过变更。2024 年 11 月 21 日，法院收到 “A1 保加利亚” 的申请，澄清所提供服务的价格未发生变更。

初步裁决请求的推理简述

提交法院请求欧盟法院作出初步裁决，因为它对所提供服务与因未履行这些服务的付款义务而产生的总成本之间的 “合理性” 存在疑问。原因如下：

首先，存在争议的是规定基本月费可能变更的条款。与客户签订的合同规定，移动电话运营商有权每年（但不得早于合同和 / 或服务附件生效后三个月）根据国家统计局（‘NSI’）公布的上一年度平均年度消费者物价指数对基本月费进行指数化调整，前提是该指数至少达到 1%。指数化调整后的基本费用信息会包含在客户进行指数化调整后收到的第一份月度账单中。尽管申请人澄清所提供服务的价格未发生变更，但提交法院认为，鉴于有效性原则（C - 724/22 案），在作出司法判决（包括审查索赔主张与所提交证据之间的一致性）时，有必要对规定基本费用可能变更的条款进行解释。

提交法院认为，消费者合同中的合同条款需满足更严格的要求，即必须使用通俗易懂的语言，这也意味着相关条款所涉及的具体程序必须在合同中以透明的方式列出，并且在适当情况下，该程序与其他条款中规定的程序之间的关系也必须以透明的方式列出，以便消费者能够基于清晰易懂的标准评估对其产生的财务后果。

在这方面，提交法院怀疑规定 “指数化调整” 的条款措辞是否能为普通消费者提供足够具体的信息，使其了解服务价格可能发生的变化，或者了解是否有终止合同或通过个别协商调整合同内容的可能性，特别是在条款仅规定价格可能上涨而不允许下跌的情况下。

依据独立于卖方或供应商、不受其控制且构成价格变更正当理由的客观标准来规定价格变更的条款，是否必须以清晰明确的方式列出，以便消费者收到关于服务价格可能变化的足够具体信息，或者了解是否有终止合同的可能性？还是说，仅规定根据年度平均消费者物价指数（前提是该指数至少达到 1%）上调服务价格的可能性，而不详细说明指数化调整方法且不提供价格下调可能性的条款，就能满足客观要求？这种条款可能会将财务不确定性的风险和负担转嫁给消费者，即通货膨胀对年度平均消费者物价指数的影响会转嫁给消费者。

此外，提交法院怀疑这样约定的条款是否旨在或实际上允许 “卖方或供应商在没有合同中规定的正当理由的情况下单方面变更合同条款”（《1993 年第 13 号指令》附件中题为 “第 3 (3) 条所提及的条款” 的第 1 (j) 点的含义），或者该条款是否应解释为允许在适用的一般条款包含根据公共当局（国家统计局）公布的上一年度平均消费者物价指数对与消费者约定的服务价格进行指数化调整（且该指数化调整仅为上调）的情况下，卖方或供应商单方面变更合同条件。

其次，索非亚地区法院对规定支付赔偿金的条款提出了一些问题。第一个问题是，《1993 年第 13 号指令》所指的 “条款”，是应理解为单独协商的合同条款（即合同中的特定条款），还是应理解为消费者合同中所有协议的总和，这些协议的累积效果可能产生不公平影响，包括同一消费者合同中包含的一揽子服务的所有协议总和。本案涉及一份消费者合同中包含的一揽子服务（单个合同编号涵盖总共九项服务），对于其中每项服务，都约定了合同未履行的赔偿金、追讨费用以及逾期利息（即与同一未履行义务相关的条款）。在确定不公平条款时，是必须全面审查合同所有条款的累积效果，包括约定的合同未履行费用和逾期利息（逾期利息也适用于赔偿金和费用），还是在类似条款的情况下，在评估不公平性时必须考虑其累积效果，也就是说，是必须单独审查与合同未履行后果相关的每一项约定条款，还是必须将其累积效果（包括作为整个服务套餐的一部分）解释为一项条款，根据《1993 年第 13 号指令》附件中题为 “第 3 (3) 条所提及的条款” 的第 1 (e) 点，该条款 “要求任何未履行义务的消费者支付过高的赔偿金额” 应被视为不公平条款？如果确定其中一些条款不公平，在同一义务未履行的情况下，是否必须全部予以排除？

提交法院还审查了移动电话运营商目前形式的赔偿条款在多大程度上能让消费者理解，以便他们能够预见其财务后果。

《1993 年第 13 号指令》所建立的保护体系基于这样一种理念，即消费者相对于卖方或供应商处于弱势地位，尤其是在信息方面，这就解释了为何对透明度的要求应作广义解释，也就是说，相关条款不仅在语法层面上要让消费者能够理解，而且消费者还必须能够基于清晰易懂的标准预见对其自身的财务后果。因此，消费者合同中的合同条款必须使用通俗易懂的语言，以便普通消费者不仅能够确定相关金额，还能评估对其自身潜在的重大财务后果。在这种情况下，计算赔偿金时应考虑到，赔偿金应与基本费用的折扣或购买设备的降价幅度成比例（更具体地说，对于固定期限订阅，赔偿金为基本月费的三倍，不包括折扣，其中还包括对订阅合同折扣金额以及购买或租赁终端设备市场价格折扣金额的部分补偿，补偿金额对应于相关订阅剩余期限），并且终止期限与赔偿金金额无关。《1993 年第 13 号指令》第 4 (1) 条规定：“在不影响第 7 条的情况下，应根据合同订立所涉及的商品或服务的性质，并参考合同订立时的所有情况以及该合同或其依赖的另一合同的所有其他条款，来评估合同条款的不公平性”；第 4 (2) 条规定：“条款不公平性的评估，一方面不应涉及合同主要标的的定义，另一方面也不应涉及价格和报酬与所提供的服务或商品之间的相称性，只要这些条款使用通俗易懂的语言”。提交法院认为，毫无疑问，在合同被错误不履行的情况下，过错方应对后果负责，并必须向另一方支付因所受损害而产生的赔偿金，并且可以约定以赔偿的形式支付此类赔偿金。然而，提交法院怀疑，如果赔偿金是基于相对标准确定的（基本费用的三倍，不包括折扣，其中还包括对订阅合同折扣金额以及市场价格折扣金额的部分补偿），是否应以基本费用的标准金额为基础，而不是以合同未履行时的月基本费用金额为基础；或者，如果赔偿金是基于相对标准确定的（购买设备价格的折扣率），在购买合同与基于现有服务合同的订阅相关联的情况下，是否应以购买合同订立时设备的全额现金支付价格或分期付款购买合同中规定的价格为相关依据，而不是以排除折扣后的标准价格为基础。考虑到该合同所涵盖的商品或服务的性质以及合同订立时的所有情况，提交法院怀疑此类条款是否能被视为普通消费者能够理解的通俗易懂的语言。尽管约定了赔偿金上限（固定期限订阅服务标准费率下基本月费的三倍，不包括折扣）或考虑其累积效果，能否得出其计算方式对普通消费者来说是清晰的这一结论？在计算赔偿金时，是否包含了关于消费者在合同终止时应支付的定期基本月费总额（不包括累积折扣）的明确信息，以及该费用的构成方式？在设备价格给予折扣的情况下，包括合同中未说明折扣的情况，在协商设备价格（包括有折扣和无折扣的价格）时，以及在没有根据运营商现行价格表提供设备价值和类型具体信息的情况下，赔偿金的计算是否也是如此？因此，提交法院认为有必要明确，《1993 年第 13 号指令》第 4 条是否应解释为允许卖方或供应商按照标准金额（不包括合同约定的折扣，其中还包括对订阅合同折扣金额以及购买或租赁终端设备市场价格折扣金额的部分补偿）的一定比例确定赔偿金额的条款；或者，《1993 年第 13 号指令》第 3 (1) 条是否应解释为允许这样一项条款：即与合同不履行责任相关的条款，规定消费者需支付与所提供服务明显不成比例的赔偿并承担费用，且在满足合同不履行责任的条件时（自动且无事先通知，并加上相应利息和追讨费用），可被视为不公平条款？

第三，移动电话运营商与保加利亚消费者保护委员会（Komisia za zashtita na potrebitelite，保护消费者利益）达成的法院和解协议具有批准协议的终局且不可上诉判决的效力，协议内容反映在运营商适用的一般条款中。提交法院认为有必要确定该法院和解协议是否会产生《2020 年第 1828 号指令》第 8 (1)(b) 条（连同其第 7 (4)(a) 条）所规定的效力，如果是，若基于 C - 600/19 案所述理由，法院在批准和解协议时未审查条款是否公平，那么该协议是否也对其他法院（包括任何审理移动电话运营商与个人消费者之间法律关系的法院）具有约束力？

来源：清华大学智能法治研究院

评论列表(0)

暂无提问

全球首例适用欧盟《人工智能法》案例！初步裁决请求全文

详细内容

发表提问 取消回复

发表提问取消回复