世界首部《人工智能法案》在欧盟议会通过

人工智能法案

近日，欧洲议会投票通过了欧盟的人工智能法案，为整个共同市场的各种人工智能产品引入了一系列规则（按风险分类），这些规则将在未来两年内分阶段生效。

它以 523 票赞成、46 票反对和 49 票弃权大幅通过，旨在“保护基本权利、民主、法治和环境可持续性免受高风险人工智能的影响，同时促进创新并确立欧洲的领导地位”在该领域。

该立法是世界上第一个监管人工智能技术的综合框架，在获得欧洲理事会正式批准之前将经过律师和语言学家的最终检查。预计将于五月进入欧盟法律官方期刊。

它根据人工智能系统未能按预期或宣传的方式工作时可能造成的潜在危害对人工智能系统进行分类，从垃圾邮件过滤器等低风险服务到关键基础设施中使用的高风险工具。最高风险等级是“不可接受的”，新法律将禁止这些系统。

高风险系统受到更严格的治理制度的保护，开发人员有义务能够记录系统的活动和流程，以确保其输出可追溯，以防它们对以后可能有争议的事物产生影响，例如与就业有关的决定。

立法举措一直存在争议，包括法国和德国在内的多个成员国警告称，这些规定可能会阻碍其国内公司，并可能为美国等的竞争对手提供优势。

《人工智能法案》的第一个影响将在生效六个月后显现出来，届时其保护基本权利的规定——例如禁止“基于敏感特征的生物识别分类系统以及从互联网或闭路电视录像中无针对性地抓取面部图像”创建面部识别数据库”将适用。

还禁止在工作场所和学校使用情绪识别技术，以及社会评分和基于个人分析的某些类型的预测性警务。

当地理区域和部署时间受到限制时，执法部门可以“在详尽列出和狭隘定义的情况下”使用实时面部识别系统。

“此类用途可能包括有针对性地搜寻失踪人员或防止恐怖袭击。事后使用此类系统……被认为是高风险用例，需要与刑事犯罪挂钩的司法授权。”

《人工智能法案》在欧盟法律官方期刊上发布一年零一天后，有关通用人工智能和治理的规则将生效。这些规定要求开发人员有义务满足透明度要求，包括遵守版权法，并将迫使开发人员能够发布他们用于培训的内容的详细摘要。

欧洲议会立法联合报告员布兰多·贝尼菲 (Brando Benifei) 表示：“我们终于有了世界上第一部具有约束力的人工智能法律，以降低风险、创造机会、打击歧视并带来透明度。

“感谢议会，欧洲将禁止不可接受的人工智能做法，工人和公民的权利将受到保护。现在将设立人工智能办公室，以支持公司在规则生效之前开始遵守规则。我们确保人类和欧洲价值观处于人工智能发展的核心，”贝尼菲补充道。

共同报告员德拉戈斯·图多拉什 (Dragos Tudorache) 重点讨论了该立法对公民自由的影响，他表示：“欧盟已经兑现了承诺。我们已将人工智能的概念与构成我们社会基础的基本价值观联系起来。然而，除了《人工智能法案》本身之外，还有很多工作要做。

“人工智能将促使我们重新思考民主国家核心的社会契约、我们的教育模式、劳动力市场以及我们进行战争的方式，”图多拉奇补充道。“《人工智能法案》是围绕技术构建的新治理模式的起点。我们现在必须集中精力将这项法律付诸实践。”