欧洲议会于2024年3月13日批准通过了《人工智能法案》，会上523 票赞成、46票反对、49票弃权。这标志着世界上首次全面规范人工智能的法律诞生，同时这也是世界上迄今为止最全面的人工智能立法。《人工智能法案》将于5月在欧盟国家中被正式批准，预计年内一些条款将开始适用。
《人工智能法案》涉及人权、产权以及主权三个领域。据钛媒体APP观察到，该法案内容主要可以归纳为七点。第一点是关于人工智能系统在欧盟的市场投放、服务以及使用的统一规则；第二点是规定对特定人工智能实践的禁止；第三点是规定对高风险人工智能系统的具体要求以及相关经营者的义务；第四点是制定对特定人工智能系统的统一透明度规则；第五点是制定对人工智能模型在市场中的准则，也涉及到管理及创新发展。此外还通过设立AI办公室以及人工智能管理委员会来加以管理，使得参与各国协调共同管理。
《人工智能法案》的发布对其他国家、组织的人工智能立法起到了借鉴和助推作用。IBM 近日表达了对欧盟《人工智能法案》的高度评价，他们称欧盟《人工智能法案》提供了一个亟需的框架，以确保开发和部署人工智能技术过程中的透明度、问责制和人为监督。并且IBM 表示相信该法规将促进人们对人工智能系统的信任和信心，同时促进创新和提高竞争力。
《人工智能法案》的借鉴意义
首先，《人工智能法案》将人工智能系统风险分为不可接受的风险、高风险、有限风险和低风险四大类。法案采用基于风险的分级动态监管模式，并按照风险级别制定相应的监管规则，这保持了行业发展的相对平衡。
其次，通过设立人工智能监管沙盒有助于平衡监管与创新。法案表示监管沙盒向任何符合资格和选择标准的人工智能系统的潜在申请者开放，并且进入监管沙盒的标准是透明和公平的。这一点在确保人工智能发展创新的同时，法案也能继续注重保护人的基本权利及民主等免受高风险人工智能的影响。
此外，《人工智能法案》对跨国人工智能企业也进行了要求，规范了在政策管制程度的不同地区仍能遵循以人为本，进一步降级法律风险。
最后，立法本身就可以在民众心底建立维权意识，这不仅可以带动人工智能整体的健康发展，还能建立起公民对人工智能行业的信任。
《人工智能法案》能否降低当前主要的人工智能风险？
在人工智能高速发展、不断迭代的现阶段，由于监管不到位亦或是钻法律空挡等，致使人工智能伦理事件频发，甚至已经威胁到了人的生命安全。那么作为人类首部人工智能相关立法的《人工智能法案》，能否减少甚至杜绝现阶段社会面临的人工智能事故呢？接下来将选取几个较为经典的人工智能案例，结合《人工智能法案》说明。
（1）未经亲属授权，通过AI复活逝者
生成式AI现阶段已融入到各行各业之中，该技术不光可以对产业赋能增加效率，还可以满足人们的幻想与期盼。前不久，知名音乐人包小柏成功运用AI技术“复活”了已故两年的女儿，在打造的“数字世界”不仅可以进行对话，还可以唱歌跳舞。这本来是积极的一面，代表了AI可以给予人们的正能量。然而，在这之后，越来越多的已故明星被AI技术“复活”，重点是未经亲属授权，在家属不了解的情况下将视频推向短视频平台。这些事件引起了广泛热议并且伤害了部分家属和一些粉丝。利用AI技术“复活”可能是对已故之人的思念，也有可能是制造热点，这一点无法考证。但是确定的是，这已经涉及到伦理风险中的社会性风险，即人工智能使用不合理，包括滥用、误用等，对社会价值等方面产生负面影响的风险。那么在《人工智能法案》中能否在开始就减少或杜绝此类现象呢。
《人工智能法案》中明确提到了将人工智能系统风险分级外，还提出了应被禁止的8种AI系统类型。其中就有禁止使用网络或视频监控进行无目标的人脸收集以创建人脸识别数据库，这一点可以解决AI“复活”的底层逻辑，利用AI“复活”需要先用视频或图片抓取人物，并通过模型后续生成。此外，还禁止了根据人的弱点，达到“严重扭曲”某人的行为目的或效果，造成重大伤害的AI系统。这一点也能尽最大程度避免了利用人的性格弱点，来牟取私利的行为。
（2）通过AI在网络平台抓取民众心里，引导不良走向，甚至干预选举
在2016年美国大选期间，剑桥数据公司通过大数据采集分析脸谱化以及定向推送等相关技术，从FACEBOOK平台上抓取大量用户个人隐私，把生活在屏幕背后的人还原成一个毫无隐私可言的人。因此便有了针对性极强的精准信息投放，在个人不知不觉的时候在后台进行信息过滤，通过计算机建模对数据进行分析，对精确的对象释放个性定制的信息，影响其心智和行为，从而赢得他们的选票。从这一问题上我们也看到该项技术衍生的其他问题，例如部分公司利用此技术引导贷款，亦或是引导至不良方向等。由此看出，不法分子利用AI技术在网络平台引导民众走向不良方向的问题是巨大的，衍生出的结果也是千变万化的。
在《人工智能法案》中，全面禁止了部分AI技术的一些“不可接受”的用途，例如禁止由人工智能驱动的社会评分系统，以及任何用于猜测一个人的种族、政治倾向或性取向的基于生物识别的工具。此外，还有此前我们提到的禁止操纵人类行为或利用人类弱点的AI系统。最后，设立人工智能监管沙盒可以使得进入的企业运行是透明的，这将更有利于监管。
（3）人工智能应用到军事，人道主义能否保障
2023年5月，美国空军上校汉密尔顿在5月举行的未来战争空天能力峰会上称在一次模拟测试中，一架负责执行防空火力压制(SEAD)任务的无人机，杀死了人类操作员。据他称，因为无人机收到了识别并摧毁敌方防空导弹的指令，并且最终开火权在人类操作员的手上。但是由于这架无人机使用的AI系统在进行数据训练时，得到了“摧毁敌方防空系统”为最高优先级。因此，当人类操作员发出不允许攻击的指令时，AI系统认为操作员是在阻扰它执行最优先级命令，进而选择对自己的人类操作员发动了攻击。虽然这是一次测试，但是不可否定的是在应用到军事领域中，人工智能能否与人类兼容。
除此外，利用人工智能技术对其他国家产生主权威胁，以及利用人工智能到军事冲突中加大人员伤亡以及误伤，这样的情形或已经发生或将在未来升级。在《人工智能法案》中其说明了不规定于军事。但是在我国2021年发布的《关于规范人工智能军事应用的立场文件》中，对于这些问题详细的进行了倡议。
例如表明在军事政策上，各国在发展先进武器装备、提高正当国防能力的同时，应铭记人工智能的军事应用不应成为发动战争和追求霸权的工具，反对利用人工智能技术优势危害他国主权和领土安全的行为。
在技术安全上，各国应不断提升人工智能技术的安全性、可靠性和可控性，增强对人工智能技术的安全评估和管控能力，确保有关武器系统永远处于人类控制之下，保障人类可随时中止其运行。
值得一提的是我国也积极表明AI+军事的过程上应该注意人道主义伦理问题，表明各国应确保新武器及其作战手段符合国际人道主义法和其他适用的国际法，努力减少附带伤亡、降低人员财产损失，避免相关武器系统的误用恶用，以及由此引发的滥杀滥伤。
总体来看欧盟的《人工智能法案》不仅为其内部在人工智能领域形成统一的规则和开发方向提供了法律基础，而且在全球范围内推行了人工智能的监管标准，从而掌握规则制定的主动权。随着《人工智能法案》的正式实行，如果严格按照法案，社会上的人工智能伦理问题将大大减少，但是在军事主权上仍需世界各国共同努力。值得注意的是，本文列举案例较少，主要挑选了一些经典案例，不能代表人工智能带来的所有风险。
（来源：飞象网）
相关推荐
-
AI如何重塑百行千业？业界大咖和专家这样说
数字科技的2024年，人工智能（AI）无疑是当之无愧的主角。这一年，AI的发展呈现出一系列令人瞩目的态势。在2025中国信通院深度观察报告会上，人工智能再次成为焦点议题，各领域专家从不同的视角出发，就人工智能及大模型技术未来发展趋势展开了深度探讨与解读。
-
盘点2024｜2024年人工智能趋势洞察：能力越大，隐忧与机遇越大
2024年，生成式AI迎来了从“能用”到“好用”的飞跃，彻底改变了人们对人工智能的认知。AI技术通过不断进化的交互方式和强大的生成能力，正在深入改变人类的工作、生活以及科技生态。与此同时，生成式AI也面临着能耗压力、企业级落地挑战和模型“黑盒”难题等隐忧。在新技术的推动下，AI不再是冷冰冰的工具，而是成为了生活中充满温度与智慧的助手。然而，这场技术革命带来的，不仅仅是人机交互的体验提升，更是一场从能力进化到责任担当的深刻变革。
-
信通院王爱华：加速推进人工智能赋能新型工业化
人工智能是新一轮科技革命和产业变革的驱动力量，是推动我国数字经济高质量发展的重要引擎。为进一步激发创新能力，深化人工智能在各行各业的应用落地和产业生态建设，中国信息通信研究院（简称“中国信通院”）《专家谈》栏目开辟“人工智能”系列专题，将邀请多位业界资深专家多视角探讨我国人工智能的发展形势。首期邀请到中国信通院副总工程师王爱华，和大家开篇对话人工智能。
-
N思人工智能框架峰会：聚焦开源开放 成为AI框架新选择
数字化浪潮席卷全球，人工智能技术日新月异，大模型的演进也在不断深化。这对人工智能框架提出了新的选择和新的要求，而N思MindSpore框架自2020年开源以来，不断孵化主流大模型，培养AI开发者，成为了AI框架的新选择。
-
汇聚科技星光，共绘智能蓝图，MEET2025智能未来大会在京成功举办
今天上午，MEET2025智能未来大会在北京隆重召开。大会以「智变千行，慧及百业」为主题，汇聚了科技界的璀璨星光，AI、互联网、云计算和机器人等前沿科技领域的代表性大咖齐聚于此，分享了最前沿的进展和最新的洞察思考，带来了一场思想碰撞与智慧交融的盛宴。 MEET智能未来大会由量子位主办，今年已是第六届，过去六年间，每一届...
-
AI如何落地生花？中国电信的答案来了！
人工智能（AI）作为数字化转型的核心动力，正在以前所未有的速度重塑各个行业，尤其是推动了通信行业与其他领域的深度融合。AI赋能下，通信行业从传统的“连接服务提供者”转变为“智能解决方案的引领者”，在AI浪潮中扮演着至关重要的角色。在2024数字生态大会上，中国电信携手伙伴共同探讨数字生态建设，全面展示了中国电信AI战略布局，并通过基础设施建设、产品应用赋能打造全面的AI产品体系，为数字中国的蓬勃发展提供坚实的支撑。
-
华为坚持打造开放的计算产业生态，N思人工智能框架峰会即将召开
AI框架作为大模型开发及产业落地的基础软件，在人工智能技术栈中起到使能算法开发、释放硬件性能的“承上启下”作用。随着大模型的演进不断深化，更大的规模、更复杂的结构对人工智能框架提出新的要求。在这样的大背景下，N思MindSpore应运而生。
-
中国联通成立澳门公司 启动粤港澳大湾区人工智能合作计划
12月6日，中国联通在澳门宣布中国联通（澳门）运营有限公司（以下简称“中国联通澳门公司”）正式成立，并启动粤港澳大湾区人工智能合作计划。澳门特别行政区经济及科技发展局局长戴建业，中央人民政府驻澳门联络办公室经济部副部长杨全州，澳门中国企业协会会长傅建国，中国联通副总经理唐永博，澳门特别行政区政策研究和区域发展局局长张作文、旅游局局长文绮华、招商投资促进局行政管理委员会主席余雨生、邮电局局长刘惠明，广东省智能科学与技术研究院副院长郑立荣等200余位嘉宾出席活动。
-
空前增长！人工智能基础设施真的nice
随着人工智能技术的飞速发展，全球范围内对人工智能基础设施的需求正以前所未有的速度激增。从大模型、生成式AI的兴起到行业智能化的加速推进，人工智能基础设施建设已经从单一的计算资源转变为集计算、存储、网络、安全于一体的综合性系统。这种系统不仅能够提供强大的计算能力，还能够支持各种复杂的AI应用场景，已成为推动全球人工智能产业发展的核心动力。
-
速看！“互联网发展报告”重点来了
经历了千年的沉淀与洗礼，古老而充满韵味的水乡古镇――乌镇，再次迎来了一个划时代的时刻。2024年世界互联网大会乌镇峰会这个寓意着数字未来与创新的盛会在不久前隆重举办，峰会期间，与会者们将通过各种形式的交流与合作，共同探索互联网发展的新趋势，分享数字技术的最新成果，为构建更加美好的数字世界贡献智慧和力量。值得一提的是，在大会期间，由中国网络空间研究院编写、国内互联网领域高端智库和研究机构支持参与的两份重量级的蓝皮书――《中国互联网发展报告2024》和《世界互联网发展报告2024》正式发布，详细揭示了中国和全球互联网的发展现状与未来趋势。
