飞象原创（高靖宇/文）在影视作品《西部世界》中，即便是最先进的机器人也容易受到恶意软件的攻击，这让我们不禁思考，我们能够在多大程度上掌控人工智能（AI）技术。在现实世界中，随着AI大模型技术的快速发展，其可能带来的安全性问题也日益凸显。
近年来，人工智能技术取得了令人瞩目的进展，特别是大模型正逐步被应用于越来越多的场景，与千行百业加速融合，成为推动数字科技发展的关键力量。数据显示，我国已经完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达180多个，注册用户突破5.64亿。
然而，这些大模型在带来便利和效率的同时，也催生了新的安全风险。《西部世界》虽然是虚构的故事，但人工智能安全风险却已存在于现实世界，正如一枚硬币的两面，AI大模型技术的发展带来了网络安全领域的深刻调整与全新挑战。
网络安全中的“AI”风险
伴随着众多AI大模型的诞生，AI驱动的网络攻击也在快速增长，因为有了AI加持之后，发动网络攻击对于攻击者而言相比之前更加容易，可以更加高效的组织更加复杂，规模更大的安全攻击。此外，一些黑客还掌握了利用生成式AI等新兴技术实施网络犯罪的新手段。
以ChatGPT为例，自其上线以来，便有人担忧其可能成为网络犯罪的温床。尽管平台方已采取了一系列防止恶意应用的措施，但创意十足的攻击者仍能利用生成式AI生成逼真的网络钓鱼邮件，诱骗用户泄露敏感信息。此外，AI技术的深度伪造和语音合成能力也被用于诈骗，使得传统防御手段难以应对。更为严峻的是，随着AI在合法用例中的广泛应用，模型中毒、数据泄露、提示注入攻击等新型漏洞不断涌现，对网络安全构成了持续威胁。
IEEE调研显示，2024年将会出现其他更具威胁的网络安全问题，包括勒索软件攻击（2024年为37%，高于2023年的30%）、网络钓鱼攻击（2024年为35%，高于2023年的25%）以及内部威胁（2024年为26%，高于2023年的19%）。
中国工程院院士吴世忠表示，由AI技术带来的新型安全问题已成为现实，安全行业将迅速迈进AI驱动的新时代。然而，大模型安全研究可以说才刚刚开始。无论是安全研究还是安全产业，都必须紧跟科技进步和应用创新，才能服务好发展，保障好发展。
“人工智能等前沿数字技术正在重新定义内容的生产与消费模式，大模型在企业运营中应用越来越广泛，必须寻求创新的安全模式，以适应这一变化。”中国工程院院士邬贺铨认为，基础大模型是企业实现数字化转型不可或缺的一环，需要应对多项挑战，包括强大的算力、充足的数据、高水平的研材、新应用的算法、场景和闭环的生态。然而基础大模型缺少特定行业的专业知识，因此需要大模型提供方与垂直行业合作。
以模治模 网络安全发展新路径
AI带来新的安全挑战，同样需要AI技术来解决，这是一场AI技术的攻防战。作为中国AI领域的老玩家，360 AI一直深入探索AI大模型在关键行业中的垂直应用，推动大模型重塑安全体系。
360集团创始人周鸿t表示，面对愈加复杂的传统安全问题和大模型带来新的安全问题，必须用AI重塑安全，以模治模，用安全大模型解决“新老”安全问题。
“不要追求用一个大模型解决所有问题，应该让专业大模型解决专业问题。”周鸿t认为，2024年是场景之年，关键要结合业务找“明星场景”，然后根据场景设计功能，根据功能需求对大模型进行专项训练。
在ISC.AI 2024第十二届互联网安全大会上，周鸿t宣布360安全大模型正式免费。360安全大模型在真实业务场景中取得重大突破，通过对全网安全数据和知识进行提炼、压缩和蒸馏，360安全大模型实现对全网安全知识的深度理解。未来，在大模型赋能下，本地安全大脑“无需联网”，在封闭网络中也能获得全网数据和知识的赋能。
周鸿t表示，打造安全大模型是安全迈向“自动驾驶”的必由之路，用AI升级安全要有类似自动驾驶的L1-L5级别目标，目前360安全大模型已具备L4级“自动驾驶”能力，相当于汽车的“高级自动驾驶阶段”。
（来源：飞象网）
相关推荐
-
CES 2025观察：AI遍地开花，释放无限潜能
美国当地时间1月7日，全球科技界的目光再度聚焦拉斯维加斯，美国国际消费电子展（CES 2025）正式拉开帷幕。作为全球最具影响力的科技盛会之一，CES 不仅是技术创新的展示窗口，更是行业趋势的晴雨表。在本次展会上，最令人瞩目的主题无疑是人工智能（AI）在各个领域的深度渗透与广泛应用，在电视、笔记本电脑、智能家居，汽车、机器人等多个领域，我们都可以找到AI的身影。它就像一把神奇的钥匙，打开了各个领域创新和发展的大门。
-
找不到流量爆款的电信运营商，未来将如何脱胎换骨
无论是在大街上，还是地铁公交上，很容易发现被短视频内容所拴住心神的人。但是这些不断流动的数据流量却并没有为电信运营商带来增长，因为视频质量本身不高，流量需求也就并没有如3G/4G时代般的通信类应用一样带来业务增长。
-
智源研究院预测2025十大AI技术趋势，具身智能、Super APP爆发在即
1月8日消息（报道：李楠）今日，北京智源人工智能研究院（下称智源研究院）发布“2025十大AI技术趋势”。今年的十大AI趋势是智源研究院根据行业技术及应用热点，给出的年度AI趋势预测。从基础设施到产品应用，智源对Scaling Law、基础模型、具身智能、超级应用、AI安全等关键方向作出预测。针对每个趋势观点，报...
-
揭秘Scaling Law背后的“中国基因”：助推OpenAI成功的隐秘推手居然是它
如果说哪条大模型核心理论影响最为深远，那么“Scaling Law”必然位列其中。 所谓“Scaling Law”，是指在深度学习中，增大数据量和模型参数能让模型性能指标提升，这种提升并非线性，而是遵循一种幂律关系。而OpenAI的GPT系列模型，无疑是这一理论最著名的成果展现。 但让很多人意想不到的事，这个让Open...
-
数据中心芯片需求放缓怎么办？英伟达供应商：AI手机将接力
当前全球数据中心投资可能出现放缓的背景下，半导体行业正面临新的挑战。然而，英伟达供应商、全球芯片测试设备龙头Advantest的首席执行官Doug Lefever12月26日表示，AI智能手机的需求有可能为半导体行业带来新的增长点，助力行业避免陷入“恶性”衰退。
-
阿里云成为总台春晚云计算AI独家合作伙伴
12月26日消息（报道：李楠）今日，中央广播电视总台《2025 年春节联欢晚会》分会场发布活动在京举行，会上宣布阿里云成为总台春晚云计算AI独家合作伙伴。春节期间，阿里云全球云计算基础设施及AI技术将支持全球华人云上看春晚。这是总台春晚史上首次引入技术合作伙伴，此前，总台已宣布阿里巴巴成为2025春晚独家电商互动...
-
100亿研发投入接近一半投在AI 李想：我们自己做基座模型
Copyright © 2024 版权所有 京ICP证110302号京ICP备05049258号-1 京公网安备11010802042906号违法和不良信息举报电话：010-68462438 举报邮
-
盘点2024｜ICT大趋势：数字转型蓄力量，智能世界起沧澜
在即将过去的2024年，信息通信业（ICT）正以前所未有的速度推动着全球经济的转型与升级。随着技术的飞速发展，5G网络、人工智能、光通信、低空经济、工业互联网以及智能终端等六大领域成为这一变革的先锋。这六大领域不仅展现了信息通信业的基础性、战略性、先导性作用，更为全球经济的数字化转型提供了强大的动力。
-
雷军招募“天才AI少女”，小米要做大模型风口下的“飞猪”？
创业，就是要做一头站在风口上的猪，风口站对了，猪也可以飞起来。 12月20日，有消息称，DeepSeek开源大模型DeepSeek-V2的关键开发者之一——罗福莉将加入小米，或供职于小米AI实验室，领导小米大模型团队。 罗福莉毕业于北大计算语言学硕士毕业，曾任职于阿里达摩院机器智能实验室，主导开发了多语言预训练模型VE...
-
AI如何重塑百行千业？业界大咖和专家这样说
数字科技的2024年，人工智能（AI）无疑是当之无愧的主角。这一年，AI的发展呈现出一系列令人瞩目的态势。在2025中国信通院深度观察报告会上，人工智能再次成为焦点议题，各领域专家从不同的视角出发，就人工智能及大模型技术未来发展趋势展开了深度探讨与解读。
