行业新闻
致力于弱电行业中高端产品与先进应用的倡导者
当大模型技术加速渗透金融、政务、企业等领域,智能化转型浪潮正在描绘千行百业的高质量发展的“富春山居图”。但与此同时,数据泄露、模型攻击、服务中断等安全威胁如影随形,让AI应用的前景蒙上阴影。面对传统风险与新兴攻击交织的复杂局面,唯有依托场景化、定制化的安全方案,方能筑牢AI安全防线,真正实现“让智能更安全”。
在即将启幕的2025中国数谷・西湖论剑大会上,安恒信息以“让安全更智能 让智能更安全”为主题举办的新品发布会上,重磅推出面向企业应用、智算中心、政数局、大模型安全监管四大核心场景的AI安全解决方案,以全生命周期防护能力,为行业智能化转型保驾护航。
大模型等 AI 技术在推动各行业智能化转型的同时,也面临着巨大的安全风险,这在很大程度上影响了用户对于 AI 技术的信心。从 ChatGPT 的“奶奶漏洞”导致Windows序列号泄露,到 LLaMA 在特定角色设定下输出不安全内容,这些事件都警示着大模型安全面临严峻挑战。
在传统安全风险层面,大模型依赖海量训练数据,其中不乏用户隐私数据、商业机密等敏感信息,一旦发生数据泄露或未授权访问,后果不堪设想。而攻击者通过漏洞获取模型管理权限,可能篡改模型参数、窃取模型所有权或进行恶意部署。有研究显示,大量模型服务器缺乏严格的安全认证管理,使得网络攻击者能够未经授权访问服务,导致模型服务中断;而DDoS、中间人攻击等手段,也会对 AI 算力服务造成安全威胁,致使 AI 基础设施无法正常运行。
在新兴风险方面,大模型自身的复杂性、数据依赖性和可解释性不足,催生出数据投毒、对抗攻击、模型窃取、滥用风险等新型攻击方式。例如,攻击者精心构造恶意提示词,诱导大模型输出敏感信息或执行恶意指令;向训练数据中混入错误或恶意数据,使模型学习到错误模式,导致实际应用中输出错误结果;通过各种手段获取大模型的参数和开源代码,不仅侵犯知识产权,还可能利用窃取的模型进行非法活动。 2023 年底,一家汽车经销商上线了一个基于 ChatGPT API 定制的客服聊天机器人,在用户的诱导下,该机器人以1 美元价格出售了一辆 2024 年的雪佛兰 Tahoe。
当 AI 融入实际业务场景后,多种安全风险相互关联、叠加放大。例如,攻击者通过传统手段(如钓鱼攻击)获取模型访问权限后,进一步实施数据投毒或对抗攻击。传统防火墙难以检测对抗样本,权限管理机制可能无法覆盖模型微调阶段的细粒度操作。这意味着,网络攻击者可以构建复合型工具链,实施更为复杂的攻击路径。2024 年 8 月,在黑帽美国大会上,前微软高级安全架构师 Michael Bar Gury 揭示了 15 种攻破微软 Copilot 的方法,攻击者可利用 Copilot 定位敏感数据,在不留下日志的情况下窃取数据并发起钓鱼攻击。
AI 安全的复杂性,源于其既要抵御新兴风险的侵袭,又要防范传统安全风险的威胁。想要实现 “让智能更安全”,就需要紧跟网络攻击的新动向,制定针对性的安全防护策略,整合现有的网络安全能力,全面化解数据安全、模型安全、内容安全、运行环境等风险,构建系统性的防护体系。
在政府、金融、企业等行业推进大模型落地的过程中,由于行业特性、数据类型和应用场景各不相同,AI 面临的安全风险也呈现显著差异,由此催生出多样化的安全防护需求。而这种差异化的本质,在于数据敏感性、合规严格性、场景风险性的不同。因此,行业用户需要针对自身特点,研判网络攻击工具链与路径,量身定制适配的AI安全方案。
随着 DeepSeek 等基座大模型技术持续迭代升级,企业本地化部署大模型渐成趋势。然而,在大模型开发建设、部署运行到应用运维的全生命周期管理中,主机安全防护薄弱、内容输出合规性难控、数据泄露风险加剧以及运维安全保障不足等问题交织叠加,构成企业数字化转型的核心挑战。如何构建一套覆盖全流程的安全防护体系,成为驱动企业高效实现数字化转型发展的关键命题。
在智算中心领域,大模型深度渗透在AI训练与推理全链路中,物理设施安全防护、算力资源合理调配、AI 业务稳定运行等全栈安全挑战环环相扣。网络攻击、内容失范、供应链漏洞、数据泄露风险等问题交织,加之等保、数安法等合规要求的约束,如何实现安全能力与算力网络的智能协同调度,构建全流程、多层次的安全防护体系,已成为亟待攻克的行业命题。
于政务场景而言,大模型的交互式服务特性与政务数据的敏感性叠加,政数局在政务服务智能问答、公共数据分析预测、政策智能解读等核心业务场景中,不仅要应对数据安全防护、内容合规把控的双重压力,还需抵御恶意指令注入、数据篡改等攻击威胁。与此同时,审计溯源机制的缺失与系统稳定性短板,严重掣肘政务服务效能的提升,亟需系统性安全解决方案破局。
从AI大模型监管视角出发,在网络安全、数据安全、API 安全及内容安全等核心监管场景中,监管者面临系统风险隐患与安全事件自动化识别能力不足、生成内容合规性动态检测困难等现实挑战。如何突破技术瓶颈,实现风险的高效识别与内容合规的精准判定,已成为构建大模型全方位监管体系亟需解决的关键问题。
因此,要实现AI安全,需要立足场景需求,融合传统与新型安全工具,构建场景化解决方案和动态防御体系,从而实现高效防护。
在2025中国数谷·西湖论剑大会上,安恒信息将以“让安全更智能让智能更安全”为主题,围绕企业应用、智算中心、政数局、大模型安全监管等核心场景,发布“让智能更安全”的四大AI安全解决方案,并推出恒脑3.0、XSIAM平台、AI+SaaS-XDR等“让安全更智能”的系列新品。同时,安恒信息全新AI+产品与服务全景图也将亮相,全面展示覆盖数据、模型、应用全流程的安全能力矩阵,为企业、政务、智算等领域提供从风险识别、应急响应到安全监管的一体化解决方案。
从技术创新到场景落地,安恒信息正以场景化思维重塑AI安全新范式。2025中国数谷・西湖论剑大会,邀您共赴这场“AI+安全”的变革盛宴!
总台记者当地时间6月8日获悉,首批美国加州国民警卫队成员已于8日凌晨4点前抵达洛杉矶市中心,部分车辆停在市政厅旁边的司法大厅前。洛杉矶警察局同日发表声明称,7日晚在移民执法过程中发生的抗议活动已“平安结束”,期间未发生意外,警方将继续保持高度戒备,应对潜在骚乱行为。
近年来,随着昆山于海明案、福州赵宇案等案件的报道,以及电影《第二十条》的上映,让“正当防卫”的理念深入人心。刑法第二十条被激活,划分出“罪与非罪”的边界。那么没达到犯罪的程度,面临的是行政处罚,这种情况还适用正当防卫制度吗?
安图县新合乡党委副书记张花子接受纪律审查和监察调查据安图县纪委监委消息:安图县新合乡党委副书记张花子涉嫌严重违纪违法,目前正接受安图县纪委监委纪律审查和监察调查。
美国总统特朗普与美国企业家、前“政府效率部”负责人马斯克矛盾公开后,5日迅速升级为隔空骂战。特朗普威胁削减马斯克相关企业的政府补贴和合同,特斯拉市值立即蒸发超1500亿美元。
一天涨粉近百万!目前粉丝超300万,3位清华学生打造账号“清年阁”#教育公平#清华#知识分享#高考
从拒绝签字到死亡仅一个小时。一生一死两个案例,这个视频能救命,希望大家好好看一下!#全民健康素养提升 #动脉瘤 #动脉瘤破裂 #动脉夹层 #抖出健康知识宝藏
美发动机断供,中航西飞称C919生产正常,中国技术逆袭在望 #抖音热评 #C919
近日,央视罕见公布镇国神器东风-5洲际导弹具体参数,引发全网强烈关注!(剪辑:鲲鹏)
违规吃喝是腐败问题的催化剂,是作风建设的大敌,属于典型违反中央八项规定精神问题。然而,有的党员干部却心存侥幸、管不住“嘴”、顶风违纪,最终难逃纪法严惩。
“不就是发点福利嘛,大家辛苦这么久...”节假日到了,不少单位又开始琢磨着给职工发点福利,这样的场景在不少单位反复上演。下载PG电子游戏的步骤是怎样的?安装复杂吗?