丰台区高三期末试题揭秘：AI安全挑战与应对策略深度剖析

丰台区高三期末试题聚焦AI安全热点

近日，丰台区2025—2026学年度第一学期期末试卷高三语文科目中，一道关于AI安全的试题引发了广泛关注。试题以“搜索今日国际金价”指令下AI大模型给出错误答案为引子，深入探讨了AI安全面临的严峻挑战，以及应对这些挑战的策略与方向。

在这场“2025 TeckWorld智慧安全大会”上，AI大模型在遭受传统“爬虫”软件攻击时，竟然给出了“10万美元/克”的荒谬答案。这一事件不仅令人瞠目结舌，更揭示了AI在精心设计的干扰下，容易被诱导输出错误信息，甚至执行恶意指令的脆弱性。这仅仅是AI安全威胁现象的冰山一角，此前某网络安全公司就曾报道，两款AI伴侣应用因服务器完全暴露在公共网络上，且未设置任何访问控制或身份验证环节，导致超过40万用户的敏感信息被泄露。

AI安全挑战：成长中的“阵痛”

AI安全事件的频发，无疑反映了技术普及初期的“成长痛”。这些事件不仅暴露了AI产业根基层面的结构性缺陷，也对以AI大模型为核心基础的AI工具的数据安全保障工作提出了更大挑战。面对这一现状，近日发布的《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》明确指出，要加强人工智能治理，完善相关法律法规、政策制度、应用规范以及伦理准则等，为解决AI安全问题指明了方向。

应对策略：从被动防御到主动“诱捕”

有专家认为，随着AI的深入应用，网络攻防态势将持续演进，传统的被动防御模式已难以满足复杂环境下的安全需求。因此，需要改变理念，采取“欺骗防御”策略来“诱捕”“狩猎”攻击者。所谓“欺骗防御”，即通过在关键节点上设置虚假目标，主动吸引攻击者。一旦攻击者接触这些“诱饵”，系统即可实时监测其行为并发出警报，继而破坏其攻击活动，甚至损耗其基础设施。这种主动防御模式为维护网络安全提供了新思路。

国内某科技公司的“风云卫”大模型便是这一策略的实践者之一。它通过构建复杂的虚拟环境，模拟真实网络场景，成功诱捕了多起网络攻击，有效保护了用户数据的安全。这一案例充分证明了“欺骗防御”策略在AI安全领域的可行性和有效性。