2024大模型安全研究报告
当前，由 ChatGPT 引发的全球大模型技术竞赛正推动人工智能由专用弱智能向通用强智能迈进，
这不仅标志着智能水平的显著提升，也预示着人机交互方式和应用研发模式的重大变革。大模型在
各行各业的广泛应用，为第四次工业革命的爆发提供了蓬勃动力和创新潜力。
然而，随着大模型商业化应用和产业化落地加速，大模型技术局限和恶意使用不仅加剧了原有人工
智能安全风险，也引入了模型“幻觉”、指令注入攻击、网络攻击平民化等新型风险。面对这些挑
战，国际组织和世界主要国家正通过制定治理原则、完善法律法规、研制技术标准等方式，积极开
展大模型安全治理。同时，大模型在逻辑推理、任务编排等方面的卓越能力，为解决网络空间安全
瓶颈问题带来了新的机遇。
