网络(网络行业分析报告)数据安全是人工智能安全的基本保障,而构建与新质生产力相适应的新型生产关系则是保障其可持续发展的当务之急。应健全关键核心技术攻关的体制机制,将政府、市场、社会有机地结合起来,健全要素参与、收入分配机制,激发各类经营主体的创造活力。深化教育、科技、人才体制机制创新,畅通三者的良性循环。AI技术带来的新型安全问题已成为现实,安全行业将迅速迈进AI驱动的新时代。然而,目前对大模型安全的研究才刚刚开始,相较于技术发展,安全研究明显滞后。
由于当前计算机LLM基础模型的局限性,AI和人工智能生成的语言与人类语言本身只是行为上的相似,内在机制完全不同,因此虽然大模型拥有强大的语言生成、对话、迁移能力,但必然会出现“幻觉”——也就是质量上的不可控和内容上的不可信。因此在人工智能技术发展的同时,构建可解释的AI理论与方法极为重要。这也需要政府、企业等各方参与者能够保持开放的态度协同共进,在技术发展的过程中关注AI大模型和人工智能相关伦理规则,形成社会和全球范围内的共识。
在AI时代更应坚持科学向善的原则,这是人工智能发展过程中面对潜在威胁必须坚持的道德伦理底线。针对个人信息被窃取盗卖引发犯罪、危害社会公共安全等问题,要建立健全数据确权、数据安全保障、算力安全审查等制度,为人工智能发展形成正确的价值导向和稳定的社会预期提供有力的保障。
人工智能迎来发展与治理协同共进的新阶段,在人工智能时代,确保网络安全不仅是保障互联网作为全国各行业纽带的核心要素,更是实现人工智能为社会带来福祉的基础前提。应该倡导遵守网络空间国际规则,将防控网络安全风险放在人工智能发展与治理的重要位置。此外,广大数字安全企业应以技术为本,深入研究人工智能等重点领域,构建跨领域、多层次的数字安全技术产品和服务创新体系,同时注重开放合作,推动协同共治。