栏目导航
周鸿祎全国两会发声:加快AI应用安全建设推动网络安全服务普惠发展
近日,在全国政协委员会议上,周鸿祎,360的创始人,提出了关于人工智能(AI)应用安全和网络安全服务普惠的重要观点。他指出,随着AI技术快速地发展,如何保障其安全性已成为亟待解决的问题。周鸿祎特别提到,春节期间,DeepSeek这款AI工具的崛起成为了AI发展史上的重要里程碑,其技术水平已与美国大模型并驾齐驱,并在国内众多政府和企业中实现了广泛应用。这无疑为中国AI产业的爆发带来了新的动力。
DeepSeek,以其免费、开源等特点,不仅帮企业降本增效,还推动了对AI知识的普及。然而,周鸿祎指出,作为一个基座模型,它也面临着诸如幻觉和提示注入等安全风险隐患。这样一些问题在大模型的实际应用过程中愈发凸显,因此,周鸿祎建议应由既懂安全又懂AI的企业牵头,构建一个安全性更高的大模型。
近几年,随着大模型应用的增加,关于其幻觉现象的讨论也愈发频繁。幻觉被视为大模型意外产生不可信结果的表现,周鸿祎认为此现状并非完全是负面的,它实际上体现了通用AI(AGI)的潜在可能性。尽管幻觉难以完全消除,但是通过多个模型交叉验证、知识库比对等方式,可以大大降低其负面影响。
在讨论网络安全时,周鸿祎指出,数字化转型的浪潮催生了新的网络安全需求,然而,国内安全行业却面临“内卷化”的困境,许多厂商仅仅满足于出售软硬件,最终用户却没有办法获得实质性的安全服务。面对日趋复杂的网络攻击,企业不仅需要传统的“安全盒子”,更需要拥有较强实战能力的网络安全专家。
借鉴海外安全服务SaaS化的经验,周鸿祎呼吁国家应加强政策支持,鼓励企业选择安全服务,尤其是SaaS化安全服务的采购,以降低安全服务的投入成本,以此来实现安全服务的普惠化。周鸿祎强调,网络安全的坚实基础对于AI的逐步发展至关重要,而有效解决AI应用中的安全与幻觉问题是实现技术转化为新生产力的关键所在。
在未来的数字化进程中,深刻理解并落实AI的安全标准与措施将是推动行业进步的重要保障。周鸿祎希望可以与各界人士一同探讨,走出一条符合中国国情的安全与创新协同之路,为数字中国的安全发展保驾护航。
综上所述,AI技术的加快速度进行发展不可忽视其潜在风险,尤其是在应用环境下的安全问题应当引起足够重视。我们应该建立相应的安全机制,确保技术能够在安全的环境中发展和应用,为未来的科学技术创新奠定良好的基础。在我使用了数十家AI绘画、AI生文工具后,强烈推荐给大家以下这个工具——简单AI。简单AI是搜狐旗下的全能型AI创作助手,包括AI绘画、文生图、图生图、AI文案、AI头像、AI素材、AI设计等。可一键生成创意美图,3步写出爆款文章。网站提供生成创意美图、动漫头像、种草笔记、爆款标题、活动方案等多项AI创作功能。工具链接:
- 上一个: 2024年中国网络安全十件大事