对于当前DeepSeek等大模型“AI幻觉”现象,周鸿祎表示,它是一把双刃剑。幻觉是想象力和创造力的基础,是大模型与生俱来的特点。“不要试图消除‘AI幻觉’,对其产生要有容错能力。可以通过构建专业的知识库,实施合理的矫正机制,来避免‘幻觉’造成负面影响。”周鸿祎建议。
他表示,面对人工智能大模型对传统网络安全的“降维打击”,传统网络安全手段则显得“力不从心”。对此,周鸿祎提出“以模制模”的创新思路,通过打造安全大模型来攻克AI安全新挑战,并将安全要素深度嵌入人工智能应用全流程,“用聪明的大模型解决大模型带来的聪明的 ...
周鸿祎认为,大模型应用安全主要集中在基座模型、知识库和智能体三个方面。针对这些挑战,360运用人工智能技术重塑安全格局,采用“以模制模”的方式应对新难题,依托安全大模型技术搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系,护航政府与企业“数转智 ...
不过,我们也不能忽视AI幻觉导致的安全问题,其在不同行业应受到的重视程度不同。比如在医疗、法律、金融等容错率很低的工作场景中,大模型幻觉导致的错误结论可能引发极其严重的后果,致使生命财产安全受损等。因此,过分夸大和忽视AI安全问题的态度都不可取。
目前人形机器人和具身智能产业的发展有一个共性问题,是产业里缺乏通用的、公共服务平台或者是开源平台。全国政协委员、天娱数科CEO 贺晗认为,当前亟待推进解决五大平台,具身智能大模型一体机能够破解通用和标准化难题。
但周鸿祎也指出,当大模型渗透率提升时,应用安全问题也迫在眉睫。传统网络安全已经无法应对新挑战,所以其建议应由既懂安全又懂AI的企业牵头,以模制模,通过打造安全大模型来解决大模型的应用安全问题。
近年来,人工智能技术加速迭代,成为全球科技变革的关键驱动力,特别是DeepSeek的火爆,让更多人参与到了AI领域中来。与此同时,大模型与生俱来的“幻觉”问题引发了广泛讨论。今年两会期间,全国政协委员、360集团创始人周鸿祎聚焦在大模型安全和“幻觉” ...
人民财讯3月3日电,作为全国政协委员,360集团创始人周鸿祎今年第八年参加全国两会。他关注的方向是人工智能和安全两大主题。对于人工智能发展同步伴生的安全问题,周鸿祎认为,传统网络安全已经无法应对新挑战,应由既懂安全又懂AI的企业牵头,以模制模,通过打 ...
周鸿祎认为,人工智能将重塑所有行业,企业应该从找场景、打造专业知识库、打造智能体、接入办公流程等四个方面拥抱人工智能。他呼吁,国家对大模型发展实行柔性监管,更加包容审慎。对于人工智能发展同步伴生的安全问题,周鸿祎认为,传统网络安全已经无法应对新挑战,应由既懂安全又懂AI的企业牵头,以模制模,通过打造安全大模型来解决大模型的应用安全问题。
近一段时间,中国人工智能领域迎来里程碑式突破。国产推理大模型DeepSeek-R1的诞生标志着我国AI技术从“追赶者”向“领跑者”实现历史性跨越,成为全新的生产力工具,其开源、透明、免费等特质,尤其适合在政府与企业开展私有化部署,随之而来的安全问题也 ...
导读:周鸿祎认为,DeepSeek-R1的诞生标志着我国AI技术加速从“追赶者”迈向“领跑者”,其开源、透明等特质,尤其适合在政府与企业开展私有化部署,不过随之而来的安全问题也值得关注。 2025年3月5日,十四届全国人大三次会议在京举行,国务院总理李强作政府工作报告(以下简称《报告》)。其中,报告全面总结了过去一年的工作成果,并部署了2025年重点任务。 在聆听政府工作报告后,全国政协委员、36 ...
人民财讯3月3日电,作为全国政协委员,360集团创始人周鸿祎今年第八年参加全国两会。他关注的方向是人工智能和安全两大主题。对于人工智能 ...