专题：2025中国互联网大会
7月23日上午消息，2025中国互联网大会上大会举行。被问及大模型在落地应用的过程中，还有些什么样的风险？
360集团创始人周鸿祎谈到，风险还是很多的。他举例到，比如说做一个常规的it系统，它肯定会有漏洞、有数据隐私的泄露问题，但他提到，这些传统安全都不足为虑，最要命的是有三个安全问题：
第一个问题，大模型会有错觉，会胡说八道，会出错，甚至还有幻觉。
周鸿祎表示，当大模型有些事情不明白的时候，就会一本正经的瞎编，这个在大模型被当作玩具的时候可以一笑而过，但是今天大模型带着智能体将要进到很多工业生产制造产品，以及很多政府部门的办公领域，这种出错可能就是比较可怕的。他强调，特别是有了智能体之后，智能体又有能力去操纵各种工具，这个危害影响就会更大。
第二个问题，大模型使得任何人攻击人工智能变成可能性。
他提到，大模型降低了每个人的使用门槛，没学过编程的人现在通过跟大模型交流也能写程序，这就使得大模型被攻击的门槛也降得很低。通过精心构造了指令，可以让大模型完全听从指令，比如说可以把企业的机密文件交给你，这种事情已经发生了，这叫做“注入攻击”。“甚至我有时候开玩笑说，一个前台小姐姐可能不会编程，她对老板不满意，她都可以对大公司的大模型和智能体进行攻击。”
第三个问题，从未来看，就是面向国家级的高级威胁攻击的问题。
周鸿祎表示，过去攻击我国的黑客虽然说数目还比较少，但现在黑客也在尝试把自己的能力和经验嵌了大模型里，把自己做成黑客智能体。这样有了足够的算力之后，一个黑客就可以操纵50个甚至500个智能体。整个网络安全攻防的形式就发生了巨大的逆转，而且机器人数字人黑客只需要算力，不需要睡觉休息。
他直言，“网络安全就从人和人的对抗，变成了人和算法、人和机器、人和算力的对抗。”
对此，360有两个解决措施：
首先，周鸿祎介绍到，360打造了一些智能体安全专家，使得企业在应对攻击的时候，可以用智能体专家进行实时检测实时防御，也就是说以算法对抗算法。
其次，针对大模型的安全和易攻击的问题，360做了“大模型卫士”。它是一个专业的大模型和智能体，用来监视谁给大模型发了什么指令，大模型输出的内容是否合理、是否正确。包括结合强大的搜索能力和企业知识库的能力，把大模型的幻觉降到最低。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：李昂
倍顺网提示：文章来自网络，不代表本站观点。
