代表委员答网友问:什么是AI幻觉

访客 2025-03-10 17:00:06 15613

默认

摘要： 中新网北京3月3日电(记者谢艺观);AI‘幻觉’有利于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题。”全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访...

中新网北京3月3日电(记者谢艺观);AI‘幻觉’有利于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题。” 全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI;幻觉”的两面性。 AI;幻觉”，是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符，或偏离用户指令的现象。 ;企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造信息，就会带来严重后果。”周鸿祎举例。如何防止AI出现;幻觉”？周鸿祎认为，企业应用相关技术时，要连接企业专有的知识库，去进行校正。;幻觉”问题，部分是能通过知识库解决的。但他也指出，当大模型连接知识库，就会带来数据安全的问题。;智能体的安全、数据的安全、客户端的安全，还有基座模型的安全，构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)