央视“3月15日”晚会曝光的“有毒”黑色AI（人工智能）产业，开启了生成式AI商业化进程中的灰色地带。尽管用户对人工智能的信任度不断增强，人工智能被认为是获取客观信息的重要渠道，但一些GEO（生成引擎优化）服务提供商正在系统性地散布虚假信息，将人工智能变成企业的“营销傀儡”。
GEO 是一种针对大型模型的“内容优化”策略，其主要目标是提高品牌信息出现在 AI 响应中的可能性。然而，在利益的驱动下，这项技术却成为了操纵信息流的工具。通过大量生产和分发“高度一致的内容”，可以影响大规模模型生成的结果，甚至欺骗用户。
为什么如此多的错误信息能够突破人工智能可信度的防线？公众应如何预防？ F针对这些问题，科技日报记者采访了相关专家。
第一个问题：谁为非法GEO生产提供了机会？
“这本质上是一场‘AI对AI’的博弈，其根源在于大规模模型本身的技术架构。”中国电子信息产业发展研究院（赛迪研究院）软件和信息产业研究所副所长黄文宏告诉记者。
在他看来，当前的大规模模型本质上是“概率语言模型”，从庞大的语料库中学习语言模式和知识关联，而不是将大量经过验证的事实存储为数据库。较大的型号通常依赖互联网搜索补充剂，尤其是在面对最新信息时，这也为 GEO Black 产品提供了机会。
“攻击者通过放置一批高度一致的数据来创建‘虚假共识’互联网上持续存在虚假内容，特别是在大型AI模型产品和抓取的信息推送平台中建立的默认关键参考。”黄文宏表示，当AI通过搜索获取实时信息时，此类内容很可能被判断为“高权重信息”并被采用。
更令人担忧的是，借助人工智能工具，攻击者可以以极低的成本批量生成“污点内容”、“虚假内容”和“有害内容”。但辩护律师在核实事实时，必须对每一个可靠的信息来源进行一一比较。进攻和防守之间存在巨大的不对称性。仅凭模型本身的特点很难从根本上解决这个问题。
第二个问题：如何在产业层面打造“免疫屏障”？
对于这个新的灰色产业，黄文宏认为，首先要完善合法供给。虽然现行《生成型人工智能服务管理暂行办法》规定AI服务商对其训练数据质量负责，但针对GEO等灰色网络新平台的“投毒”做法，相关规定仍存在空白。因此，他提出，应将“提供恶意信息、操纵AI系统”明确纳入预防犯罪法的不正当竞争，打通从GEO服务商到分包会员店的一系列责任路径。
同时，要整合平台主体职责。人工智能服务提供商应建立源数据分类的可靠性评估机制，对搜索源实施黑名单和白名单，或采用权重提升和降级机制，从技术上改善“中毒”。 “阈值。平台还必须监控异常流量并监控和管理不正常或恶意的 Matrix 帐户。
此外，还必须鼓励行业合作治理。黄文宏表示，为形成产业级“免疫屏障”，鼓励有关部门牵头，与各大人工智能企业合作，建立搜索源的exchange.secure io和联防联控机制。
问题三：普通人如何辨别真假？
“最重要的是让人们认识到‘人工智能不是百科全书’。黄文宏强调，公众不应将人工智能视为事实的权威仲裁者，而应将其视为高效的信息收集工具。
具体来说，用户A应养成通过政府官方网站等多种渠道“核对”I提供的重要信息的习惯，特别是涉及消费者决策、医疗保健等领域的建议网站、权威媒体、专业组织。同时，我们也要警惕“过度一致性”。如果人工智能的反应始终显示出对某个品牌或特定产品的积极评价，而没有客观比较或风险警告，那么您应该更加谨慎。
“用户还应关注人工智能平台的信息溯源特性，优先选择提供来源注释和引文链接的人工智能产品。最终，提高技术素养是人工智能时代保护公民权益的基础。”黄文宏说。 》【编辑：李岩】
百亿美元“烧钱”，美国超高价格战|真相
独家专访西安“姐姐”告别舞台新开始
AI“一键生成照片”的作者有版权吗？法官根据案件解释法律。
3000年前的“野生动物园”
花粉症在春天可能会很麻烦。为什么可以’“有罪”的杜松树不应该被砍掉吗？
“个人独资”爆发，银行也不能沉默
经过两届会议，在全国多个地点进行密集部署。
美国小偷就成了小偷。
如何克服女员工“没有动力、没有勇气、做不到”的维权困境？
“龙虾”是否存在隐患？单击此处获取虾农安全指南
中国经济开局良好 外贸消费增长
吹风机能打败“半熟草药师”吗？专家：可以作为助手，但不能神化。
这辈子，你一定要去上海看《速度与激情》！
为什么冰雪可以成为跨文化交流的线索？
饮料包装成“牛奶”，大型乳制品公司收割农村老年人
你吃的“朝山牛肉恩”是不是以鸡肉为主料？？
花粉季节即将来临，但如何解决春季健康检查问题呢？
如果你买一部7000元的手机，你将被收取16000元的高利贷！ “现在获取，稍后付款”骗局