如今，人工智能已渗透许多生活场景，但缺乏规范的“野路子”AI频频“翻车”。

11月初，家住西安市翠华路的张黎面部出现红斑，不愿跑医院的她通过AI诊疗软件咨询，输入症状后被诊断为“过敏性皮炎”，并收到激素药膏推荐。她按提示购买涂抹一周后，红斑不仅未消退，反而扩散成水疱，面部红肿溃烂，最终被医院确诊为接触性皮炎合并感染，只得住院治疗。

“AI诊疗时既没询问既往过敏史，也没了解近期是否接触过化妆品、洗涤剂等致敏物，更未提示激素药膏的使用禁忌，诊断过程过于随意。”11月16日向记者说起时，张黎懊恼不已。“我就诊时医生指出，接触性皮炎与过敏性皮炎的症状虽有相似，但病因和治疗方案差异显著，尤其是面部皮肤敏感，激素药膏需在医生指导下严格控制使用剂量和疗程，仅凭有限症状就盲目诊断、推荐药物，极易延误病情甚至引发二次伤害。”张黎说。

无独有偶，西安某高校大三学生孙哲明也因“野路子”AI遭遇麻烦。10月初，他与同学自驾前往甘南旅游，为避开常规路线的拥堵，通过AI定制“小众深度游路线”。AI推荐的行程中，一条“小众观景公路”实则是一条未完工的施工便道，路面泥泞，布满碎石，车辆行驶至中途时陷入泥潭，车轮打滑无法脱困，最终只能联系当地救援车辆，不仅耽误了行程，还产生了不少的救援费用。

在学术领域，“野路子”AI的隐患同样凸显。西安某高校陈老师从事教学工作多年，在批改论文时，发现部分论文存在明显的AI生成痕迹。“学生交上来的论文看似结构完整，实则引用文献张冠李戴，专业术语使用错误，甚至出现与主题无关的冗余内容。”陈老师说，论文使用AI生成，违背了学术诚信，是非常不可取的。

为何本应便民的AI技术，会沦为“坑人利器”？软件工程师王浩给出了三点分析：一是技术局限未被重视。AI诊疗依赖训练数据，若数据存在“偏食”或更新不及时，易导致误诊；行程规划、论文生成等场景中，AI可能拼接虚假信息却无法验证真实性，其“黑箱属性”也让问题难以追溯。二是监管体系存在滞后。尽管已有AI生成内容标识、算法备案等规定，但部分小众平台未落实审核义务，用户难以区分合规产品与“野路子”工具。三是用户认知存在偏差，不少人将AI建议等同于专业意见，忽视了技术的辅助属性，缺乏必要的核实意识。

王浩提醒，人工智能的价值在于服务于人，而非制造风险。随着技术的发展，AI在各领域的应用将更加广泛，但规范与安全必须走在创新前面。唯有企业坚守合规底线、用户保持理性认知、监管部门强化责任落实，才能让“野路子”AI失去生存空间，让人工智能真正成为生活的“好帮手”。

本报记者 陶颖