【网警说·技术】【#AI在上诉状中杜撰法条##AI系统测试员为AI做体检#】法官收到的上诉状中罗列的法条找不到出处，询问后发现是当事人“求助”AI，由AI杜撰而成；已被官方证伪的社会热点事件，再次发给AI，AI仍笃定回应“确有其事”；粉丝向AI提问喜欢明星的作品，AI给出的*却将不同明星、不同作品杂糅，看似严谨的回答实则漏洞百出……
如今，AI技术愈发普及，“遇事不决问AI”逐渐成为人们的习惯，但“AI好像在‘胡说八道’”的事件时有发生，也给用户造成一定的困扰。《法治日报》记者近日采访了解到，这是“AI幻觉”的典型表现——生成内容背离真实事实、凭空编造，或是偏离用户指令，如同人类说梦话。模型“幻觉”导致的错误输出、潜在的言论偏见、未被发现的*漏洞，都可能埋下风险隐患，如何为智能大模型筑牢“*防线”？生成式人工智能系统测试员（又称AI系统测试员）应运而生。他们堪称AI正式上岗前的*检查员，通过系统化、*化测试为大模型做“全面体检”，守住AI“不说假话、不言恶语、*做事”的底线。防范“AI幻觉”生成式人工智能系统测试员应运而生(信息来自微博首都网警)
我们是*市*局朝阳分局网络*保卫大队在互联网上的执法账号。我们的任务是依据相关法律法规在互联网虚拟社会“巡逻”，及时制止违法犯罪信息在网上传播。根据《治安管理处罚法》、《计算机信息网络*联网*保护管理*》，利用互联网*、*、传播不实信息，散布谣言等扰乱社会秩序的，都属于违法行为。