据公安部网络安全局官方微信公众号《中新网》2019年10月29日报道，人工智能生成技术的普及，使得只需输入文字命令，生成真假图像、视频成为可能。这不仅大大降低了谣言传播的门槛，也让很多人面临“新闻搜索”和“流量生成”所带来的法律和道德限制。近日，山东省威海市网信部门查获两起利用人工智能捏造、传播网络谣言的违法行为。
案例一：近日，威海市网络用户张先生利用人工智能工具，在互联网平台上编造、发布“监狱直播产品”照片的谣言，以吸引其账号关注、获取流量、获取个人利益，引起大量网络用户的关注和争论，扰乱公共安全。
卡斯2、近日，广东省发生台风时，威海网友齐某为了吸引眼球和流量，编造了一段虚假的灾情视频，称“广东省阳江市两栋教学楼被台风损坏”，发布到短视频平台上，欺骗了众多网民的注意力，严重扰乱公共安全，造成恐慌，造成社会不良影响。
公安机关依法对张某、齐某给予行政处分。
法律责任
根据《中华人民共和国治安管理处罚法》第二十五条的规定，散布有关危险、疫情、警情等谣言、谎言或者其他故意扰乱公共秩序的行为，可以处五日以上十日以下拘留，可以并处五百元以下罚款。如果情况情节较轻的，处五日以下拘留或者五百元以下罚款。
风险
从类似案例来看，人工智能传闻背后似乎正在形成一条分工明确的灰色产业链。它具有能够以低成本大量生产的特点。数据显示，人工智能每天会生成 4000 至 7000 篇虚假文章，而成本仅为传统谣言制造成本的 1%。关于人工智能的谣言带来的风险和危险肯定是严重的。值得谨慎。风险和危险主要体现在：
首先，与传统谣言相比，IA谣言由于其技术特点，其危害性明显更大。
其次，它具有先进的模拟性和较强的欺骗性。生成的文本、图像、音频和视频内容逼真到普通网络用户难以区分。
第三是强大的进化和迭代能力。人工智能的谣言甚至可以迅速传播创造新版本来反驳或重复与谣言相矛盾的信息，造成动态的“打地鼠”式冲突，并使治理难以捍卫。
预防方法
信息接收者可以通过以下方式识别潜在的人工智能谣言：
检查来源：警惕没有明确作者、来源不明确的内容，或者伪装成“用户帖子”或“内幕信息”的内容。可靠的信息通常得到合法新闻机构或官方实体的支持。
关注细节：对于照片和视频，请仔细查找典型的人工智能生成的特征，例如角色上不寻常的手指数量、不自然的灯光和阴影效果、视频中不同步的嘴形和音频以及模糊或扭曲的背景。
测试逻辑：确定内容是否存在明显的事实错误或逻辑不一致，例如时间线混乱（用未来的数据来解释过去的事件）或地理信息错误。
使用工具：验证善用权威辟谣的离子平台，也可以关注公安部网信局发布的相关预警信息。
已发布国庆节期间出行的气象图。请务必随身携带这份指南，以便在五个主要城市观赏樱花。
重阳节实用指南来了！
“欢喜哥”徐少修去世，家世显赫：鲁迅是他的姨婆
距离美国政府关门还有一个月。美媒：“社会保障体系将面临巨大缺口”
楼上的噪音持续不断，楼下则令人痛苦。邻里噪音问题调查
小众体验成为流行选择：为什么？ “到一个地方”是否已成为文化旅游的热点？
伪造官方文件、虚假“海外公司员工”、“Merculochrome”诈骗手法被揭露许多地方“一夜之间就到了冬天”。秋天真的缩短了吗？
中国瓷器对泰国瓷器的形式和精神有何影响？
徐云三的南阳之行如何促进多民族信仰的交流与融合？
大学里有一个专业叫“儿童发展”，但是你学的是什么？你在哪里找到工作？
为什么冰箱贴如此受欢迎？
英雄联盟S15瑞士赛结束 LPL头号种子BLG无缘八强
为什么徒步旅行时不应该穿太大的鞋子？
五帝时代在中华文明的发展进程中是怎样存在的？
晋北黄土高原上的唢呐有着恒久的魅力：年轻人继承古老的旋律，习得“新声”。
上海生物医药产业规模超万亿元
你知道你的“冬季搭配”吗？查看我们的羽绒服终极指南。