中国国家互联网信息办公室（CAC）发起了一场打击人工智能产生的虚假新闻的运动。

打击的重点是新闻提供商，包括短视频平台和热门搜索列表。

网信办特别强调了操纵行为，例如使用人工智能虚拟主播、伪造演播室场景、模仿合法新闻账户的假新闻账户以及操纵新闻来制造误导性的故事情节。这些做法被用来生成通常所说的点击诱饵。

据国家网信办称，已对假新闻账号、假主播采取行动10.7万个，删除虚假信息83.5万条。互联网监管机构敦促公民举报在网上遇到的任何虚假新闻账户。

根据旨在遏制人工智能生成的虚假新闻传播的中国人工智能媒体法，警方最近在甘肃省拘留了一名使用 ChatGPT 制造虚假新闻的人。

该人利用 ChatGPT 编造了一篇有关火车事故的新闻文章，该文章很快在社交媒体平台上引起关注。警方对这名散布虚假信息以增加网站流量的人采取了行动。

ChatGPT 在中国无法直接使用，但用户可以使用受支持的外国电话号码和虚拟专用网络 (VPN) 访问它。然而，在中国访问外国电话号码和 VPN 受到限制。

自 2023 年 1 月 10 日起生效的人工智能生成媒体法，不仅针对像甘肃被拘留者这样的个人，还要求“深度合成服务提供商”负责防止人工智能算法滥用于欺诈、诈骗和其他非法活动。传播虚假信息。

这项法律的实施给微信开发商腾讯等公司带来了挑战，因为他们需要确保其人工智能算法不被滥用。

腾讯最近推出了一种本质上是“Deepfakes-as-a-Service”的产品，该产品使用户能够付费创建高清数字人类，引发了人们对此类技术可能被滥用的担忧。