利用AI编造「火车撞人」假新闻！中国首例ChatGPT犯罪东莞男子或面临5年监禁警方对此立即展开调查，发现在平台上，共有21个账号同时发布了不同版本的文章，涉及不同的事故地点，包括平凉市崆峒区、兰州、陇南、定西、庆阳等地。

　　荷兰一列载有乘客的火车周二在海牙附近撞上一台起重机并脱轨，造成至少一名工人死亡，约30人受伤，这是该国多年来最严重的铁路事故。

　　5月5日，警方前往广东该名嫌疑人住处进行取证，审讯后发现，洪姓男子先搜寻了近年来中国讨论度广泛的社会新闻，随后利用ChatGPT将特定元素例如时间、地点、日期或性别等进行修改，重新撰成一篇假新闻，藉由上传这些文章让帐号赚取流量再加以变现。

　　不仅如此，洪姓男子还利用ChatGPT制作了多个存在细小差距的假新闻版本，以避开百度旗下平台的审查。

　　据了解，洪姓男子主要通过ChatGPT将收集到的新闻要素修改编辑后，上传至其购买的百家号上非法获利，目前案件正在进一步侦办。

　　警方表示，洪姓男子编造假新闻并散布在网络上供量浏览的行为，已涉嫌寻衅滋事罪，因此对其采取刑事强制措施，最高可判处五年有期徒刑。

　　这是中国因应人工智能发展，于今年1月起颁布《互联网信息服务深度合成管理规定》后侦破的第一起事件。

　　“规定”旨在促进人工智能产业发展和防止技术滥用的法规规定，通过深度合成技术（deepfake）制作的合成视频和照片必须明确标注，以防止公众混淆。

　　该规定还涵盖了deepfake提供者和用户的责任，包括禁止使用该技术进行非法行为、建立审查制度和识别用户信息。

　　4月11日米乐M6，中国国家互联网信息办公室（CAC）发布管理生成式AI服务的法规草案。据CAC称，该法规预计将于今年某个时候生效。

　　ACA表示米乐M6，国家支持人工智能自主创新和推广应用，但相关产品或服务应符合法律法规要求，尊重社会公德和公共秩序，其中包括服务提供商接入、算法设计、训练数据选择、内容概括、用户隐私和商业秘密等。

　　中国社会科学院大学法学院副教授刘晓春在接受采访时表示，服务提供商有义务采取风险防范措施并响应监管要求。

　　利用ChatGPT这类AI来生成假新闻并非中国独有，美国AI专家、社交媒体公司和政府官员同样关注生成式AI传播错误信息的可能性。

　　今年4月，美国共和党发布了一个人工智能生成的视频广告，假想了拜登再次当选的情况下，将会引起美国与墨西哥边境的大规模移民浪潮和旧金山文明崩溃。

　　虽然这则广告被标记为“人工智能生成”，但过于逼真的图像仍然很容易让人们将其视为现实。Reddit上的Midjourney子版块也有用户举例说明了文本到图像生成器如何创建未发生过的历史事件，比如“2001年卡斯卡迪亚9.1大地震和海啸”。

　　除此之外，非营利组织Amnesty World分支机构Amnesty Norway在社交媒体账户上发布了人工智能生成的图像，以此号召人们多多关注哥伦比亚全国两年。但这些图像错误地描绘了哥伦比亚国旗米乐M6，还用了假人代替了真正的者。

　　随着ChatGPT得到越来越多的关注和使用，国内的立法者也一直在努力起草管理公司如何开发人工智能的相关规定。拟议的法规包括不生成虚假信息，明确标记使用AI制作的内容，并确保用于训练AI的数据不歧视种族、种族和性别。

　　G SA网络高清通线G商用部署的元年，今年下半年开始，已经有包括华为Mate20X(5G)、iQOOPro5G手机、中兴天机Axon10Pro5G版等在内的多款5G手机上市，而据工信部电信设备进网管理查询，截止目前中国已有13款5G手机获得进网许可证，也就是说已有13款5G手机达到商用水平，可以上市。