中国正在出台限制深度合成技术使用的新规定。万博体育登录首页

据报道，这一举措与政府持续打击网络谣言、宣传和错误信息的努力是一致的《南华早报》(SCMP)。

新规定

中国网信办、工业和信息化部、公安部联合发布了《中华人民共和国国家安全法》万博体育登录首页互联网信息服务深度综合管理规定该法案将于明年1月10日生效。

任何通过深度合成改变的作品都必须清楚地标记，以便可以追溯到其原作者。

为了遵守这些规则，你在修改照片或声音之前必须得到被修改人的许可。

如果使用深度合成技术(deep synthesis technology)制作的素材，必须是政府批准的1358个消息来万博体育登录首页源。

政府将深度合成描述为使用深度学习和增强现实等软件来生成文本、图片、音频、视频和虚拟场景。

新法律规定，提供深度综合服务的机构应遵守法律，遵守道德，保持正确的“政治方向”和适当的“舆论导向”。

网信办表示，将通过落实这些法律法规，对深度综合技术在网络信息服务中的应用提出系统、有针对性的要求，为保障和支持深度综合服务有序发展提供强有力的法律保障。万博体育登录首页

据《南华早报》报道，中国互联网最高监管机构网信处微信公众号上发表的一篇文章称，中国最高互联网监管机构表示，担心深度合成技术不受监管的开发和应用可能会导致其被用于非法活动，包括网络欺诈或诽谤。

制定关于深度合成的独立立法的决定是对导致当前事态的技术进步和监管障碍的回应。万博体育登录首页

深度造假的出现

使用合成材料将一个人的脸或声音替换成另一个人的深度造假是该技术最臭名昭著的用途之一。万博体育登录首页

一个臭名昭著的例子是，在一部被篡改的电影中，Facebook创始人马克·扎克伯格(Mark Zuckerberg)吹嘘自己掌握了数十亿Facebook用户的窃取数据。

随着技万博体育登录首页术的进步，深度造假被用来制作名人色情电影，制造假新闻，并在世界各地进行金融欺诈。

在西方流行的社交媒体网站，包括推特和脸书，已经实施了新的措施，以识别和限制由深度造假实现的虚假新闻和宣传的传播。

相关故事:Deepfake技万博体育登录首页术2022:如何保护您的企业免受Deepfake攻击

人工智能领域

中国政法大学副校长施建忠表示，与此同时，发展深度合成技术为人工智能(AI)万博体育登录首页业务带来了问题和可能性。

Shi表示，深度合成项目的推进及其用例的扩大将鼓励整个人工智能领域促进人工智能技术的增长和道德使用。万博体育登录首页

相关故事:深度造假和人工智能:即将改变我们的世界?三星推出“MegaPortrait”手机版