快(kuai)速进化的AI生成技(ji)术，让(rang)生成假照片、假图像，甚至视频换脸都更加容易，且真假难辨。尤(you)其是(shi)AI合成的假视频甚至冒充名医、名人进行虚假宣传，对公众实施(shi)诈骗。中国工程院院士、天(tian)津中医药大学名誉校长张伯礼(li)也是(shi)受(shou)害者之一。
院士带货，竟是(shi)AI伪造
不久前，网络中出现(xian)了(le)这(zhe)样(yang)一个视频，视频中张伯礼(li)院士正在(zai)为某美白(bai)护肤品进行宣传。
中国工程院院士 天(tian)津中医药大学名誉校长 张伯礼(li)：这(zhe)些内容全(quan)是(shi)假的。我从来没用过这(zhe)个护肤品，我也没做过这(zhe)方面的宣传，更没研究过，所以(yi)里(li)边完全(quan)是(shi)编(bian)造的。
实际上(shang)，这(zhe)是(shi)一个AI制作的视频，视频中使用张院士的形象和声音，从而(er)达到以(yi)假乱真的效果。张院士先容，像这(zhe)样(yang)涉及他形象和声音的假视频在(zai)网络上(shang)传播的至少还(hai)有十几条。
《中华人民共和国民法(fa)典》规(gui)定，自(zi)然人享有肖像、声音等权益，任何组织或个人利用信息技(ji)术伪造都是(shi)侵权行为。为此，天(tian)津中医药大学紧急给网信部门发函，申(shen)请对涉嫌侵犯张伯礼(li)院士肖像权及姓(xing)名权的相关视频和公众号进行管控处理。
中国工程院院士 天(tian)津中医药大学名誉校长 张伯礼(li)：非常气愤，我觉得假视频对我的影响还(hai)是(shi)第(di)二位的，更可怕的是(shi)这(zhe)些东西(xi)误导消费者，对老百姓(xing)造成的影响，又花了(le)钱(qian)，有的时候还(hai)买了(le)假药，影响老百姓(xing)的健康，同时也违反国家的法(fa)律，破坏市场秩序。专家的形象受(shou)到玷污，大家确实也很气愤，但是(shi)又很无奈。
近(jin)年来，通过AI深度伪造技(ji)术假冒名人的事件频繁发生。除了(le)张伯礼(li)院士之外，一些商家通过AI换脸、合成人声等手(shou)段(duan)，将一些名医、名人、企业家的面容与(yu)声音进行移花接木，有的用于(yu)直(zhi)播带货、有的用于(yu)推广营销产品、有的被制作成了(le)搞笑视频。
专家：AI伪造是(shi)必须(xu)消灭(mie)的一个“拦路虎(hu)”
AI生成技(ji)术原本是(shi)一件好事，然而(er)被别有用心的人利用后，却成了(le)编(bian)造虚假信息的工具。专家呼吁，AI伪造是(shi)新兴技(ji)术发展的“拦路虎(hu)”，必须(xu)从严惩治(zhi)。
专家指(zhi)出，AI换脸拟声，不当(dang)滥用，成为违法(fa)侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以(yi)及诈骗等犯罪行为，不利于(yu)构建“以(yi)人为本、智能向善”的人工智能发展生态。
复旦大学资讯学院教授 马凌：我看到了(le)好多像这(zhe)种(zhong)数字人，他会截取某些人的形象，某些人的音频来生成一个非法(fa)的数字人，就可以(yi)直(zhi)播带货了(le)。所以(yi)它影响到的不仅是(shi)老年群(qun)体，也影响到了(le)更广大的群(qun)体，包括部分上(shang)网的孩子也会受(shou)到影响。
据先容，另一方面，AI生成虚假信息泛滥也对社会公信力(li)构成了(le)严峻挑(tiao)战。
复旦大学资讯学院教授 马凌：AI造假资讯现(xian)场，它给资讯业带来的负面影响太大了(le)。正常的资讯工编辑是(shi)不会使用这(zhe)样(yang)的图像，但是(shi)如果被某些别有用心的人所利用，被社交媒体所广泛利用，它毁(hui)损(sun)的是(shi)社会的公信力(li)，它不仅抹黑了(le)媒体，也让(rang)公众的认知发生混乱。长此以(yi)往，可能整个社会都会充满互相不信任的情绪。
近(jin)日(ri)，为了(le)促进人工智能健康发展，规(gui)范人工智能生成合成内容标识，国家互联网信息办公室等部门联合发布了(le)《人工智能生成合成内容标识办法(fa)》，9月1日(ri)起(qi)施(shi)行。服务提供者应当(dang)按照要求对生成合成内容添加显式标识，以(yi)及在(zai)生成合成内容的文件元(yuan)数据中添加隐式标识。任何组织和个人不得为他人实施(shi)恶意行为提供工具或者服务，不得通过不正当(dang)标识手(shou)段(duan)损(sun)害他人合法(fa)权益。
中国政法(fa)大学传播法(fa)研究中心副主任 朱巍：加不加AI的标识，表面上(shang)看，形式上(shang)是(shi)一个法(fa)律的明确规(gui)定，它的客观影响很深远。不仅是(shi)确定常识产权，更重要的是(shi)保障信息的公开公正，保障信息的顺畅流转。
中国工程院院士 天(tian)津中医药大学名誉校长 张伯礼(li)：例如在(zai)网络自(zi)媒体发布，应该有一个监管。有的是(shi)平(ping)台发布，平(ping)台的从业者应该有审查的责任。大家去(qu)投诉举报，得有专门部门去(qu)接收，承担起(qi)责任。第(di)二点要加强监管，网络部门、互联网监管部门得发挥作用。再就是(shi)法(fa)律，甚至是(shi)公安(an)部门都要介入才行，加大处罚，不管是(shi)谁的连带责任。我觉得应该出台一些综合的治(zhi)理措施(shi)来解决(jue)这(zhe)个问题(ti)，不能再拖了(le)。
原标题(ti)：《院士带货竟是(shi)AI伪造！新技(ji)术如何才能用在(zai)正道上(shang)？》
转自(zi)央视资讯客户端
来源：中国资讯社