快(kuai)速进化的AI生成技(ji)术,让(rang)生成假照片、假图像,甚至视频换脸都更加容易,且真假难辨。尤(you)其是(shi)AI合成的假视频甚至冒充名医、名人进行虚假宣传,对公众实施(shi)诈骗。中国工程院院士、天(tian)津中医药大学名誉校长张伯礼(li)也是(shi)受(shou)害者之一。
院士带货,竟是(shi)AI伪造
不久前,网络中出现(xian)了(le)这(zhe)样(yang)一个视频,视频中张伯礼(li)院士正在(zai)为某美白(bai)护肤品进行宣传。
中国工程院院士 天(tian)津中医药大学名誉校长 张伯礼(li):这(zhe)些内容全(quan)是(shi)假的。我从来没用过这(zhe)个护肤品,我也没做过这(zhe)方面的宣传,更没研究过,所以(yi)里(li)边完全(quan)是(shi)编(bian)造的。
实际上(shang),这(zhe)是(shi)一个AI制作的视频,视频中使用张院士的形象和声音,从而(er)达到以(yi)假乱真的效果。张院士先容,像这(zhe)样(yang)涉及他形象和声音的假视频在(zai)网络上(shang)传播的至少还(hai)有十几条。
《中华人民共和国民法(fa)典》规(gui)定,自(zi)然人享有肖像、声音等权益,任何组织或个人利用信息技(ji)术伪造都是(shi)侵权行为。为此,天(tian)津中医药大学紧急给网信部门发函,申(shen)请对涉嫌侵犯张伯礼(li)院士肖像权及姓(xing)名权的相关视频和公众号进行管控处理。
中国工程院院士 天(tian)津中医药大学名誉校长 张伯礼(li):非常气愤,我觉得假视频对我的影响还(hai)是(shi)第(di)二位的,更可怕的是(shi)这(zhe)些东西(xi)误导消费者,对老百姓(xing)造成的影响,又花了(le)钱(qian),有的时候还(hai)买了(le)假药,影响老百姓(xing)的健康,同时也违反国家的法(fa)律,破坏市场秩序。专家的形象受(shou)到玷污,大家确实也很气愤,但是(shi)又很无奈。
近(jin)年来,通过AI深度伪造技(ji)术假冒名人的事件频繁发生。除了(le)张伯礼(li)院士之外,一些商家通过AI换脸、合成人声等手(shou)段(duan),将一些名医、名人、企业家的面容与(yu)声音进行移花接木,有的用于(yu)直(zhi)播带货、有的用于(yu)推广营销产品、有的被制作成了(le)搞笑视频。
专家:AI伪造是(shi)必须(xu)消灭(mie)的一个“拦路虎(hu)”
AI生成技(ji)术原本是(shi)一件好事,然而(er)被别有用心的人利用后,却成了(le)编(bian)造虚假信息的工具。专家呼吁,AI伪造是(shi)新兴技(ji)术发展的“拦路虎(hu)”,必须(xu)从严惩治(zhi)。
专家指(zhi)出,AI换脸拟声,不当(dang)滥用,成为违法(fa)侵权行为的重灾区,易引发侵犯肖像权、侵犯公民个人信息以(yi)及诈骗等犯罪行为,不利于(yu)构建“以(yi)人为本、智能向善”的人工智能发展生态。
复旦大学资讯学院教授 马凌:我看到了(le)好多像这(zhe)种(zhong)数字人,他会截取某些人的形象,某些人的音频来生成一个非法(fa)的数字人,就可以(yi)直(zhi)播带货了(le)。所以(yi)它影响到的不仅是(shi)老年群(qun)体,也影响到了(le)更广大的群(qun)体,包括部分上(shang)网的孩子也会受(shou)到影响。
据先容,另一方面,AI生成虚假信息泛滥也对社会公信力(li)构成了(le)严峻挑(tiao)战。
复旦大学资讯学院教授 马凌:AI造假资讯现(xian)场,它给资讯业带来的负面影响太大了(le)。正常的资讯工编辑是(shi)不会使用这(zhe)样(yang)的图像,但是(shi)如果被某些别有用心的人所利用,被社交媒体所广泛利用,它毁(hui)损(sun)的是(shi)社会的公信力(li),它不仅抹黑了(le)媒体,也让(rang)公众的认知发生混乱。长此以(yi)往,可能整个社会都会充满互相不信任的情绪。
近(jin)日(ri),为了(le)促进人工智能健康发展,规(gui)范人工智能生成合成内容标识,国家互联网信息办公室等部门联合发布了(le)《人工智能生成合成内容标识办法(fa)》,9月1日(ri)起(qi)施(shi)行。服务提供者应当(dang)按照要求对生成合成内容添加显式标识,以(yi)及在(zai)生成合成内容的文件元(yuan)数据中添加隐式标识。任何组织和个人不得为他人实施(shi)恶意行为提供工具或者服务,不得通过不正当(dang)标识手(shou)段(duan)损(sun)害他人合法(fa)权益。
中国政法(fa)大学传播法(fa)研究中心副主任 朱巍:加不加AI的标识,表面上(shang)看,形式上(shang)是(shi)一个法(fa)律的明确规(gui)定,它的客观影响很深远。不仅是(shi)确定常识产权,更重要的是(shi)保障信息的公开公正,保障信息的顺畅流转。
中国工程院院士 天(tian)津中医药大学名誉校长 张伯礼(li):例如在(zai)网络自(zi)媒体发布,应该有一个监管。有的是(shi)平(ping)台发布,平(ping)台的从业者应该有审查的责任。大家去(qu)投诉举报,得有专门部门去(qu)接收,承担起(qi)责任。第(di)二点要加强监管,网络部门、互联网监管部门得发挥作用。再就是(shi)法(fa)律,甚至是(shi)公安(an)部门都要介入才行,加大处罚,不管是(shi)谁的连带责任。我觉得应该出台一些综合的治(zhi)理措施(shi)来解决(jue)这(zhe)个问题(ti),不能再拖了(le)。
原标题(ti):《院士带货竟是(shi)AI伪造!新技(ji)术如何才能用在(zai)正道上(shang)?》
转自(zi)央视资讯客户端
来源:中国资讯社