近日,網絡上出現多款號稱“董宇輝推薦黑咖啡”的減脂咖啡產品,利用AI合成聲音、和有設計的拼貼董宇輝直播錄音等方式,制造出董宇輝推薦該款產品的假象誘騙消費者下單。
對此,董宇輝在直播時辟謠:
3月5日,演員古天樂、林峯所在的經紀公司發布,稱有線上游戲平臺利用AI技術,將自己的肖像、聲音及過往片段,合成制作為帶有賭博性質的代言宣傳片。
經紀公司否認其與有關游戲平臺合作,或代言、推廣它們的業務,提醒各方人士不要輕信,以免受騙上當。對于盜用兩人名義或肖像作虛假宣傳或詐騙的行為,公司必然追究。
3月3日,演員劉曉慶回應遭AI換臉:“我點進去看了一下,畫面是我,聲音很像我,但不是我!這是怎么做到的?大家以后不會搞不清楚哪個才是真的我了吧?我在各個平臺都叫劉曉慶!”
3月4日,全國人大代表、小米集團創始人雷軍接受央視總臺雷軍提出三條具體建議:一是針對“AI換臉擬聲”等某一代表性問題,探索推出人工智能單行法,提高立法位階及其效力,分級分類的基礎上進行務實治理,明確“AI換臉擬聲”應用的邊界紅線,完善的證據規則,加大對利用人工智能技術實施犯罪行為的刑事處罰力度。
二是強化行業自律共治,壓實平臺等各方的責任。支持平臺企業開發可精準識別人工智能深度合成內容的技術能力,優化升級通信軟件和內容平臺巡查審核機制、投訴舉報機制、應急處理機制,確保及時阻斷問題內容傳播。
三是建議加強人工智能方面的法制宣傳教育,增強民眾的警惕性和鑒別力,聚焦重點人群,在中小學人工智能教材中加入倫理規范內容,深入老年人聚居的社區開展相關知識普及活動,在全社會夯實“以人為本、智能向善”的人工智能發展生態。
據瀟湘晨報,在3月5日的政協小組討論上,全國政協委員、山東籍演員靳東回應了AI換臉導致的詐騙問題。他說:“一些喜歡我影視劇的觀眾,被AI換臉騙得很慘,這個性質非常惡劣。希望能建立更好的規則。”
2024年11月,江西一位老人來到銀行辦理銀行卡,表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。民警查看后發現老人所謂的大明星“靳東”男友是騙子冒充的,也是由電腦AI合成。
3月6日,就AI換臉這個代表、委員關注的話題,中國傳媒大學副教授張鸝對瀟湘晨報表示,一是有不法分子通過AI換臉技術進行詐騙,給普通民眾造成財產損失;
二是AI換臉技術孳生了一些灰色產業,例如用AI換臉技術制作冒充教授或明星的,甚至發布不當內容;
三是公眾人物受到AI換臉技術的侵害,致使個人形象、聲譽受損。
張鸝也指出:“AI技術在帶來風險的同時,也具有潛在的應用價值。例如在內容生產領域,AI技術讓制作更加便捷、降本增效,這本身就是生產力的某種釋放。因此,對待AI技術不能采取‘一刀切’的態度,不能看到風險就全面禁止其應用。”
張鸝認為,對于普通用戶來說,AI換臉技術更像互聯網上的一場狂歡,主要用于制作趣味,很多其實無傷大雅,如果未明確侵害他人利益,這種娛樂本身也是學習AI技術的途徑之一。“技術本無善惡、有利也有弊,其中的邊界也比較模糊。”
“假如AI換臉被過度濫用,或許將來某一天,我們不得不在發布真實錄制內容時進行、強調內容的真實性。如果那一天真的到來,整個社會對真實性的鑒別成本將會非常高,因此目前就要采取辦法避免該技術泛濫成災。”張鸝說。除立法外,公眾人物也可以考慮采用這種類似“白名單制度”的方法進行真實性。
“人們對于真實的認定門檻的確是在不斷提高的,這或許是互聯網普及和AI技術發展不可避免的宿命。在技術飛速發展的年代,