国产又黄又爽又猛的免费视频播放-国产又黄又爽视频免费观看-国产又黄又湿又刺激不卡网站-国产又黄又a又潮娇喘视频-亚洲国产美女福利直播秀一区二区-亚洲国产乱码在线精品

 您所在的位置:首頁>>新聞中心>>社會>>正文
網絡上“AI名人”泛濫 深度偽造之惡何解?
(2024/12/16 13:46:29)  來源:錢江晚報  打印本頁

  “張文宏”深夜帶貨,女孩照片被熟人“換臉”

  網絡上“AI名人”泛濫

  深度偽造之惡何解?

  張文宏開始直播帶貨了?

  近日,不少網友發文稱,短視頻平臺上,疑似知名醫生張文宏正在售賣一種蛋白棒,家中老人信以為真而大量下單。但仔細辨認可以發現,帶貨視頻為AI合成。張文宏本人回應稱,這些假的AI合成信息就像蝗災一樣,一次又一次發生,像漫天飛過來的蝗蟲一樣害人。

  不僅是張文宏,網絡上的“AI名人”已成泛濫趨勢:“假靳東”迷倒一眾大媽、“假雷軍”辣評世間百態、“假拜登”宣布第三次世界大戰開始、“假馬克龍”直播回答“政府聘用滅霸”……

  而更早之前的韓國Deepfake(深度偽造)性犯罪事件,不僅讓韓國全體女性陷入“換臉恐慌”,更是引發全球關注,大眾擔心一種更廣泛的、充滿敵意的網絡環境開始滲入真實世界。

  人工智能方興未艾,公眾該如何面對新一代的“施虐者”?

  女孩照片被盜成色情視頻

  群組內容不堪入目

  河北保定女孩欣欣(化名)從未想過Deepfake會發生在自己身上。

  今年7月9日,正在刷抖音的欣欣突然收到了一條私信,被網友告知有自稱其男友的人在外網盜用她的照片后進行AI換臉并傳播。

  “我聽到這個消息之后有些震驚且不敢相信,但真的看到這些照片后,我感到無比憤怒。”欣欣告訴記者,對方不僅制作大量AI換臉的不良照片與視頻,還隨意泄露了自己的個人信息,包括網名、真名、年紀、學校、專業等等。

  欣欣隨后通過多個途徑進行了查證,這些照片和視頻均是對方從自己的小紅書搬運,經加工處理,制作出不堪入目的色情影像。欣欣第一時間選擇報警并咨詢律師,開始固定更多證據。

  “當天晚上8點多,我報警備案,當時我沒有排除熟人或者陌生人的各種可能性。后續我經過各種賬號套話,得知對方了解我的家屬關系等更隱私的信息,我就逐步縮小了嫌疑人范圍,心中也有了懷疑的對象。”欣欣隨后發布了一條僅對方可見的朋友圈,且把內容做了特殊標記,很快這條內容出現在外網。

  欣欣把這條直接證據交給了警方,不久后警方給出處理結果:對方因傳播淫穢物品,被處以行政拘留十日。

  “沒想到Deepfake離自己如此之近,更沒想到施害者就是身邊的熟人。”欣欣說,在處理這件事情的過程中,她了解到身邊有很多女孩子在遭受類似的事件,甚至更嚴重。她們被泄露個人隱私、被造謠、被AI換臉、被性騷擾等等。

  欣欣告訴記者,因為這段經歷,短暫接觸過幾個軟件,上面有成百上千的群組,群組里多的有上萬人,里面內容不堪入目,充斥著各種女生的AI換臉照片與視頻,以及污蔑、詆毀、造謠的話,惡心程度超出想象。

  “由于造謠成本低,他們甚至不需要完整圖片,只需要一張臉部圖片就能完成所有,而且很難被抓到,這使得他們更加肆意妄為。”欣欣說。

  普通人難識別深度偽造內容

  專家:請勇敢舉報

  正如欣欣所言,發生在身邊的Deepfake犯罪事件并非個案。

  由英文“deepmachinelearning”(深度機器學習)和“fakephoto”(假照片)組合而成的Deepfake(深度偽造),能基于人類行為特征如面部、聲音等合成圖像、視頻、音頻。當前這一技術,正被濫用成為針對婦女暴力、詐騙犯罪的新前沿。

  據新華社報道,韓國教育部9月9日說,韓國今年已發生400多起涉及中小學生的相關案件,受害者累計超過600人。

  與此同時,韓國用戶使用的社交媒體Telegram上,被發現存在多個傳播和分享該類型色情內容的群聊,其中已知最大的一個聊天室成員超過22萬人。這類性犯罪事件的受害者人數尚難以統計。已知的被波及群體,包括女學生、女教師等,其中包含大量未成年人。

  近段時間,在一些國內的短視頻平臺上,除了“AI名人”,“AI接吻視頻”也十分流行。有博主宣稱只需要下載一個軟件,花費9.9元就可以完成。看著兩個毫無關系的照片人物“活生生”親吻擁抱在一起,不少網友直呼可怕。

  融力天聞律師事務所高級合伙人劉赤軍律師告訴記者,Deepfake之于視頻,就像Photoshop之于圖片,兩者都直觀沖擊了真實和虛擬之間的界限。但Deepfake能夠實現以極低的成本,制作出完全虛構又極其逼真的視頻。

  奇安信行業安全研究中心主任裴智勇表示,深度偽造,一般是指利用人工智能技術,生成高度逼真的視頻、音頻、圖片、文案等內容。這些內容多被用于網絡欺詐、制造謠言、擾亂公共秩序和生成各類色情內容。這些偽造內容大多使用了人工智能技術中的深度計算技術,識別難度很大。

  “讓普通人用肉眼或耳朵來識別深度偽造的視頻、音頻內容是不現實的,因為深度偽造本身就意味著難以識別,沒有經過專業訓練的普通人很難從技術角度識破深度偽造內容。”裴智勇說。

  在他看來,雖然想要阻止人們使用AI生成偽造視頻或圖片不現實,但這并不意味著對惡意造假者無計可施:“國內對于網絡色情視頻和圖片都有非常成熟的治理方法,即便不能用技術鑒別真偽,也可以從平臺一側阻止色情內容的傳播,定位色情內容的傳播源頭并實施打擊。”

  裴智勇提醒,在自拍、短視頻盛行的時代,當公眾遇到有人使用偽造視頻、音頻等內容對財產侵害、名譽損害時,最好的辦法還是及時報警或向平臺進行舉報,減少深度偽造內容帶來的影響。(記者 朱高祥) 


相 關 新 聞

·全國首個小學AI教學實驗班在麥積區潘集寨學校啟動(圖)

新 聞 推 薦

天水紅蛛文化產業園喬遷新址盛大開業(圖)

·天水紅蛛文化產業園喬遷新址盛大開業(圖)
·江西省公安廳觀摩天水市公安局麥積分局旅游警務工作
·天水市氣象臺發布12月16日~12月22日天氣預報
·春風集團“雪萊”牌文創旅游系列圍巾喜獲甘肅省第五
·張家川縣多舉措推進“凝心鑄魂”賦能 奏響發展奮進曲
·張家川縣:“五爭做五助力”讓文明新風吹遍“藥材小
·麥積區圖書館舉行“字里行間閱讀的力量”讀書分享會
·甘肅工業職業技術學院順利完成全國學生心理健康監測
·天水市國動辦開展“國家公祭日”宣傳活動(圖)
·天水市疾控中心深入張家川回族自治縣開展腎綜合征出
最 新 圖 片
“蘿卜刀”火爆校園,背后有哪些法律風險 露臉了!“丫丫”入封閉隔離檢疫區(圖) 勞榮枝故意殺人、搶劫、綁架案二審公開宣判 新華全媒+丨千年共此月,在民俗中品味古韻中 星空有約丨今年中秋“十五的月亮十五圓” 節氣里的中國丨處暑:最好新秋時

 資訊快遞
·網絡上“AI名人”泛濫 深度偽造之惡何解?
·多部門開列2025年任務清單 更多增量政策將出
·“中國經濟問答”系列之三:企業經營壓力挑戰怎么看
·“中國經濟問答”系列之二:內需提振怎么看?
·權威數讀|“數讀”中央經濟工作會議要點
·明年經濟工作怎么干?讀懂中央經濟工作會議十個重要
·圍繞“關稅威脅”,特朗普和加拿大之間發生了什么
·北京市海淀區人大常委會原副主任魏開鋒接受審查調查
·國務院關于修改和廢止部分行政法規的決定
·個人養老金全面實施:有何新變化?能否提前取?
·我國養老金融發展“規劃圖”來了
·國家發展改革委部署全方位擴大內需等明年重點工作
·外交部:相信大蒜做夢都想不到竟能對美國產生“極大
·國防部新聞發言人就近期涉軍問題答記者問
·四部門發文加快推進中小企業數字化轉型
·美《科學》雜志發布2024年度十大科學突破 抗艾藥物位
·熱點問答丨過渡政府接管權力后,敘利亞局勢如何
·李鐵一審被判處有期徒刑二十年
·國防部正告菲方:挑釁加一分 反制強一步
·國防部:福建艦下步將逐步展開后續試驗項目
 博 客
·《我和我的祖國》
·《歌唱祖國》
·伏羲廣場《萬疆》
·鎬天空降伏羲廣場
·打鐵花震撼上演(二)
·打鐵花震撼上演(一)
·天水美好生活商品展
·《好客天水歡迎你》
 播 客

·《我和我的祖國》
·《歌唱祖國》
·伏羲廣場《萬疆》
·鎬天空降伏羲廣場
·打鐵花震撼上演(二)
·打鐵花震撼上演(一)
·天水美好生活商品展
·《好客天水歡迎你》
 娛 樂

·2024春節檔新片預售強勁開局
·國慶檔新片總票房破10億元
·第十八屆中國長春電影節開幕(圖)
·北京電影節:展現文化多元與包容的魅力
·權威快報丨我國2023年春節檔電影票房達67.58億元
·張藝謀等主創獨家“揭秘”:從《滿江紅》到“滿堂紅
·破40億元!中國電影春節檔整裝再出發
·票房口碑雙豐收 “春節檔”電影市場開門紅
·春節檔電影總票房破20億!6部已上映新片票房全部破億
·兔年春晚:中國年輕人喜愛的“文化年夜飯”

 社 會
·網絡上“AI名人”泛濫 深度偽造之惡何解?
·記者來信:換一種思路治理城市“小廣告”
·首都機場警方對多起“不理性追星”行為依法處罰
·河南葉縣冷藏車違規乘人致8人窒息遇難
·當心!這些兒童玩具藏“狠活兒”
·“新中式”服裝為啥受追捧
·彩禮新規施行,多地判出“第一案”!
·這些博流量的直播行為涉嫌違法,小心得不償失!
·“紅通人員”王國慶騙取貸款案一審開庭
·“重慶姐弟墜亡案”被告人被執行死刑