您的位置: 蕭山網 >  新聞中心 >  綜合新聞 >  國內 > 

                  女子地鐵內“不雅照”被瘋傳?罪魁禍首竟是AI!網友怒了:無底線!

                  [ 國內 ]    
                  2023
                  03-30
                  17:29

                  最近,#廣州地鐵#登上熱搜。起因竟是一女子在地鐵上的裸體照片被瘋傳,事實上,這張裸體照并非真實照片,而是被AI技術一鍵脫衣生成的……

                  圖片

                  視頻來源:新聞深呼吸


                  女子照片被AI一鍵脫衣

                  當事人:會進行相關的維權處理

                  據涇渭視頻報道:近日,廣東廣州,一女子在地鐵上的照片被AI一鍵脫衣,造謠圖在網絡廣泛傳播引發關注。

                  事實上,照片的女主角是小紅書的一名博主,而所謂的“裸照”則是她去年7月在平臺分享的一張照片。原圖中她衣著正常,完全沒有任何不妥之處,但卻被有心之人用AI軟件一鍵脫衣,故意全網散播。

                  目前博主已在評論區回復各位網友,稱會進行相關的維權處理。

                  圖片

                  值得欣慰的是,在這則圖文分享的評論區,已經有眾多網友評論提醒博主被造謠的事實,催促其盡快報警,也有人熱心地幫助其辟謠澄清。

                  圖片圖片圖片


                  死灰復燃的AI脫衣

                  偽造謠言百口莫辯

                  早在2019年,國外程序員就開發出了DeepNude這款使用AI技術“脫衣”的應用,通過使用類似deepfakes的深度學習技術,DeepNude使用女性裸照訓練之后可將圖像中女性身上的衣服替換掉,創造出幾可亂真的合成裸照,也就是大家所說的“一鍵脫衣”。

                  后因廣泛的輿論爭議,開發團隊選擇將該項目關閉。

                  但記者發現在百度網站搜索“AI脫衣軟件”仍然會出現眾多“替代品”。

                  圖片

                  有些非法在線網站甚至公然介紹,該網站可以“使用AI算法的強大功能為照片脫衣服”,并提供“免費下載,免費試用”的功能。

                  圖片

                  有些甚至在產品說明頁中有著詳細的說明和“優勢”“亮點”。

                  圖片

                  更為惡劣的是,即使上傳的是男性的照片,這些網站仍會將照片上的人物P上女性的裸體。

                  有博主發視頻表示,在現今AI強大的算法下,時間、地點都對得上的情況下,偽造的謠言讓普通人百口莫辯,而唾手可得的脫衣軟件則更讓造謠者有機可乘。


                  網友憤慨

                  對此,網友紛紛表示AI作為科技應該應用在正道上,而不是這些違反倫理道德和法律法規的地方,相關部門必須加以嚴懲。

                  圖片

                  圖片


                  AI換臉換裝

                  或涉嫌刑事犯罪

                  近年來,“AI換臉”走紅網絡,一些“AI換臉”的App使用明星的圖片制作換臉視頻進行推廣,其趣味性背后暗藏不少法律風險和侵權糾紛。

                  明星劉昊然就曾在2021年8月26日發博打假,控訴網上流傳的某淫穢視頻為AI換臉技術偽造,并向警方報案。

                  圖片

                  專家表示,在《網絡安全法》第二十七條的規定當中,特別強調,明知他人實施危害網絡安全活動的,不能夠為他提供技術支持,如果情節嚴重,還會構成幫助信息網絡犯罪活動罪等刑事犯罪。


                  三部門規范深度合成服務

                  換臉、換聲、三維重建、智能對話……深度合成服務已在國外互聯網社交媒體中廣泛應用,催生了美顏美妝、影視制作、智能客服、虛擬主播、元宇宙等應用服務。

                  據“網信中國”2022年12月11日晚消息,中國國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》(以下簡稱《規定》),自2023年1月10日起施行。

                  圖片

                  三部門在答記者問中表示,《規定》中所稱深度合成技術,是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。

                  其中也包括人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術,圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術,三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術等。

                  中國科學院信息工程研究所所長孟丹表示,從技術進步的角度來說,深度合成技術應用的初衷是讓生成合成內容更逼真,但深度合成技術在愈趨“智能”的同時,也不可避免地帶來更多的安全風險,除深度偽造風險外,還包括生成合成信息內容帶來的個人信息泄露、侵犯人格權和知識產權等他人合法權益等風險。

                  中國科學院自動化研究所所長徐波表示,《規定》分析梳理了深度合成活動邊界,明確了深度合成技術定義,對深度合成服務提供者、技術支持者和使用者以及應用程序分發平臺等主體應履行的責任義務作出規定。

                  《規定》還針對利用生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息,明確了算法備案、安全評估、顯著標識等強制性要求及適用情形,如規定深度合成服務提供者和技術支持者若生成或編輯生物識別信息,必須進行算法安全評估。

                  徐波還表示,《規定》對《互聯網信息服務算法推薦管理規定》關于生成合成類算法標識相關要求作出細化,明確采取技術措施添加不影響用戶使用的標識,如可能導致混淆或者誤認的,還應當在合理位置、區域進行顯著標識等要求,規定任何組織和個人不得采用技術手段刪除、篡改、隱匿深度合成標識。


                  媒體評論:

                  惡心的不是技術而是人

                  隱私不雅照片在互聯網上被曝光,對于任何人而言,都是對個人權益的肆意侵犯,也可能帶來一連串的不良后果,嚴重的時候,可能導致當事人“社會性死亡”。

                  而利用偷拍加軟件處理,就可以制造他人的不雅照片和視頻,這種極度輕易的造假,無疑是非常邪惡和可怕的,可以說是誅心之舉。

                  被“一鍵脫衣”造謠的人,可能在毫不知情,也沒有任何不當之舉的情況下,被人以惡意的眼光審視和意淫,名譽被損毀,社會評價被降低,可能還會影響到正常生活和工作等等,簡直可以說是無妄之災。

                  這種所謂“一鍵脫衣”的技術,其實在四五年前就已經在網絡上出現了,其一開始的主要功能就是簡易“換臉”。

                  這類技術的應用門檻降低后,更多人可以參與進來,以娛樂玩梗的方式進行傳播,但是在應用過程中,被一些不法分子鉆了漏洞,用于制造不雅照片和視頻,在網絡上傳播和售賣,以此牟利或實施詐騙。

                  這種換臉軟件剛剛流行起來的時候,很多網友對個人信息的保護意識并不強,覺得就是玩玩而已,以至于這類軟件收集了大量的人臉信息,也埋下了諸多的安全隱患。很多女性在知道這種軟件的存在后,都感到惶惶不安,因為你不知道什么時候,自己的臉就會被盜取、拼接,成為滿足他人無恥欲望的素材和非法牟利的工具。

                  技術本身并沒有善惡之分,但是一旦有人惡意地使用技術,就可能造成非??膳碌暮蠊?。所謂的AI換臉技術,本身就一直存在合法性的爭議,極其容易成為作惡的利刃,對無辜者造成不可挽回的傷害。

                  更令人毛骨悚然的是,在一些換臉不雅視頻的評論區,始作俑者不但意識不到自己行為的錯誤,還威脅他人說,要做出更勁爆的東西,完全是像網絡禿鷲一樣,用他人的痛苦,來澆灌自身的貪婪和猥瑣。如果這樣的行為不能得到遏制和處罰,各種對技術的不當運用可能就會泛濫,將會對社會造成更大的危害。

                  呼吁對這類軟件進行嚴格監管和取締,對制造和傳播不雅視頻的人依法處理,并不是單單是維護女性的合法權益,更是維護我們每一個人的信息安全。任何一個正常的、善良的、珍惜名譽的人,都不希望自己的臉被拼接在一些不堪入目的視頻上,在網絡上大肆被傳播。

                  所以,抵制這種充滿惡意的技術,每個人都有不可推卸的責任。

                  今年1月10日開始施行的《互聯網信息服務深度合成管理規定》中提出,要對深度合成技術應用提出規范。那么,法律規范是至關重要的一環。

                  希望各地的公安機關和監管部門都能盡快出手,打擊和清理不法軟件,依法懲處違法犯罪分子,斬斷背后的黑灰產業鏈,讓新技術能在法治軌道上健康發展,為人類生活謀福利,而不是讓新技術成為傷害無辜者、污染社會風氣的定時炸彈。


                  來源:蕭山網綜合紅星新聞、極目新聞、新聞晨報、央視網、中國青年報、涇渭視頻、中國新聞網、網信中國、新浪微博、網友評論等  

                  作者:  

                  編輯:蔡少鳴
                  相關新聞
                  推薦閱讀
                  厨房玩弄丰满人妻系列,在线观看播放理论片,欧美XXXX做受欧美69,久久精品国产亚洲AV不卡