您的位置: 蕭山網 >  新聞中心 >  綜合新聞 >  浙江 > 

                  潮聲丨用AI之“道”降伏AI之“魔”!浙江的“一等獎”為何花落這一成果?

                  [ 浙江 ]    
                  2023
                  11-14
                  12:24

                  人工智能帶來的顛覆性安全挑戰正在加快凝聚人們的共識。

                  11月8日,習近平主席向2023年世界互聯網大會烏鎮峰會開幕式發表視頻致辭指出,“我們倡導安危與共,構建更加和平安全的網絡空間”“深化網絡安全務實合作,有力打擊網絡違法犯罪行為,加強數據安全和個人信息保護”,在全球引發熱烈反響。

                  兩天后,2022年度浙江省科學技術獎揭曉,由螞蟻集團聯合清華大學攻克的安全科技領域研究成果《面向海量交易的分布式協同風險防御關鍵技術與系統》(以下簡稱,分布式風險防御技術),獲得了浙江省科學技術進步一等獎。

                  眾所周知,中國科學院區域創新能力報告前10的科創大省的“一等獎”,歷來是國家科技大獎的重要“候選人”。今年浙江這個一等獎,又因切中時代痛點,而更加備受矚目。它究竟練成了什么“獨門秘技”扛住了愈加嚴峻的安全風險與挑戰?又預示著平臺經濟乃至浙江省在國際最前沿科技探索活動中,具備多強的實力、怎樣的擔當?

                  日前,記者采訪了該項目的主要專家團隊:螞蟻集團副總裁、大安全事業群總裁趙聞飆,清華大學計算機系副主任徐恪,螞蟻集團研究員、大安全事業群首席科學家王維強。他們的回答是:用AI之“道”,對抗AI之“魔”。

                  大模型時代,給安全防御帶來巨大挑戰 受訪者供圖

                  “絕頂功夫”:左右互搏,練成“金剛不壞”的AI之身

                  先來看看由多位院士組成的鑒定委員會是如何評價的——

                  總體評價:該項目系統復雜度高、問題難度大,技術創新性強;

                  對“一個系統”和三項核心技術的評價:其端邊云分布式協同風險防御體系為國際首創,基于對抗學習的人工智能模型抗噪防御技術、可擴展的在線動態圖表征對比學習技術、知識驅動的自適應多維主動詢問風險分析技術達到國際領先水平。

                  “院士們的鑒定有兩層含義?!毙煦∠蛴浾呓忉尅?/p>

                  其一是“國際首創”,指的是端邊云分布式協同技術,比如中國的移動支付技術和需求全球領先,需要協同移動端、云計算等技術,還要保障各方的隱私數據安全,這種協同端、邊、云的分布式協同風險防御體系,在國際上此前還沒有出現過。

                  其二是“國際領先”,指的是針對人工智能驅動的對海量數據的攻擊,人工防御已經不再現實,只有通過采用人工智能抗噪防御、在線動態圖表征對比學習等手段,對風險漏洞進行智能化的自動檢測,堵住隨生隨滅的漏洞。

                  由人工智能驅動的“魔”,在大模型時代,更是對傳統防御技術形成了“降維打擊”。不僅可能引發技術崩潰,更帶來一系列社會、倫理、道德、法律等全新挑戰,“如果不加以有效應對,互聯網的風險敞口會像決堤一樣?!壁w聞飆這樣形容。

                  會有內生安全問題。比如“過分依賴數據”、“數據偏見”等。如果給數據庫不斷投喂帶有特定價值觀的數據,那么很容易就產生“數據偏見”、“觀點霸權”等問題。

                  前不久,某公司推出的人工智能學習機被發現一篇課文《藺相如》的讀后感中,含有歪曲歷史等違背主流價值觀的內容。當事企業事后查明,有毒內容是第三方引入的,也就是無意或有意向數據庫中引入了有害數據,使得模型中毒,欺騙了機器學習模型,輸出含毒結果。

                  也會有衍生安全問題。比如惡意攻擊者借助人工智能技術,可以生成假照片、假護照等實現AI偽造,還可以模仿人臉、聲音等進行詐騙,甚至逼真模仿身份騙過安全管理員,取得頂級密鑰?!叭斯ぶ悄芗夹g脆弱性被惡意利用,就會讓安全問題變得更加棘手?!壁w聞飆說。

                  這樣的事件時有發生。今年,就有杭州市民借助ChatGPT杜撰限行取消新聞,鬧得滿城風雨。此外,據業內不完全統計,僅2022年,我國AI詐騙案件就達到了50萬件,涉及金額超過100億元。

                  用AI對抗AI來實現“邪不壓正”,首要任務是抗得住來自四面八方仿真度極高的智能攻擊,練就“金剛不壞”之身。專家們從《射雕英雄傳》的周伯通“左右互搏”功夫中受到啟發。

                  在螞蟻集團的技術中,也實踐了左右手互搏術:一邊模擬攻擊、一邊自衛防守?!拔覀冊陂_發和迭代分布式風險防御技術時,每天都會模擬各種各樣的攻擊?!蓖蹙S強說,假設一個真實的人,一天能模擬200次針對AI模型的攻擊,那么螞蟻集團現有的技術力量已經可以實現2500個人每天模擬發起50萬次攻擊。

                  在海量的一攻一防之中,螞蟻集團練就了風險防御的“絕頂功夫”,支撐風險防御技術與系統歷經了六次迭代,最終升級為可信AI+大數據驅動的智能安全防御系統,在網絡安全這條賽道上,跑到了全球領先的位置。

                  螞蟻集團研發的摩斯隱私計算一體機受訪者供圖

                  厚積薄發:打造數實融合的安全基石

                  幾個月前,徐恪在首屆國際基礎科學大會上,有了一個新發現:這個大會把理論計算機與信息科學也列入了基礎科學的范疇。他說:“的確,從工程到制藥,千行百業都在利用大數據、云計算提升生產力?!?/p>

                  基于中國數字經濟的領先優勢、制造業雄厚的實力,“數實融合”成為當前數字經濟發展的“必選項”,而新型的網絡安全風險給數實融合帶來了前所未有的挑戰。螞蟻集團和清華大學聯手取得這個“一等獎”的巨大價值就此凸顯。

                  “以前AI只是一個工具,現在AI正在引領加強原創性、引領性科技攻關,它不僅僅只是一項新技術,更是開啟一個新世界的密鑰,最終將會嵌入整個經濟運行體系中,而我們開發的分布式風險防御技術就是為了打造一座‘數實融合’的安全基石?!壁w聞飆說。

                  “安全科技是數字技術的重要組成,同樣要做到頂天又立地?!痹谮w聞飆看來,就像一個硬幣的兩面,安全科技的突破和經濟效益的提升,就是矛盾統一的,安全不僅僅是防御,更能促進發展和創新。加速基礎科學研究以尋求顛覆性突破,探索人工智能與安全技術深度融合,是應對當前安全挑戰的華山一條路。

                  新型網絡安全風險已經存在于數據要素流轉的所有環節中。螞蟻集團從最初因為海量交易數據的安全而涉足安全領域,一步步從專家經驗,到淺層機器學習、深度學習、預訓練模型,走到今天的基礎大模型的演變和應用,歷經6次迭代,步入了“國際首創”的無人區。自身也從企業需求出發,自覺扛起了引領性科技創新的國家戰略擔當。螞蟻集團已與全球30多所知名院??蒲泻献?,并組建了九大安全實驗室,開展前沿安全科技研究。

                  在數據流傳的各個關鍵節點,螞蟻集團安全科技都有出色的獨創性成果。

                  來自螞蟻集團天穹實驗室的團隊,在天府杯競賽現場受訪者供圖

                  比如,能夠自動挖掘關鍵數字化基礎設施及供應鏈中潛在未知漏洞的“天穹實驗室”,獲得了國家網絡安全優秀創新成果大賽、天府杯國際網絡安全大賽等多個獎項;

                  再如,用獨特的隱私算法實現數據“可用不可見、可算不可識”的“隱語”系統,已經廣泛運用到了金融、醫療等領域,有效防范金融詐騙事件發生。

                  “數字時代,技術變革太快了,沒有一招鮮的解決方案了?!蓖蹙S強說,尤其是大模型面世后,在訓練過程中需要安全監控,在流入市場時需要質檢,在進入市場后仍然需要可控的使用方式。

                  針對大模型時代的機遇與挑戰,螞蟻集團正通過大模型的涌現能力探索下一代安全科技:一是用大模型保障安全,比如基于安全基座模型能力,持續升級全方位全鏈路的智能風險防御體系;二是保障大模型技術本身的安全,螞蟻集團自主研發了大模型安全一體化方案“蟻天鑒”,同時也在今年世界人工智能大會上獲得了鎮館之寶。

                  所謂“蟻鑒”,就是大模型安全測評方案,通過誘導式對抗生成技術,對大模型進行誘導式問答,找出弱點和漏洞。所謂“天鑒”,就是大模型風險防御方案,基于智能風控技術,幫助大模型擋住惡意提問。

                  “一旦大模型在細分領域大規模應用,那么‘蟻天鑒’就有可能成為另一塊基石?!壁w聞飆認為,安全科技研究需要長期堅持、久久為功。面對生成式人工智能正在帶來的深度智能時代,安全科技需要隨著人工智能的對抗升級而不斷迭代、不斷完善,螞蟻集團與清華大學等專家學者要做的還遠未窮盡。

                  "數實融合”需要一塊堅硬的安全基石受訪者供圖

                  向實而生:面向應用和生態,高效產業協作

                  剛剛過去的雙十一,一些中小企業也許會有這樣的困擾:在網絡平臺投放的營銷成本,都被薅羊毛群體薅走,投放效果如泥牛入海。還有流量造假、數據欺詐等等諸多痛點。

                  “我國有幾千萬中小微商家和企業,都需要提升數字化經營的安全能力?!蓖蹙S強說,螞蟻集團一直在堅持向實而生,最典型的是通過免費服務的方式,將諸多安全能力給到生態小微企業,幫助他們解決數字化轉型中“不敢”和“不會”的問題。

                  在王維強看來,數字科技企業向實而生,有助于增強實體經濟的韌性和活力,也有助于充分激活數字技術的價值。因為單打獨斗已經不適應這一時代的科技創新和產業變革,安全更需要面向應用和生態,高效技術和產業協作是抓住技術變革機遇的關鍵。

                  向實而生,就能在整個生態中,找到更多數實融合的結合點。

                  近一兩年,不少手機廠商與螞蟻集團合作研發了一項名叫“可信隱私沙盒”的技術,這個沙盒部署了用于支付寶科技反詐的技術能力。這些沙盒當中,只要部署“電信詐騙可疑感知模型”,就能使得風險感知、電詐定性均可在用戶個人的手機上完成,從而實現更有效的源頭上風險治理。

                  這種向實而生的拓展性,是可以預見的無限廣闊。單單這款“可信隱私沙盒”,通過“科技創新+產業聯防”的方式,可以通過手機系統進一步賦能各類應用,提高整體風控水平,未來還會運用到更多場景、更多產業中去。

                  數字技術向實而生,擁有巨大的應用藍海 受訪者供圖

                  “向實而生的數字技術,確實正在成為實體經濟的基礎設施?!毙煦〗榻B,他曾創作《賽博新經濟》一書,重點闡述了互聯網產生以來對經濟系統帶來的重要影響,由螞蟻集團所代表的數字經濟中堅力量,已經成為經濟運行體系中的基礎性支撐,在許多領域向世界輸出了合作范例。

                  事實上,螞蟻集團就在發揮這樣的作用。

                  橫版、豎版、圓形、三角形,工作證、學生證……在擁有30多種官方證件的菲律賓,如何讓市民用上安全的電子錢包?

                  “針對菲律賓證件繁多的情況,我們設計了一套通用開發框架,來適配不同版式的證件,把注冊時間由原來的最快5天縮短到3分鐘左右的時間?!壁w聞飆所舉的案例,是螞蟻集團利用技術優勢幫助東南亞地區進入移動支付時代的一個縮影。

                  為了響應共建“一帶一路”,螞蟻集團輸出身份安全、業務安全、產業風控、合規安全等全鏈路的安全風控產品與服務,支撐印尼、馬來西亞、菲律賓等14個國家和地區的移動支付安全保障及數字金融普惠。

                  “走出去”背后的技術支撐,則是以人像目標為核心的視覺智能研究。今年,由螞蟻集團與清華大學共同完成的“無約束人像目標智能感知與理解”,獲得了“吳文俊人工智能自然科學獎”一等獎。這項研究揭示了人臉目標“不變性特征學習”的重要性等三大重要科學發現,向行業開放的人臉識別平臺,在實現把人臉身份識別精度大幅提升的同時,還可將誤報率降低4倍。目前,螞蟻集團通過這項技術成果研發的可信身份認證產品與服務,已經成為多國互聯網APP的第一道“門禁”,并且覆蓋了電信、金融、公眾服務等10多個行業及領域。

                  更有想象的向實而生正在發生。隨著東南亞地區移動支付能力的建設,螞蟻集團在中國與東南亞、東南亞與東南亞之間,打開了一條資源要素流動的通道,這是提升開放能級的關鍵基礎設施,甚至可能將中國的企業、中國的產業帶去更廣闊的天地。



                  來源:潮新聞  

                  作者:  

                  編輯:值班小編
                  相關新聞
                  推薦閱讀
                  厨房玩弄丰满人妻系列,在线观看播放理论片,欧美XXXX做受欧美69,久久精品国产亚洲AV不卡