螞蟻安全實驗室聯合浙江大學任奎教授團隊發布《人工智能安全白皮書（2020）》

人工智能Artificial Intelligence， AI在當代生活中，服務于人們衣食住行的方方面面，已不是陌生的技術名詞。在國家戰略層面，AI已成為迎接新一輪科技革命浪潮和產業變革機遇的重要引擎。在AI推動社會經濟各個領域從數字化、信息化向智能化發展的同時，也面臨著潛在的安全性威脅。對AI安全的前瞻性研究與布局，已是近年來學術界和工業界越發重視的課題。

近期，螞蟻安全天塹實驗室聯合浙江大學網絡空間學院院長任奎教授團隊，共同頒布了《人工智能安全白皮書2020》，從學界、業界的共同視角全方位闡述人工智能安全。該白皮書耗費近一年時間研究撰寫完成，完整版篇幅將近6萬字。

螞蟻安全天塹實驗室負責人劉焱介紹，此次《人工智能安全白皮書2020》的編寫聚焦于AI技術中模型、數據與承載系統的安全問題，首先介紹了AI模型、數據與承載系統面臨的安全威脅，然后逐一介紹針對這些威脅的防御技術，最后面向未來AI安全技術的發展趨勢，提出AI應用的一站式安全解決方案——AI模型安全開發生命周期（AISDL）。

螞蟻集團副總裁韋韜表示，“AI是數字新基建戰略的重要組成部分，但AI技術還面臨著很多的挑戰。比如今天的深度學習，就像一個有特異功能的孩子，有些事情做的非常好，比大人還好。但是你不知道他什么時候突然就不高興了，不做了;也不知道什么時候，他可能為了一顆糖果就被騙了。目前各行各業都在大力推廣AI的應用，但同時也要對AI技術所面臨的挑戰和風險有著清醒的認知。本次白皮書的發布，系統性地總結了學術界與工業界對AI安全與隱私保護技術的相關研究成果，希望能成為AI安全領域研究的重要參考，為推動行業共同應對AI技術所面臨的安全與隱私威脅，貢獻一份力量。”

《人工智能安全白皮書2020》也是“浙江大學-螞蟻集團金融科技研究中心”——“數據安全與隱私保護實驗”的研究成果之一。2019年，螞蟻集團與浙江大學合作共建的“浙江大學-螞蟻金服金融科技研究中心——數據安全與隱私保護實驗室”，共同研究數字金融面臨的數據安全與隱私保護問題，聯合推進前沿科技研究，聚焦安全多方計算、可信環境、數據安全等領域，探索新技術在大數據場景下的安全用，推動產學研協同和成果創新，培養適應未來需要的實踐人才。

浙江大學網絡空間安全學院院長任奎表示，“AI安全的命題是國家人工智能戰略背景下的長期命題，推動AI安全技術的切實發展，需要學術界和工業界的緊密合作。此次與螞蟻安全實驗室共同研究并發布AI安全白皮書（2020），正是學術界與工業界攜手合作的 又 一次成功實踐，希望這本白皮書的研究成果對學界和各行各業的AI安全工作都能有借鑒意義?！?/p>

螞蟻安全天塹實驗室

螞蟻安全天塹實驗室隸屬于螞蟻安全九大實驗室之一。螞蟻安全天塹實驗室致力于AI安全與隱私保護領域的研究、技術突破和人才培育，并以用戶隱私保護為核心任務，打造螞蟻集團全球領先的信息安全能力。