隨著人工智能技術越來越深入與各行各業融合，其廣泛應用也伴隨著安全性及可控性等治理問題。《新一代人工智能發展規劃》明確提出，人工智能“全面支撐科技、經濟、社會發展”的同時，要“預判人工智能的挑戰”，“最大限度防范風險”，“確保應用上安全可控”。
本研究方向致力于提升面向產業、經濟、社會領域的人工智能安全和治理水平，為防范人工智能風險、規范人工智能應用、促進數字經濟健康發展提供重要支撐。人工智能安全方面，研究人工智能系統的安全、可靠、可控，包括應對人工智能技術及系統內在脆弱性，以及避免其內在脆弱性引發外部安全問題。工程研究中心將致力于構建人工智能算法、數據、系統與應用的安全防護體系，重點研究人工智能算法魯棒性、人工智能數據泄露防范、人工智能系統安全驗證與測試、人工智能系統漏洞挖掘與防御等。人工智能治理方面，重點研究人工智能應用中的信息保護與監管，以及人工智能內容偽造等風險的防范。人工智能賦能網絡空間治理方面，研究將人工智能技術應用于網絡空間治理，以精準化、高效化地實現網絡信息安全風險的識別及針對風險的關聯分析和挖掘發現。