導讀：北京商報訊（記者劉四紅實習記者董晗萱）5月21日，在2023清華五道口全球金融論壇上，北京瑞萊智慧科技有限公司（以下簡稱瑞萊智慧）高級副總裁朱萌發言。 朱萌指出，發現很多金融機構的人臉識別系統存在被假臉識別和特殊花紋破解的安全問題，這些都是金融機...
北京商報訊（記者劉四紅實習記者董晗萱）5月21日，在2023清華五道口全球金融論壇上，北京瑞萊智慧科技有限公司（以下簡稱“瑞萊智慧”）高級副總裁朱萌發言。
朱萌指出，發現很多金融機構的人臉識別系統存在被假臉識別和特殊花紋破解的安全問題，這些都是金融機構被實際樣本攻擊的案例。
那如何應對大模型時代的AI安全風險？朱萌進一步提出了穩固三角形的概念，即構建“智能測評、攻擊應對以及AI安全防御”的三角模型。從發現風險、處置風險和防范風險三個視角，系統提升金融領域在新技術條件下的安全水平。
發現風險就是對人工智能的系統展開安全評測，這是當前的一個重點、也是一個難點。瑞萊智慧發揮了過去幾十年在人工智能安全領域積攢的經驗，采用檢測方法，及時發現所有人工智能模型的弱點。簡單來說就是提前發現，防止這些模型帶病上線、帶病上崗。
第二是處置風險。通過構建人工智能安全防火墻措施，形成針對各類對抗攻擊或者數據投毒等新時代攻擊方法的應對能力，并且不斷地根據攻擊方法形成新的應對方法。
第三是防范風險。針對未來預期到的大規模人工智能研發將應用在實際的工作場景中，瑞萊智慧構建了人工智能安全的靶場，使得安全因子貫穿整個人工智能的研發和過程當中，從源頭上提升人工智能的安全防御能力。
朱萌表示，金融領域網絡安全的風險伴隨著人工智能的技術發展進入到大模型時代之后，安全風險、維度、影響范式都可能和過去的網絡時代不一樣，必須提早應對，避免出現能力代差。未來人工智能在保障產業發展、社會安全、生活安全中都會成為剛需。聚焦到金融領域，要持續加強工作，打造精細化、自動化、標準化的能力，聯合金融機構、科技提供方，積極參與人工智能安全金融行業標準和規范研討，為行業的安全可控發展貢獻力量。
