5月22日，“AI詐騙正在全國爆發”話題沖上熱搜第一，引發網友熱議。

據每日經濟新聞報道，近日包頭警方發布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。

過程是這樣的，4月20日，郭先生的好友突然通過微信視頻聯系他表示，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號，聲稱已經把錢打到郭先生的賬戶上，還把銀行轉賬底單的截圖通過微信發給了郭先生。

【資料圖】

基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上，結果最終被AI換臉技術所騙。

而據湖北網警巡查執法5月6日消息，AI技術改變詐騙，新騙局來襲后，詐騙成功率竟接近100%。

第一種是聲音合成。騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

第二種是AI換臉，因為人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。

海外方面，在早些時候，三星在引入ChatGPT不到20天里，發生了三起半導體機密資料外泄事故，包括兩起“設備信息泄露”和一起“會議內容泄露”。

3月31日，意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，限制其開發公司OpenAI處理意大利用戶信息，并開始立案調查。ChatGPT被指控不遵守有關個人數據的立法并且沒有驗證未成年用戶年齡的系統。

海內外積極因對AI風險

5月19日消息，英國計劃與OpenAI和DeepMind的高管舉行關于AI風險的會議，英國的人工智能峰會最快可能在本月舉行。

5月18日，科學技術部部長王志剛表示，中國積極應對人工智能可能帶來的風險挑戰，推進人工智能倫理治理，發布人工智能治理原則和倫理規范，向全球表明負責任人工智能的鮮明立場。

5月16日，OpenAI CEO Altman呼吁國會對人工智能（AI）系統采取安全標準。他認為，政府可以將發放牌照和測試的要求結合起來，監管開發AI模型的公司。

4月11日，據《華爾街日報》報道，拜登政府已經開始研究是否需要對ChatGPT等人工智能工具實行檢查。作為潛在監管的第一步，美國商務部4月11日就相關問責措施正式公開征求意見，包括新人工智能模型在發布前是否應經過認證程序。征求意見期限為60天。

4月11日，國家互聯網信息辦公室發布《生成式人工智能服務管理辦法(征求意見稿)》，向社會公開征求意見。該意見稿聚焦生成式人工智能，在算法設計、訓練數據選擇、模型生成和優化、提供服務、生成內容、個人信息和隱私保護方面均做出了限制。

據中信證券研報，AI可能引發的安全問題主要體現在以下方面：

1）大模型訓練、調優所使用數據的安全問題。

比如前文所述意大利個人數據保護局因年齡審核、數據和隱私安全等問題，宣布限制ChatGPT運營；加拿大聯邦隱私監管機構宣布，OpenAI涉嫌“未經同意收集、使用和披露個人信息”。

2）大模型生成內容的可靠性、使用方式等問題。

中信證券指出，由于大模型在生成內容上的基于概率統計的原理，其內容可靠性可能存在問題，如引用的客觀數據是否是最新且來源可靠的，此外，由AI生成的新聞圖片出現在互聯網中，真假難辨，或引發傳播風險；歐洲刑警組織提示稱，ChatGPT可能被濫用于網絡釣魚、虛假信息和網絡犯罪。

華創證券還提到，網絡攻擊方面，搭載了AI能力的黑客如虎添翼，ChatGPT的強大功能降低了網絡攻擊者用于制作惡意軟件和降低技術門檻，使得攻擊手法轉向分布式、智能化、自動化，智能化對抗將成為主要的攻防形式。

哪些技術有望用來應對AI風險？

中信證券指出，由于大模型在訓練、調優數據過程中涉及用戶數據調用，伴隨生成式AI技術熱潮掀起，在數據采集、傳輸、存儲、處理、共享、銷毀等數據生命周期各階段，通過加密、數據水印等技術手段保護用戶數據特別是隱私成為當務之急。

針對大模型生成內容的可靠性、使用方式，中信認為，應對AI生成內容進行標記，同時對AI生成內容的可靠性及傳播鏈路進行把關。

安信證券提到，當前對AI生成內容的判別主要可以由兩種技術途徑來完成：

1）通過算法識別AI模型生成內容的特征，從而鑒別相應的內容是否由AI生成。根據公司公告披露，美亞柏科正在布局相關取證技術，比如對人工智能合成、生成的視頻圖像內容檢測鑒定。

2）通過對AI生成的內容添加特定的標識，來區分相應內容是否由AI生成，這一方向的技術手段包括數字水印等相應的加密技術。

國盛證券指出，AIGC可能生成的虛假信息，需要類似換臉甄別的技術來鑒別圖像等信息是否由AI生成；數據隱私方面，隱私計算可以在不暴露數據的情況下進行計算和分析，以實現數據隱私的保護。

隱私計算是在保障數據隱私安全的同時，實現數據分析計算的技術體系，其價值是打破數據孤島,實現數據的可信流通和價值挖掘。國泰君安稱，隱私計算在政策和需求的雙輪驅動下不斷發展壯大，到2025年，中國隱私計算市場規模有望突破百億級，市場空間巨大。

國盛證券還提到，安全問題不能僅靠AI廠商自律解決，還需要外部力量監督。全球AI監管處于探索階段，歐盟、英國、美國相關法律法規與指導意見逐步推進。人工智能趨勢不可逆轉，與科學技術的高速發展相比，現有法律和倫理仍處于不斷起步探索的階段。

風險提示及免責條款 市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。

關鍵詞：