AI安全市場前景如何 AI安全行業市場發展分析2023

• 方蔓桃 2023年4月25日 來源：百度 521 28
• 繁體

日前，國家互聯網信息辦公室就《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)公開征求意見，提出生成式人工智能產品提供服務前需申報安全評估和算法備案。從去年紅極一時的AI繪畫到近期備受關注的ChatGPT，人工智能生成內容(以下簡稱“AIGCA

AI安全市場前景如何 ?我國人工智能產業正在與實體經濟深度融合，成為經濟社會發展新的增長引擎。國家先后出臺《新一代人工智能發展規劃》《科技部關于支持建設新一代人工智能示范應用場景的通知》等政策，助力人工智能產業發展。中國信通院測算，2022年我國人工智能核心產業規模達5080億元，同比增長18%。據預測，到2030年，我國人工智能產業規模將達到1萬億元。

日前，國家互聯網信息辦公室就《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》)公開征求意見，提出生成式人工智能產品提供服務前需申報安全評估和算法備案。從去年紅極一時的AI繪畫到近期備受關注的ChatGPT，人工智能生成內容(以下簡稱“AIGC”)熱度不減。然而，伴隨著AIGC應用的不斷落地，其暴露出來的數據安全、隱私保護等問題也日益顯現。

據中研普華產業研究院出版的《2022-2027年中國AI安全行業市場全景調研與發展前景預測報告》統計分析顯示：

AI安全行業市場分析

信息技術推動了萬物互聯，也極大地推動世界向更高效、環保、便捷的方向前進。特別是大數據、云計算、區塊鏈、人工智能等信息技術迅速發展，與實體經濟各行業領域進行深入交叉融合。

隨著人工智能技術在金融場景的應用不斷深化，數據、算法與應用層的安全可控問題逐漸凸顯。當前數據安全問題仍然十分嚴峻，特別是信息惡意獲取、篡改、偽造和亂用，成本級低，大規模的數據泄漏時有發生，數據安全應得到全世界的廣泛關注。

2022年全球人工智能收入預計同比增長19.6%，達到4328億美元，包括軟件、硬件和服務。預計2023年可突破5000億美元大關。

AIGC是基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的人工智能技術。據Gartner預測，到2025年，AIGC將占所有生成數據的10%。

由于AIGC技術需要大量的數據來進行訓練和優化，以ChatGPT為例，GPT3直接把數據模型參數量從15億提升到1750億，接近了人腦中神經連接的數量水平。然而，海量的數據也暴露出了更大的數據安全風險。

研報指出，生成型人工智能可能在獲取數據時侵犯知識產權，在數據獲取與保存上存在一定法律風險，生成內容被濫用可能帶來巨大的伴生風險。

在人工智能軟件分支行業，人工智能應用程序占2021年上半年支出的47%，其次是人工智能系統基礎設施軟件(35%)。在增長方面，人工智能平臺預計表現最佳，五年復合增長率為34.6%。增長最慢的部分是人工智能系統基礎設施軟件，其五年復合增長率為14.1%。

在AI應用程序分支，AI ERM預計在未來幾年內保持最快的增長速度。人工智能生命周期軟件五年年均復合增長率為38.9%。

數據、算力、算法和知識、運用、理論六個要素彼此依賴，共同構成了我國人工智能2.0發展的新生態。其中，數據的地位不言自明。

然而，在人工智能不斷走入人們的工作和生活場景時，數據的采集、存儲和應用也越來越面臨諸多風險。概括來說，數據安全問題體現在五個方面：可復制、易泄露、來源廣、危害大、監管難，這是由數據的特性決定的。

在具體危害表現上，一方面，最常見的是對數據保密性的侵害，如在金融領域，通過網絡竊取人工智能系統用戶的交易賬單、理財情況來了解其個人資產狀況和基于在線行為的支付意愿，從而快速有效地定位金融詐騙的受害者和目標群體;或是通過各種網絡漏洞，竊取大量用戶的指紋、虹膜、面孔、身形等個人隱私信息數據用于犯罪;也有一些手機應用軟件違法違規收集用戶個人信息等用于商業目的。

當前，新一輪科技革命和產業變革正在萌發，在5G、大數據、云計算、深度學習等新技術的共同驅動下，人工智能(AI)作為新型基礎設施的重要戰略性技術加速發展，并與社會各行各業創新融合，引發鏈式變革。特別是在網絡空間安全防護領域，人工智能在威脅識別、態勢感知、風險評分、惡意檢測、不良信息治理、騷擾詐騙電話檢測、灰黑產識別等方面有其獨特的價值和優勢，應用需求呈現跨越式發展，產生了顯著的溢出效應。

AI安全行業市場發展前景分析

作為數字時代“抵御風險”的關鍵能力，AI安全可信技術的研究和應用，將被廣泛地應用于反欺詐、反洗錢、反賭博、數字身份識別、企業聯合風控等領域，極大地助力企業提升風險控制能力。

AI安全作為新型基礎設施的重要戰略性技術加速發展，并與社會各行各業創新融合，引發鏈式變革。特別是在網絡空間安全防護領域，人工智能在威脅識別、態勢感知、風險評分、惡意檢測、不良信息治理、騷擾詐騙電話檢測、灰黑產識別等方面有其獨特的價值和優勢，應用需求呈現跨越式發展，產生了顯著的溢出效應。

目前隱私計算技術提供方的商業模式主要分為平臺建設與數據運營兩大類。在未來，平臺建設不僅可以在現有的金融、通信、政務等核心行業的基礎上繼續擴大，也可以在醫療、能源、交通等創新領域進行拓展。對于數據運營而言，從傳統數據集或API調用轉向隱私計算模式進行升級改造將是未來的發展趨勢。根據這兩類商業模式的相關數據進行測算，預計到2025年我國隱私計算市場規模將達到百億元。

2023年1月10日，360天樞智庫、天津智慧城市數字安全研究院、網絡空間國際治理研究中心三方聯合發布《全球人工智能安全治理》報告，報告站在全球視角的宏觀高度縱覽、分析和解讀人工智能安全治理問題，提出人工智能發展面臨十大安全挑戰，旨在探索既能發揮人工智能技術效益，又能控制其安全風險和負面影響的治理之道，是中國學術界和產業界對人工智能發展與安全的一次思想碰撞與深度探索，對人工智能安全治理具有積極指導意義。

在人工智能加速智能化變革的同時，針對人工智能的倫理規范、風險框架、以及治理理念和模式的探索成為各國學術界和政策界的重點工作。360首席安全官、天津智慧城市數字安全研究院院長杜躍進稱，人工智能作為中、美、歐等國家或地區都在積極發展的關鍵新興技術，其在發展過程中所產生的安全挑戰也更為復雜多元，世界主要國家和地區已經將安全治理列為各自人工智能戰略的優先事項。

目前，各國普遍關注的人工智能安全問題共十類，包括網絡安全問題、企業合規問題、可解釋性問題、隱私安全問題、聲譽和倫理問題、未來勞動力問題、公平性問題、人身安全問題、社會穩定問題、以及國家安全問題。而以上挑戰映射到人工智能的研發和應用過程，又可以劃分為人工智能自身安全、衍生安全、以及人工智能賦能安全等核心安全挑戰。

在國家層面，需要進一步強化相關政策引導和立法規范。中國信息經濟學會副理事長、廣州大學網絡空間安全學院教授齊佳音表示，《征求意見稿》為AIGC的研發和應用第一次立了規矩，使得AIGC的研發和應用有了規制框架，對于規范和引導這一領域的發展具有十分重要的積極作用。

報告顯示，作為一種數字技術，人工智能“雙刃劍”特征明顯，不僅自身存在數字安全威脅和隱患，隨著人工智能工程化、場景化、平臺化落地不斷加快，人工智能安全需求已經超越單純技術范疇。面對日趨復雜的安全挑戰，人工智能安全治理難以一蹴而就，只有在實踐中不斷摸索，才能將人工智能安全風險遏制在可控范圍。

報告對各國人工智能安全治理模式進行了深入剖析，針對上述問題，報告主要發現：美國流派在人工智能安全治理上采取的手段是在人工智能技術部署、使用與監測的全過程中都進行驗證與監管，建立與之配套的規范體系;歐盟流派則更寄希望于運用監管框架與信任體系來對人工智能的安全進行規制，其規制更傾向于人權方向;相較美國與歐盟，中國流派的人工智能安全治理致力于形成內含研發、管理和應用的全流程安全保障體系，涵蓋基礎框架研制、基本安全原則、供應鏈管理實踐指南、安全服務能力、應用領域的標準研制等各個方面。

隨著AI安全行業競爭的不斷加劇，大型企業間并購整合與資本運作日趨頻繁，國內外優秀的AI安全企業愈來愈重視對行業市場的分析研究，特別是對當前市場環境和客戶需求趨勢變化的深入研究，以期提前占領市場，取得先發優勢。正因為如此，一大批優秀品牌迅速崛起，逐漸成為行業中的翹楚。中研普華利用多種獨創的信息處理技術，對AI安全行業市場海量的數據進行采集、整理、加工、分析、傳遞，為客戶提供一攬子信息解決方案和咨詢服務，最大限度地降低客戶投資風險與經營成本，把握投資機遇，提高企業競爭力。

本報告利用中研普華長期對AI安全行業市場跟蹤搜集的一手市場數據，同時依據國家統計局、國家商務部、國家發改委、國務院發展研究中心、行業協會、中國行業研究網、全國及海外專業研究機構提供的大量權威資料，采用與國際同步的科學分析模型，全面而準確地為您從行業的整體高度來架構分析體系。讓您全面、準確地把握整個AI安全行業的市場走向和發展趨勢。

未來行業市場發展前景和投資機會在哪?欲了解更多關于行業具體詳情可以點擊查看中研普華產業研究院的報告《2022-2027年中國AI安全行業市場全景調研與發展前景預測報告》。報告對行業相關各種因素進行具體調查、研究、分析，洞察行業今后的發展方向、行業競爭格局的演變趨勢以及技術標準、市場規模、潛在問題與行業發展的癥結所在，評估行業投資價值、效果效益程度，提出建設性意見建議，為行業投資決策者和企業經營者提供參考依據。

• 相關深度報告REPORTS

  

  2022-2027年中國AI安全行業市場全景調研與發展前景預測報告

  AI安全行業研究報告中的AI安全行業數據分析以權威的國家統計數據為基礎，采用宏觀和微觀相結合的分析方式，利用科學的統計分析方法，在描述行業概貌的同時，對AI安全行業進行細化分析，重點企業...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡