中國網/中國發展門戶網訊 年夜數據與信息技術的迅猛發展及其與物理世界的深度融會，構成了絕後繁榮的網絡社會。網絡社會中個體緊密聯系，交互頻繁，呈現出開放、高效、交互、個性化等特征。網絡社會重塑了傳統社會中的通訊與交互方法，釋放了社會交互中蘊含的宏大生產力。與此同時，網絡社會中出現了電信詐騙、隱私泄漏、網絡暴力、網絡公害、算法歧視等種種問題，給社會次序與平安帶來新的挑戰。為摸索若何應對該挑戰，尋找網絡社會管理途徑，推動國家管理現代化建設，本文在 3 個典範的網絡社會場景下，剖析與闡明網絡社會管理關鍵挑戰，并從芯片、系統和算法 3 個層面提出網絡社會現代管理的技術對策。
網絡社會管理的挑戰
本文在用戶成分管理、網絡行為管理和算法管理 3 個典範場景下，起首剖析網絡社會中碰到的新問題，及其對經濟、社會與平安形成的風險，并進一個步驟闡明管理這些問題所碰到的關鍵挑戰。
用戶成分管理面臨嚴峻挑戰
網絡用戶信息泄露事務層出不窮。在享用互聯網帶來的方便的同時，用戶也將個人瑜伽教室信息上傳到了互聯網中。這些信息往往帶有應用者的隱私，一旦出現數據泄露，會產生嚴重影響。隱私數據必須滿足“無限公開”原則，即只要授權用戶——通過成分認證的用戶，才幹搜刮到授權允許訪問的信息。例如，2014 年，國內兩個年夜型物流公司的內部網絡系統遭到黑客攻擊，1 400 多萬條快遞信息遭到泄露；迄今為止最年夜的數據泄露變亂發生在 2013 年 8 月，黑客獲取了 30 億雅虎用戶的姓名、誕生每日天期等隱私信息，給用戶帶來了極年夜的平安隱患。攻擊者可以應用被泄露的隱私數據，應用被攻擊者的成分在網絡上發布傳播新聞，以獲取宏大的好處，形成嚴重的影響。
現有網絡訪問把持成分認證技術存在嚴重平安隱患。今朝最常見的成分認證技術為靜態口令認證技術，每一個用戶都擁有一個用戶名/密碼。當用戶申請訪問時，系統對用戶的用戶名和對應的密碼進行驗證，這種方式簡單且有用。但隨著互聯網的發展，這種簡單的方式也開始顯現出弊病。算力的晉陞使得攻擊者可以對密碼進行窮舉攻擊，共享空間這一攻擊方法在用戶個人隱私信息泄露時會變得加倍有用——攻擊者可以通過用戶的隱私信息推測用戶的密碼，從而下降攻擊者的時間本錢。同時有調查顯示對于大批分歧的賬戶，絕年夜多數用戶選擇應用雷同或許數量遠小于賬戶數量的靜態密碼，是以假如攻擊者勝利攻擊了某用戶的賬戶，那么該用戶的其他賬戶大要率受也會到攻擊者的攻擊。動態口令技術是由靜態口令技術演變而來的，相較于靜態口令其具有更好的平安性，能夠短暫地維護用戶的信息平安。除此之外，若軟件系統自己存在破綻，攻擊者也可以通過該破綻獲取訪問寄存驗證口令的服務器的權限或能夠直接訪問某用戶，如黑客對智能汽車、智能家居設備的進侵事務也屢屢發生。是以軟件自己能夠存在的破綻也是在設計成分認證技術中所需求考慮的問題。
用戶成分虛擬偽裝技術演進迅猛。在沒有強無力的用戶成分認證與治理手腕的條件下，當用戶的信息出現泄露時，攻擊者可以應用泄露的隱私信息，訪問被攻擊者的賬戶以達成攻擊目標。相反，當用戶數據沒有泄露時，攻擊者也可以通過模擬偽造用戶的數據來實現攻擊。現有的研討任務表白，攻擊者可以通過對抗樣本天生偽裝的用戶聲音，通過偽基站來偽造虛假的通訊成分信息及通過對抗攻擊的方式天生能夠誤導成分識別系統的圖像等。假充公檢法來進行電信詐騙就是一個典範的例子，攻擊者應用特別計算機軟件，通過偽造、假充執法人員成分的方法，向被攻擊者索藍玉華的皮膚很白，眼珠子亮，牙齒亮，頭髮烏黑柔軟，容貌端莊美麗，但因為愛美，她總是打扮得奢侈華麗。掩蓋了她原本要錢財以達到本身的目標。在 2017 年中心電視臺 3·15 晚會中，掌管人現場演示了通過一張天生的照片并通過了人臉識別系統。除此之外，攻擊者通過特別的網絡軟件偽造聲音，偽造特別成分發送短信、撥打電話、天生圖片的事例屢見不鮮，是以加強網絡用戶成分認證及規范行為勢在必行。
綜上，無論用戶數據能否存在泄露的情況，攻擊者總能采取手腕偽造用戶成分，以謀取本身的好處。是以我們強調網絡用戶成分管理的主要性，將其看作網絡社會發展中一個主要且亟待解決的問題。上述問題重要存在于軟件層面，而硬件方面存在的問題也會影響用戶數據的隱私，進而產生一系列的信息平安問題。
網絡行為管理面臨緊迫挑戰
網絡空間在給人們帶來不受拘束表達的方便的同時，網絡空間中的個體及群體行為也正變得異常龐雜，並且龍蛇混雜、良莠不齊。不良網絡內容泛濫、網絡違法犯法活動猖狂、網絡空間對抗與博弈等違法違規網絡行為已平日里，裴家總是靜悄悄的，今天卻熱鬧非凡——當然比不上藍府——偌大的院子裡有六桌宴席。非常喜慶。經愈演愈烈，嚴重威脅網絡空間與現實社會的平安穩定與安康發展。
不良網絡內容泛濫。互聯網與數字技術的蓬勃發展，一方面帶來了豐富的信息內容，另一方面也帶來了虛假謠言、低俗拜金、暴力反動等不良網絡內容的泛濫。虛假謠言信息內容在網絡空間中大舉傳播、滋長舒展會嚴重影響社會次序，已經成為一至公害。短視頻平臺和直播平臺存在大批低俗內容，應用主播搭訕、誘惑打賞等低俗手腕博人眼球，傳播如種族歧視、性別歧視、拜金主義等不良內容。網絡游戲平臺存在大批血腥、暴力、可怕等不良內容，宣揚暴力極端主義、可怕主義等極端思惟。這些不良網絡內容應用鉆法令空子、打擦邊球等方法誘導年夜眾點擊與關注并從中取利，對網平易近尤其是未成年人和青少年人構成不良導向，影響身心安康。
網絡違法犯法活動猖狂。網絡空間中的網絡詐騙、網絡賭博、網絡傳銷、網絡不符合法令集資等違法犯法活動非常猖狂。中國互聯網絡信息中間統計發現，截至 2022 年 6 月，我國 17.8% 的網平易近曾經遭受過網絡詐騙，舞蹈教室較 2021 年增添了 1.2 個百分點，此中占比最多的網絡詐騙包含虛假中獎信息詐騙、網絡購物詐騙、假充老友詐騙和釣魚網站詐騙等。中國司法年夜數據研討院剖析了從 2017 年 1 月至 2021 年 12 月我國信息網絡犯法案件的特點和趨勢，發現網絡詐騙罪案件量占比最高，達到 36.5%。這些網絡詐騙案件多以辦理貸款、假充別人成分、虛假僱用舞蹈教室等方法或話術來欺騙受益人，給受益人財產形成嚴重損掉，並且今朝網絡犯法案件量呈現出逐年上升的趨勢，需求非分特別重私密空間視。
網絡空間虛假信息傳播與博弈。網絡空間已教學經成為領土、領海、領空之外的第四種主權邊境。網絡“水軍”、網絡公關等產生的虛假信息傳播與博弈已經成為常態。網絡平臺的虛假實體、虛擬用戶背后的操控系統能夠冠冕堂皇應用各種技術手腕，系統傳播虛假信息、謠言、偏見，實現輿情對抗與博弈，已經成為迫害網絡空間內容平安的嚴重威脅。
算法管理面臨多維度挑戰
近年來，以機器學習算法為主導的人工智能技術已成為各年夜網絡平臺的焦點驅動力，其在加快信息傳播、便捷蒼生生涯、繁榮數字經濟和促進社會發展等方面發揮了主要感化。與此同時，由于在公正性、通明性和平安性方面的缺點，機器學習算法的分歧理應用對網絡社會的正常次序帶來了多維度挑戰，影響到社會公正公平、網平易近符合法規權益及虛擬財產平安等諸多方面。算法的應用風險和管理挑戰已成為各界關注的焦點。
算法歧視廣泛存在。基于年夜數據與機器學習算法的自動決策系統被廣泛用于供給個性化的輔助決策，例如電影推薦、貸款申請、廣告投放、求職和約會等。算法歧視是指由數據和算法的傾向性導致的決策偏見。一種典範的算法歧視被稱作年夜數據“殺熟”，其表現為同物分歧價，平臺算法依據年夜數據推斷用戶的價格敏感度，并針對性地進行差異化商品標價。北京市消費者協會 2022 年發布的《年夜數據“殺熟”問題調查報告》顯示超六成受訪者曾遭受過年夜數據“殺熟”，而購物、游玩與外賣類網絡平臺是年夜數據“殺熟”的重災區。網絡平臺算法也常存在性別與種族偏見。2019 年，臉書公司開展了一次算法中立性測試，測試通過算法向全球投放科研崗位的僱用廣告，在所有的人為環節都保證性別中立的條件下，算法最終產生了有性別偏見的廣告展現結果。可以看出，網絡平臺中的算法歧視不僅損害用戶的符合法規權益，同時影響社會應有的公正公平，擾亂社會正常次序。形成算法歧視廣泛存在的重要緣由是算法的價值預設和數據的采集傾向：起首，算法由網絡平臺所設計和研發，自己蘊含預設的價值偏見，并非完整客觀；其次，算法依賴的訓練數據往往并非中立，數據采集范圍存在傾向，形成算法異化，構成算法歧視。
算法平安風險日益凸顯。研討表白深度神經網絡等算法存在內生的懦弱性，攻擊者能夠應用渺小的對抗擾動或后門攻擊，在物理世界實現對算法決策的肆意操縱。對抗魯棒性和泛化才能等表達才能的缺點，教學場地導致了深度學習算法在應用領域中，尤其是自動駕駛、智能醫療等容錯率低的關鍵應用中的交流潛在平安隱患。例如，人臉識別算法具有高準確率、高效力、非接觸性識別等優點，成為網絡平臺成分驗證的主流方法之一。2021 年 RealAI 公司應用基于算法破綻特制的眼鏡，勝利欺騙了 19 款mobile_phone搭載的人臉識別共享空間算法。另一項研討顯示，將一張用簡單打印出的涂鴉貼畫貼在真實的路牌上，就可以“困惑”人工智能自動駕駛系統，使其做出錯誤決策。隨著深度學習技術的廣泛應用，算法平安隱患帶來的風險日益凸顯，逐漸成為制約網絡平臺與人工智能技術發展的瓶頸。
“黑盒”算法監管困難重重。平臺算法管理的另一挑戰來自監管困難。一方面，網絡平臺用戶的所見只要算法輸出，難以監督算法的決策過程。另一方面，由于年夜多算法屬于不通明的“黑盒”算法，人類難以懂得算法畢竟若何做出決策，平臺監管者同樣難以判斷算法決策能否公正、公道、可托賴。部門網絡平臺還能夠以商業機密為由，迴避外界對算法的監管。打開“黑箱”算法，將算法隱患與風險置于在監管視野之內，是算法管理的基礎和需要條件。
網絡社會管理的技術對策
基于平安芯片與管控系統的管理對策
由于移動辦公已經成為日常任務形式，當局、醫療、金融等并非最高平安等級的部門與行業，必須要在內部訪問單位的業務內網處理日常業務，需求量宏大。鑒于內網高平安性請求，常用的平安網關、虛擬專用網絡（VPN）等網絡平安技術無法保證內外網訪問的平安。
要從最基礎上疾速解決和緩解上述網絡平安問題，必須從網絡平安芯片底層設計做起。一方面保護數據資源免于非授權訪問、改動，另一方面，樹立芯片級平安通訊專用通道，實現數據和通道兩個方面的芯片級戰略化平安隔離。網絡平家教安芯片底層設計的重要優勢在于增添系統平安性的同時，極年夜地進步數據處理效力，戰略化的平安隔離，規避了以易用性為代價的簡單物理隔離。具體而言，應用純軟件的方式實現網絡平安加解密、成分其實她猜對了，因為當爸爸走近裴總，透露他打算把女兒嫁給他，以換取對女兒的救命之恩時，裴總立即搖頭，毫不猶豫地拒認證、網絡進侵檢測等算法存在較多缺點，如執行各類算法的時間較長、資教學場地源耗費較年夜，且難以實現密鑰等機密資源的平安存儲。是以，集成一種或多種密碼算法的集成電路芯片，即平安芯片，可從硬件層面來解決上述問題，在增添系統平安性的同時，可極年夜地進步效力。
傳統的舞蹈場地網絡平安芯片防護如圖 1 所私密空間示，這種任務形式雖然能夠實現對網絡傳輸的加密，在硬件層面保護敏感數據通訊平安，但系統自己不難遭到網絡攻擊，很難保證本身平安。針對以上問題，我們提出了新型網絡平安管控芯片和系統的架構，重要包括數據平安單元、網絡平安管控單元與網絡數據處理單元，如圖 2 所示，實現敏感數據的隔離、網絡訪問把持、平安形式熱切換、成分的認證校驗。網絡數據處理單元，與加解密算法把持引擎進行通訊，應用加解密算法把持引擎對共享空間當前數據包中的載荷進行加解密，并完成網絡協議中的校驗。
如圖 3 所示，基于網絡平安管控芯片，研發基于平安管控芯片的平安智能終端（例如移動終端），構建內外網平安管控的軟硬件生態，實現內、外網平安的全方位管控，進而構成完整自立可控的產業生態。通過以上軟硬件技術，可以保證應用新型網絡平安芯片的智能終端既可以不受拘束訪問外網，也共享空間可以平安訪問內網數據，同時確保內網數據不會通過設備泄露到外網。
系統與應用層管理對策
網絡成分和網絡行為管理困難的重要難點在于網絡空間中與成分和行為相關的數據類型多樣化、數據1對1教學非結構化、數據規模龐年夜、數據動態性、數據呈孤島狀分布且不暢通等，導致難以對網絡實體成分和網絡行為進行表征、識別與關聯，缺少有用的檢測技術，從而難以識別用戶成分并阻斷違法違規網絡行為。近幾年來隨著年夜數據剖析、天然語言懂得、數據聯邦、多方計算等信息技術的疾速發展，為網絡成分和網絡行為管理思緒帶來新的啟示。
通過制訂網絡成分表征標準并樹立多方聯合計算與數據暢通框架解決網絡成分識別、關聯與認證問題。構建針對網絡實體的標準化成分表征類似于給每個網絡實體發放一個成分證，該成分證記錄了網絡實體的各種屬性，并且獲得權威部門的可托認證。標準化成分表征可以有用解決網絡成分識別、關聯與認證問題。構建標準化成分表征需求借助多模態機器學習技術融會多種類型數據進行屬性推理，應用小樣本學習與遷移學習技術解決標注樣本稀疏問題，應用數據聯邦與多方計算技術解決數據孤島與不暢通問題等。
通過制訂網絡行為表征標準并樹立私密空間多方聯合計算與數據暢通框架解決網絡行為識別、檢測與管理問題。網絡行為管理可以借鑒網絡成分管理的思惟，構建標準化網絡行為表征，解決網絡行為管理問題。在進行網絡行為表征時，由于網絡行為具有較強的動態性和階段性，處于不斷發展變化中，是以需舞蹈教室求額外考慮時效性。為解決該問題，可以應用數據流實時剖析技術及時決策和推理，也可以通過構建事務知識圖譜以厘清網絡行為的階段性變化特征。
算法層管理對策
發展算法的可解釋性是算法層管理的焦點。可解釋性是打開“黑箱”算法的鑰匙，算法決策機理的通明化是監管與管理算法的先決基礎，是防止算法歧視與風險，保證決策可托、正當和感性的主要約束。算法的解釋方式重要包含兩年夜類：① 事前解釋，普通指具有高度通明性的自解釋算法，可直接被用戶檢查和懂得，如常用的決策樹、邏輯回歸算法等。在高風險的領域中，如醫療輔助系統，應當應用這類自解釋算法。② 事后解釋，普通指應用解釋性東西對半通明、不通明的復雜算法進行解釋。例如，歸因東西是一類常用的解釋性東西，它的解釋可以答覆算法決策是依據哪些目標特征做出的，并可精細地量化每個目標特征對最終決策所作出的貢獻度；另一類博弈交互東西的解釋可以答覆算法建模了哪些類型的知識點，進而可根據這些知識點的質量，解釋算法的各種平安性指標，如在對抗攻擊下的算法魯棒性，或在新的測試環境下的算法穩定性等。
發展第三方算法審計機構是算法管理的有用途徑。其目標是對平臺算法能否符合法規、合規進行客觀鑒定。算法審計機構可以由當局監管部門牽頭，協同業業自律組織、專家學者等組成，也可依照市場化原則培養獨立的第三方算法審計機構從事該項任務。具體算法審計流程為：① 第三方組織根據委托審計主體的請求，制訂專門的審計目標與實施計劃。② 審計人員對平臺的系統設置裝備擺設和算法設計文檔、運行記錄等進行查驗，通過人工或自動測試東西進行技術測試，獲取相關信息，進行剖析取證。③ 審計人員以法令法規、行政部門指導制訂的法式合規標準個人空間體系為依據對審計證據進行審計評估，并根據國家強制性標準、推薦性標準區分分歧的合規水平。④ 審計人員提出初步小樹屋審計意見與法式合規建議，并與被審計平臺就其公道性與需要性進行溝通交通，審慎得出審計結果并出具審計報告，作為平臺合規性驗證和歸責處罰的依據。算法審計應掌握以下原則：① 堅持持續、動態審計。隨著平臺算法的更換新的資料演變，能夠出現難以預知的增量風險，是以應持續開展動態算法審計。② 遵守分類、分級原則。應根據平臺算法性質及運行環境制訂相應的審計計劃，對重點領域的高風險算法要加強審計。 ③ 固守保密原則。審計機構和審計人員應當對觸及平臺算法模子的訓練數據集、用戶數據等構成平臺焦點競爭力的商業機密嚴格予以保密。
網絡社會現代管理的政策冰涼。建議
隨著信息化程度慢慢晉陞，信息技術嵌進網絡社會管理的成分管理、行為管理和算法管理等各層面各環節，與法令、市場、平臺自治規則一路發揮著主要感化。現代網絡社會管理仍存在嚴峻挑戰，需求多方協同盡力，在此提出 3 點建議。
加速研發網絡平安管控芯片和系統，衝破我國網絡社會管理中的“洽商”問題。網絡平安技術後期焦點重要集中在軟件和應用開發，而網絡平安硬件平臺作為其載體，國產化產品的年夜規模應用即將進進加快期，國家和市場關注度及重視水平正在疾速晉陞。黨的二十年夜報告中提出“加強企業主導的產學研深度融會，強化目標導向，進步科技結果轉化和產業化程度。強化企業科技創新主體位置，發揮科技型骨干企業引領支撐感化，營造有利于科技型中小微企業成長的傑出環境，推動創新鏈產業鏈資金鏈人才鏈深度融會”，建議我國企業發揮市場主體的優勢感化，積極聯合高校、研討院所等開展網絡平安芯片及硬件平臺相關理論和技術的研討，強化在網絡平安芯片與管控系統、平安可托操縱系統、密碼算法與硬件平臺技術等方面的國產化治理，實現全鏈條的自立可控。明確網絡平安芯片關鍵產品國產化、密碼算法國產化與網絡平安硬件平臺國產化的政策請求，制訂關鍵產品審查備案軌制，組織產業鏈調研，適時發布國產化攙扶政策。
面向網絡/電信詐騙等嚴重國計平易近生問題，發展隱私計算技術，建設平安的數據共享平臺，推進平臺間的數據共享。網絡/電信詐騙等網絡社會不良行為常采用技術手腕隱匿行跡，難以在單一數據源中被及時地檢測和教學場地發現。我們建議在當局監管下，建設平安的數據共享平臺，在保護用戶隱私和避免數據濫用的條件下，整合多方數據源，實現對隱蔽不良行為的有用探測和發現。樹立平安的數據共享平臺應當滿足以下請求：① 制訂統一的數據標準和接口，明確多方數據共享形式，支撐數據的高效共享與交換；② 樹立數據分級治理體系，公道確定共享范圍，避免數據濫用共享空間；③ 發展隱私計算技術，防范隱私數據泄露，保證共享數據平安；④ 確定共享數據的權利與義務，保證數據共享體系的長效運行。
樹立第三方算法審計軌制，培養第三方算法審計專業機構。鑒于算法審計技術的復雜性，在當局監教學場地管過程中，可以由監管部門牽頭，協同業業自律組織、專家學者等組成第三方，對網絡平臺算法設計的公正性、可解釋性、平安性等開展審計。長遠來看，應當依照市場化原則培養獨立的第三方算法審計機構（類似專業的財務審計機構）承擔該項任務。對此，可以采取分步走的辦法，先由相關部門如工業和信息化部、中心網信辦、國家市場監督治理總局、司法部等部門會商研擬計劃，鼓勵若干信譽傑出、有實力的司法鑒定中間在內部設立算法審計部門，接收當局或司法機關的委托，從事算法審計和鑒定任務。待市場條件成熟、有足夠的市場業務容量后，鼓勵成立專門的算法審計機構，作為獨立的市場運營主體，開展算法審計業務。即通過算法審計，實現“借力打力”，由技術引發的問題還通過技術手腕來解決，促進網絡社會的“科技向善”。
（作者：王平輝、裴紅斌、趙俊船、秦濤、沈超、管曉宏，西安路況年夜學 智能網絡與網絡平安教導部重點實驗室；劉東亮，西安路況年夜學 法學院；《中國科學院院刊》供稿）
