【摘要】在數(shù)字中國與法治中國協(xié)同推進的戰(zhàn)略背景下，大語言模型司法應(yīng)用正面臨技術(shù)黑箱性、數(shù)據(jù)治理短板與內(nèi)容價值失范三重安全困局。須以總體國家安全觀為統(tǒng)領(lǐng)，在技術(shù)應(yīng)用中嵌入社會主義核心價值觀，通過構(gòu)建“技術(shù)防御-數(shù)據(jù)治理-可信體系”三位一體的安全體系，在制度創(chuàng)新中將《新一代人工智能發(fā)展規(guī)劃》與司法改革實踐有機銜接，走出一條技術(shù)賦能與風(fēng)險防控并重的中國式司法智能化治理新路，為全球數(shù)字時代司法治理貢獻中國智慧。

【關(guān)鍵詞】智能司法 大語言模型 法律人工智能 可信可控

【中圖分類號】D916 【文獻標識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2025.07.013

【作者簡介】中國人民公安大學(xué)法學(xué)院 山東警察學(xué)院  李非燕

在數(shù)字中國戰(zhàn)略縱深推進的背景下，《最高人民法院關(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》提出，“到2025年，基本建成較為完備的司法人工智能技術(shù)應(yīng)用體系，為司法為民、公正司法提供全方位智能輔助支持”。近年來，最高人民法院大力推進人工智能技術(shù)在司法領(lǐng)域的廣泛應(yīng)用，智慧法院建設(shè)取得顯著成效，全國法院已全面完成人民法院信息化3.0版建設(shè)，向信息化4.0版邁進。例如，深圳市中級人民法院于2024年6月上線人工智能輔助審判系統(tǒng)，審判效率顯著提升，上線半年，深圳市中級人民法院民商事案件平均結(jié)案時間同比縮短25.6%，[1]彰顯出司法智能化轉(zhuǎn)型的戰(zhàn)略必要性。這一轉(zhuǎn)型既源于“案多人少”的現(xiàn)實壓力和“同案不同判”等風(fēng)險，也得益于司法審判垂直領(lǐng)域大模型在法律條文解析中展現(xiàn)出的強大自我學(xué)習(xí)和反饋能力，為破解司法標準化難題提供了技術(shù)支撐。

在此背景下，大語言模型加速推動司法效率的提升和司法應(yīng)用的范式變革。深圳市中級人民法院率先構(gòu)建全國首個司法專用大模型，覆蓋立案審查、電子卷宗解析、爭議焦點提煉、裁判文書生成等85項核心審判環(huán)節(jié)，該系統(tǒng)通過嵌入最高人民法院裁判規(guī)則庫，創(chuàng)新實現(xiàn)“類案強制檢索”功能，試運行期間已輔助立案29.1萬件，裁判文書初稿生成準確率達92%。浙江省杭州市中級人民法院開發(fā)的建設(shè)工程糾紛智慧審判模型，通過工程造價、施工日志、監(jiān)理報告的智能分析模塊，自動核算工程款利息和工期延誤損失等專業(yè)數(shù)據(jù)，實現(xiàn)類案審理效率提升65%，裁判自動履行率提至89%。[2]最高人民法院通過整合1.4億份裁判文書和200萬部法律法規(guī)，構(gòu)建了全球最大的中文法律知識圖譜，該系統(tǒng)可智能審查證據(jù)鏈，自動標注證據(jù)瑕疵與法律適用沖突點。試點法院的單案辦理時效縮短40%，二審改判率下降15個百分點，推動司法生產(chǎn)力邁上智能躍升新臺階。

然而，技術(shù)創(chuàng)新與制度供給之間的張力也日益凸顯。技術(shù)層面，大模型參數(shù)規(guī)模呈現(xiàn)指數(shù)級增長，但我國《最高人民法院關(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》的指導(dǎo)意見的修訂周期通常長達2～3年，難以匹配技術(shù)變革速度；制度層面，《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》尚未針對生成式人工智能設(shè)立專門條款，可能導(dǎo)致“人工智能偽造證據(jù)”等新型違法行為缺乏明確的規(guī)制依據(jù)；國際競爭維度，相較于歐盟《人工智能法案》確立的四級風(fēng)險分類體系，我國司法人工智能領(lǐng)域尚未建立分級準入制度，在數(shù)字司法治理規(guī)則制定權(quán)爭奪中面臨話語權(quán)挑戰(zhàn)。這種“技術(shù)領(lǐng)跑”與“制度跟跑”的錯位格局，已成為智能司法深化發(fā)展的重要掣肘。

大語言模型司法應(yīng)用的安全困境

大語言模型在司法領(lǐng)域的深度應(yīng)用，本質(zhì)上是技術(shù)邏輯與法律邏輯的深度融合過程。這種融合并非簡單的功能疊加，而是算法權(quán)力與司法權(quán)在數(shù)字空間的系統(tǒng)性重構(gòu)。

技術(shù)原生的結(jié)構(gòu)性風(fēng)險。大語言模型的技術(shù)特性與司法活動的規(guī)范性要求之間，存在著三重難以調(diào)和的深層矛盾。其一，算法黑箱性與司法透明性的沖突。神經(jīng)網(wǎng)絡(luò)“輸入-輸出”的不可解釋性導(dǎo)致模型生成判決建議時無法完整呈現(xiàn)法律推理的邏輯鏈條，這違背了《最高人民法院關(guān)于進一步深化司法公開的意見》中“推動實現(xiàn)司法信息自動生成、智能分析、全程留痕、永久可追溯等功能”的規(guī)范性要求。其二，動態(tài)學(xué)習(xí)機制與司法確定性的張力。大語言模型的持續(xù)進化能力可能導(dǎo)致相同案件在不同時間節(jié)點產(chǎn)生差異化結(jié)論，這不僅挑戰(zhàn)“同案同判”的司法原則，還可能動搖司法公信力的根基。其三，技術(shù)工具理性與司法倫理的價值錯位。當模型將法律條文簡化為概率計算時，可能消解裁判文書中“公平”“合理”等價值要素的衡量空間，導(dǎo)致裁判文書變?yōu)檎Z法正確但缺乏人文關(guān)懷的文字堆砌。

以對抗攻擊為例，攻擊者可通過對輸入文本進行微小的語義擾動來誤導(dǎo)大語言模型的輸出。例如，將“正當防衛(wèi)”替換為“防衛(wèi)行為”，這種微小改動在語義上看似相近，但可能對模型的判斷產(chǎn)生顯著影響。這種“算法手術(shù)刀”式的攻擊手段，暴露出大語言模型在技術(shù)層面的結(jié)構(gòu)性缺陷。更值得關(guān)注的是，深度學(xué)習(xí)框架的安全漏洞呈現(xiàn)典型的“木桶效應(yīng)”。例如，2022年，PyTorch的預(yù)發(fā)布版本軟件包遭到“依賴混淆”攻擊，攻擊者‌將惡意軟件包傳到PyPI代碼庫中，導(dǎo)致受影響的計算機的敏感數(shù)據(jù)被泄露。這表明即使模型本身沒有直接漏洞，供應(yīng)鏈漏洞仍可能引發(fā)系統(tǒng)性安全風(fēng)險。

數(shù)據(jù)治理的制度性短板。司法數(shù)據(jù)的特殊性在于其兼具公共屬性與私權(quán)邊界的特征，因而對大語言模型的數(shù)據(jù)治理提出了雙重挑戰(zhàn)。從技術(shù)維度看，數(shù)據(jù)生命周期管理的碎片化易導(dǎo)致敏感信息保護層層失守。司法數(shù)據(jù)包含采集、存儲、處理和應(yīng)用涉及大量敏感信息，如個人身份信息、案件細節(jié)、證人證言等。這些信息在數(shù)據(jù)生命周期的不同階段都可能因管理碎片化而面臨泄露風(fēng)險。從制度維度看，《中華人民共和國個人信息保護法》確立的“刪除權(quán)”面臨技術(shù)性應(yīng)用難題。盡管該法第四十七條明確規(guī)定了個人信息處理者在特定情形下刪除個人信息的義務(wù)，但在實際操作中，某些企業(yè)可能因技術(shù)架構(gòu)復(fù)雜、數(shù)據(jù)存儲分散等原因，無法及時有效地刪除用戶信息。

更深層的矛盾在于，數(shù)據(jù)流動性與司法確定性的悖論。大語言模型依賴海量數(shù)據(jù)持續(xù)優(yōu)化，但司法活動要求裁判依據(jù)的穩(wěn)定性。例如，當大語言模型用于輔助司法裁判時，其訓(xùn)練數(shù)據(jù)可能包含最新的社會觀念、政策變化或技術(shù)發(fā)展，這可能導(dǎo)致生成的裁判建議與現(xiàn)有法律框架或司法實踐產(chǎn)生偏差，這種偏差暴露出技術(shù)系統(tǒng)與法律制度演進間的適配難題。這種“數(shù)據(jù)進化”與“法律安定”的張力，亟須建立動態(tài)平衡機制。

內(nèi)容生成的規(guī)范性危機。生成式人工智能的技術(shù)特性正在重塑司法活動的價值坐標。其一，法律解釋的算法僭越風(fēng)險。當大語言模型將法律中“公序良俗”原則量化為詞向量時，實質(zhì)是將價值判斷異化為特征權(quán)重計算，這可能導(dǎo)致輸出內(nèi)容突破司法解釋設(shè)定的規(guī)范邊界。其二，文書生成的合規(guī)性風(fēng)險。在司法系統(tǒng)中，任何由模型生成的法律文本、判決或建議都必須符合現(xiàn)行的法律規(guī)范和司法慣例。然而，由于大語言模型的生成機制基于大規(guī)模的語料庫和學(xué)習(xí)算法，這些模型可能在沒有明確法律監(jiān)管的情況下，生成違反法律規(guī)定的內(nèi)容。例如，模型可能依賴不準確或已過時的法律信息，或是對法律條文的解釋偏離本意，導(dǎo)致生成誤導(dǎo)性的法律建議。這不僅會直接影響案件結(jié)果，甚至可能損害司法公信力。

這種技術(shù)應(yīng)用與司法本質(zhì)的沖突，在價值層面體現(xiàn)為效率至上與司法謙抑性的對立。人工智能在司法領(lǐng)域的應(yīng)用中，往往以提高效率為目標，這種效率導(dǎo)向可能忽視司法活動對個案差異和法律靈活性的需求。而司法謙抑性要求法官在法律框架內(nèi)謹慎進行價值判斷和解釋，避免過度依賴技術(shù)手段，以確保司法決策的公正性和合法性。

大語言模型司法應(yīng)用的安全治理之道

大語言模型的司法應(yīng)用正深刻重塑司法權(quán)力運行模式，其安全風(fēng)險亟待系統(tǒng)性應(yīng)對。大語言模型在司法場景的應(yīng)用安全，本質(zhì)上是技術(shù)防御能力與攻擊手段的動態(tài)博弈過程。面對算法權(quán)力擴張與司法公信力的張力，需構(gòu)建涵蓋技術(shù)防御、數(shù)據(jù)治理與可信體系的三維安全治理框架，實現(xiàn)從被動防護向主動進化的范式轉(zhuǎn)型，在保障技術(shù)效能的同時筑牢司法安全的制度防線。

構(gòu)建主動免疫的技術(shù)防御體系。在司法場景中，大語言模型的應(yīng)用面臨著對抗攻擊與數(shù)據(jù)投毒等傳統(tǒng)技術(shù)挑戰(zhàn)。攻擊者利用精心設(shè)計的語義陷阱，如虛構(gòu)法律條文或扭曲案件事實，能夠誘使模型生成錯誤的裁決建議，這種隱蔽性特征凸顯了構(gòu)建主動免疫的技術(shù)防御體系的重要性。為此，司法領(lǐng)域的相關(guān)研究應(yīng)聚焦“動態(tài)對抗訓(xùn)練”機制的建立。通過引入法律邏輯驗證模塊，不斷自動生成包含虛構(gòu)法條（如創(chuàng)設(shè)“虛擬物權(quán)”概念）和事實矛盾（如時間線沖突）的對抗樣本庫，持續(xù)優(yōu)化模型的法律推理魯棒性，從而提高模型應(yīng)對對抗攻擊和復(fù)雜法律的能力。浙江法院系統(tǒng)上線的“鳳凰金融智審”3.0為這種防御體系提供了可復(fù)制的實踐范本。該系統(tǒng)通過法律知識圖譜和智能算法，將法律規(guī)范轉(zhuǎn)化為符號語言，這一做法既確保了裁判文書生成和裁判結(jié)果預(yù)測的透明性與可解釋性，也為法院決策提供了充分數(shù)據(jù)支持，讓法律條文在模型應(yīng)用中得以精準體現(xiàn)。

此外，司法大語言模型還應(yīng)具備自動校對功能，確保文書格式規(guī)范、要素完整、邏輯合理。這種主動校對機制可有效降低因技術(shù)缺陷、數(shù)據(jù)質(zhì)量問題或模式識別失誤引發(fā)的誤判風(fēng)險，在快速發(fā)展的技術(shù)環(huán)境中兼顧質(zhì)量與效率，提升對抗?jié)撛诎踩{的能力，為大語言模型的安全應(yīng)用奠定基礎(chǔ)，也為未來法律智能化方向的研究與實踐提供重要參考。

筑牢司法數(shù)據(jù)主權(quán)的安全屏障。在數(shù)字化和智能化迅速發(fā)展的背景下，司法數(shù)據(jù)的戰(zhàn)略性地位愈發(fā)凸顯。為有效應(yīng)對數(shù)據(jù)安全風(fēng)險，推動法律與科技的深度融合，需構(gòu)建中國特色司法數(shù)據(jù)治理體系，確保數(shù)據(jù)的安全性、完整性與保密性，特別是防范訓(xùn)練數(shù)據(jù)污染的風(fēng)險。為此，必須嚴格執(zhí)行《中華人民共和國數(shù)據(jù)安全法》的數(shù)據(jù)分類分級制度，對涉及國家秘密和個人隱私的司法數(shù)據(jù)進行物理隔離，防止數(shù)據(jù)在使用過程中遭受泄露。對公開裁判文書應(yīng)進行深度脫敏，確保數(shù)據(jù)共享與使用時，當事人及相關(guān)人員的隱私與權(quán)益得到保護?？赏菩?ldquo;司法數(shù)據(jù)沙箱”機制，引入?yún)^(qū)塊鏈技術(shù)確保數(shù)據(jù)使用全流程的留痕，保護訓(xùn)練數(shù)據(jù)的“可用不可見”特性，進而降低數(shù)據(jù)濫用和泄露的風(fēng)險，同時能為技術(shù)研發(fā)與應(yīng)用提供必要的支撐。

在強化司法數(shù)據(jù)安全的同時，亦需防范技術(shù)公司壟斷司法數(shù)據(jù)形成“算法權(quán)力尋租”。2022年修訂的《中華人民共和國反壟斷法》已新增數(shù)字經(jīng)濟反壟斷專條，明確經(jīng)營者不得利用數(shù)據(jù)和算法等從事法律禁止的壟斷行為，在此基礎(chǔ)上可借鑒歐盟《數(shù)字市場法》的經(jīng)驗，增設(shè)“關(guān)鍵數(shù)據(jù)設(shè)施”條款，精準規(guī)制數(shù)字經(jīng)濟壟斷行為，守護司法數(shù)據(jù)的獨立性與權(quán)威性。

培育可信屬性角度的安全防護策略。司法智能化轉(zhuǎn)型的本質(zhì)，是技術(shù)工具理性與司法價值理性的深度融合過程，必須堅守“可信可控”的倫理底線，在算法權(quán)力與司法權(quán)之間構(gòu)建動態(tài)平衡機制。依據(jù)《生成式人工智能服務(wù)管理暫行辦法》，生成式人工智能服務(wù)提供者需要接受安全評估，并對算法進行備案，以提高算法的透明度和可問責(zé)性。這要求算法開發(fā)者提供包含決策邏輯、法律依據(jù)分析、偏見檢測報告的“算法說明書”，并由法官、技術(shù)專家、倫理學(xué)者組成的聯(lián)合審查委員會進行“穿透式審查”。這種“技術(shù)透明化”改革與“算法問責(zé)雙軌制”理論形成實踐呼應(yīng)，通過內(nèi)部合規(guī)和外部監(jiān)管相結(jié)合確保算法合規(guī)，既在模型架構(gòu)中嵌入合規(guī)性驗證模塊，實時監(jiān)控法律推理路徑的規(guī)范性，又通過外部監(jiān)管力量建立“算法決策-司法審查”的反饋閉環(huán)，保障技術(shù)運行始終符合法治要求。

在全球數(shù)字治理規(guī)則加速重構(gòu)的背景下，中國司法智能化的安全治理需堅持自主創(chuàng)新與開放借鑒相結(jié)合的發(fā)展道路。歐盟《人工智能法案》確立的“風(fēng)險分級監(jiān)管”框架，雖為我國構(gòu)建司法大語言模型準入標準提供了參照，但其難以契合我國司法實際。因此，必須將《新一代人工智能發(fā)展規(guī)劃》中“安全可控”的技術(shù)路線與《最高人民法院關(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》和《最高人民法院關(guān)于以高質(zhì)量審判服務(wù)保障科技創(chuàng)新的意見》提出的“科技賦能司法”目標有機銜接，形成具有中國特色的治理范式，這種范式創(chuàng)新體現(xiàn)在三個維度：技術(shù)研發(fā)層面，推動司法專用大模型的國產(chǎn)化替代，突破TensorFlow、PyTorch等國外框架的技術(shù)依賴；標準制定層面，建立融合民法典價值導(dǎo)向與GB/T 35273-2020版《信息安全技術(shù)個人信息安全規(guī)范》的技術(shù)合規(guī)體系；制度保障層面，完善從算法備案、運行監(jiān)測到責(zé)任追溯的全鏈條監(jiān)管制度。這種“技術(shù)-標準-制度”的三維治理架構(gòu)既借鑒了國際經(jīng)驗中的有益內(nèi)容，又植根于中國特色社會主義法治實踐，為全球司法智能化治理貢獻了中國方案。

更深層次的治理創(chuàng)新，在于將總體國家安全觀貫穿技術(shù)應(yīng)用全過程。當前，某些境外大語言模型系統(tǒng)的價值滲透風(fēng)險警示我們：智能司法的算法是技術(shù)工具，更是意識形態(tài)載體。這要求我們在技術(shù)治理中強化主權(quán)意識，建立司法大語言模型系統(tǒng)的價值觀過濾機制，將社會主義核心價值觀轉(zhuǎn)化為可量化的算法約束條件，在類案推薦、文書生成等環(huán)節(jié)設(shè)置“紅色基線”，確保技術(shù)應(yīng)用始終服務(wù)于社會主義法治建設(shè)。這種治理邏輯的確立，不僅關(guān)乎技術(shù)安全，更是維護司法主權(quán)、塑造數(shù)字時代國家法治競爭力的戰(zhàn)略抉擇。

注釋

[1]《上線半年平均結(jié)案時間同比縮短25.6%！深圳法院AI輔助審判系統(tǒng)助力提質(zhì)增效》，2025年1月13日，https://www.dutenews.com/n/article/8636504。

[2]《AI賦能司法革新：全國法院十大AI大模型典型案例盤點》，2025年2月22日，https://www.53ai.com/news/zhishiguanli/2025022275391.html。

Security Dilemmas and Governance Approaches for Large Language Models

in Judicial Applications

Li Feiyan

Abstract: Under the strategic background of coordinated advancement of Digital China and Rule of Law China, the judicial application of large language models is currently confronted with triple security dilemmas: technical opacity, shortcomings in data governance, and value deviations in content. It is imperative to adhere to the holistic approach to national security as the overarching principle, integrate Socialist Core Values into technological applications, and establish a trinity security system encompassing "technical defense-data governance-trustworthy mechanisms". Through institutional innovation that synergizes the "New Generation Artificial Intelligence Development Plan" with judicial reform practices, China can forge a new path of intelligent judicial governance that equally emphasizes technological empowerment and risk prevention. This Chinese-style approach will contribute China's wisdom to global judicial governance in the digital era, achieving a balanced development model where technological advancement coexists with security safeguards while maintaining distinctive national characteristics.

Keywords: intelligent justice, large language models, legal artificial intelligence, trustworthy and controllable

責(zé) 編∕鄧楚韻 美 編∕梁麗琛