編者按

人工智能正深刻改變世界。但它如一把“雙刃劍”，既帶來巨大機遇，也引發(fā)諸多挑戰(zhàn)——在醫(yī)療、教育、交通等領(lǐng)域，人工智能提升了效率，改善了生活質(zhì)量；然而，它也可能沖擊就業(yè)、侵犯隱私、引發(fā)算法偏見等。如何握好這把“雙刃劍”，讓人工智能真正成為推動人類進步的力量。

當下的選擇決定未來的走向。本期我們邀請兩位專家，共同探討如何避免風險，引導(dǎo)技術(shù)向善。

人工智能技術(shù)無疑是新一輪科技革命和產(chǎn)業(yè)變革的先導(dǎo)。其中，強調(diào)價值對齊、能夠自主定義并完成無限任務(wù)的通用人工智能，更是新質(zhì)生產(chǎn)力的典型代表，已經(jīng)成為全球科技戰(zhàn)略制高點。但另一方面，由于大模型等人工智能技術(shù)具有“黑箱屬性”，導(dǎo)致其決策行為不能被完全透明解釋，它的生成內(nèi)容也不能被完全預(yù)判控制，當這樣的人工智能技術(shù)應(yīng)用部署在國家社會經(jīng)濟生活中的方方面面時，就可能會出現(xiàn)偏離人類預(yù)期甚至危害國家安全和人類整體利益的巨大風險。

1、在國家層面，人工智能技術(shù)正在重構(gòu)國家安全治理的格局

我國已將人工智能安全納入國家戰(zhàn)略，并上升至總體國家安全觀的重要組成部分。這是因為，人工智能技術(shù)的迅猛發(fā)展正在重構(gòu)國家安全治理的格局，其中部分風險突破了傳統(tǒng)技術(shù)倫理范疇，形成系統(tǒng)性、多維度的威脅。

以當下熱度最高的生成式大模型為例，我們可以關(guān)注到這三類安全危機：

首先，是技術(shù)安全與自主創(chuàng)新的國際挑戰(zhàn)。大模型的算力、算法與數(shù)據(jù)，構(gòu)成新型國家戰(zhàn)略資源，其自主可控性直接關(guān)乎國家主權(quán)安全。目前，全球算力中心依然集中于少數(shù)歐美科技巨頭，英偉達的人工智能芯片占據(jù)了超過80%國際市場份額。而就在今年1月底，美國國會首次提交了中美人工智能“脫鉤”的法案，一旦該法案通過，兩國所有人工智能的合作渠道將被截斷。

其次，意識形態(tài)與價值倫理的隱性危機。大模型沒有價值認知的功能，但開發(fā)者的價值觀可以滲透到大模型對外輸出的文本，構(gòu)成意識形態(tài)方面的安全威脅。比如，一些歐美研發(fā)的大模型，其生成的視頻、圖像表達延續(xù)歐美影視文化傾向，以西方藝術(shù)審美為主體，卻無法識別和“理解”達喀爾建筑等非洲文化造型。眾多案例表明，歐美大模型所蘊含的西方中心主義價值觀值得我們提高警惕。此外，質(zhì)量參差不齊的國內(nèi)自媒體信息、不當抓取的境外網(wǎng)頁錯誤信息、由大模型生成的未經(jīng)審核的合成數(shù)據(jù)，都可能會“毒化”AI大模型的訓練過程，進而導(dǎo)致輸出內(nèi)容價值觀的偏差。繁雜的世界觀、人生觀、價值觀數(shù)據(jù)彌漫在大模型神經(jīng)網(wǎng)絡(luò)的“黑箱”中，導(dǎo)致我們很難分辨出大模型的某些反社會回答（例如“毀滅人類”）究竟是出自語料庫，還是根據(jù)模型的行為范式學習推理而來。隨著大模型廣泛應(yīng)用到各行各業(yè)，倘若任由這種不可控的“黑箱”發(fā)展下去，我們將很難控制人工智能的價值體系與人類相一致，會造成較大的社會倫理風險。

再次，制度監(jiān)管滯后與信息不對稱的結(jié)構(gòu)性困境。盡管世界各國已針對人工智能技術(shù)帶來的安全風險紛紛出臺相關(guān)法案，但這些法律法規(guī)的制定完善一般需要漫長復(fù)雜的流程，往往滯后于人工智能新產(chǎn)品的發(fā)布更新速度。各國人工智能的發(fā)展水平與應(yīng)用程度不同，政府、企業(yè)、高?？蒲袡C構(gòu)、社會大眾對動態(tài)更新發(fā)展的人工智能技術(shù)的認知存在不小的信息差，導(dǎo)致國與國之間、社會各行各業(yè)之間推出的人工智能治理措施出現(xiàn)大量無效重合和高度沖突。這類信息不對稱和統(tǒng)一標準的缺失，對外易制造國際人工智能安全治理的合作爭端，對內(nèi)會使得人工智能監(jiān)管出現(xiàn)“真空地帶”，造成制度疊加的冗余和推行成本的增長。

2、在社會和個人層面，濫用人工智能技術(shù)可能帶來勞動秩序重構(gòu)、混淆視聽、誘發(fā)心理依賴、認知和學習能力下降等問題

在社會和個人層面，除了侵犯個人隱私、引發(fā)版權(quán)糾紛等，濫用人工智能還會造成不少問題：

社會重新分配，勞動秩序重構(gòu)。“人工智能+”的落地應(yīng)用可能會引起“創(chuàng)造性破壞”，也就是普遍擔憂的“人工智能代替人類”——普通勞動者的就業(yè)機會被人工智能剝奪。國際貨幣基金組織發(fā)布報告稱，人工智能預(yù)計將對全球近40%的工作崗位產(chǎn)生影響。創(chuàng)造性和技術(shù)需求較低工作的從業(yè)者都將面臨失業(yè)或轉(zhuǎn)型的危機，社會勞動分工的結(jié)構(gòu)將經(jīng)歷一場“大洗牌”。

難辨真假的“網(wǎng)絡(luò)垃圾”在信息渠道混淆視聽。對于自然科學、金融、醫(yī)學等特定領(lǐng)域的專業(yè)問題，諸多大模型沒有經(jīng)過大規(guī)模專業(yè)語料訓練，可能會一本正經(jīng)“胡編亂造”，制造“模型幻覺”。在缺乏必要監(jiān)管機制的當下，由大模型生成的大量未經(jīng)辨認審核的文本與圖片流入互聯(lián)網(wǎng)，在稀釋真實信息的同時，還容易讓不具備專業(yè)知識的大眾信以為真。

過度使用人工智能“角色扮演”功能易誘發(fā)心理依賴。經(jīng)過特定算法和數(shù)據(jù)庫訓練的大模型，能夠根據(jù)用戶的指示扮演符合用戶情感需求的虛擬角色，與用戶交流。如果用戶過度沉迷其中、忽略現(xiàn)實交際，則有可能因身心空虛導(dǎo)致極端性后果。這是因為算法不透明性和“黑箱”操控機制形成了信息的“繭房”，使用者被困于AI挑選和過濾后的“信息泡泡”中。算法通過分析我們的信息偏好，利用人類易產(chǎn)生恐懼焦慮的心理機制、利用青少年心智不完全成熟和對某些信息的獵奇心，不斷投喂和推薦某類特定信息，加強固有的缺陷和偏好，讓人們身陷其中無法自拔，嚴重時可導(dǎo)致AI成癮效應(yīng)。

過分依賴人工智能進行思考會導(dǎo)致認知和學習能力下降。抖音海外版顧問格雷格·伊森伯格曾提到一名斯坦福大學畢業(yè)生，因過度使用ChatGPT，在交談中經(jīng)常出現(xiàn)思維中斷、言語遲滯的跡象。當認知過程被長期“外包”給人工智能，無論多么優(yōu)秀的大腦，思考和學習功能都會“用進廢退”。不假思索地全盤接受AI生成的“投喂式”內(nèi)容，會導(dǎo)致本應(yīng)在教育過程中塑造并形成的信息收集、篩選、處理、應(yīng)用、創(chuàng)造的批判性思維、邏輯性思維、創(chuàng)新性思維能力的嚴重退化。

3、構(gòu)建人工智能安全治理框架，不僅要涵蓋現(xiàn)實中出現(xiàn)的問題，還應(yīng)從根源入手，避免“頭痛醫(yī)頭、腳痛醫(yī)腳”

面對人工智能這把“雙刃劍”，我們亟須構(gòu)建完備的人工智能安全治理體系。它不僅要涵蓋現(xiàn)實中的問題，還應(yīng)基于系統(tǒng)化、綜合化的人工智能理論，從問題的根源入手，避免“頭痛醫(yī)頭、腳痛醫(yī)腳”的片面化處理。

加強價值對齊，制定人工智能評級標準。造成人工智能引發(fā)的意識形態(tài)、價值倫理、信息混亂等問題的根本原因，是生成式大模型缺乏明確的認知架構(gòu)和價值體系，只能按照人類設(shè)定的程序，機械地對問題做出反饋，沒能做到與人類價值對齊。為此，需要一套結(jié)合人類價值體系和認知架構(gòu)的人工智能評級標準，作為評定和開發(fā)人工智能的科學標尺，輔助科學家打造更加符合人類需求、更加安全的人工智能。

改進技術(shù)，設(shè)置防沉迷預(yù)警。不僅需要從外部對人工智能設(shè)置評級標準，也要從人工智能內(nèi)部進行分級改造。使用人工智能的社會群體千差萬別、需求各有側(cè)重，需要防范的風險也各異。以青少年群體為例，我們應(yīng)該著重研發(fā)輔助課堂學習、引導(dǎo)興趣愛好的人工智能，讓其成為有利于青少年成長的助手與“伙伴”。同時，為防止青少年過度沉迷，應(yīng)在系統(tǒng)中編入使用時長、特定功能分區(qū)的限制，并出具生動詳細的使用教程和預(yù)警聲明，保障青少年的身心健康。

預(yù)測就業(yè)替代風險，加強人工智能職業(yè)培訓。如何避免人工智能替代人類，不僅需要勞動者個人順應(yīng)時代風向、積極主動實現(xiàn)自我提升，還需要政府部門和企事業(yè)單位制定保護勞動者、協(xié)調(diào)人機關(guān)系的就業(yè)保障機制。在部署“人工智能+”行動時，可以要求企業(yè)在應(yīng)用人工智能的同時，在算法中預(yù)置就業(yè)考量，實現(xiàn)向善的人工智能倫理規(guī)則。企業(yè)則應(yīng)做好就業(yè)倫理合規(guī)，不應(yīng)追求用技術(shù)完全替代人，而是追求如何用技術(shù)賦能生產(chǎn)效率、優(yōu)化體驗。此外，在進行就業(yè)前置性布局的時候，也應(yīng)當為可能被替代職業(yè)或工種的從業(yè)者安排相關(guān)的技能培訓，增加他們在新環(huán)境下的就業(yè)機會。

構(gòu)建平等開放的國際人工智能安全秩序。防范人工智能安全風險是全世界共同面臨的課題，并不是某一國、某一地區(qū)的特權(quán)或義務(wù)。目前，發(fā)達國家總體上掌握著比發(fā)展中國家更先進的人工智能技術(shù)，后者往往因此失去了在國際舞臺上的話語權(quán)，并缺乏防范和化解人工智能風險的意識。

需要強調(diào)的是，理解與防范人工智能安全風險的目的，并不是要讓大家畏懼、否定科技的進步，而是希望大家具備理性審視和應(yīng)對潛在風險的能力，學會在人工智能的浪潮中保持清醒的頭腦，掌握駕馭人工智能的主動權(quán)。讓我們在享受智能時代紅利的同時，確保自身和社會的安全穩(wěn)定，實現(xiàn)科技向善、人機和諧共生的美好愿景！

（作者：宋國杰，系北京大學智能學院黨委副書記、長聘副教授）