對話(hua)嘉(jia)賓(bin)

朱榮生（清華大學戰略與安全研究中心特約專家、元戰略智庫高級研究員）

劉 偉（北京郵電大學人機交互與認知工程實驗室主任）

半(ban)月談記者：在(zai)人工智能發(fa)展(zhan)過程中，您認為最難以把控(kong)的變量與(yu)最突出的風險是(shi)什么？

劉偉：最難以把控的變量包括不確定性、數據質量、道德和倫理問題。

人工(gong)智能系統(tong)的(de)復雜性使得其行(xing)為(wei)難以預測，常(chang)常(chang)具有不可解(jie)釋性，尤其當系統(tong)面臨新的(de)、未曾遇(yu)到的(de)情況時。這種(zhong)不確定性可能導致(zhi)系統(tong)無法做出可靠的(de)決策或(huo)產生意外的(de)結果。

人工智(zhi)能系(xi)統(tong)通(tong)常需(xu)要大量的(de)數據來進行訓練和(he)學習(xi)，而(er)數據的(de)質(zhi)量對系(xi)統(tong)性能至關重(zhong)要。如果(guo)數據存在偏見、錯誤或(huo)不完整的(de)情況(kuang)，那么系(xi)統(tong)的(de)結果(guo)和(he)決策可能也會受(shou)到影響。

人(ren)工(gong)智能系(xi)統的(de)(de)決策(ce)可(ke)能涉及道德(de)和(he)倫理(li)方面的(de)(de)選擇，例如(ru)自(zi)動駕駛車輛(liang)在(zai)緊急情況下如(ru)何(he)選擇撞擊的(de)(de)對象。如(ru)何(he)確保人(ren)工(gong)智能系(xi)統的(de)(de)決策(ce)符合社會價(jia)值觀成為一個難題。

人(ren)工(gong)智能(neng)面(mian)臨的安全風險較(jiao)為突(tu)出。人(ren)工(gong)智能(neng)系(xi)(xi)統可能(neng)受到黑客(ke)攻擊，導致(zhi)數據(ju)泄露(lu)、系(xi)(xi)統癱(tan)瘓(huan)或被(bei)濫用。尤其是在關(guan)鍵基礎設施(shi)、金融系(xi)(xi)統和醫療等關(guan)鍵領域，安全風險顯得尤為突(tu)出。

因涉嫌侵犯(fan)隱私(si)，ChatGPT在意大利下線

朱榮生：從全球治理角度看，歷史上的顛覆性科技革新在極大地解放社會生產力的同時，也引發了全球發展失衡、財富分配不均、治理機制滯后的社會經濟問題。每一輪科技革命帶動的全球化往往會把世界經濟推向一個深度調整期，不可避免地帶來傳統產業衰退、大量勞動力失業、社會動蕩加劇的經濟負面效應，這對全球經濟治理體系改革提出了新要求。

人(ren)(ren)(ren)工(gong)智(zhi)能(neng)等先進技術加(jia)速(su)滲透融合到人(ren)(ren)(ren)類(lei)經濟和(he)軍(jun)(jun)事(shi)活動(dong)的(de)各個領域，放大了維護國(guo)際穩(wen)定(ding)和(he)非(fei)傳統安全的(de)挑戰。智(zhi)能(neng)化(hua)戰爭(zheng)初(chu)現端(duan)倪，人(ren)(ren)(ren)工(gong)智(zhi)能(neng)賦能(neng)的(de)無人(ren)(ren)(ren)作戰軍(jun)(jun)事(shi)平臺在巴以(yi)沖(chong)突(tu)、納卡沖(chong)突(tu)、俄(e)烏沖(chong)突(tu)中(zhong)被大量應(ying)用。國(guo)外政策界對(dui)于軍(jun)(jun)用人(ren)(ren)(ren)工(gong)智(zhi)能(neng)技術的(de)快速(su)部署、肆意擴散以(yi)及(ji)不負責任地戰場使用，動(dong)搖國(guo)際戰略穩(wen)定(ding)性的(de)擔憂(you)日甚，其中(zhong)最為(wei)急迫的(de)關(guan)切是戰爭(zheng)形(xing)態(tai)向智(zhi)能(neng)化(hua)方向演(yan)進將可(ke)能(neng)強化(hua)首攻(gong)優(you)勢。

從(cong)國(guo)(guo)家間(jian)(jian)關(guan)系(xi)的(de)角度(du)看(kan)，AI“強(qiang)者(zhe)先(xian)行”的(de)發展特點也將強(qiang)化國(guo)(guo)際競爭壓力。盡管每(mei)個國(guo)(guo)家都有維(wei)護自身“人工智能(neng)主權”利益的(de)需求，但(dan)是大(da)國(guo)(guo)和(he)小國(guo)(guo)因實力的(de)不(bu)均衡(heng)面臨著不(bu)同程度(du)的(de)挑戰。大(da)國(guo)(guo)具有更強(qiang)的(de)技(ji)術(shu)儲(chu)備(bei)和(he)抗風險能(neng)力，能(neng)夠(gou)在(zai)(zai)國(guo)(guo)際技(ji)術(shu)交(jiao)流(liu)網絡(luo)中(zhong)處于(yu)核心地(di)位。相(xiang)比之(zhi)下，小國(guo)(guo)恐怕會因缺(que)少(shao)足夠(gou)的(de)資源而越(yue)發依賴于(yu)大(da)國(guo)(guo)的(de)技(ji)術(shu)供給，從(cong)而在(zai)(zai)全球AI生(sheng)態體(ti)系(xi)發展中(zhong)處于(yu)邊緣(yuan)位置。這(zhe)將進(jin)一步(bu)提(ti)高數字(zi)地(di)緣(yuan)政治競爭的(de)烈度(du)，壓縮大(da)國(guo)(guo)之(zhi)間(jian)(jian)本(ben)已有限的(de)關(guan)系(xi)緩(huan)和(he)空間(jian)(jian)。

半月談記者：如何在控(kong)制風險的同時(shi)，讓AI成為(wei)對人類、對社會進步普惠而有益的工(gong)具？

劉偉：確保AI系統的決策過程是透明的，并能提供解釋，以便人們理解其工作原理，如此一來，可增強人們對AI系統的信任感，并幫助預防潛在的不良影響。同時，需要及時制定明確的倫理準則，確保AI系統的設計和使用符合道德原則和社會價值，包括確保AI系統不歧視、不侵犯隱私和個人權利，并遵守相關法律法規。在源頭上確保AI系統所使用的數據具有高質量的特點，并嚴格保護個人隱私。數據的來源、使用和存儲都應符合相關法規，并通過安全措施保護數據不被濫用或泄露。

建(jian)立有效的(de)監(jian)管(guan)機制(zhi)，確保AI系統的(de)開(kai)發和(he)使用(yong)符合政(zheng)府(fu)制(zhi)定(ding)的(de)規定(ding)和(he)標準(zhun)，加強對AI技術和(he)應用(yong)的(de)審查和(he)監(jian)督，以避免(mian)濫用(yong)和(he)不(bu)良(liang)影響。鼓(gu)勵公眾參與(yu)AI技術的(de)發展和(he)決策(ce)過程，并確保各利益相關方的(de)利益得到平衡(heng)，這可以通過開(kai)展公開(kai)磋(cuo)商(shang)、征求意見(jian)和(he)建(jian)立多方合作來(lai)實現(xian)。建(jian)立監(jian)測(ce)和(he)評(ping)估機制(zhi)，及時發現(xian)和(he)解決AI系統可能(neng)出現(xian)的(de)風(feng)險(xian)和(he)問題，不(bu)斷改進和(he)優化AI系統的(de)性能(neng)和(he)安全性。

朱榮生：從規制人工智能潛在風險的角度出發，各國在維護利益的同時，應推動AI全球治理合作。AI領域的相關治理攸關人類命運，是全球治理面臨的嚴峻課題。國際社會需要重視廣大發展中國家在新興技術浪潮中的脆弱性，技術強國不應一味只顧本國利益而采取“脫鉤斷鏈”手段。AI是一項軍民兩用技術，就其民用領域來說，引導全球AI行業健康發展，實現“人工智能向善”的目標，進而促進AI技術造福于全人類，是世界各國的共同利益。

  在(zai)(zai)更(geng)為敏感(gan)的(de)(de)(de)(de)(de)軍(jun)事安(an)全(quan)(quan)方(fang)(fang)面，AI的(de)(de)(de)(de)(de)軍(jun)事化(hua)應用(yong)越發引起國(guo)(guo)際輿論的(de)(de)(de)(de)(de)關注。據國(guo)(guo)際媒體報(bao)道，AI技術已(yi)在(zai)(zai)新(xin)一(yi)輪巴以沖突中(zhong)被運用(yong)，造成平民傷亡。從建構(gou)人工(gong)智能(neng)全(quan)(quan)球安(an)全(quan)(quan)治(zhi)理規則的(de)(de)(de)(de)(de)角(jiao)度出發，國(guo)(guo)際社會恐(kong)怕需(xu)要(yao)審視美西(xi)方(fang)(fang)提出的(de)(de)(de)(de)(de)“負責任的(de)(de)(de)(de)(de)人工(gong)智能(neng)”理念(nian)是否過(guo)于(yu)(yu)(yu)理想，是否應該(gai)探索建立某種(zhong)“有人道的(de)(de)(de)(de)(de)AI”的(de)(de)(de)(de)(de)共(gong)同主(zhu)張(zhang)，以避免算法定生死(si)釀成的(de)(de)(de)(de)(de)人道主(zhu)義災難。總之，要(yao)推動(dong)實現(xian)“AI為了(le)人類”的(de)(de)(de)(de)(de)目標(biao)，恐(kong)怕不(bu)僅(jin)僅(jin)需(xu)要(yao)確(que)保每個國(guo)(guo)家僅(jin)基(ji)于(yu)(yu)(yu)本(ben)國(guo)(guo)基(ji)本(ben)安(an)全(quan)(quan)和發展利益(yi)的(de)(de)(de)(de)(de)“主(zhu)權人工(gong)智能(neng)”，更(geng)需(xu)要(yao)具有推動(dong)構(gou)建基(ji)于(yu)(yu)(yu)人類命運共(gong)同體的(de)(de)(de)(de)(de)“全(quan)(quan)球人工(gong)智能(neng)”的(de)(de)(de)(de)(de)意識(shi)與行(xing)動(dong)。

半月談記者：您覺得普通人應如何迎(ying)接人工智能時代(dai)？

劉偉：隨著人工智能的發展，某些工作崗位可能會被自動化取代，所以不斷學習和提升自己的技能變得尤為重要，AI在大量重復性、機械化的工作中表現出色，但在涉及創造性思維、情感交流和問題解決方面仍有限制，因此，重要的是培養自己的合作能力和創造力，發展與人工智能協作的能力。

人(ren)(ren)(ren)工(gong)(gong)(gong)智能的(de)應(ying)用需(xu)要運用各種科(ke)技工(gong)(gong)(gong)具(ju)和(he)數(shu)據(ju)分(fen)析技能，人(ren)(ren)(ren)們可以學習如何使(shi)用各種科(ke)技工(gong)(gong)(gong)具(ju)，以及如何進行數(shu)據(ju)處理和(he)分(fen)析，從而更好地與人(ren)(ren)(ren)工(gong)(gong)(gong)智能共同工(gong)(gong)(gong)作(zuo)。同時，隨著人(ren)(ren)(ren)工(gong)(gong)(gong)智能的(de)不斷發展，工(gong)(gong)(gong)作(zuo)環境(jing)和(he)需(xu)求也會(hui)發生變化。因此，普通(tong)人(ren)(ren)(ren)需(xu)要保(bao)持靈(ling)活性和(he)適應(ying)性，積極適應(ying)新的(de)工(gong)(gong)(gong)作(zuo)方式和(he)技術變革。

雖(sui)然人(ren)工智(zhi)能在某些(xie)方(fang)面表現出色(se)，但在涉(she)及情感(gan)(gan)交流、人(ren)文(wen)關懷(huai)和倫理決策等領域仍有不少局限性，因(yin)此，我們可以培養(yang)一些(xie)情感(gan)(gan)技能和人(ren)文(wen)關懷(huai)，發展與人(ren)工智(zhi)能進行人(ren)性化交互的能力。

朱榮生：大家應當理性看待人工智能技術應用對社會發展產生的影響。盡管科技界和產業界對能夠睥睨人類智能水平的人工智能最終走入大眾視野存在樂觀預期，但是當前的人工智能技術還沒有表現出引發社會結構顛覆性變化的效果。從ChatGPT到Sora，人工智能所發揮的主要賦能作用是提高用戶的工作效率，而沒有達到“大量機器取代人類就業”的變革程度。與其對不確定性的未來抱有焦慮情緒，不如理性看待AI的發展及其影響。

當然(ran)，忽(hu)視AI技(ji)術失序發展可能(neng)產生的(de)(de)風險是不負責任的(de)(de)。如果人工(gong)(gong)智(zhi)能(neng)技(ji)術依然(ran)延續當前通過不斷疊加(jia)算力的(de)(de)“暴力計算”方(fang)式來提高能(neng)力，并且最終實現超越人類的(de)(de)“智(zhi)能(neng)外(wai)溢(yi)”，那(nei)么放縱人工(gong)(gong)智(zhi)能(neng)技(ji)術無限(xian)度發展的(de)(de)潛(qian)在風險將會加(jia)大。（半月談記者 宋晨(chen) 梁(liang)姊）