對(duì)話嘉賓

朱榮生（清華大學(xué)戰(zhàn)略與安全研究中心特約專家、元戰(zhàn)略智庫(kù)高級(jí)研究員）

劉 偉（北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任）

半月談?dòng)浾撸涸谌斯ぶ悄馨l(fā)展過(guò)程中，您認(rèn)為最難以把控的變量與最突出的風(fēng)險(xiǎn)是什么？

劉偉：最難以把控的變量包括不確定性、數(shù)據(jù)質(zhì)量、道德和倫理問(wèn)題。

人工智能系統(tǒng)的復(fù)雜性使得其行為難以預(yù)測(cè)，常常具有不可解釋性，尤其當(dāng)系統(tǒng)面臨新的、未曾遇到的情況時(shí)。這種不確定性可能導(dǎo)致系統(tǒng)無(wú)法做出可靠的決策或產(chǎn)生意外的結(jié)果。

人工智能系統(tǒng)通常需要大量的數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練和學(xué)習(xí)，而數(shù)據(jù)的質(zhì)量對(duì)系統(tǒng)性能至關(guān)重要。如果數(shù)據(jù)存在偏見(jiàn)、錯(cuò)誤或不完整的情況，那么系統(tǒng)的結(jié)果和決策可能也會(huì)受到影響。

人工智能系統(tǒng)的決策可能涉及道德和倫理方面的選擇，例如自動(dòng)駕駛車輛在緊急情況下如何選擇撞擊的對(duì)象。如何確保人工智能系統(tǒng)的決策符合社會(huì)價(jià)值觀成為一個(gè)難題。

人工智能面臨的安全風(fēng)險(xiǎn)較為突出。人工智能系統(tǒng)可能受到黑客攻擊，導(dǎo)致數(shù)據(jù)泄露、系統(tǒng)癱瘓或被濫用。尤其是在關(guān)鍵基礎(chǔ)設(shè)施、金融系統(tǒng)和醫(yī)療等關(guān)鍵領(lǐng)域，安全風(fēng)險(xiǎn)顯得尤為突出。

因涉嫌侵犯隱私，ChatGPT在意大利下線

朱榮生：從全球治理角度看，歷史上的顛覆性科技革新在極大地解放社會(huì)生產(chǎn)力的同時(shí)，也引發(fā)了全球發(fā)展失衡、財(cái)富分配不均、治理機(jī)制滯后的社會(huì)經(jīng)濟(jì)問(wèn)題。每一輪科技革命帶動(dòng)的全球化往往會(huì)把世界經(jīng)濟(jì)推向一個(gè)深度調(diào)整期，不可避免地帶來(lái)傳統(tǒng)產(chǎn)業(yè)衰退、大量勞動(dòng)力失業(yè)、社會(huì)動(dòng)蕩加劇的經(jīng)濟(jì)負(fù)面效應(yīng)，這對(duì)全球經(jīng)濟(jì)治理體系改革提出了新要求。

人工智能等先進(jìn)技術(shù)加速滲透融合到人類經(jīng)濟(jì)和軍事活動(dòng)的各個(gè)領(lǐng)域，放大了維護(hù)國(guó)際穩(wěn)定和非傳統(tǒng)安全的挑戰(zhàn)。智能化戰(zhàn)爭(zhēng)初現(xiàn)端倪，人工智能賦能的無(wú)人作戰(zhàn)軍事平臺(tái)在巴以沖突、納卡沖突、俄烏沖突中被大量應(yīng)用。國(guó)外政策界對(duì)于軍用人工智能技術(shù)的快速部署、肆意擴(kuò)散以及不負(fù)責(zé)任地戰(zhàn)場(chǎng)使用，動(dòng)搖國(guó)際戰(zhàn)略穩(wěn)定性的擔(dān)憂日甚，其中最為急迫的關(guān)切是戰(zhàn)爭(zhēng)形態(tài)向智能化方向演進(jìn)將可能強(qiáng)化首攻優(yōu)勢(shì)。

從國(guó)家間關(guān)系的角度看，AI“強(qiáng)者先行”的發(fā)展特點(diǎn)也將強(qiáng)化國(guó)際競(jìng)爭(zhēng)壓力。盡管每個(gè)國(guó)家都有維護(hù)自身“人工智能主權(quán)”利益的需求，但是大國(guó)和小國(guó)因?qū)嵙Φ牟痪饷媾R著不同程度的挑戰(zhàn)。大國(guó)具有更強(qiáng)的技術(shù)儲(chǔ)備和抗風(fēng)險(xiǎn)能力，能夠在國(guó)際技術(shù)交流網(wǎng)絡(luò)中處于核心地位。相比之下，小國(guó)恐怕會(huì)因缺少足夠的資源而越發(fā)依賴于大國(guó)的技術(shù)供給，從而在全球AI生態(tài)體系發(fā)展中處于邊緣位置。這將進(jìn)一步提高數(shù)字地緣政治競(jìng)爭(zhēng)的烈度，壓縮大國(guó)之間本已有限的關(guān)系緩和空間。

半月談?dòng)浾撸喝绾卧诳刂骑L(fēng)險(xiǎn)的同時(shí)，讓AI成為對(duì)人類、對(duì)社會(huì)進(jìn)步普惠而有益的工具？

劉偉：確保AI系統(tǒng)的決策過(guò)程是透明的，并能提供解釋，以便人們理解其工作原理，如此一來(lái)，可增強(qiáng)人們對(duì)AI系統(tǒng)的信任感，并幫助預(yù)防潛在的不良影響。同時(shí)，需要及時(shí)制定明確的倫理準(zhǔn)則，確保AI系統(tǒng)的設(shè)計(jì)和使用符合道德原則和社會(huì)價(jià)值，包括確保AI系統(tǒng)不歧視、不侵犯隱私和個(gè)人權(quán)利，并遵守相關(guān)法律法規(guī)。在源頭上確保AI系統(tǒng)所使用的數(shù)據(jù)具有高質(zhì)量的特點(diǎn)，并嚴(yán)格保護(hù)個(gè)人隱私。數(shù)據(jù)的來(lái)源、使用和存儲(chǔ)都應(yīng)符合相關(guān)法規(guī)，并通過(guò)安全措施保護(hù)數(shù)據(jù)不被濫用或泄露。

建立有效的監(jiān)管機(jī)制，確保AI系統(tǒng)的開(kāi)發(fā)和使用符合政府制定的規(guī)定和標(biāo)準(zhǔn)，加強(qiáng)對(duì)AI技術(shù)和應(yīng)用的審查和監(jiān)督，以避免濫用和不良影響。鼓勵(lì)公眾參與AI技術(shù)的發(fā)展和決策過(guò)程，并確保各利益相關(guān)方的利益得到平衡，這可以通過(guò)開(kāi)展公開(kāi)磋商、征求意見(jiàn)和建立多方合作來(lái)實(shí)現(xiàn)。建立監(jiān)測(cè)和評(píng)估機(jī)制，及時(shí)發(fā)現(xiàn)和解決AI系統(tǒng)可能出現(xiàn)的風(fēng)險(xiǎn)和問(wèn)題，不斷改進(jìn)和優(yōu)化AI系統(tǒng)的性能和安全性。

朱榮生：從規(guī)制人工智能潛在風(fēng)險(xiǎn)的角度出發(fā)，各國(guó)在維護(hù)利益的同時(shí)，應(yīng)推動(dòng)AI全球治理合作。AI領(lǐng)域的相關(guān)治理攸關(guān)人類命運(yùn)，是全球治理面臨的嚴(yán)峻課題。國(guó)際社會(huì)需要重視廣大發(fā)展中國(guó)家在新興技術(shù)浪潮中的脆弱性，技術(shù)強(qiáng)國(guó)不應(yīng)一味只顧本國(guó)利益而采取“脫鉤斷鏈”手段。AI是一項(xiàng)軍民兩用技術(shù)，就其民用領(lǐng)域來(lái)說(shuō)，引導(dǎo)全球AI行業(yè)健康發(fā)展，實(shí)現(xiàn)“人工智能向善”的目標(biāo)，進(jìn)而促進(jìn)AI技術(shù)造福于全人類，是世界各國(guó)的共同利益。

  在更為敏感的軍事安全方面，AI的軍事化應(yīng)用越發(fā)引起國(guó)際輿論的關(guān)注。據(jù)國(guó)際媒體報(bào)道，AI技術(shù)已在新一輪巴以沖突中被運(yùn)用，造成平民傷亡。從建構(gòu)人工智能全球安全治理規(guī)則的角度出發(fā)，國(guó)際社會(huì)恐怕需要審視美西方提出的“負(fù)責(zé)任的人工智能”理念是否過(guò)于理想，是否應(yīng)該探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災(zāi)難。總之，要推動(dòng)實(shí)現(xiàn)“AI為了人類”的目標(biāo)，恐怕不僅僅需要確保每個(gè)國(guó)家僅基于本國(guó)基本安全和發(fā)展利益的“主權(quán)人工智能”，更需要具有推動(dòng)構(gòu)建基于人類命運(yùn)共同體的“全球人工智能”的意識(shí)與行動(dòng)。

半月談?dòng)浾撸耗X(jué)得普通人應(yīng)如何迎接人工智能時(shí)代？

劉偉：隨著人工智能的發(fā)展，某些工作崗位可能會(huì)被自動(dòng)化取代，所以不斷學(xué)習(xí)和提升自己的技能變得尤為重要，AI在大量重復(fù)性、機(jī)械化的工作中表現(xiàn)出色，但在涉及創(chuàng)造性思維、情感交流和問(wèn)題解決方面仍有限制，因此，重要的是培養(yǎng)自己的合作能力和創(chuàng)造力，發(fā)展與人工智能協(xié)作的能力。

人工智能的應(yīng)用需要運(yùn)用各種科技工具和數(shù)據(jù)分析技能，人們可以學(xué)習(xí)如何使用各種科技工具，以及如何進(jìn)行數(shù)據(jù)處理和分析，從而更好地與人工智能共同工作。同時(shí)，隨著人工智能的不斷發(fā)展，工作環(huán)境和需求也會(huì)發(fā)生變化。因此，普通人需要保持靈活性和適應(yīng)性，積極適應(yīng)新的工作方式和技術(shù)變革。

雖然人工智能在某些方面表現(xiàn)出色，但在涉及情感交流、人文關(guān)懷和倫理決策等領(lǐng)域仍有不少局限性，因此，我們可以培養(yǎng)一些情感技能和人文關(guān)懷，發(fā)展與人工智能進(jìn)行人性化交互的能力。

朱榮生：大家應(yīng)當(dāng)理性看待人工智能技術(shù)應(yīng)用對(duì)社會(huì)發(fā)展產(chǎn)生的影響。盡管科技界和產(chǎn)業(yè)界對(duì)能夠睥睨人類智能水平的人工智能最終走入大眾視野存在樂(lè)觀預(yù)期，但是當(dāng)前的人工智能技術(shù)還沒(méi)有表現(xiàn)出引發(fā)社會(huì)結(jié)構(gòu)顛覆性變化的效果。從ChatGPT到Sora，人工智能所發(fā)揮的主要賦能作用是提高用戶的工作效率，而沒(méi)有達(dá)到“大量機(jī)器取代人類就業(yè)”的變革程度。與其對(duì)不確定性的未來(lái)抱有焦慮情緒，不如理性看待AI的發(fā)展及其影響。

當(dāng)然，忽視AI技術(shù)失序發(fā)展可能產(chǎn)生的風(fēng)險(xiǎn)是不負(fù)責(zé)任的。如果人工智能技術(shù)依然延續(xù)當(dāng)前通過(guò)不斷疊加算力的“暴力計(jì)算”方式來(lái)提高能力，并且最終實(shí)現(xiàn)超越人類的“智能外溢”，那么放縱人工智能技術(shù)無(wú)限度發(fā)展的潛在風(fēng)險(xiǎn)將會(huì)加大。（半月談?dòng)浾?宋晨 梁姊）