一、 人工智能倫理概述
倫理是人們相互關(guān)系的行為準則。人工智能倫理是關(guān)于人和人工智能相互關(guān)系的準則，是開(kāi)展人工智能研究、開(kāi)發(fā)、管理、供應和使用等科技活動(dòng)需要遵循的價(jià)值理念和行為規范。
為符合實(shí)踐需要，人工智能倫理形成以人工智能倫理原則為出發(fā)點(diǎn)的概念建構模式。
一是，多個(gè)國家和地區通過(guò)發(fā)布人工智能倫理原則的方式，闡述人工智能倫理治理的基本目標和要求。如國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開(kāi)放協(xié)作、敏捷治理8項原則，豐富了人工智能倫理的內涵，提出了人工智能倫理治理的要求。
二是，國際組織通過(guò)發(fā)布人工智能倫理原則，推進(jìn)人類(lèi)共同理念的達成，促進(jìn)人工智能領(lǐng)域的國際合作。如聯(lián)合國教科文組織在《人工智能倫理問(wèn)題建議書(shū)》中提出公平和非歧視、可持續性、人類(lèi)的監督和決定、透明度和可解釋性等10項原則，提出負責任人工智能發(fā)展的全球治理目標。
三是，科技企業(yè)形成圍繞人工智能倫理原則的倫理風(fēng)險治理體系。如微軟提出負責任人工智能應當符合公平性、可靠性和安全性、隱私性和安全性、包容性、透明度和問(wèn)責制6項原則，并圍繞相關(guān)原則制定負責任人工智能的標準、開(kāi)發(fā)相配套的技術(shù)工具。
二、ChatGPT的技術(shù)特點(diǎn)及風(fēng)險
ChatGPT是由大數據驅動(dòng)、大模型支持，并能廣泛應用的人工智能產(chǎn)品。OpenAI為減輕ChatGPT的倫理風(fēng)險，開(kāi)發(fā)了產(chǎn)品部署流程、基于人類(lèi)反饋的強化學(xué)習（Reinforcement Learning from Human Feedback，RLHF）等管理和技術(shù)工具。然而，ChatGPT還是引發(fā)了人機關(guān)系的新挑戰、放大了人類(lèi)社會(huì )固有的倫理問(wèn)題。
從“人——機”關(guān)系角度看，ChatGPT對人與機器的情感關(guān)系、人的勞動(dòng)價(jià)值、人的主體意識等人機關(guān)系倫理形成沖擊。雖然ChatGPT不屬于強人工智能，但ChatGPT已在教育、金融、法律、游戲等不同領(lǐng)域展開(kāi)豐富實(shí)踐應用。同時(shí)，業(yè)界推測ChatGPT依托的大模型可能已經(jīng)出現涌現能力（Emergent Ability），人工智能的發(fā)展走向更多未知，人機關(guān)系的協(xié)調出現諸多新挑戰。一是，語(yǔ)言體系豐富、能夠聯(lián)系上下文進(jìn)行對話(huà)、具備“角色扮演”功能的ChatGPT可作為陪伴者和用戶(hù)進(jìn)行實(shí)時(shí)互動(dòng)，人類(lèi)對機器產(chǎn)生情感和依賴(lài)的可能性增加，影響人的心理狀態(tài)。二是，能夠進(jìn)行文字生成、代碼生成、策略推薦等工作的ChatGPT引發(fā)人類(lèi)對于勞動(dòng)替代的憂(yōu)慮，伴隨ChatGP開(kāi)放API接口，更加豐富的應用場(chǎng)景和功能將可能對更多行業(yè)的從業(yè)者產(chǎn)生沖擊。三是，智能機器的快速發(fā)展對人的文化創(chuàng )造產(chǎn)生沖擊。ChatGPT能做到智能寫(xiě)詩(shī)，但卻可能消解人的創(chuàng )作熱情；ChatGPT在文本生成方面的誤用濫用會(huì )將可能影響知識學(xué)習的過(guò)程，對人類(lèi)智識的提高產(chǎn)生負面影響。
從“人——人”關(guān)系角度看，基于大數據訓練的ChatGPT能放大人類(lèi)社會(huì )固有的偏見(jiàn)，并可能因為技術(shù)濫用引發(fā)社會(huì )信任危機。一是，互聯(lián)網(wǎng)數據記錄了人類(lèi)社會(huì )潛在的歧視與價(jià)值對抗，ChatGPT可能輸出明顯具有偏見(jiàn)的對話(huà)內容，不僅影響用戶(hù)的判斷，更可能因為大量文本的廣泛傳播應用，加深社會(huì )偏見(jiàn)。二是，ChatGPT選取出現概率較大的語(yǔ)料進(jìn)行內容生成，模型為追求內容的準確性可能以喪失文化的多樣性為代價(jià)，對人類(lèi)社會(huì )的價(jià)值多樣性形成挑戰。三是， ChatGPT具有強大的自然語(yǔ)言處理能力，能夠“一本正經(jīng)地說(shuō)”，但由于其數據和算法限制，又有“胡說(shuō)八道”的可能性。然而，為回應用戶(hù)需求，ChatGPT能夠批量生產(chǎn)大量虛構信息，且無(wú)法控制生成內容的誤用和濫用。同時(shí)，合成文本相較圖片、聲音等更具傳播優(yōu)勢，也更難判斷其是否屬于人工智能生成內容。對ChatGPT的誤用和濫用將對人與人之間基于信賴(lài)的交往產(chǎn)生沖擊。
三、 生成式人工智能倫理治理的未來(lái)展望
以ChatGPT為代表的人工智能技術(shù)發(fā)展可能將人類(lèi)社會(huì )帶入新的階段，人工智能倫理治理的目標在于鼓勵技術(shù)的良性發(fā)展，為可持續的創(chuàng )新提供保障。
企業(yè)發(fā)揮人工智能倫理治理的主體作用。企業(yè)在人工智能倫理治理中從倫理意識、機制設置、技術(shù)開(kāi)發(fā)等方面發(fā)揮最基礎和最主要的作用。一是，加強人工智能倫理治理意識。企業(yè)通過(guò)明確人工智能倫理原則、建立人工智能倫理審查機構、明晰人工智能倫理審查流程等，形成人工智能倫理治理從意識到實(shí)踐的落地機制。二是，細化和完善人工智能產(chǎn)品的全流程管理。如企業(yè)可在設計研發(fā)階段，即評估技術(shù)和產(chǎn)品的倫理風(fēng)險；在測試階段，將產(chǎn)品從封閉環(huán)境逐步引入開(kāi)放復雜的社會(huì )環(huán)境，不斷彌補產(chǎn)品倫理漏洞，將倫理風(fēng)險控制在發(fā)展早期；在產(chǎn)品上線(xiàn)后，通過(guò)使用情況審查、速率限制等方法，減輕產(chǎn)品濫用可能性；最后，對倫理事故進(jìn)行詳細的回顧審查。三是，通過(guò)技術(shù)手段提升倫理治理能力。企業(yè)可通過(guò)開(kāi)發(fā)數據偏見(jiàn)和公平性評估工具、模型安全評估工具等加強人工智能倫理風(fēng)險的技術(shù)應對。
多主體參與人工智能倫理治理的合作機制。人工智能倫理治理是用戶(hù)、企業(yè)、行業(yè)等多方主體的協(xié)作。一是，用戶(hù)在與人工智能的互動(dòng)中提出現實(shí)世界的問(wèn)題，為產(chǎn)品優(yōu)化提供數據，并通過(guò)對產(chǎn)品風(fēng)險漏洞的討論與反饋等協(xié)助生成式人工智能向善發(fā)展。二是，企業(yè)通過(guò)明晰人工智能技術(shù)缺陷、開(kāi)源人工智能倫理治理工具等，為更多開(kāi)發(fā)者提示人工智能產(chǎn)品的倫理風(fēng)險，提供倫理治理方法和工具。三是，行業(yè)組織密切產(chǎn)業(yè)主體，通過(guò)團體指南、行業(yè)標準等方式推動(dòng)行業(yè)對人工智能倫理治理共識的建立，促進(jìn)行業(yè)自律。
加強國際合作應對人工智能倫理風(fēng)險。技術(shù)發(fā)展的全球性給數字時(shí)代的人類(lèi)帶來(lái)機遇和挑戰，人工智能倫理治理也成為國際治理合作的重要契機。政府間國際組織、國際學(xué)術(shù)團體、行業(yè)組織等在尊重各國、各領(lǐng)域人工智能治理的原則和實(shí)踐下，推動(dòng)形成以增進(jìn)人類(lèi)福祉為目標的國際人工智能治理框架和標準規范。
