3月21日，聯(lián)合國大會通過首個關(guān)于人工智能的全球決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》。
據(jù)悉，這是聯(lián)合國大會首次就監(jiān)管人工智能這一新興領(lǐng)域通過決議。決議草案由美國提交，同時還有120多個會員國成為“共同提案國”或表達支持。
該決議部分內(nèi)容如下：
大會認(rèn)識到，安全、可靠和值得信賴的人工智能系統(tǒng)——就本決議而言是指非軍事領(lǐng)域的人工智能系統(tǒng)，其生命周期包括前期設(shè)計、開發(fā)、評價、測試、部署、使用、銷售、采購、運行和淘汰等階段——必須以人為本、可靠、可解釋、符合道德、具有包容性，充分尊重、促進和保護人權(quán)和國際法，保護隱私、面向可持續(xù)發(fā)展和負(fù)責(zé)任，這些系統(tǒng)可以加速和推動在實現(xiàn)所有17項可持續(xù)發(fā)展目標(biāo)方面取得進展以及通過平衡和統(tǒng)籌兼顧的方式從經(jīng)濟、社會和環(huán)境這三個方面實現(xiàn)可持續(xù)發(fā)展；推動數(shù)字化轉(zhuǎn)型；促進和平；克服國家之間和國家內(nèi)部的數(shù)字鴻溝；促進和保護人人享有人權(quán)和基本自由，同時堅持以人為本。
又認(rèn)識到，不當(dāng)或惡意地設(shè)計、開發(fā)、部署和使用人工智能系統(tǒng)——例如在沒有適當(dāng)保障措施或不符合國際法的情況下——構(gòu)成風(fēng)險，可能阻礙在實現(xiàn)《2030 年可持續(xù)發(fā)展議程》及其可持續(xù)發(fā)展目標(biāo)方面取得進展，不利于從經(jīng)濟、社會和環(huán)境這三個方面實現(xiàn)可持續(xù)發(fā)展；擴大國家之間和國家內(nèi)部的數(shù)字鴻溝；強化結(jié)構(gòu)性不平等和偏見；導(dǎo)致歧視；有損于信息的完整性和獲取信息的途徑；削弱對人權(quán)和基本自由的保護、促進和享有，包括個人隱私不受非法或任意干涉的權(quán)利；增加發(fā)生事故的潛在風(fēng)險和來自惡意行為者的多重威脅。
還認(rèn)識到人工智能系統(tǒng)的設(shè)計、開發(fā)、部署和使用速度加快，技術(shù)變革日新月異，對加快實現(xiàn)可持續(xù)發(fā)展目標(biāo)具有潛在影響，因此強調(diào)指出迫切需要就安全、可靠和值得信賴的人工智能系統(tǒng)達成全球共識；推動開展包容性國際合作，制定和使用有效、具有國際互操作性的保障措施、做法和標(biāo)準(zhǔn)，以促進創(chuàng)新，防止對安全、可靠和值得信賴的人工智能系統(tǒng)的治理不成體系；認(rèn)識到目前存在人工智能和其他數(shù)字方面的鴻溝，國家之間和國家內(nèi)部的技術(shù)發(fā)展水平參差不齊，發(fā)展中國家在跟上這一迅速加速的步伐方面面臨獨特挑戰(zhàn)，這對可持續(xù)發(fā)展造成障礙，需要消除發(fā)達國家與發(fā)展中國家之間在條件、可能性和能力方面的現(xiàn)有差距，因此，又強調(diào)指出迫切需要在能力建設(shè)及技術(shù)和財政方面加強對發(fā)展中國家的援助，以消除國家之間和國家內(nèi)部的數(shù)字鴻溝，支持發(fā)展中國家有效、公平和有意義地參與人工智能系統(tǒng)治理方面的國際進程和論壇并擁有代表權(quán)。
又認(rèn)識到，人工智能系統(tǒng)治理是一個不斷發(fā)展變化的領(lǐng)域，需要隨著技術(shù)和我們對技術(shù)的認(rèn)識不斷提高，繼續(xù)討論可能采取的適當(dāng)治理辦法，這些辦法必須以國際法為基礎(chǔ)，具有互操作性、靈活性、適應(yīng)性、包容性，能夠滿足發(fā)達國家和發(fā)展中國家的不同需求和能力，并使所有人受益。
1.決心彌合國家之間和國家內(nèi)部的人工智能鴻溝和其他數(shù)字鴻溝。
2.決心促進安全、可靠和值得信賴的人工智能系統(tǒng)，以在全面實現(xiàn)《2030 年可持續(xù)發(fā)展議程》 方面加快取得進展，進一步彌合國家之間和國家內(nèi)部的人工智能鴻溝和其他數(shù)字鴻溝；強調(diào)指出需要制定安全、可靠和值得信賴的人工智能系統(tǒng)標(biāo)準(zhǔn)，以促進而不是阻礙數(shù)字化轉(zhuǎn)型和公平獲取這些系統(tǒng)所帶來的惠益，從而實現(xiàn)所有17項可持續(xù)發(fā)展目標(biāo)和從經(jīng)濟、社會和環(huán)境這三個方面實現(xiàn)可持續(xù)發(fā)展，并應(yīng)對其他共同的全球挑戰(zhàn)特別是發(fā)展中國家面臨的挑戰(zhàn)。
3.鼓勵會員國并邀請來自所有區(qū)域和國家的多利益攸關(guān)方，包括私營部門、國際和區(qū)域組織、民間社會、媒體、學(xué)術(shù)界和研究機構(gòu)、技術(shù)界及個人，在各自角色和職責(zé)范圍內(nèi)，制定和支持與安全、可靠和值得信賴的人工智能系統(tǒng)有關(guān)的監(jiān)管和治理辦法和框架，在各國創(chuàng)造一個有利的生態(tài)系統(tǒng)，包括按照共同商定條件促進創(chuàng)新、創(chuàng)業(yè)和知識與技術(shù)傳播，同時認(rèn)識到各國政府和多利益攸關(guān)方之間的有效伙伴關(guān)系和合作對于制定此類辦法和框架是必要的。
4.促請會員國并邀請其他利益攸關(guān)方采取行動，與發(fā)展中國家合作并向其提供援助，以實現(xiàn)包容和公平地獲得數(shù)字化轉(zhuǎn)型以及安全、可靠和值得信賴的人工智能系統(tǒng)所帶來的惠益，包括為此。
(a) 擴大所有國家特別是發(fā)展中國家對數(shù)字化轉(zhuǎn)型的參與，以利用安全、可靠和值得信賴的人工智能系統(tǒng)所帶來的惠益并有效參與其開發(fā)、部署和使用，包括為此開展與人工智能系統(tǒng)有關(guān)的能力建設(shè)，同時認(rèn)識到促進知識共享活動和按照共同商定條件轉(zhuǎn)讓技術(shù)是能力建設(shè)的一個重要方面，并強調(diào)指出需要消除人工智能鴻溝和其他數(shù)字鴻溝，提高數(shù)字素養(yǎng)；
(b) 通過強化伙伴關(guān)系，增強數(shù)字基礎(chǔ)設(shè)施的連通性和技術(shù)創(chuàng)新的獲取，幫助發(fā)展中國家在人工智能系統(tǒng)的整個生命周期內(nèi)有效參與，加快人工智能系統(tǒng)對社會的包容性和積極貢獻，包括全面實現(xiàn)《2030 年議程》及其可持續(xù)發(fā)展目標(biāo)，同時確保世界各地的人工智能系統(tǒng)在其整個生命周期內(nèi)都是安全、可靠和值得信賴的；
(c) 增強發(fā)展中國家、特別是最不發(fā)達國家的能力，以應(yīng)對主要的結(jié)構(gòu)性障礙，消除在獲得新技術(shù)和新興技術(shù)以及人工智能創(chuàng)所帶來的惠益方面存在的障礙，實現(xiàn)所有17項可持續(xù)發(fā)展目標(biāo)，包括以加強伙伴關(guān)系等方式擴大使用科學(xué)資源、可負(fù)擔(dān)的技術(shù)、研究和開發(fā)；
(d) 力求提供更多資金，促進在數(shù)字技術(shù)和安全、可靠和值得信賴的人工智能系統(tǒng)方面開展與可持續(xù)發(fā)展目標(biāo)相關(guān)的研究和創(chuàng)新，并在所有區(qū)域和國家開展能力建設(shè)，以促進這項研究并從中受益；
(e) 營造基于創(chuàng)新的國際環(huán)境，以提高發(fā)展中國家發(fā)展技術(shù)專長和實力的能力，利用數(shù)據(jù)和計算資源以及國家監(jiān)管和治理方法、框架和采購能力，并在各級建立包容有利的環(huán)境，提出基于安全、可靠和值得信賴的人工智能系統(tǒng)的解決方案；
(f) 緊急動用各種執(zhí)行手段，例如按照共同商定條件進行技術(shù)轉(zhuǎn)讓，開展能力建設(shè)以消除人工智能鴻溝和其他數(shù)字鴻溝，根據(jù)發(fā)展中國家的國家需求、政策和優(yōu)先事項，向發(fā)展中國家提供與人工智能系統(tǒng)有關(guān)的技術(shù)援助和融資；
(g) 促進獲取安全、可靠和值得信賴的人工智能系統(tǒng)以及這些系統(tǒng)的設(shè)計、開發(fā)、部署和使用，以期從經(jīng)濟、社會和環(huán)境這三個方面實現(xiàn)可持續(xù)發(fā)展；
5.強調(diào)必須在人工智能系統(tǒng)的整個生命周期內(nèi)尊重、保護和增進人權(quán)和基本自由，促請所有會員國并在適用情況下促請其他利益攸關(guān)方不要使用或停止使用無法按照國際人權(quán)法運作或?qū)ο硎苋藱?quán)構(gòu)成過度風(fēng)險的人工智能系統(tǒng)，特別是對于那些處于弱勢的人而言，并重申人們在線下享有的權(quán)利也必須在線上得到保護，包括在人工智能系統(tǒng)的整個生命周期內(nèi)。
6.鼓勵所有會員國酌情根據(jù)本國優(yōu)先事項和具體情況以及在實施本國獨特的監(jiān)管和治理辦法和框架時，并在適用情況下鼓勵其他利益攸關(guān)方，以包容和公平的方式促進安全、可靠和值得信賴的人工智能系統(tǒng)，造福所有人，并為這些系統(tǒng)營造有利環(huán)境，以應(yīng)對世界上最大的挑戰(zhàn)，包括從經(jīng)濟、社會和環(huán)境這三個方面實現(xiàn)可持續(xù)發(fā)展，同時具體考慮到發(fā)展中國家以及不讓任何一個人掉隊，方法是：
(a) 根據(jù)各自的國家政策和優(yōu)先事項以及國際法規(guī)定的義務(wù)，并酌情根據(jù)國家以下各級政策和優(yōu)先事項和義務(wù)，促進制定和實施國內(nèi)監(jiān)管和治理辦法和框架，以支持負(fù)責(zé)任和包容各方的人工智能創(chuàng)新和投資，促進可持續(xù)發(fā)展，同時推廣安全、可靠和值得信賴的人工智能系統(tǒng)；
(b) 鼓勵采取有效措施，促進創(chuàng)新，以便在人工智能系統(tǒng)的設(shè)計和開發(fā)期間以及在部署和使用之前，對脆弱性和風(fēng)險采取具有國際互操作性的識別、分 類、評估、測試、預(yù)防和緩解措施；
(c) 鼓勵納入反饋機制，以使最終用戶和第三方可在開發(fā)、測試和部署人工智能系統(tǒng)后，以循證方式發(fā)現(xiàn)和報告技術(shù)漏洞，并根據(jù)情況發(fā)現(xiàn)和報告濫用人工智能系統(tǒng)的行為和人工智能事件，以解決這些問題；
(d) 提高公眾對人工智能系統(tǒng)的核心功能、能力、局限性和適當(dāng)民用領(lǐng)域的認(rèn)識和了解；
(e) 在人工智能系統(tǒng)的整個生命周期內(nèi)，促進建立、實施和披露風(fēng)險監(jiān)測和管理機制、確保數(shù)據(jù)安全機制（包括個人數(shù)據(jù)保護和隱私政策）以及適當(dāng)?shù)挠绊懺u估；
(f) 加強對制定和實施有效保障措施的投資，包括實體安全、人工智能系統(tǒng)安全以及人工智能系統(tǒng)整個生命周期內(nèi)的風(fēng)險管理；
(g) 鼓勵開發(fā)和部署有效、可獲取、適應(yīng)性強、具有國際互操作性的技術(shù)工具、標(biāo)準(zhǔn)或做法，包括可靠的內(nèi)容認(rèn)證和來源識別機制——例如在技術(shù)上可行和適當(dāng)?shù)那闆r下使用水印或標(biāo)簽，以使用戶能夠識別信息操縱行為，區(qū)分或確定真實數(shù)字內(nèi)容和由人工智能生成或操縱數(shù)字內(nèi)容——并提高對媒體和信息的認(rèn)知度；
(h) 促進制定和實施有效、具有國際互操作性的框架、做法和標(biāo)準(zhǔn)，用于培訓(xùn)和測試人工智能系統(tǒng)，以加強決策，幫助保護個人免受一切形式的歧視、 偏見、濫用或其他傷害，并避免在人工智能系統(tǒng)的整個生命周期內(nèi)強化或固化具有歧視或偏見的應(yīng)用程序和結(jié)果，例如，為此分析和減輕數(shù)據(jù)集中存在的偏見，并以其他方式打擊算法方面的歧視和偏見，同時又不會無意或過度地影響其他用戶和受益方的正向發(fā)展、獲取和使用；
(i) 在適當(dāng)和相關(guān)的情況下，鼓勵實施適當(dāng)?shù)谋Ｕ洗胧�，以尊重知識產(chǎn)權(quán)，包括受版權(quán)保護的內(nèi)容，同時促進創(chuàng)新；
(j) 在測試和評估系統(tǒng)時保障隱私和保護個人數(shù)據(jù)，并遵守相關(guān)國際、國家和國家以下各級法律框架中規(guī)定的透明度和報告要求，包括關(guān)于在人工智能系統(tǒng)整個生命周期內(nèi)使用個人數(shù)據(jù)方面的要求；
(k) 對于作出或支持作出影響最終用戶的決定的人工智能系統(tǒng)，在其整個生命周期內(nèi)促進透明度、可預(yù)測性、可靠性和可理解性，包括提供通知和解釋；促進人類監(jiān)督，例如，通過審查自動化決定和相關(guān)流程，或在適當(dāng)和相關(guān)情況下，為那些受到人工智能系統(tǒng)自動化決策不利影響的人提供人類決策替代方案或進行有效補救和問責(zé)；
(l) 在人工智能系統(tǒng)的整個生命周期內(nèi)，加強對制定和實施有效保障措施的投資，包括風(fēng)險和影響評估，以保護人權(quán)和基本自由的行使，并減輕對充分和有效享受人權(quán)和基本自由的潛在影響；
(m) 推廣可以促進、保護和保全語言和文化多樣性的人工智能系統(tǒng)，在其培訓(xùn)數(shù)據(jù)中以及在人工智能系統(tǒng)的整個生命周期內(nèi)考慮到使用多種語言，特別在大語言模型方面；
(n) 按照共同商定條件，與在人工智能系統(tǒng)的整個生命周期內(nèi)發(fā)揮作用的各個實體加強信息共享，以確定、理解人工智能系統(tǒng)的最佳科學(xué)和循證做法、政策和方法并利用這些做法、政策和方法采取行動，實現(xiàn)效益最大化，同時在人工智能系統(tǒng)(包括先進人工智能系統(tǒng))的整個生命周期內(nèi)減輕潛在風(fēng)險；
(o) 鼓勵開展研究和國際合作，以了解、平衡和解決與人工智能系統(tǒng)在彌合數(shù)字鴻溝和實現(xiàn)所有17項可持續(xù)發(fā)展目標(biāo)方面所發(fā)揮作用有關(guān)的潛在利益和風(fēng)險，包括擴大開源人工智能系統(tǒng)等數(shù)字解決方案的作用；
(p) 促請會員國采取具體措施，消除性別數(shù)字鴻溝，確保特別關(guān)注利用、可負(fù)擔(dān)性、數(shù)字素養(yǎng)、隱私和在線安全，加強數(shù)字技術(shù)(包括人工智能系統(tǒng))的使用，并將殘疾、性別和種族平等視角納入決策和決策指導(dǎo)框架的主流；
(q) 鼓勵開展研究和國際合作，以制定措施確定和評估人工智能系統(tǒng)的部署對勞動力市場的影響，支持減輕對勞動力的潛在負(fù)面影響，特別是對發(fā)展中國家，尤其是最不發(fā)達國家勞動力的潛在負(fù)面影響，以及促進旨在開展數(shù)字培訓(xùn)和能力建設(shè)的方案、支持創(chuàng)新并讓更多的人享受人工智能系統(tǒng)帶來的好處；
7.又認(rèn)識到數(shù)據(jù)是人工智能系統(tǒng)開發(fā)和運行的根本；強調(diào)公平、包容、負(fù)責(zé)和有效的數(shù)據(jù)治理，數(shù)據(jù)生成、獲取和基礎(chǔ)設(shè)施的改善，以及數(shù)字公共產(chǎn)品的使用，對于利用安全、可靠和值得信賴的人工智能系統(tǒng)的潛力促進可持續(xù)發(fā)展至關(guān)重要，并敦促會員國分享數(shù)據(jù)治理最佳做法，促進數(shù)據(jù)管理方面的國際合作、協(xié)作和援助，以在可行的情況下提高各種方法的一致性和互操作性，從而推動安全、可靠和可信的人工智能系統(tǒng)實現(xiàn)可信的跨境數(shù)據(jù)流動，使其發(fā)展更加包容、公平、有效和惠及所有人。
8.確認(rèn)必須繼續(xù)討論人工智能治理領(lǐng)域的發(fā)展動態(tài)，以使國際做法跟上人工智能系統(tǒng)及其用途的演進；并鼓勵國際社會繼續(xù)努力促進包容性研究、摸底和分析，以了解人工智能系統(tǒng)和快速技術(shù)變革在現(xiàn)有技術(shù)、新技術(shù)和新興技術(shù)的開發(fā)方面以及對加速實現(xiàn)所有17項可持續(xù)發(fā)展目標(biāo)的潛在影響和各種應(yīng)用，使所有各方受益，并且為人工智能設(shè)計方、開發(fā)方、評估方、部署方、用戶和其他利益攸關(guān)方制定、促進和實施有效、具有國際互操作性的保障措施、做法、標(biāo)準(zhǔn)和工具提供信息，以使人工智能系統(tǒng)做到安全、可靠和值得信賴；強調(diào)指出各國政府、私營部門、民間社會、國際和區(qū)域組織、學(xué)術(shù)界和研究機構(gòu)及技 術(shù)界和所有其他利益攸關(guān)方需要繼續(xù)酌情共同努力；確認(rèn)所有社區(qū)特別是發(fā)展中國家的社區(qū)需要以更加一致、有效、協(xié)調(diào)和包容的方式，參與安全、可靠 和值得信賴的人工智能系統(tǒng)的包容性治理。
9.鼓勵私營部門遵守相關(guān)國際和國內(nèi)法律，并按照《聯(lián)合國工商企業(yè)與 人權(quán)指導(dǎo)原則：實施聯(lián)合國“保護、尊重和補救”框架》行事；確認(rèn)必須以更加包容和公平的方式獲得安全、可靠和值得信賴的人工智能系統(tǒng)帶來的惠益；認(rèn)識到需要加強合作，包括公共部門、私營部門、民間社會、學(xué)術(shù)界和研究機構(gòu)以及技術(shù)界之間和內(nèi)部的合作，以在安全、可靠和值得信賴的人工智能的整個生命周期內(nèi)提供和促進公平、開放、包容和沒有歧視的營商環(huán)境、經(jīng)濟和商業(yè)活動、競爭性生態(tài)系統(tǒng)和市場；鼓勵會員國制定政策和法規(guī)，以促進在安全、可靠和值得信賴的人工智能系統(tǒng)和相關(guān)技術(shù)方面開展競爭，包括支持和為小企業(yè)、企業(yè)家和技術(shù)人才創(chuàng)造新的機會，并通過關(guān)鍵投資特別是對發(fā)展中國家的關(guān)鍵投資促進在人工智能市場開展公平競爭。
10.促請聯(lián)合國系統(tǒng)各專門機構(gòu)、基金、方案、其他實體、機構(gòu)和辦事處以及相關(guān)組織在各自任務(wù)和資源范圍內(nèi)，通過適當(dāng)?shù)臋C構(gòu)間機制，繼續(xù)評估和加強對策，以協(xié)作、協(xié)調(diào)和包容的方式利用人工智能系統(tǒng)帶來的機遇并應(yīng)對這方面的挑戰(zhàn)，包括就潛在影響和應(yīng)用開展研究、摸底和分析，使所有各方受益；報告在解決問題方面取得的進展和遇到的挑戰(zhàn)；與發(fā)展中國家合作并協(xié)助它們進行能力建設(shè)，獲取和分享安全、可靠和值得信賴的人工智能系統(tǒng)帶來的惠益，以實現(xiàn)所有17項可持續(xù)發(fā)展目標(biāo)和從經(jīng)濟、社會和環(huán)境這三個方面實現(xiàn)可持續(xù)發(fā)展；強調(diào)指出需要消除國家之間和國家內(nèi)部的人工智能鴻溝和其他數(shù)字鴻溝。
11.回顧其題為“未來峰會的方式和范圍”的2022年9月8日第76/307號決議和2023年9月1日第77/568號決定，并在這方面期待制定一項全球數(shù)字契約。
12.期待大會在2025年全面審查自信息社會世界峰會以來取得的進展。
13.肯定聯(lián)合國系統(tǒng)根據(jù)其任務(wù)規(guī)定，通過促進包容各方的國際合作和促進發(fā)展中國家在審議中的融入、參與和代表性等方式，在根據(jù)國際法，特別是 《聯(lián)合國憲章》《世界人權(quán)宣言》和《2030 年可持續(xù)發(fā)展議程》就安全、可靠和值得信賴的人工智能系統(tǒng)達成全球共識方面作出獨特貢獻。
