01 全球AI監(jiān)管趨勢(shì)
全球范圍內(nèi)，AI的開發(fā)和使用正在加速。政策制定者正密集開展工作，以確保AI作為一個(gè)整體，促進(jìn)其服務(wù)經(jīng)濟(jì)和社會(huì)目標(biāo)的同時(shí)，降低其風(fēng)險(xiǎn)。從全球看，AI監(jiān)管表現(xiàn)為以下六方面的趨勢(shì)。
趨勢(shì)一、以O(shè)ECD的AI原則作為政策制定的基準(zhǔn)
OECD和G20于2019年通過的AI原則，成為政府和組織建構(gòu)以人為本的可信AI方法的全球基準(zhǔn)。這些原則于2016年開始的有關(guān)AI使用應(yīng)遵循的核心道德原則的公開討論之后制定，原則涵蓋了諸如確保AI的好處在社會(huì)廣泛傳播、AI不破壞諸如保護(hù)人權(quán)等社會(huì)保障措施，以及使用AI的組織是否已建立適當(dāng)?shù)闹卫砗蛦栘?zé)制度等方面。下表是OECD的AI原則及其對(duì)政府政策制定的建議。
例如，歐盟的AI法案要求與OECD的問責(zé)和AI的健全、安全使用原則一致，并在OECD原則基礎(chǔ)上更進(jìn)一步，指定了AI應(yīng)用的“紅線”，包括禁止使用AI進(jìn)行基于社會(huì)行為或個(gè)人特征的社會(huì)評(píng)分的應(yīng)用。盡管我國不是OECD國家，但OECD原則為包括我國在內(nèi)的G20國家領(lǐng)導(dǎo)人于2019年6月背書的G20 AI原則提供了基礎(chǔ)。
趨勢(shì)二、采取基于風(fēng)險(xiǎn)的AI方法制定政策
各國正專注于將AI原則付諸實(shí)踐，采用的方法從自愿指導(dǎo)到強(qiáng)制性規(guī)則不等，但都在尋求基于風(fēng)險(xiǎn)的AI方法。2023年4月，G7的數(shù)字化和技術(shù)部長表達(dá)了統(tǒng)一AI的觀點(diǎn)，呼吁應(yīng)基于AI活動(dòng)帶來的風(fēng)險(xiǎn)制定和調(diào)整相關(guān)政策和法規(guī)，在鼓勵(lì)負(fù)責(zé)任的AI發(fā)展使用和降低AI風(fēng)險(xiǎn)之間找到平衡。這種方法使得政策制定者可以更快響應(yīng)快速發(fā)展的AI創(chuàng)新。
在這一方法指導(dǎo)下，2023年10月30日，G7國家（加拿大、法國、德國、意大利、日本、英國、美國和歐盟）就AI國際指導(dǎo)原則和AI開發(fā)人員行為準(zhǔn)則達(dá)成協(xié)議，這一舉措對(duì)于推動(dòng)政府建立全球協(xié)調(diào)一致的基于風(fēng)險(xiǎn)的框架，以促進(jìn)AI系統(tǒng)負(fù)責(zé)任和安全開發(fā)和使用至關(guān)重要。比如歐盟和加拿大的AI法案和數(shù)據(jù)法案，都使用風(fēng)險(xiǎn)和影響評(píng)估將AI系統(tǒng)歸入不同的合規(guī)義務(wù)類別。最廣泛的合規(guī)要求適用于被歸類為高風(fēng)險(xiǎn)的系統(tǒng)，而低風(fēng)險(xiǎn)AI系統(tǒng)則根據(jù)其風(fēng)險(xiǎn)水平滿足較低要求。
趨勢(shì)三、區(qū)別行業(yè)通用和特定兩方面因素制定雙重AI監(jiān)管政策
AI技術(shù)在某些行業(yè)的使用可能帶來獨(dú)特風(fēng)險(xiǎn)，例如，由于安全風(fēng)險(xiǎn)高，需要額外的行業(yè)特定指導(dǎo)或規(guī)則來部署在公路上的自動(dòng)駕駛汽車；在銀行使用AI，監(jiān)管機(jī)構(gòu)需要制定特定規(guī)則，以最小化AI對(duì)消費(fèi)者貸款構(gòu)成的潛在風(fēng)險(xiǎn)（例如，有偏見的承保）或?qū)︺y行的安全性造成的風(fēng)險(xiǎn)。
我國等全球各國正區(qū)別行業(yè)通用和特定因素制定雙重AI監(jiān)管政策：跨行業(yè)方法構(gòu)建的基本框架，為無論在哪個(gè)行業(yè)開發(fā)或使用AI，都能提供基本的保護(hù)措施；行業(yè)特定方法則為解決具體行業(yè)風(fēng)險(xiǎn)，對(duì)AI使用制定了額外的指導(dǎo)方針。下表是各國通用和特定行業(yè)雙重AI監(jiān)管政策舉例。
趨勢(shì)四、制定和調(diào)整AI相關(guān)影響領(lǐng)域的政策
AI規(guī)則，同時(shí)會(huì)影響和推動(dòng)數(shù)據(jù)所有權(quán)、數(shù)字身份、網(wǎng)絡(luò)安全和數(shù)字內(nèi)容流動(dòng)等相關(guān)領(lǐng)域新政策的制定，或需對(duì)現(xiàn)有政策進(jìn)行新的解釋。2024年5月，歐洲理事會(huì)正式通過全球第一部《AI法案》，并在受AI影響領(lǐng)域采取了最全面的方法，在相應(yīng)領(lǐng)域制定新的法規(guī)，比如，《通用數(shù)據(jù)保護(hù)條例》規(guī)定了解決AI在自動(dòng)化決策中使用個(gè)人數(shù)據(jù)所帶來的挑戰(zhàn)的規(guī)則，《數(shù)據(jù)法案》規(guī)定了所有行業(yè)對(duì)于AI所需數(shù)據(jù)的公平獲取和使用規(guī)則，《數(shù)字服務(wù)法案》包括有關(guān)AI用于在線內(nèi)容訪問和分發(fā)的規(guī)定，以及《網(wǎng)絡(luò)彈性法案》則引入了新的保障措施，以保護(hù)消費(fèi)者和企業(yè)免受日益復(fù)雜的AI驅(qū)動(dòng)網(wǎng)絡(luò)威脅的侵害。
趨勢(shì)五、利用AI沙盒開展監(jiān)管測(cè)試
沙盒允許在受監(jiān)管的環(huán)境中進(jìn)行技術(shù)創(chuàng)新測(cè)試，因此，AI沙盒可以幫助制定針對(duì)性AI法規(guī)，推動(dòng)風(fēng)險(xiǎn)投資，促進(jìn)競(jìng)爭(zhēng)，并鼓勵(lì)監(jiān)管機(jī)構(gòu)與參與公司進(jìn)行更好溝通。自2014年英國金融行為監(jiān)管局（UK FCA）建立監(jiān)管沙盒后，已有約40個(gè)司法管轄區(qū)采用并建立了這一工具。
目前UK FCA正在測(cè)試金融科技領(lǐng)域的AI系統(tǒng)，而英國信息專員辦公室（ICO）正在對(duì)AI進(jìn)行數(shù)據(jù)隱私測(cè)試。在歐盟和新加坡，監(jiān)管機(jī)構(gòu)正在使用AI監(jiān)管沙盒解決AI快速發(fā)展及其自身對(duì)AI技術(shù)缺乏經(jīng)驗(yàn)的雙重挑戰(zhàn)。此外，西班牙、瑞典和德國也在建立AI沙盒，為歐盟的AI法案實(shí)施做準(zhǔn)備。
趨勢(shì)六、AI治理的全球合作勢(shì)頭日益增強(qiáng)
2023年全年，伴隨著公眾對(duì)生成式AI系統(tǒng)開發(fā)和發(fā)布的關(guān)注不斷升溫，建立全球AI共同治理和監(jiān)管基礎(chǔ)的共識(shí)也日益增強(qiáng)。包括中國在內(nèi)的28個(gè)與會(huì)國共同達(dá)成的《布萊切利宣言》在首屆全球AI安全峰會(huì)正式發(fā)表，這是全球第一份針對(duì)AI這一快速新興技術(shù)的國際性聲明，提出“迫切需要通過新的全球共同努力，理解和集體管理潛在風(fēng)險(xiǎn)，以確保AI以安全、負(fù)責(zé)任的方式開發(fā)和部署，造福全球社區(qū)”。這些倡議要求全球各國共同面對(duì)AI安全、倫理和治理等復(fù)雜挑戰(zhàn)，通過協(xié)調(diào)國際響應(yīng)和保障措施機(jī)制，促進(jìn)AI治理的全球合作。另外，在OECD的AI治理工作組、歐洲委員會(huì)AI委員會(huì)、全球AI伙伴關(guān)系和聯(lián)合國機(jī)構(gòu)的各種倡議基礎(chǔ)上，日本G7主席國發(fā)起了“廣島生成式AI進(jìn)程”， 發(fā)布關(guān)于AI國際指導(dǎo)原則和AI開發(fā)人員的行為準(zhǔn)則。
02 對(duì)AI政策制定的啟示
1.全面認(rèn)識(shí)AI的復(fù)雜性
應(yīng)確保基于足夠的專業(yè)知識(shí)制定AI政策，并確保受監(jiān)管實(shí)體擁有足夠的專業(yè)知識(shí)有效實(shí)施其政策。確定并獲取此類專業(yè)知識(shí)需要一定時(shí)間，還涉及到相關(guān)指導(dǎo)、培訓(xùn)、流程、治理、監(jiān)督，以及相應(yīng)執(zhí)行。政府需對(duì)全民AI素養(yǎng)進(jìn)行長遠(yuǎn)規(guī)劃，并對(duì)相應(yīng)投入做好充分的準(zhǔn)備，比如新加坡國會(huì)議員動(dòng)議補(bǔ)貼40歲以上新加坡人重新進(jìn)課堂學(xué)習(xí)AI。
2.明確AI法規(guī)制定的確定性
制定AI法規(guī)時(shí)，需要區(qū)別AI和AI系統(tǒng)，明確規(guī)則制定的意圖是監(jiān)管AI技術(shù)本身帶來的風(fēng)險(xiǎn)（例如，自然語言處理或面部識(shí)別等特性）還是AI技術(shù)的使用方式（例如，AI在招聘流程或監(jiān)控中的應(yīng)用）帶來的風(fēng)險(xiǎn)。對(duì)于企業(yè)來說，法規(guī)的確定性至關(guān)重要，還應(yīng)將AI作為一個(gè)整體進(jìn)行監(jiān)管。明確知道哪些AI系統(tǒng)屬于監(jiān)管的范圍，以及內(nèi)部風(fēng)險(xiǎn)管理流程重點(diǎn)在哪里，有助于提高企業(yè)遵守AI規(guī)則并滿足監(jiān)管期望的能力。
3.理解全球法規(guī)互操作的重要性
全球AI治理合作，有賴于全球AI法規(guī)的互操作性：一方面，互操作性確保各國法規(guī)具備一致的可比較的有效規(guī)則基礎(chǔ)，可減少監(jiān)管套利的風(fēng)險(xiǎn)；另外一方面，互操作性可為全球運(yùn)營的AI服務(wù)的消費(fèi)者提供通用保護(hù)，避免受到AI傷害。除此之外，法規(guī)互操作性還可以大大降低AI公司技術(shù)研發(fā)、應(yīng)用服務(wù)提供和運(yùn)營的相應(yīng)成本。
4.將第三方供應(yīng)的AI納入風(fēng)險(xiǎn)管理
由于許多公司依賴第三方供應(yīng)的AI，政策制定者需要將第三方AI納入風(fēng)險(xiǎn)管理和合規(guī)要求。如歐盟的《AI法案》包括跨組織的AI供應(yīng)鏈規(guī)定，為AI系統(tǒng)的提供者、分銷商、進(jìn)口商和用戶規(guī)定了相應(yīng)義務(wù)；而美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）制定的《AI風(fēng)險(xiǎn)管理框架》為第三方AI用戶創(chuàng)建指導(dǎo)手冊(cè)，說明通過第三方采購AI服務(wù)時(shí)需考慮的風(fēng)險(xiǎn)和合規(guī)要求。
本文作者
漆晨曦
戰(zhàn)略發(fā)展研究所
高級(jí)分析師
高級(jí)經(jīng)濟(jì)師，26年通信行業(yè)的數(shù)據(jù)分析、數(shù)據(jù)挖掘和數(shù)據(jù)科學(xué)及BI、營銷一體化平臺(tái)架構(gòu)和業(yè)務(wù)規(guī)范的相關(guān)專業(yè)實(shí)踐和研究經(jīng)驗(yàn)，近年專注企業(yè)數(shù)字化運(yùn)營轉(zhuǎn)型和數(shù)據(jù)要素市場(chǎng)研究。
