人工智能真正要面對的問題是怎樣在一個協(xié)作式的、去中心化的系統(tǒng)中實現(xiàn)集體智能，人類可以怎樣去設(shè)計這個集體智能，去解決它的不確定性。
1951年，計算機(jī)科學(xué)之父、人工智能之父阿蘭·圖靈跟朋友有一個談話，他做了一些簡單的機(jī)器學(xué)習(xí)的事情，卻發(fā)現(xiàn)教機(jī)器學(xué)習(xí)非常難，要么做錯，要么做得很慢，要么什么事情都沒有做。阿蘭·圖靈的朋友聽后向他提了一個問題：到底是誰在學(xué)習(xí)？機(jī)器在學(xué)習(xí)，還是人在學(xué)習(xí)？
2023Inclusion·外灘大會上，中國科學(xué)院院士何積豐在演講中將這段故事說給了觀眾聽，圖靈由此感受到了人和機(jī)器雙方都在學(xué)習(xí)，人類指導(dǎo)機(jī)器，讓機(jī)器學(xué)習(xí)變得更智能，而在指導(dǎo)過程中，人類也慢慢學(xué)會什么樣的指導(dǎo)使機(jī)器能夠符合人類需要的目標(biāo)。何積豐在演講的最后強(qiáng)調(diào)：“在人工智能發(fā)展過程中間，我們千萬不要忘記人類的核心角色”。
剛剛閉幕的外灘大會以近8000平米的科技展區(qū)、近20位“兩院”院士、諾貝爾獎和圖靈獎得主，500位科技領(lǐng)軍企業(yè)高管和專家學(xué)者吸引了世界各地的觀眾。數(shù)據(jù)安全、隱私計算等內(nèi)容常談常新，如何解決智能時代的信任問題受到各方關(guān)注。生成式AI、大模型仍是這場論壇中的熱門話題，在期待科技“新世界”到來的同時，人類有許多需要先思考的問題。
在這個備受矚目的金融科技峰會上，科技在行業(yè)的落地應(yīng)用和可能改變的場景引發(fā)了無數(shù)討論。我們該如何看待AI？如何學(xué)習(xí)保持人類的核心角色？又在走向怎樣的一個“新世界”？
期待“新世界”
眾多“黑科技”出現(xiàn)在了這一屆外灘大會上。
未來養(yǎng)老公寓的展示區(qū)，展示了全空間全方位的智能化適老設(shè)備、自助醫(yī)療小屋、AI大腦訓(xùn)練設(shè)備等，初步展示了通過步調(diào)檢測老年人的身體狀況，通過玩游戲篩查人是否患有阿爾茲海默癥風(fēng)險的未來技術(shù)發(fā)展方向。出乎意料的是，許多年輕人成了這個展區(qū)的“重度體驗玩家”，他們相信，這真的可能是他們未來養(yǎng)老的場景。
戴上特制頭盔，系統(tǒng)就能夠識別出體驗者的腦電波波形特征，生成其專屬“腦紋”， 這是由螞蟻安全實驗室聯(lián)合中國信通院、腦機(jī)合作生產(chǎn)廠商博瑞康共同推出的腦機(jī)頭戴核身技術(shù)互動技術(shù)。在這個技術(shù)展區(qū)，體驗者實現(xiàn)了通過意念產(chǎn)生的“腦紋”解鎖裝備，“腦紋”將成為其獨(dú)一無二的身份ID。“除了解鎖，未來通過這個技術(shù)有沒有可能實現(xiàn)意念控制物體？”有體驗者立刻追問道。
無論是普通觀眾，還是行業(yè)的參與者、專業(yè)學(xué)者們都期待著新科技對未來的更多改變很快就會發(fā)生。
“一部手機(jī)就是一個銀行網(wǎng)點�！盜DC中國副總裁兼首席分析師武連峰在外灘大會現(xiàn)場發(fā)布了《銀行數(shù)字科技五大趨勢》：隨身銀行、AI風(fēng)控、數(shù)字員工、邊緣物聯(lián)與云原生架構(gòu)。
《2022年中國銀行業(yè)服務(wù)報告》顯示，銀行平均電子分流率97%，9成以上業(yè)務(wù)都已實現(xiàn)線上化。IDC預(yù)測，到2025年，超過80%的銀行都將部署數(shù)字人，承擔(dān)90%的客服和理財咨詢服務(wù)。而到2026年，將人工智能應(yīng)用于信貸授信將成為銀行的主流選擇。由于更為復(fù)雜的模型、算法的應(yīng)用，至2026年底，銀行欺詐洗錢等案例將降低12%。
螞蟻集團(tuán)董事長兼CEO井賢棟則關(guān)心隱私計算的突破。他透露，螞蟻在重點投入隱私計算，希望未來有一天加密計算的成本和效率做到今天的明文計算一樣，那意味著，行業(yè)能夠?qū)崿F(xiàn)數(shù)據(jù)價值的交換，而非數(shù)據(jù)本身去交換，“那個時代會真正迎來數(shù)據(jù)時代的大爆炸�！�
傳統(tǒng)集裝箱貿(mào)易的未來發(fā)展也被系上了區(qū)塊鏈發(fā)展的快船。全球航運(yùn)商業(yè)網(wǎng)絡(luò)CEO陳斯嘉在外灘大會上表示，區(qū)塊鏈電子提單從PoC驗證（概念驗證）階段到了大規(guī)模商業(yè)化應(yīng)用窗口期。
今年2月，全球數(shù)字集裝箱運(yùn)輸協(xié)會組織宣布，全球前10大船公司中9家海運(yùn)承運(yùn)人承諾5年內(nèi)將50%的原始提單實現(xiàn)數(shù)字化，到2030年實現(xiàn)100%數(shù)字化，從而加速集裝箱貿(mào)易數(shù)字化。
陳斯嘉認(rèn)為，通過積極引入?yún)^(qū)塊鏈技術(shù)，借區(qū)塊鏈網(wǎng)絡(luò)來流轉(zhuǎn)電子提單，確保提單內(nèi)容和流轉(zhuǎn)的真實性，大幅簡化操作流程，可能使海運(yùn)放行貨物所需要的時間從傳統(tǒng)的2-3天縮短到1-2個小時。
“AI的本質(zhì)是集體”
今年科技界最為火熱的大模型同樣被金融從業(yè)者們期待著，螞蟻集團(tuán)在外灘大會發(fā)布了其金融大模型，度小滿、恒生電子、同花順、海通證券等金融大模型的探索者也出現(xiàn)在了外灘大會。
恒生電子董事長劉曙峰表示，大模型技術(shù)對財富管理服務(wù)的改變可能是全業(yè)務(wù)鏈的，在“投”、“顧”兩端以及風(fēng)控、運(yùn)營、量化交易等領(lǐng)域都將發(fā)揮重要作用。從機(jī)構(gòu)內(nèi)部運(yùn)營角度來說，大模型刷新了軟件研發(fā)的新范式，長遠(yuǎn)來看，80%的代碼可能將會是人工智能生成的，20%架構(gòu)級的核心代碼才會由人工提供。
“AI對全球經(jīng)濟(jì)的潛在收益將達(dá)到25萬億美元，是當(dāng)前所有企業(yè)最重要的賽道之一，但這個時代剛剛開始�！丙溈襄a中國區(qū)主席、全球資深董事合伙人倪以理在外灘現(xiàn)場預(yù)測，生成式AI的技術(shù)風(fēng)暴有望開啟一場關(guān)系到未來8-10年的新一輪技術(shù)和產(chǎn)業(yè)變革。
不過，在十分講究領(lǐng)域知識和專業(yè)邏輯的嚴(yán)謹(jǐn)性、對錯誤容忍度極低的金融行業(yè)，擁抱大模型的同時，外灘大會上也傳出了許多謹(jǐn)慎看待大模型“幻覺”，重新思考人與AI關(guān)系的聲音。
螞蟻集團(tuán)機(jī)器智能部總經(jīng)理、螞蟻安全實驗室首席科學(xué)家王維強(qiáng)表示，大模型可能分不清真假而帶來的事實性偏差“幻覺”問題，由于數(shù)據(jù)偏見而帶來的倫理問題，在知識學(xué)習(xí)和生成過程中的版權(quán)問題以及由此給企業(yè)帶來的內(nèi)部安全問題等，對從業(yè)者來說都是比較大的挑戰(zhàn)。在大模型發(fā)展的同時，對大模型安全的檢測、可信能力的建設(shè)乃至安全防御技術(shù)的發(fā)展等都是不可或缺的。
百度、螞蟻、抖音等公司的隱私保護(hù)負(fù)責(zé)人也在外灘大會匯聚一堂，討論大模型等新技術(shù)不斷涌現(xiàn)的浪潮中，該如何做好隱私保護(hù)工作？
螞蟻集團(tuán)首席隱私官聶正軍表示，面對大模型帶來的風(fēng)險和挑戰(zhàn)，企業(yè)可以在大模型訓(xùn)練階段使用匿名化的工具，防范未來模型本身帶來隱私泄露或者個人信息被濫用的風(fēng)險。還需要在大模型的商業(yè)化應(yīng)用落地時，注意把服務(wù)它方產(chǎn)生的數(shù)據(jù)和自營業(yè)務(wù)里使用到的數(shù)據(jù)進(jìn)行隔離。
百度數(shù)據(jù)合規(guī)法務(wù)負(fù)責(zé)人徐全全則建議，下一步隱私保護(hù)工作可能更多要走行業(yè)協(xié)同治理道路。每家企業(yè)在履行隱私保護(hù)、數(shù)據(jù)合規(guī)方面的責(zé)任責(zé)無旁貸，同時也要和上下游的合作伙伴協(xié)同共治，一起參與到隱私保護(hù)、數(shù)據(jù)合規(guī)的工作當(dāng)中。
“AI的本質(zhì)是集體，而不是個人。它只不過就是一個新的工程系統(tǒng)，科技就是一個非常好的新的工程系統(tǒng)，是普適，而且是公平、公正、透明、穩(wěn)定的，這些特性是整個工程系統(tǒng)的特點，而不是系統(tǒng)當(dāng)中個體的特點�！睓C(jī)器學(xué)習(xí)泰斗，美國科學(xué)院、美國工程院院士邁克爾·喬丹表示。
“我并沒有覺得AI會替代人。”邁克爾·喬丹說。在他看來，人工智能真正要面對的問題是怎樣在一個協(xié)作式的、去中心化的系統(tǒng)中實現(xiàn)集體智能，人類可以怎樣去設(shè)計這個集體智能，去解決它的不確定性。
某種程度上，這一場集體的設(shè)計與協(xié)作，才是人類在科技飛速發(fā)展的過程中要保持核心角色所面臨的最大課題。是機(jī)器在學(xué)習(xí)的同時，人類同樣需要學(xué)習(xí)的部分。
