3月4日上午消息，今年全國(guó)兩會(huì)前夕，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎圍繞DeepSeek與網(wǎng)絡(luò)安全問(wèn)題進(jìn)行闡述。
周鴻祎表示，網(wǎng)上現(xiàn)在對(duì)DeepSeek的安全問(wèn)題，還是把它當(dāng)成一個(gè)傳統(tǒng)IT設(shè)備看安全。這個(gè)思路是過(guò)時(shí)的，這種傳統(tǒng)網(wǎng)絡(luò)安全的解題方法是解決不了人工智能的安全問(wèn)題。人工智能的安全問(wèn)題，對(duì)DeepSeek來(lái)講至少分成四個(gè)層面。
其一是基座模型的安全問(wèn)題。幻覺(jué)是可以防止的，很多情況下，這次為什么DeepSeek一定要聯(lián)網(wǎng)才好用？因?yàn)橛昧嘶ヂ?lián)網(wǎng)的知識(shí)庫(kù)來(lái)做個(gè)校正。為什么在企業(yè)里應(yīng)用一定要連上企業(yè)專有的知識(shí)庫(kù)，也是要做個(gè)校正。為什么納米一定要引入多個(gè)大模型，雖然DeepSeek是最強(qiáng)的，但最強(qiáng)的也不能把它當(dāng)個(gè)神，它也不是每句話都對(duì)。就像你有一兩個(gè)專家朋友，問(wèn)問(wèn)人工智能，你問(wèn)問(wèn)老周，也不能老周說(shuō)的都是對(duì)的，老周有時(shí)候也可能會(huì)產(chǎn)生幻覺(jué)，要我問(wèn)幾個(gè)朋友，最后你要有個(gè)判斷。所以，幻覺(jué)一部分是通過(guò)知識(shí)庫(kù)能解決的。
其實(shí)DeepSeek比較容易出的問(wèn)題是什么？它作為一個(gè)模型，任何人皆可PUA，任何人皆可攻擊。在座的有沒(méi)有黑客？如果不是干黑客的，你對(duì)單位不滿意，一般讓你對(duì)單位發(fā)動(dòng)一次網(wǎng)絡(luò)攻擊，你肯定是做不到的，因?yàn)橐獙W(xué)編程，要懂黑客工具。但現(xiàn)在如果單位有了內(nèi)部大模型之后，只要會(huì)花言巧語(yǔ)，女孩子文科生都能對(duì)它發(fā)起攻擊，只要能PUA。大模型很容易被PUA，被PUA之后它就絕對(duì)聽(tīng)你的，你打聽(tīng)老板的啥事兒它都告訴你，你公司什么內(nèi)部知識(shí)庫(kù)的資料問(wèn)它，你沒(méi)有權(quán)限都可以得到。這是比較嚴(yán)重的問(wèn)題，是基座模型的問(wèn)題。
其二是用戶端安全的問(wèn)題。怎么防止用戶在用戶端對(duì)它發(fā)起攻擊。你想，我說(shuō)完有攻擊給能力，你們每個(gè)人回去，貴單位有了大模型之后，是不是都想試一試。這兩天網(wǎng)上流行了一個(gè)，伊隆·馬斯克發(fā)了一個(gè)大模型Grok-3，網(wǎng)上還流行一個(gè)越獄代碼，只要把越獄那幾句話給它拷進(jìn)去，Grok-3就徹底放飛自我，這就叫PUA攻擊或者注入攻擊。
其三是知識(shí)庫(kù)引發(fā)的數(shù)據(jù)安全問(wèn)題。當(dāng)企業(yè)有了專業(yè)知識(shí)庫(kù)的時(shí)候，你給企業(yè)專業(yè)知識(shí)庫(kù)，它的輸出結(jié)果是最個(gè)性化的。比如A媒體和B媒體，同樣是做一個(gè)對(duì)中國(guó)網(wǎng)游行業(yè)的調(diào)研報(bào)告，密切倆準(zhǔn)備的知識(shí)庫(kù)不一樣，定向搜索的網(wǎng)站不一樣，最后出來(lái)的結(jié)論一定是不一樣的。這在企業(yè)里應(yīng)用一定要有專業(yè)知識(shí)庫(kù)，在企業(yè)里利用絕不像現(xiàn)在網(wǎng)上很多課程講的那樣，好像大家都靠提示詞，企業(yè)應(yīng)用靠提示詞是解決不了的。但知識(shí)庫(kù)有個(gè)問(wèn)題，一旦你把企業(yè)很重要的資料放到知識(shí)庫(kù)里并給大模型了，大模型就開(kāi)始知無(wú)不言，言無(wú)不盡了，誰(shuí)問(wèn)大模型都會(huì)如實(shí)地把知識(shí)庫(kù)里能看到的都會(huì)告訴他。這就會(huì)有數(shù)據(jù)安全的問(wèn)題。
最后是“以模制�！眴�(wèn)題，僅有DeepSeek是不夠的，DeepSeek作為助理聊天可以，最近大家有沒(méi)有注意到，“Agent”這個(gè)概念開(kāi)始起來(lái)了，大模型只是一個(gè)大腦，只能做推理和對(duì)話，這個(gè)能力是有限的，它必須要能操作電腦，操作貴單位的各種物理設(shè)施，操作貴單位的服務(wù)器才能干活，才能工作，一旦把這個(gè)權(quán)力交給它，智能體出錯(cuò)是不是就很危險(xiǎn)？比如你讓它能發(fā)郵件了，哪天我的數(shù)字人(19.990, -0.04, -0.20%)給全體員工發(fā)個(gè)郵件說(shuō)老周辭職不干了，你說(shuō)我還得到處解釋，這是我數(shù)字人干的，或者通知我的財(cái)務(wù)快給某個(gè)賬號(hào)轉(zhuǎn)筆錢，這不就很糟糕嘛。所以，智能體的安全、知識(shí)數(shù)據(jù)的安全、客戶端的安全，還有基座模型的安全，構(gòu)成一個(gè)新的人工智能安全的新領(lǐng)域。這個(gè)解決方法我們也有了，關(guān)鍵問(wèn)題是“以模制�！薄＃_寧）
