6月14日下午消息，今日舉辦的2024智源大會(huì)上，百川智能CEO王小川、智譜AI CEO張鵬、月之暗面CEO楊植麟、面壁智能聯(lián)合創(chuàng)始人、CEO李大海共同出席《尖峰對(duì)話：通往AGI之路》環(huán)節(jié)。
對(duì)于AI安全問題，百川智能CEO王小川表示，安全有不同的內(nèi)涵和外延，他將其分為三層安全：
第一是意識(shí)形態(tài)安全，做to c公眾服務(wù)，要跟國家發(fā)展、國家意志保持一致，這是大家的一個(gè)基本功；
第二是比較遠(yuǎn)的安全，模型是不是把人類毀滅了，以后人就沒了，然后機(jī)器掌握世界了，其實(shí)內(nèi)心來想不希望發(fā)生的，就像核彈一樣的把人類文明給搞沒了。但是至于這個(gè)模型它是否比人更聰明，能夠取代人做事情，這是個(gè)鼓勵(lì)的一件事情。這個(gè)技術(shù)能夠跟我們一塊去拓展人類文明，這件事情是有意義的。
第三是現(xiàn)實(shí)安全，現(xiàn)在的AI能力還很弱，就不要想什么顛覆人類這么復(fù)雜的事，現(xiàn)實(shí)中在近期還不存在安全的問題。
