7月6日，奇安信董事長齊向東在接受包括新京報(bào)貝殼財(cái)經(jīng)在內(nèi)的媒體采訪時(shí)回答了一系列關(guān)于AI大模型的問題，包括大模型的推進(jìn)進(jìn)度，奇安信在AI安全上的工作邊界，對(duì)AI監(jiān)管以及超智能AI的看法等。

解釋奇安信AI安全工作邊界

(相關(guān)資料圖)

齊向東表示，奇安信會(huì)在適當(dāng)?shù)臅r(shí)候發(fā)布大模型，“我們是為政府和企業(yè)客戶服務(wù)的，目前我對(duì)我們在大模型上的進(jìn)度非常滿意，但我們對(duì)這個(gè)產(chǎn)品要求比較高，未來我們發(fā)布的人工智能產(chǎn)品一定是對(duì)政府和企業(yè)客戶可以交付時(shí)，我們才能發(fā)布?！?/p>

對(duì)于目前國內(nèi)各行各業(yè)紛紛進(jìn)軍大模型，齊向東也解釋了奇安信在AI安全上的工作邊界。

“首先，AI在意識(shí)形態(tài)領(lǐng)域，即文化和價(jià)值觀方面是否合規(guī)屬于內(nèi)容安全領(lǐng)域，網(wǎng)信辦在統(tǒng)籌協(xié)調(diào)其他的部門和單位在做這件事。所以奇安信不做，我們還是秉承奇安信原來的發(fā)展路徑，而內(nèi)容安全、內(nèi)容合規(guī)方面不是奇安信的主業(yè)?！?/p>

“第二，關(guān)于內(nèi)部的員工向公共AI平臺(tái)投喂數(shù)據(jù)引發(fā)的安全問題，奇安信管，因?yàn)檫@屬于數(shù)據(jù)泄露問題。有數(shù)據(jù)統(tǒng)計(jì)稱，有2.3%的員工通過向ChatGPT投喂數(shù)據(jù)導(dǎo)致公司或單位的數(shù)據(jù)泄露。對(duì)此，奇安信有一整套解決方案，能夠解決內(nèi)部員工向ChatGPT投喂數(shù)據(jù)導(dǎo)致的數(shù)據(jù)泄露問題，這是我們的責(zé)任?！?/p>

“第三，如果公司內(nèi)部有自己本地部署的大模型系統(tǒng)，我們保證這個(gè)大模型系統(tǒng)的安全，這是奇安信的責(zé)任和使命，我們也有一套解決方案?！?/p>

“第四，如果想讓大模型能夠?yàn)楣镜木W(wǎng)絡(luò)安全作出貢獻(xiàn)，這屬于網(wǎng)絡(luò)安全人才培養(yǎng)問題，也是奇安信的責(zé)任，我們可以幫助，讓你的通用大模型成為高級(jí)的網(wǎng)絡(luò)安全人才，這是奇安信的任務(wù)和使命。”齊向東說。

要讓AI學(xué)會(huì)造福他人，防止AI作惡安全公司有更強(qiáng)使命感

此外，AI未來能否獲得“超智能”以及如何監(jiān)管AI，也是人們對(duì)大模型發(fā)展關(guān)注的重點(diǎn)。對(duì)此，齊向東表示，我們對(duì)超智能并沒有一個(gè)嚴(yán)格的定義，超智能是OpenAI對(duì)AI未來前景展望的樂觀估計(jì)。也就是說，按照現(xiàn)在這個(gè)速度，算力發(fā)生了革命性的變化，模型的參數(shù)不斷地放大，它就產(chǎn)生重大的涌現(xiàn)。

而在對(duì)AI的監(jiān)管上，齊向東認(rèn)為，近朱者赤，近墨者黑，一個(gè)人一直在積極正能量的環(huán)境里，就有助于培育陽光、健康的精神世界。反之，一直身處負(fù)能量、消極的環(huán)境里，文化和價(jià)值觀都會(huì)受負(fù)面影響，所以需要用不出現(xiàn)偏頗的語料訓(xùn)練AI。

在齊向東看來，對(duì)AI的監(jiān)管不要停留在意識(shí)形態(tài)領(lǐng)域，“AI的犯罪怎么約束，怎么樣讓它變成一個(gè)永遠(yuǎn)都不犯罪的人，永遠(yuǎn)利他的人。如果是一個(gè)超級(jí)AI，一個(gè)機(jī)器人，它每天想的是怎么樣造福于周圍的人，那我們世界就更美好了。所以，我覺得監(jiān)管更多是在這些方面，這個(gè)監(jiān)管我相信能夠做得到。如果機(jī)器人監(jiān)管不了，還有安全公司，我們安全公司就是防止IT作惡的，AI再厲害也是IT，也由軟硬件組成。安全公司管的就是軟件漏洞，管的就是軟件后門，管的就是軟件作惡。所以，我們作為安全公司，在未來AI的時(shí)代，我們應(yīng)該有更強(qiáng)的使命感，更高的責(zé)任感，要倍加努力。”

新京報(bào)貝殼財(cái)經(jīng)記者吉喆

（文章來源：新京報(bào)）

關(guān)鍵詞：