【資料圖】

2023 Inclusion·外灘大會9月7日在上海黃浦世博園正式開幕。為期三天，近20位“兩院”院士、諾貝爾獎和圖靈獎得主，全球超500位有影響力的科技領(lǐng)軍企業(yè)和專家學(xué)者齊聚上海，帶來一場科技、人文和產(chǎn)業(yè)的思想碰撞。

時隔三年，外灘大會再度在上海揭幕。《中國經(jīng)營報》記者注意到，聚焦人工智能、大模型、抗量子密碼、隱私計算、圖計算、安全智能、區(qū)塊鏈等前沿數(shù)字科技成為外灘大會最活躍的議題。與此同時，人工智能的安全問題及其挑戰(zhàn)已然成為專家學(xué)者正在深入研究的前沿課題。

模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個場景中，可謂“無孔不入”，AI的發(fā)展因此帶來了新的安全隱私問題，如何解決這一隱患，中國科學(xué)院院士何積豐開出了他的“藥方”：利用對齊技術(shù)為大模型戴上“緊箍”。

何積豐院士認(rèn)為，大模型的安全問題主要是在未經(jīng)同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護更加困難。

“為了應(yīng)對這些問題，我們需要大模型對齊技術(shù)?！焙畏e豐說，“對齊（alignment）”是指系統(tǒng)的目標(biāo)和人類價值觀一致，使其符合設(shè)計者的利益和預(yù)期，不會產(chǎn)生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會任意使用能力來胡作非為。”

不過，對齊技術(shù)同樣面臨挑戰(zhàn)。首先，對齊的基礎(chǔ)，人類的價值觀是多元且動態(tài)變化的，需要保證大模型為人服務(wù)、與人為善；其次，大模型的有用性與無害性之間的目標(biāo)也不完全一致。如何對錯誤進行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。

因此，對齊技術(shù)已經(jīng)成為了一項令人眼花繚亂的跨學(xué)科研究，不僅考驗技術(shù)，也審視文化。

何積豐介紹，反饋強化學(xué)習(xí)是實現(xiàn)對齊的技術(shù)途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎勵信號，引導(dǎo)模型的高質(zhì)量輸出；另一種方式，事先給大模型提供明確的原則，系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序?！斑@意味著，不僅智能系統(tǒng)需要向人類價值觀對齊，人類的訓(xùn)練方法也要向價值觀對齊?！焙畏e豐說。

（文章來源：中國經(jīng)營網(wǎng)）

關(guān)鍵詞：