(相關(guān)資料圖)

科技日?qǐng)?bào)北京5月10日電 （記者張夢(mèng)然）《自然》發(fā)表的一篇評(píng)論文章指出，研究人員必須建立一門(mén)科學(xué)來(lái)研究人類(lèi)—算法行為的集體模式，以便更好地監(jiān)管適應(yīng)性算法，并確保它們對(duì)社會(huì)發(fā)揮安全有益的作用。

自適應(yīng)算法是能根據(jù)人類(lèi)集體行為不斷變化的算法，比如能根據(jù)多個(gè)變化因素（包括宣傳、反宣傳以及共同利益）為社交媒體推送篩選個(gè)性化內(nèi)容的算法。這些算法已被發(fā)現(xiàn)與產(chǎn)生廣泛影響有關(guān)，包括社會(huì)運(yùn)動(dòng)和股市閃電崩盤(pán)。

在美國(guó)最高法院今年晚些時(shí)候?qū)徖淼囊黄鸢讣?，?yōu)兔（YouTube）的母公司谷歌被起訴，因?yàn)槠湟曨l的適應(yīng)性算法推送使恐怖分子變得激進(jìn)的內(nèi)容，而谷歌對(duì)此負(fù)有責(zé)任。這起案件迫使人們思考如何監(jiān)管會(huì)根據(jù)人類(lèi)行為發(fā)生改變的算法。

美國(guó)康奈爾大學(xué)科學(xué)家納森·馬提亞斯在文中表示：“隨著AI系統(tǒng)的應(yīng)用日漸廣泛，人類(lèi)的生活與適應(yīng)性算法將緊密交織?！比祟?lèi)與適應(yīng)性算法之間的相互影響會(huì)形成一個(gè)復(fù)雜系統(tǒng)，在這個(gè)系統(tǒng)中，任何部分的微小變化，如算法調(diào)整，都會(huì)導(dǎo)致非預(yù)期的后果。

馬提亞斯提出了完善人類(lèi)—算法集體行為這門(mén)科學(xué)的多個(gè)步驟，包括對(duì)行為模式的分類(lèi)和預(yù)測(cè)，以及避免產(chǎn)生危害的有效干預(yù)。由于算法的影響通常由民眾和記者最早察覺(jué)，作者因而認(rèn)為這些群體應(yīng)被納入這類(lèi)研究中。

文章還指出，適應(yīng)性算法或?qū)ι鐣?huì)產(chǎn)生深遠(yuǎn)的益處，不過(guò)，“這里的前提是必須用可靠的研究對(duì)算法進(jìn)行設(shè)計(jì)和監(jiān)管”。

關(guān)鍵詞：