(相關(guān)資料圖)

科技日報北京5月10日電 （記者張夢然）《自然》發(fā)表的一篇評論文章指出，研究人員必須建立一門科學(xué)來研究人類—算法行為的集體模式，以便更好地監(jiān)管適應(yīng)性算法，并確保它們對社會發(fā)揮安全有益的作用。

自適應(yīng)算法是能根據(jù)人類集體行為不斷變化的算法，比如能根據(jù)多個變化因素（包括宣傳、反宣傳以及共同利益）為社交媒體推送篩選個性化內(nèi)容的算法。這些算法已被發(fā)現(xiàn)與產(chǎn)生廣泛影響有關(guān)，包括社會運動和股市閃電崩盤。

在美國最高法院今年晚些時候?qū)徖淼囊黄鸢讣?，?yōu)兔（YouTube）的母公司谷歌被起訴，因為其視頻的適應(yīng)性算法推送使恐怖分子變得激進(jìn)的內(nèi)容，而谷歌對此負(fù)有責(zé)任。這起案件迫使人們思考如何監(jiān)管會根據(jù)人類行為發(fā)生改變的算法。

美國康奈爾大學(xué)科學(xué)家納森·馬提亞斯在文中表示：“隨著AI系統(tǒng)的應(yīng)用日漸廣泛，人類的生活與適應(yīng)性算法將緊密交織?！比祟惻c適應(yīng)性算法之間的相互影響會形成一個復(fù)雜系統(tǒng)，在這個系統(tǒng)中，任何部分的微小變化，如算法調(diào)整，都會導(dǎo)致非預(yù)期的后果。

馬提亞斯提出了完善人類—算法集體行為這門科學(xué)的多個步驟，包括對行為模式的分類和預(yù)測，以及避免產(chǎn)生危害的有效干預(yù)。由于算法的影響通常由民眾和記者最早察覺，作者因而認(rèn)為這些群體應(yīng)被納入這類研究中。

文章還指出，適應(yīng)性算法或?qū)ι鐣a(chǎn)生深遠(yuǎn)的益處，不過，“這里的前提是必須用可靠的研究對算法進(jìn)行設(shè)計和監(jiān)管”。

關(guān)鍵詞：