11月27日消息，據(jù)國外媒體報道，Alphabet旗下谷歌在5月份為Gmail引入了一個新功能“Smart Compose”，即當(dāng)用戶打字的時候，自動為用戶補充完整的句子，比如，用戶打出“我愛(I love)”，Gmail就會提示“你(you)”或是“它(it)”。

為避免性別偏見 谷歌AI新工具實行性別代詞禁令

谷歌將不會提示性別代詞，“他”或“她”，這樣風(fēng)險太大，因為其預(yù)測輸入“SmartCompose”技術(shù)不能準確預(yù)測別人的性別身份，可能會冒犯到用戶。

他

Gmail產(chǎn)品經(jīng)理保羅·蘭伯特說，公司研究人員在今年1月份發(fā)現(xiàn)了這個問題，當(dāng)他打出“我下周要和一位投資者見面，”谷歌的Smart Compose就自動提出一個可能的后續(xù)問題:“你想見嗎?”，而不是“”。

雖然消費者已經(jīng)習(xí)慣了智能手機上自動更正失言時的尷尬，但谷歌拒絕放棄這個改正的機會，特別當(dāng)性別問題正在重塑政治和社會，以及評論家正在仔細觀察人工智能潛在的偏見，這在以前是不曾有過的。

避免“Smart Compose”陷入性別歧視可能有利于谷歌的業(yè)務(wù)，這起碼證明了谷歌比競爭對手更了解人工智能的細微差別，這也是谷歌構(gòu)建親和力的品牌和吸引顧客使用其AI驅(qū)動的云計算工具，以及廣告服務(wù)和硬件所作努力的一部分。

蘭伯特說，Gmail擁有15億用戶，當(dāng)Smart Compose功能推出時，Gmail上來自全球11%的消息都是它幫助編輯的。

Smart Compose是AI開發(fā)者口中“自然語言生成(NLG)”的一個使用范例。電腦可通過研究模式，文學(xué)、電子郵件、網(wǎng)頁上詞語之間的關(guān)系來學(xué)習(xí)。

這個系統(tǒng)展示了數(shù)十億人類句子，并且變得善于完成常見的短語，但局限是過于籠統(tǒng)。男性長期以來主導(dǎo)一些領(lǐng)域，如金融和科學(xué)，所以這項科技將從數(shù)據(jù)得出：一個投資者或者工程師是“他”或“他”。這項問題幾乎存在于每個主要的科技公司。

蘭伯特說，Smart Compose團隊約有15名工程師和設(shè)計師，他們嘗試幾種解決方法，但是沒有一個被證明是沒有偏見的。所以，他們決定最好的解決方案就是最嚴格的一個：限制范圍。蘭伯特說，當(dāng)Smart Compose想要預(yù)測輸入內(nèi)容時，性別代詞禁令僅會影響不到1%的情況。

谷歌一位負責(zé)Gmail和其他服務(wù)的工程師稱：“我們唯一可靠的技術(shù)就是保守。”

谷歌新政策

谷歌這次決定在性別問題上采取安全的做法，是因為該公司一些預(yù)測技術(shù)引起了引人注目的尷尬事件。

2015年，谷歌因為其圖像識別功能將一對黑人夫婦識別為大猩猩而公開道歉。2016年，谷歌更改了搜索引擎自動填補功能，因為此前當(dāng)用戶搜索關(guān)于猶太的信息時，谷歌自動提示反猶太問題查詢。

谷歌已經(jīng)在其預(yù)測技術(shù)上禁止咒罵和種族歧視，還避免提到其業(yè)務(wù)競爭對手或者悲劇事件。

谷歌的新政策——性別代詞禁令也影響到的谷歌智能應(yīng)答的反應(yīng)。該服務(wù)允許用戶立即回復(fù)短信和電子郵件，使用諸如“聽起來不錯”等短語。

谷歌由AI道德團隊開發(fā)的測試來發(fā)現(xiàn)新的偏見問題。在美國以外工作的員工當(dāng)?shù)貙ふ椅幕瘑栴}。SmartCompose將很快能夠使用他四種工作語言：西班牙語、葡萄牙語、意大利語和法語。

谷歌工程師主管Raghavan稱：“你需要很多人力監(jiān)督，因為每種語言中，表述不妥當(dāng)?shù)木W(wǎng)包含著不同的東西。”

關(guān)鍵詞： 性別偏見 谷歌AI