從深度學(xué)習(xí)的寒冬走入爆發(fā)期，今年三位圖靈獎得主跋涉過了數(shù)十年歲月。
當(dāng)圖靈獎把榮耀頒予深度學(xué)習(xí)，奠基人之一、加拿大計算機科學(xué)家Yoshua Bengio卻日漸感受到濫用AI的危險，比如威權(quán)政府的監(jiān)控和無人機殺手。在三位深度學(xué)習(xí)奠基人之中，唯有Bengio全職留在學(xué)界。他在加拿大蒙特利爾大學(xué)任教，并帶領(lǐng)由Google資助的蒙特利爾算法學(xué)習(xí)人工智能實驗室(MILA)。
Bengio認(rèn)為，在軍事實驗室、安全組織、為政府或警察提供服務(wù)的私營公司中，人工智能正在被濫用。技術(shù)本無善惡，但日漸強大的人工智能如同一柄雙刃劍，終將同時擁有推動科學(xué)進(jìn)步和破壞人類社會的力量。
因此，2018年12月，在人工智能和機器學(xué)習(xí)的盛會NeurIPS上，Bengio提出了人工智能的一系列道德準(zhǔn)則，被稱為《蒙特利爾宣言》。
最近，這位深度學(xué)習(xí)奠基人與《Nature》（《自然》）進(jìn)行了一場對話，談及人工智能的方方面面，Bengio也重申了濫用人工智能的危險和應(yīng)對措施。或許這位在人工智能方面的先行者，會啟發(fā)我們有一些不一樣的思考。
《Nature》：你是否看到很多公司或者國家不負(fù)責(zé)任地使用AI？
Yoshua Bengio：已經(jīng)有很多這樣的事情，而且可能會有更多。所以我們必須在壞事發(fā)生之前警醒世人。許多最令人擔(dān)憂的事情并非在光天化日之下發(fā)生。它發(fā)生在軍事實驗室、安全組織、為政府或警察提供服務(wù)的私營公司中。
《Nature》：能舉一些例子嗎？
Yoshua Bengio：無人機殺手很讓人擔(dān)憂。這既有道德問題，也有安全問題。另一個例子是監(jiān)控。你可以說它具有潛在的積極作用。但濫用的風(fēng)險，特別就威權(quán)政府而言，是非常真實存在的。從本質(zhì)上講，人工智能是一種工具，可以被掌權(quán)者用來鞏固權(quán)力，并且加強權(quán)力。另一個問題是，人工智能可以放大歧視和偏見，例如性別歧視或種族歧視。因為用來訓(xùn)練AI的數(shù)據(jù)中就存在偏見，這受到人為影響。
《Nature》：什么使蒙特利爾宣言與類似舉措有所不同？
Yoshua Bengio：我認(rèn)為這個宣言最先納入了廣泛的群體，不局限于人工智能研究人員，而是廣泛引入社會科學(xué)、人文學(xué)科方面的學(xué)者，乃至公眾，并且是以深度參與的方式。這帶來了變化：由于與專家和公眾進(jìn)行討論，我們將原則從7條改為10條。組織可以遵循這些原則。
《Nature》：什么是最適合人工智能道德討論的平臺？
Yoshua Bengio：我們正試圖在蒙特利爾建立能夠?qū)崿F(xiàn)這個目標(biāo)的組織：人工智能和數(shù)字技術(shù)社會影響的國際觀察站（The International Observatory on the Societal Impacts of Artificial Intelligence and Digital Technologies）。它應(yīng)該納入以下所有行動者：政府，因為他們是可以采取行動的主體；民間-社會專家，既有人工智能技術(shù)專家，又有社會科學(xué)、醫(yī)療保健和政治科學(xué)專家；以及正在制造這些產(chǎn)品的公司。
但我們必須謹(jǐn)慎行事。因為當(dāng)然，公司可能會把規(guī)則向他們的最低水平壓低。
《Nature》：你是否認(rèn)為這一行動會推動出臺人工智能的政府或國際法規(guī)？
Yoshua Bengio：是。自我監(jiān)管不會起作用。你認(rèn)為自愿征稅有效嗎？它沒有。與不遵守道德準(zhǔn)則的公司相比，遵守道德準(zhǔn)則的公司反而將處于不利地位。這就像開車一樣。無論是左側(cè)還是右側(cè)，每個人都需要以同樣的方式駕駛；否則，我們就會有麻煩。
《Nature》：你曾表達(dá)擔(dān)憂公司從學(xué)術(shù)界偷走了人才。這還是個問題嗎？
Yoshua Bengio：這還在繼續(xù)。但也有一些好事發(fā)生。我們在蒙特利爾取得了成功，因為人工智能的生態(tài)不斷發(fā)展，并且出現(xiàn)了一種人才逆向流動。人們從境外來到加拿大從事人工智能研究。
蒙特利爾正在發(fā)生另一件事，我認(rèn)為世界其他地方也有這樣的情況。在業(yè)界工作的學(xué)術(shù)研究人員，正在承擔(dān)兼職教師的角色，他們輔導(dǎo)或幫助輔導(dǎo)大學(xué)離的研究生。MILA就有這樣的情況。
我們也在努力培養(yǎng)學(xué)生。我們在蒙特利爾的機器學(xué)習(xí)教授人數(shù)翻了一番。這部分要歸功于加拿大政府的人工智能投資策略。
《Nature》：你認(rèn)為歐洲在人工智能方面落后于中國和美國嗎？
Yoshua Bengio：沒錯。但我不認(rèn)為歐洲應(yīng)該接受這一點。歐洲有巨大的潛力成為領(lǐng)導(dǎo)者。歐洲有優(yōu)秀的大學(xué)。事實上，我們在MILA的許多學(xué)生來自歐洲。歐洲還有一個建立不久但是充滿活力的初創(chuàng)公司技術(shù)社群，分布在幾個地方。歐洲政府開始意識到人工智能的重要性。法國政府可能是第一個朝這個方向邁出重要一步的歐洲政府。
《Nature》：人工智能的下一件大事是什么？
Yoshua Bengio：深度學(xué)習(xí)。目前深度學(xué)習(xí)在感知方面取得了巨大進(jìn)步，但它在能夠理解高等級表征的系統(tǒng)方面，尚未有所突破——就是那些人類在語言中使用的概念。人類能夠使用這些高級概念，進(jìn)行有力的歸納。甚至嬰兒都能做到這一點，但機器學(xué)習(xí)卻做的非常糟糕。
我們有能力推斷數(shù)據(jù)中實際沒有發(fā)生的東西。例如，我們在生成式對抗網(wǎng)絡(luò)方面取得了一些進(jìn)展（這種技術(shù)是設(shè)置一個生成式網(wǎng)絡(luò)與圖像識別網(wǎng)絡(luò)競爭，以幫助二者改善表現(xiàn)）。但人類比機器要出色得多，我猜測，重要因素之一是人類對因果關(guān)系的理解。
【來源：品玩】
