從深度學(xué)習(xí)的寒冬走入爆發(fā)期，今年三位圖靈獎(jiǎng)得主跋涉過(guò)了數(shù)十年歲月。

當(dāng)圖靈獎(jiǎng)把榮耀頒予深度學(xué)習(xí)，奠基人之一、加拿大計(jì)算機(jī)科學(xué)家Yoshua Bengio卻日漸感受到濫用AI的危險(xiǎn)，比如威權(quán)政府的監(jiān)控和無(wú)人機(jī)殺手。在三位深度學(xué)習(xí)奠基人之中，唯有Bengio全職留在學(xué)界。他在加拿大蒙特利爾大學(xué)任教，并帶領(lǐng)由Google資助的蒙特利爾算法學(xué)習(xí)人工智能實(shí)驗(yàn)室(MILA)。

Bengio認(rèn)為，在軍事實(shí)驗(yàn)室、安全組織、為政府或警察提供服務(wù)的私營(yíng)公司中，人工智能正在被濫用。技術(shù)本無(wú)善惡，但日漸強(qiáng)大的人工智能如同一柄雙刃劍，終將同時(shí)擁有推動(dòng)科學(xué)進(jìn)步和破壞人類社會(huì)的力量。

因此，2018年12月，在人工智能和機(jī)器學(xué)習(xí)的盛會(huì)NeurIPS上，Bengio提出了人工智能的一系列道德準(zhǔn)則，被稱為《蒙特利爾宣言》。

最近，這位深度學(xué)習(xí)奠基人與《Nature》（《自然》）進(jìn)行了一場(chǎng)對(duì)話，談及人工智能的方方面面，Bengio也重申了濫用人工智能的危險(xiǎn)和應(yīng)對(duì)措施?；蛟S這位在人工智能方面的先行者，會(huì)啟發(fā)我們有一些不一樣的思考。

《Nature》：你是否看到很多公司或者國(guó)家不負(fù)責(zé)任地使用AI？

Yoshua Bengio：已經(jīng)有很多這樣的事情，而且可能會(huì)有更多。所以我們必須在壞事發(fā)生之前警醒世人。許多最令人擔(dān)憂的事情并非在光天化日之下發(fā)生。它發(fā)生在軍事實(shí)驗(yàn)室、安全組織、為政府或警察提供服務(wù)的私營(yíng)公司中。

《Nature》：能舉一些例子嗎？

Yoshua Bengio：無(wú)人機(jī)殺手很讓人擔(dān)憂。這既有道德問(wèn)題，也有安全問(wèn)題。另一個(gè)例子是監(jiān)控。你可以說(shuō)它具有潛在的積極作用。但濫用的風(fēng)險(xiǎn)，特別就威權(quán)政府而言，是非常真實(shí)存在的。從本質(zhì)上講，人工智能是一種工具，可以被掌權(quán)者用來(lái)鞏固權(quán)力，并且加強(qiáng)權(quán)力。另一個(gè)問(wèn)題是，人工智能可以放大歧視和偏見，例如性別歧視或種族歧視。因?yàn)橛脕?lái)訓(xùn)練AI的數(shù)據(jù)中就存在偏見，這受到人為影響。

《Nature》：什么使蒙特利爾宣言與類似舉措有所不同？

Yoshua Bengio：我認(rèn)為這個(gè)宣言最先納入了廣泛的群體，不局限于人工智能研究人員，而是廣泛引入社會(huì)科學(xué)、人文學(xué)科方面的學(xué)者，乃至公眾，并且是以深度參與的方式。這帶來(lái)了變化：由于與專家和公眾進(jìn)行討論，我們將原則從7條改為10條。組織可以遵循這些原則。

《Nature》：什么是最適合人工智能道德討論的平臺(tái)？

Yoshua Bengio：我們正試圖在蒙特利爾建立能夠?qū)崿F(xiàn)這個(gè)目標(biāo)的組織：人工智能和數(shù)字技術(shù)社會(huì)影響的國(guó)際觀察站（The International Observatory on the Societal Impacts of Artificial Intelligence and Digital Technologies）。它應(yīng)該納入以下所有行動(dòng)者：政府，因?yàn)樗麄兪强梢圆扇⌒袆?dòng)的主體；民間-社會(huì)專家，既有人工智能技術(shù)專家，又有社會(huì)科學(xué)、醫(yī)療保健和政治科學(xué)專家；以及正在制造這些產(chǎn)品的公司。

但我們必須謹(jǐn)慎行事。因?yàn)楫?dāng)然，公司可能會(huì)把規(guī)則向他們的最低水平壓低。

《Nature》：你是否認(rèn)為這一行動(dòng)會(huì)推動(dòng)出臺(tái)人工智能的政府或國(guó)際法規(guī)？

Yoshua Bengio：是。自我監(jiān)管不會(huì)起作用。你認(rèn)為自愿征稅有效嗎？它沒(méi)有。與不遵守道德準(zhǔn)則的公司相比，遵守道德準(zhǔn)則的公司反而將處于不利地位。這就像開車一樣。無(wú)論是左側(cè)還是右側(cè)，每個(gè)人都需要以同樣的方式駕駛；否則，我們就會(huì)有麻煩。

《Nature》：你曾表達(dá)擔(dān)憂公司從學(xué)術(shù)界偷走了人才。這還是個(gè)問(wèn)題嗎？

Yoshua Bengio：這還在繼續(xù)。但也有一些好事發(fā)生。我們?cè)诿商乩麪柸〉昧顺晒?，因?yàn)槿斯ぶ悄艿纳鷳B(tài)不斷發(fā)展，并且出現(xiàn)了一種人才逆向流動(dòng)。人們從境外來(lái)到加拿大從事人工智能研究。

蒙特利爾正在發(fā)生另一件事，我認(rèn)為世界其他地方也有這樣的情況。在業(yè)界工作的學(xué)術(shù)研究人員，正在承擔(dān)兼職教師的角色，他們輔導(dǎo)或幫助輔導(dǎo)大學(xué)離的研究生。MILA就有這樣的情況。

我們也在努力培養(yǎng)學(xué)生。我們?cè)诿商乩麪柕臋C(jī)器學(xué)習(xí)教授人數(shù)翻了一番。這部分要?dú)w功于加拿大政府的人工智能投資策略。

《Nature》：你認(rèn)為歐洲在人工智能方面落后于中國(guó)和美國(guó)嗎？

Yoshua Bengio：沒(méi)錯(cuò)。但我不認(rèn)為歐洲應(yīng)該接受這一點(diǎn)。歐洲有巨大的潛力成為領(lǐng)導(dǎo)者。歐洲有優(yōu)秀的大學(xué)。事實(shí)上，我們?cè)贛ILA的許多學(xué)生來(lái)自歐洲。歐洲還有一個(gè)建立不久但是充滿活力的初創(chuàng)公司技術(shù)社群，分布在幾個(gè)地方。歐洲政府開始意識(shí)到人工智能的重要性。法國(guó)政府可能是第一個(gè)朝這個(gè)方向邁出重要一步的歐洲政府。 

《Nature》：人工智能的下一件大事是什么？

Yoshua Bengio：深度學(xué)習(xí)。目前深度學(xué)習(xí)在感知方面取得了巨大進(jìn)步，但它在能夠理解高等級(jí)表征的系統(tǒng)方面，尚未有所突破——就是那些人類在語(yǔ)言中使用的概念。人類能夠使用這些高級(jí)概念，進(jìn)行有力的歸納。甚至嬰兒都能做到這一點(diǎn)，但機(jī)器學(xué)習(xí)卻做的非常糟糕。

我們有能力推斷數(shù)據(jù)中實(shí)際沒(méi)有發(fā)生的東西。例如，我們?cè)谏墒綄?duì)抗網(wǎng)絡(luò)方面取得了一些進(jìn)展（這種技術(shù)是設(shè)置一個(gè)生成式網(wǎng)絡(luò)與圖像識(shí)別網(wǎng)絡(luò)競(jìng)爭(zhēng)，以幫助二者改善表現(xiàn)）。但人類比機(jī)器要出色得多，我猜測(cè)，重要因素之一是人類對(duì)因果關(guān)系的理解。

【來(lái)源：品玩】