人工智能的能力越來越強(qiáng)大，尤其是在撰寫一些新聞信息方面，甚至基于一些關(guān)鍵信息就能生成幾乎能夠以假亂真的新聞內(nèi)容。這也讓創(chuàng)造者開始思考這樣的技術(shù)是否應(yīng)該向公眾進(jìn)行發(fā)布。
據(jù)Engadget2月15日?qǐng)?bào)道，埃隆·馬斯克創(chuàng)辦的OpenAI開發(fā)了一種算法，僅需寥寥數(shù)個(gè)單詞，算法就能據(jù)此生成出一條幾乎可以以假亂真的新聞來。報(bào)道稱， 最初算法設(shè)計(jì)僅是作為一種通用語(yǔ)言的人工智能程序，可以回答問題，概括故事梗概翻譯文本等，但是研究人員很快意識(shí)到它的能力能夠輸出虛假信息。因此，該團(tuán)隊(duì)計(jì)劃只向公眾提供軟件的簡(jiǎn)化版。
OpenAI公布了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節(jié)裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎(chǔ)，軟件編寫出由7個(gè)段落組成的新聞，軟件還引述政府官員的話語(yǔ)，只是這些信息全是假的。
紐約大學(xué)計(jì)算機(jī)科學(xué)家山姆·鮑曼(Sam Bowman)認(rèn)為：“軟件根據(jù)提示生成的文本相當(dāng)驚人，從品質(zhì)上講，它所做的事比之前我們看到的復(fù)雜很多。”
幸運(yùn)的是，這項(xiàng)技術(shù)目前還存在一些不足之處，它所撰述的故事要么是抄襲要么就能明顯看出異常，只是偶爾碰巧幾乎與真實(shí)新聞無異。OpenAI政策主管杰克·克拉克(Jack Clark)說：“可能只需要一兩年時(shí)間就會(huì)出現(xiàn)一個(gè)能夠穩(wěn)定輸出虛假信息的系統(tǒng)，那個(gè)時(shí)候必須要進(jìn)行徹底的事實(shí)核查才會(huì)鑒別出虛假信息。”
目前虛假信息正在蔓延，威脅全球科技產(chǎn)業(yè)，而軟件能夠編寫逼真的虛假新聞不是一個(gè)好消息。歐洲監(jiān)管機(jī)構(gòu)已經(jīng)向科技企業(yè)發(fā)出警告，如果科技公司不采取強(qiáng)有力措施阻止產(chǎn)品影響選民意愿，它們就會(huì)采取行動(dòng)，自2016年美國(guó)大選以來，F(xiàn)acebook一直在努力，希望控制虛假信息。
【來源：環(huán)球網(wǎng)】
