人工智能的能力越來越強大，尤其是在撰寫一些新聞信息方面，甚至基于一些關鍵信息就能生成幾乎能夠以假亂真的新聞內容。這也讓創造者開始思考這樣的技術是否應該向公眾進行發布。
據Engadget2月15日報道，埃隆·馬斯克創辦的OpenAI開發了一種算法，僅需寥寥數個單詞，算法就能據此生成出一條幾乎可以以假亂真的新聞來。報道稱， 最初算法設計僅是作為一種通用語言的人工智能程序，可以回答問題，概括故事梗概翻譯文本等，但是研究人員很快意識到它的能力能夠輸出虛假信息。因此，該團隊計劃只向公眾提供軟件的簡化版。
OpenAI公布了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎，軟件編寫出由7個段落組成的新聞，軟件還引述政府官員的話語，只是這些信息全是假的。
紐約大學計算機科學家山姆·鮑曼(Sam Bowman)認為：“軟件根據提示生成的文本相當驚人，從品質上講，它所做的事比之前我們看到的復雜很多。”
幸運的是，這項技術目前還存在一些不足之處，它所撰述的故事要么是抄襲要么就能明顯看出異常，只是偶爾碰巧幾乎與真實新聞無異。OpenAI政策主管杰克·克拉克(Jack Clark)說：“可能只需要一兩年時間就會出現一個能夠穩定輸出虛假信息的系統，那個時候必須要進行徹底的事實核查才會鑒別出虛假信息。”
目前虛假信息正在蔓延，威脅全球科技產業，而軟件能夠編寫逼真的虛假新聞不是一個好消息。歐洲監管機構已經向科技企業發出警告，如果科技公司不采取強有力措施阻止產品影響選民意愿，它們就會采取行動，自2016年美國大選以來，Facebook一直在努力，希望控制虛假信息。
【來源：環球網】
