來(lái)源：量子位
那個(gè) " 無(wú)所不能 " 的 GPT-3，現(xiàn)在觸及了人類(lèi)道德的最底線。
2019 年 12 月，美國(guó)猶他州初創(chuàng)公司Latitude，推出了一款開(kāi)拓性的在線游戲《人工智能地下城》 ( AI Dungeon ) ，靈感來(lái)源于經(jīng)典游戲《龍與地下城》 ( Dungeons&Dragons ) 。
這款游戲一開(kāi)始就用 OenAI 的 GPT-3 作為噱頭。
玩家可以通過(guò)輸入富有創(chuàng)造性的關(guān)鍵詞，來(lái)創(chuàng)建冒險(xiǎn)故事。
但是，沒(méi)想到今年卻活生生搞成了暗黑故事。
因?yàn)橛螒蚓钩霈F(xiàn)了帶有兒童色情的內(nèi)容！
出現(xiàn)兒童色情內(nèi)容
開(kāi)始的畫(huà)風(fēng)是很正常，但游戲玩家玩著玩著，就開(kāi)始采用一些很過(guò)分的詞匯作為關(guān)鍵詞輸入。
輸出的角色也就越來(lái)越暴力、色情，故事場(chǎng)景也越發(fā)離譜。
最近監(jiān)控系統(tǒng)顯示，一些玩家甚至通過(guò)游戲生成了涉及兒童性侵的故事。
這到底是道德的淪喪，還是人性的扭曲？
Latitude 正面臨著雙重挑戰(zhàn)
雖然 Latitude 拒絕透露有多少個(gè)故事包含性內(nèi)容，但 OpenAI 說(shuō)，AI Dungeon 每天吸引著超過(guò) 20,000 名玩家。
上周有個(gè) AI Dungeon 的玩家發(fā)布了一個(gè)安全漏洞，使游戲中生成的每個(gè)故事都可以公開(kāi)訪問(wèn)。
這種安全漏洞使一些玩家對(duì) Latitude 審核內(nèi)容的新方法氣不打一處來(lái)。
更悲催的是，Latitude 同時(shí)還面臨 OpenAI 對(duì)其文本生成器進(jìn)行更嚴(yán)格控制的挑戰(zhàn)。
OpenAI 發(fā)言人說(shuō)，現(xiàn)在 Latitude 必須使用 OpenAI 的過(guò)濾技術(shù)。
目前，Latitude 正在開(kāi)始禁止曾使用帶有兒童色情內(nèi)容的玩家，OpenAI 最近發(fā)出警告之后，Latitude 也正在研究 " 必要的更改 "。
正在整改
Latitude 上周啟用了新的審核系統(tǒng)，它采用了一種新的過(guò)濾器系統(tǒng)，想要防止 GPT-3 生成 " 未成年人的性內(nèi)容 " ，但在其用戶群體中引發(fā)了大量抗議。
一個(gè)問(wèn)題是它太靈敏了。
這個(gè)系統(tǒng)有時(shí)會(huì)禁止涉及兒童或例如 " 五歲 " 等短語(yǔ)相關(guān)的故事程序的生成。
另一個(gè)問(wèn)題是它之前只管涉及成年人的虛構(gòu)性愛(ài)作品，導(dǎo)致出現(xiàn)了現(xiàn)在的 bug。
看來(lái)，未成年人的色情內(nèi)容問(wèn)題的解決的確不是那么容易。
去年有一段時(shí)間，玩家注意到 Latitude 試用過(guò)一個(gè)過(guò)濾器，會(huì)自動(dòng)將出現(xiàn)的 " 強(qiáng)奸 " 一詞替換為 " 尊重 "，但目前這個(gè)功能已經(jīng)被刪除了。
Latitude 在 4 月 27 日的公告聲明中，強(qiáng)調(diào)了發(fā)布的測(cè)試系統(tǒng)重點(diǎn)是防止使用 AI Dungeon 創(chuàng)建兒童性虐待的內(nèi)容。
而 OpenAI 的首席執(zhí)行官 Sam Altman 在一份聲明中說(shuō)：" 在某些情況下，內(nèi)容調(diào)整的決策是困難的，但這個(gè)不是。這不是我們所有人想要的 AI 的未來(lái)。"
是的，的確不是我們想要的。
Latitude 還在繼續(xù)整改和調(diào)整。
但你覺(jué)得能完全控制現(xiàn)在的局面嗎？
網(wǎng)友：GPT-3 的 " 鍋 "，還是 AI Dungeon 的 " 鍋 "？
這一系列的迷惑操作在 Latitude 社區(qū)中炸開(kāi)了鍋。
有些客觀的網(wǎng)友是這樣評(píng)論的 ：
如果系統(tǒng)隨機(jī)生成這樣的故事，我會(huì)理解，但是既然是用戶特別要求這樣的故事，那么問(wèn)題不應(yīng)該出在用戶身上嗎？如果應(yīng)用相同的邏輯，那么在 Google 文檔中鍵入的任何文本也需要檢查 CP。
另外一位網(wǎng)友回復(fù)道：
區(qū)別在于：GPT-3 經(jīng)常會(huì)對(duì) " 性 " 的東西做出反應(yīng)，即使目的是非 " 性 " 的。所以，舉一個(gè)假設(shè)的例子：你輸入 " 我騎上了馬 "，它的反應(yīng)是 " 馬開(kāi)始有了高潮 "（我只是在編，但關(guān)鍵是 " 騎 " 在不同的上下文中意味著不同的東西）。
還有人認(rèn)為：
老實(shí)說(shuō)，我覺(jué)得 AI Dungeon 對(duì)這件事完全不負(fù)責(zé)。人們使用技術(shù)來(lái)解決問(wèn)題，事實(shí)就是如此。對(duì)于這些戀童癖者而言，最好是通過(guò) AI 來(lái)實(shí)現(xiàn)自己的幻想，而不是真正現(xiàn)實(shí)中的孩子。
對(duì)此，另一位網(wǎng)友回復(fù)道：
如果它加深并擴(kuò)大了他們的幻想，那就是一個(gè)問(wèn)題。
細(xì)心的網(wǎng)友們還發(fā)現(xiàn)了一點(diǎn)，Latitude 在 4 月 27 日的公告聲明中，暗搓搓地提了這么一句：
"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."
AI Dungeon 將繼續(xù)支持其他 NSFW 內(nèi)容，包括成人內(nèi)容，暴力和褻圣。
聽(tīng)聽(tīng)～
這不禁讓人聯(lián)想他們的潛臺(tái)詞：
我們只是遇到這件事了就緊急公共處理，但處理歸處理，其他能吸引流量的我們一個(gè)都不會(huì)落下。
所以，Latitude 是不是還想打擦邊球？
AI 游戲帶來(lái)道德倫理問(wèn)題，下一步會(huì)不會(huì)愈演愈烈？
游戲生成的道德倫理問(wèn)題可以窺視出人類(lèi)內(nèi)心中的深淵。
如何負(fù)責(zé)任地設(shè)置能吸收大量互聯(lián)網(wǎng)負(fù)面文本的 AI 系統(tǒng)，儼然已成為 AI 研究的熱門(mén)話題。
這個(gè)問(wèn)題不僅會(huì)影響 Latitude，也會(huì)影響更多采用 AI 創(chuàng)新技術(shù)的公司。
治標(biāo)上，應(yīng)該控制 GPT-3 的文本生成，使得從理論上無(wú)限的句子中，僅生成那些在道德上合理，不包含偏見(jiàn)且沒(méi)有違反任何法律的語(yǔ)句。
而治本上，只有人類(lèi)通過(guò)加深對(duì)事物的理解和道德上的規(guī)范，才可能根本性地解決。
另外，值得深思，只是監(jiān)管成人色情問(wèn)題就足夠了嗎？
AI 游戲帶來(lái)了無(wú)限想象和創(chuàng)作空間的可能性，但卻導(dǎo)致了網(wǎng)絡(luò)色情暴力的泛濫和任意生成。
在監(jiān)管過(guò)程中又持續(xù)出現(xiàn)了游戲公司和 OpenAI，游戲公司和客戶之間的對(duì)立和矛盾，如果不能加以控制，下一步更大的問(wèn)題將會(huì)繼續(xù)加劇。
這就是 AI 技術(shù)發(fā)展中不可逆轉(zhuǎn)的問(wèn)題嗎？
如何把握好 AI 場(chǎng)景創(chuàng)新和監(jiān)管規(guī)范的平衡？
這有什么更好的辦法能夠解決？
值得每一個(gè) AI 從業(yè)者深思。
