來源：機(jī)器之心

要問最近 AI 圈哪個(gè)模型最火爆，你不得不把 OpenAI 推出的 ChatGPT 排在前面。自從發(fā)布以來，這個(gè)對(duì)話模型可謂是出盡風(fēng)頭，很多人更是對(duì)其產(chǎn)生了一百個(gè)新玩法，讓它寫個(gè)代碼、修改修改 bug、開發(fā)個(gè)小游戲、解答一下物理知識(shí)、去參加一場(chǎng)考試 …… 仿佛沒有它不會(huì)的。

" 上周三才上線的 ChatGPT，短短幾天它的用戶已經(jīng)突破 100 萬(wàn)大關(guān)！"OpenAI 的 CEO Sam Altman 表示。

就連馬斯克都忍不住好奇地問了一句：" 你們每次聊天的平均成本是多少？"

" 每次聊天的平均費(fèi)用可能只有個(gè)位數(shù)，我們?cè)囍页龈_的方法以及正在嘗試如何優(yōu)化它。"Sam Altman 回答道。

由于 ChatGPT 在解決各種問題上的能力過于優(yōu)秀，很多用戶都表示 ChatGPT 可以取代 Google 等搜索引擎和 Stack Overflow 等編程問答社區(qū)了。

不過，雖然許多用戶對(duì) ChatGPT 的功能印象深刻，但其他人也注意到它一直傾向于生成似是而非的錯(cuò)誤答案。例如，要求 ChatGPT 寫一個(gè)公眾人物的傳記，它可能會(huì)很自信地插入不正確的傳記數(shù)據(jù)。再比如要求它解釋如何為特定功能編寫軟件程序，它同樣可以生成可信但最終不正確的代碼。

圖源：https://twitter.com/CT_Bergstrom/status/1598212037901160448

ChatGPT 隨時(shí)都有可能出錯(cuò)情況也促使 Stack Overflow 做出了一些反應(yīng)。前兩天還有人信誓旦旦的表示 ChatGPT 可以取代 Stack Overflow 了，令人沒想到的是，今天 Stack Overflow 反手就把 ChatGPT 給封殺了。

這是怎么回事，原來在試用了一段時(shí)間后，人們很快發(fā)現(xiàn)，雖然 ChatGPT 以接近人類的方式回答提示，但它給出的答案可能存在缺陷。OpenAI 也提到這一點(diǎn)，ChatGPT 有時(shí)會(huì)給出看似合理但不正確或荒謬的答案。

對(duì)于這一問題，Sam Altman 也表示：" 我們正在試圖阻止 ChatGPT 隨機(jī)編造，現(xiàn)階段讓其與當(dāng)前技術(shù)保持平衡是很棘手的。隨著時(shí)間的推移，我們會(huì)根據(jù)用戶反饋來改進(jìn)它，相信 ChatGPT 會(huì)變得更好。"

關(guān)于 Stack Overflow 為何禁用 ChatGPT，官方表示：" 主要問題在于，雖然 ChatGPT 產(chǎn)生的答案錯(cuò)誤率很高，但我們很難看出來它哪里錯(cuò)了。" 這會(huì)造成問題回答魚目混珠的情況。

接下來，Stack Overflow 將制定關(guān)于使用此工具和其他類似工具的具體要求。

Stack Overflow 宣布暫時(shí)封禁 ChatGPT 是因?yàn)樗傻拇鸢刚_率太低，發(fā)布由 ChatGPT 創(chuàng)建的答案對(duì)網(wǎng)站和查詢正確答案的用戶來說是非常有害的。

雖然 ChatGPT 生成的答案有很高的錯(cuò)誤率，但這些答案通常看起來不錯(cuò)，而且生成答案的操作簡(jiǎn)單容易，許多人愿意嘗試使用 ChatGPT 創(chuàng)建答案，但卻沒有專業(yè)知識(shí)或不愿意在發(fā)布之前驗(yàn)證答案是否正確。

最近幾天，由于使用 ChatGPT 生成答案迅速簡(jiǎn)單，所以 Stack Overflow 上涌現(xiàn)了大量該模型生成的答案。這些答案通常需要具備一些專業(yè)知識(shí)的人詳細(xì)閱讀才能確定答案實(shí)際上 ‍ 是錯(cuò)誤的。這種情況讓 Stack Overflow 的質(zhì)量管理遭到?jīng)_擊。

對(duì)于 Stack Overflow 封禁 ChatGPT，網(wǎng)友們紛紛表達(dá)了自己的看法。

有人表示贊成，認(rèn)為 AI 短時(shí)間內(nèi)根本不可能生成完全正確的答案：

有人表示問題出在 Stack Overflow 用戶在發(fā)布答案之前，沒有認(rèn)真檢查和測(cè)試 ChatGPT 生成的代碼，他們只是用 ChatGPT 快速生成答案并發(fā)布，導(dǎo)致答案中出現(xiàn)嚴(yán)重錯(cuò)誤，甚至編程語(yǔ)言都是錯(cuò)亂的。

有趣的是，Stack Overflow 宣布封禁 ChatGPT 之后，有網(wǎng)友 " 詢問 "ChatGPT：" 為什么 Stack Overflow 禁止用 AI 生成答案？"

ChatGPT 的回答非常誠(chéng)實(shí)：" 因?yàn)?AI 生成的答案不總是準(zhǔn)確或相關(guān)的，可能會(huì)導(dǎo)致 Stack Overflow 上混淆錯(cuò)誤答案，誤導(dǎo)在尋求幫助的用戶。" 并且還表態(tài)："Stack Overflow 禁止用 AI 生成答案是合理的。"

然后該網(wǎng)友又追問 ChatGPT：" 為什么 Stack Overflow 允許用 AI 生成答案？" 即使這只是個(gè)假設(shè)情況，但 ChatGPT 還是對(duì)答如流：

在 Stack Overflow 上允許 AI 生成的答案有一些潛在的好處。一方面，人工智能可能會(huì)為用戶的問題提供更準(zhǔn)確和詳細(xì)的答案。這對(duì)于人類專家可能難以回答的復(fù)雜技術(shù)問題特別有用。此外，AI 生成答案可以幫助減少人類專家的工作量，使他們能夠?qū)Ｗ⒂诟匾娜蝿?wù)。

然而，使用 AI 生成答案也有一些潛在的缺點(diǎn)需要考慮。例如，AI 生成的答案可能并不總是準(zhǔn)確或有幫助的，而且人們可能擔(dān)心用于生成答案的算法存在偏見。用戶可能也對(duì)使用 AI 生成答案有顧慮，更愿意從人類專家那里得到答案。

總的來說，是否允許 AI 在 Stack Overflow 上生成答案是一個(gè)復(fù)雜的決定，需要社區(qū)仔細(xì)考慮。

綜合上面回答，我們發(fā)現(xiàn) ChatGPT 頗有自知之明，對(duì) Stack Overflow 禁用 AI 生成答案的問題也闡述得有理有據(jù)。這說明從語(yǔ)言模型的角度講，ChatGPT 已經(jīng)非常成熟，但生成知識(shí)型內(nèi)容并不是一件簡(jiǎn)單的事。

類似地，上個(gè)月 Meta 的模型 Galactica 上線僅兩天后就火速下架，因?yàn)樵撃Ｐ蜕傻闹R(shí)型內(nèi)容存在嚴(yán)重錯(cuò)誤。現(xiàn)在 ChatGPT 被 Stack Overflow 禁用再度證明構(gòu)建 " 知識(shí)型模型 " 是一個(gè)巨大的挑戰(zhàn)。

ChatGPT 的研究團(tuán)隊(duì)此前表示將根據(jù)用戶反饋持續(xù)改進(jìn)模型，但生成錯(cuò)誤答案的現(xiàn)狀表明，讓語(yǔ)言模型生成正確的知識(shí)內(nèi)容還有很長(zhǎng)的路要走。