觀點(diǎn)：魔法對抗魔法 OpenAI新工具檢測文章是否由ChatGPT撰寫

2023-02-02 07:00:44來源：中關(guān)村在線

(資料圖)

OpenAI發(fā)布了一個工具，幫助你確定文本是由人類還是人工智能寫的可能性更大。然而，ChatGPT制造商警告說，它相當(dāng)于《銀翼殺手》中的Voight-Kampff測試，也可能出錯。

該工具包括一個方框，你可以粘貼至少1000個字符的文本。然后它將吐出一個裁決，如 "分類器認(rèn)為該文本非常不可能是人工智能生成的 "或 "分類器認(rèn)為該文本可能是人工智能生成的"。

我通過提示ChatGPT寫一篇關(guān)于鳥類遷徙模式的文章來測試它，然后檢測工具將其描述為 "可能是AI生成的"。同時，它將幾篇由人類撰寫的文章評為 "非常不可能是人工智能生成的"。因此，盡管該工具可能會在任何一個方向上引起錯誤的信號，但我的（很小的樣本量）測試表明至少有一定的準(zhǔn)確性。不過，OpenAI提醒說，不要單獨(dú)使用該工具來確定內(nèi)容的真實(shí)性；它對1000字以上的文本也有最佳效果。

這家初創(chuàng)公司在11月發(fā)布其ChatGPT工具后面臨著來自教育工作者的壓力，該工具產(chǎn)生的人工智能編寫的內(nèi)容有時可以冒充人類寫作。這種自然語言模型可以在幾秒鐘內(nèi)根據(jù)簡單的文字提示創(chuàng)造出文章--甚至可以通過研究生商業(yè)和法律考試--同時為學(xué)生提供一個誘人的新作弊機(jī)會。因此，紐約公立學(xué)校禁止該機(jī)器人進(jìn)入其WiFi網(wǎng)絡(luò)和學(xué)校設(shè)備。

雖然ChatGPT的到來是最近的一個熱門話題，甚至延伸到了渴望自動化SEO友好文章的媒體機(jī)構(gòu)，但該機(jī)器人對OpenAI來說是大生意。據(jù)報(bào)道，該公司本月初從微軟獲得了100億美元的投資，微軟計(jì)劃將其整合到必應(yīng)和Office 365中。據(jù)稱，OpenAI去年年底討論了以290億美元的估值出售股票，這將使其成為美國最有價(jià)值的創(chuàng)業(yè)公司之一。

雖然ChatGPT是目前公開的最好的自然語言人工智能模型，但谷歌、百度和其他公司正在研究競爭對手。谷歌的LaMDA有足夠的說服力，以至于一位前研究人員去年因聲稱該聊天機(jī)器人有知覺而丟掉了他在該搜索巨頭的工作。(人類傾向于將感情和意識投射到算法上，這是我們在未來幾年可能會聽到的一個概念）。谷歌只在測試版中發(fā)布了極其有限的聊天機(jī)器人，可能是出于道德方面的考慮。隨著精靈從瓶子里出來，看看這種限制能持續(xù)多久將很有趣。

標(biāo)簽：新聞資訊