面對(duì) ChatGPT，Nature 終于坐不住了。本周，這家權(quán)威學(xué)術(shù)出版機(jī)構(gòu)場(chǎng)，針對(duì) ChatGPT 代寫學(xué)研文章、被列為作者一系列問(wèn)題，給了定性。具來(lái)說(shuō)，Nature 列出兩項(xiàng)原則：（1）任何大型語(yǔ)言模型工具（比如 ChatGPT）都不能成為論文作者；（2）如在論文創(chuàng)作中用過(guò)相關(guān)工具，作者應(yīng)在“方法”“致謝”或適當(dāng)?shù)牟糠置鞔_明。現(xiàn)在，上述要求已經(jīng)添作者投稿指南中。近段時(shí)間ChatGPT 染指學(xué)研圈情況越來(lái)越多。去年 12 月一篇雷帕霉素抗衰老應(yīng)用論文中，ChatGPT 就曾被列為一作，引發(fā)業(yè)內(nèi)爭(zhēng)。該篇之外，還有不少研究 ChatGPT 列為作者。Nature 也已注意到此類狀況，他們于 12 月進(jìn)行了一項(xiàng)調(diào)研顯示，293 名受訪的教授老師中，20% 已經(jīng)發(fā)覺(jué)或目睹學(xué)生在用 ChatGPT 完成作業(yè)或論文，更多人對(duì)此表龜山擔(dān)。此次，Nature 所發(fā)表的聲明，正是希望對(duì)種種議給予定性。多篇論文已將 ChatGPT 列為作者ChatGPT 由 OpenAI 在去年 11 月末推出，因其表現(xiàn)大幅超越此前型語(yǔ)言模型（LLM），迅速成為歲末年初第一號(hào)“竄天”。在新媒體、影視、軟件發(fā)、游戲互動(dòng)等領(lǐng)域中，ChatGPT 被迅速加以利用，輔助生產(chǎn)提升效能。學(xué)研也不例外。據(jù) Nature 統(tǒng)計(jì)，使用 ChatGPT 并將其列為作者的論文最少有 4 篇。其中一篇預(yù)印本在 2022 年 12 月發(fā)表于醫(yī)學(xué)預(yù)印本資料庫(kù) medRxiv 上。該論文研究了 ChatGPT 在美國(guó)醫(yī)學(xué)執(zhí)照考試中的表現(xiàn)盡管研究關(guān)于 ChatGPT，但作者欄中也列上了 ChatGPT。另一篇論文發(fā)表在《護(hù)士教育實(shí)信》雜志，關(guān)于開(kāi)放人工智能平臺(tái)在理教育中的利弊，同樣，ChatGPT 被列入作者欄：第三篇論文來(lái)自 AI 藥物研發(fā)公司 Insilico Medicine，內(nèi)容關(guān)于一種新藥雷帕霉素，發(fā)表《Oncoscience》。同樣，ChatGPT 被列為作者。第四篇稍顯“古”，發(fā)表于 2022 年 6 月，探討主題就是 ——AI 生成論文的能力如何。被列入作者一欄的 AI 也并非 ChatGPT，而是更早發(fā)布的 GPT-3。盡管上述研究?jī)?nèi)容多少都與生語(yǔ)言模型有關(guān)，但對(duì)于嚴(yán)肅科研活動(dòng)來(lái)說(shuō)，使用“研究象”寫論文，并將其列入作欄，不可避免引發(fā)了爭(zhēng)議和疑。且即便不將 AI 列為作者，學(xué)研圈使用 ChatGPT 的情況也越來(lái)越普遍。前文提及 AI 藥物研發(fā)公司 Insilico Medicine 的 CEO，Alex Zhavoronkov，他透露道，其所在的機(jī)構(gòu)已發(fā)狙如了 80 多篇由 AI 工具生成的論文。英國(guó)教授 Mike Sharples 一直關(guān)注生成 AI 對(duì)學(xué)術(shù)研究的影響。不久前，他在推特上親手演示如何用大型語(yǔ)言模型 10 分鐘生成一篇學(xué)術(shù)論文，一步描述自己如何用 AI 根據(jù)標(biāo)題生成摘要，也引發(fā)不討論。學(xué)生使用 ChatGPT 幫助撰寫論文、生成代碼、完成作業(yè)更為豪魚遍，目，美國(guó)已有部分地區(qū)教育機(jī)禁止使用該工具。就在上周北密歇根大學(xué)一位學(xué)生依靠 ChatGPT 寫出全班最高分論文。有意思的是，該生之所以被抓住，是因?yàn)樗?交文章邏輯過(guò)于連貫，結(jié)構(gòu)于合理，以至于導(dǎo)師專門去問(wèn)了一下才得知真相?！?密歇根大學(xué)需要明確的是，述抓包只是偶然，更多時(shí)候生成內(nèi)容已讓科學(xué)家們真假辨。Nature 此前一篇文章指出，ChatGPT 發(fā)布后，伊利諾伊州西北大一個(gè)研究小組就在探究，使該 AI 工具生成醫(yī)學(xué)論文摘要，科學(xué)家是否后照識(shí)別。果發(fā)現(xiàn)，AI 生成摘要均通過(guò)了抄襲檢測(cè)器，在人工審中，32% 的 AI 生成摘要被認(rèn)為是真實(shí)人類完成。已在開(kāi)發(fā)辨別工具此番 Nature 下場(chǎng)，表明了他們對(duì) ChatGPT 引發(fā)問(wèn)題的重視。在最新內(nèi)容中Nature 表示，學(xué)研圈都在擔(dān)心，學(xué)生及研究鐘山們能會(huì)以大型語(yǔ)言模型生成的容當(dāng)作本人撰寫的文本，除冒用風(fēng)險(xiǎn)外，上述過(guò)程還會(huì)生不可靠的研究結(jié)論。尤其對(duì) ChatGPT，Nature 團(tuán)隊(duì)及很多出版商、平臺(tái)均認(rèn)為，該工具居暨法對(duì)學(xué)論文的完整性及內(nèi)容本身責(zé)。一個(gè)側(cè)面佐證是科技媒 CNET 這兩天曝出，該平臺(tái) AI 編寫的 77 篇內(nèi)容中，41 篇有錯(cuò)誤，目前，平臺(tái)已予以更正，并示將暫停此種方式生產(chǎn)內(nèi)容正是基于對(duì)上述情況的擔(dān)憂Nature 出臺(tái)了相關(guān)規(guī)定。至于如何分辨 AI 生成內(nèi)容？Nature 表示，目前 ChatGPT 原始輸出可以通過(guò)仔細(xì)檢查而發(fā)現(xiàn)，尤其涉及具體科學(xué)工時(shí)，內(nèi)容可能包含最簡(jiǎn)單的誤及泛泛乏味的措辭。此外Nature 也表示，他們還在開(kāi)發(fā)相關(guān)識(shí)別技術(shù)。值一提的是，相關(guān)識(shí)別工具也人開(kāi)發(fā)出來(lái)了。比如 OpenAI 自己推出的 GPT-2 Output Detector，輸入 50 個(gè)以上字符（tokens）就能較準(zhǔn)確地識(shí)別 AI 生成的文本。再比如普林斯頓大生 Edward Tian，也做出過(guò)相關(guān)工具 GPTZero。不過(guò)，并非所有大學(xué)教授和老師對(duì) AI 生成工具持否定態(tài)度。比如賓大頓商學(xué)院一位教授 Ethan Mollick，反其道而要求學(xué)生使用 ChatGPT 完成課堂作業(yè)，并認(rèn)為這是在擁抱新興技術(shù)工具。文發(fā)表平臺(tái) medRxiv 一位工作者也表示，ChatGPT 也不算新麻煩。他認(rèn)為，此前，研究者都嘗試偷加入寵物、虛構(gòu)人物名字因此，他們認(rèn)為，問(wèn)題核心 —— 需要繼續(xù)加強(qiáng)檢查。最后問(wèn)問(wèn)，你在科研工作中了 ChatGPT 么？參考鏈接：[1]https://www.nature.com/articles/d41586-023-00191-1[2]https://www.nature.com/articles/d41586-023-00056-7[3]https://www.nature.com/articles/d41586-023-00204-z[4]https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban[5]https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1本文來(lái)自微信公眾號(hào)：量子位 （ID：QbitAI），作者：詹滑魚