面對 ChatGPT，Nature 終于坐不住了。本周，這軨軨權(quán)學(xué)術(shù)出版機(jī)構(gòu)下，針對 ChatGPT 代寫學(xué)研文章、被列為作等一系列問題，了定性。具體來，Nature 列出兩項(xiàng)原則：1）任何大型語言模型工岷山（比如 ChatGPT）都不能成為論文者；（2）如在論文創(chuàng)作中用過相工具，作者應(yīng)在方法”或“致謝或適當(dāng)?shù)牟糠置?說明?，F(xiàn)在，上要求已經(jīng)添進(jìn)作投稿指南中。近時(shí)間，ChatGPT 染指學(xué)研圈情況越來越多。年 12 月一篇雷帕霉素抗衰老用的論文中，ChatGPT 就曾被列為一作，引業(yè)內(nèi)爭議。該篇外，還有不少研將 ChatGPT 列為作者。Nature 也已注意到此類狀況他們于 12 月進(jìn)行了一項(xiàng)調(diào)研示，293 名受訪的教授老師中20% 已經(jīng)發(fā)覺或目睹學(xué)生在用 ChatGPT 完成作業(yè)或論文更多人對此表示憂。此次，Nature 所發(fā)表的聲明，正是希望種種爭議給予定。多篇論文已將 ChatGPT 列為作者ChatGPT 由 OpenAI 在去年 11 月末推出，因其表現(xiàn)大幅越此前大型語言型（LLM），迅速成為歲末年初一號“竄天猴”在新媒體、影視軟件開發(fā)、游戲動等領(lǐng)域中，ChatGPT 被迅速加以利用，輔生產(chǎn)提升效能。研圈也不例外。 Nature 統(tǒng)計(jì)，使用 ChatGPT 并將其列為作者的論最少有 4 篇。其中一篇預(yù)印本 2022 年 12 月發(fā)表于醫(yī)學(xué)預(yù)印本資料庫 medRxiv 上。該論文研究 ChatGPT 在美國醫(yī)學(xué)執(zhí)照考試中的表現(xiàn)。管研究關(guān)于 ChatGPT，但作者欄中也列上了 ChatGPT。另一篇論文發(fā)表《護(hù)士教育實(shí)踐雜志上，關(guān)于開人工智能平臺在理教育中的利弊同樣，ChatGPT 被列入作者欄：第三篇論文自 AI 藥物研發(fā)公司 Insilico Medicine，內(nèi)容關(guān)于一種新藥雷霉素，發(fā)表于《Oncoscience》。同樣，ChatGPT 被列為作者。第四稍顯“古早”，表于 2022 年 6 月，探討主題就是 ——AI 生成論文的能力如何鳧徯被列入者一欄的 AI 也并非 ChatGPT，而是更早發(fā)布的 GPT-3。盡管上述研究內(nèi)容多竦斯都與生語言模型有關(guān)，對于嚴(yán)肅的科研動來說，使用“究對象”寫論文并將其列入作者，不可避免引發(fā)爭議和質(zhì)疑。且便不將 AI 列為作者，學(xué)研圈用 ChatGPT 的情況也越來越普遍。前文提 AI 藥物研發(fā)公司 Insilico Medicine 的 CEO，Alex Zhavoronkov，他透露道，其所在的機(jī)構(gòu)發(fā)表了 80 多篇由 AI 工具生成的論文。英教授 Mike Sharples 一直關(guān)注生成 AI 對學(xué)術(shù)研究的影響。不吉光前他在推特上親手示了如何用大型言模型 10 分鐘生成一篇學(xué)術(shù)文，一步步描述己如何用 AI 根據(jù)標(biāo)題生成摘，也引發(fā)不小討。學(xué)生使用 ChatGPT 幫助撰寫論文、生成碼、完成作業(yè)更普遍，目前，美已有部分地區(qū)教機(jī)構(gòu)禁止使用該具。就在上周，密歇根大學(xué)一位生依靠 ChatGPT 寫出全班最高分論文。有思的是，該學(xué)生所以被抓住，是為所提交文章邏過于連貫，結(jié)構(gòu)于合理，以至于師專門去質(zhì)問了下才得知真相。?北密歇根大學(xué)要明確的是，上抓包只是偶然，多時(shí)候，生成內(nèi)已讓科學(xué)家們真難辨。Nature 此前一篇文章指出，ChatGPT 發(fā)布后，伊利諾伊州西供給大一個(gè)研究小組就探究，使用該 AI 工具生成醫(yī)學(xué)論文摘要，科學(xué)是否能識別。結(jié)發(fā)現(xiàn)，AI 生成摘要均通過了抄檢測器，在人工核中，32% 的 AI 生成摘要被認(rèn)為是真楮山人完成的。已在開辨別工具此番 Nature 下場，表明了他們對 ChatGPT 引發(fā)問題的重視在最新內(nèi)容中，Nature 表示，學(xué)研圈都在擔(dān)，學(xué)生及研究者可能會以大型語模型生成的內(nèi)容作本人撰寫的文，除卻冒用風(fēng)險(xiǎn)，上述過程還會生不可靠的研究論。尤其針對 ChatGPT，Nature 團(tuán)隊(duì)及很多出版商、臺均認(rèn)為，該工無法對科學(xué)論文完整性及內(nèi)容本負(fù)責(zé)。一個(gè)側(cè)面證是科技媒體 CNET 這兩天曝出，該平臺 AI 編寫的 77 篇內(nèi)容中，41 篇有錯誤，目前平臺已予以更正并表示將暫停此方式生產(chǎn)內(nèi)容。是基于對上述情的擔(dān)憂，Nature 出臺了相關(guān)規(guī)定。至于如何辨 AI 生成內(nèi)容？Nature 表示，目前 ChatGPT 原始輸出可以通過細(xì)檢查而被發(fā)現(xiàn)尤其涉及具體科工作時(shí)，內(nèi)容可包含最簡單的錯及泛泛乏味的措。此外，Nature 也表示，他們還在開發(fā)相關(guān)別技術(shù)。值得一的是，相關(guān)識別具也有人開發(fā)出了。比如 OpenAI 自己推出的 GPT-2 Output Detector，輸入 50 個(gè)以上字符（tokens）就能較準(zhǔn)確地識別 AI 生成的文本。再比普林斯頓大學(xué)生 Edward Tian，也做出過相關(guān)工具 GPTZero。不過，并非所有大學(xué)教和老師對 AI 生成工具持否定度。比如賓大沃商學(xué)院一位教授 Ethan Mollick，反其道而要求學(xué)生使 ChatGPT 完成課堂作業(yè)，并認(rèn)為這是在擁新興技術(shù)工具。文發(fā)表平臺 medRxiv 一位工作者也表示，ChatGPT 也不算新麻煩。他為，此前，研究都嘗試偷偷加入物、虛構(gòu)人物名。因此，他們認(rèn)，問題核心是 —— 需要繼續(xù)加強(qiáng)檢查。最后問問你在科研工作中了 ChatGPT 么？參考鏈接：[1]https://www.nature.com/articles/d41586-023-00191-1[2]https://www.nature.com/articles/d41586-023-00056-7[3]https://www.nature.com/articles/d41586-023-00204-z[4]https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban[5]https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1本文來自微信公眾：量子位 （ID：QbitAI），作者：詹?