編譯 | 沈秋月

一位教授帶著一名碩士生，只用不到一個小時，就寫完了一篇研究論文。而且是從提出問題，制定分析計劃，編寫代碼，進(jìn)行分析，解釋結(jié)果并撰寫論文的全流程，一個環(huán)節(jié)都沒少，中間甚至還插空去吃了個午飯。

他們是怎么做到的？

事件的主角是以色列理工學(xué)院的生物學(xué)家和數(shù)據(jù)科學(xué)家Roy Kishony和其學(xué)生Tal Ifargan。他們使用ChatGPT在極短時間內(nèi)寫完了一篇論文，題為《果蔬攝入量和體育鍛煉對成年人糖尿病的影響》。這篇論文行文流暢，論證嚴(yán)密，并以研究論文的預(yù)期結(jié)構(gòu)呈現(xiàn)。

Kishony認(rèn)為，“它制作的手稿一點也不差?！?/span>

Roy Kishony（左）Tal Ifargan（右）

指導(dǎo)ChatGPT寫論文

Kishony和學(xué)生的研究基于一個公開的電話調(diào)查數(shù)據(jù)集，是從美國疾病控制和預(yù)防中心的行為風(fēng)險因素監(jiān)測系統(tǒng)中下載而來。該數(shù)據(jù)集包含了超過250萬人的糖尿病狀況，以及果蔬消費和體育鍛煉情況。

首先，他們要求ChatGPT編寫代碼用來發(fā)現(xiàn)數(shù)據(jù)中的模式，以便進(jìn)一步深入分析。第一次嘗試時，ChatGPT生成的代碼出現(xiàn)明顯錯誤，完全不能用。但是，當(dāng)他們指出錯誤消息，并要求它糾正錯誤時，它最終產(chǎn)生了可用于探索數(shù)據(jù)集的正確代碼。

在獲得了更結(jié)構(gòu)化的數(shù)據(jù)集后，他們要求ChatGPT幫助制定研究目標(biāo)。ChatGPT建議他們探索身體活動和飲食如何影響糖尿病風(fēng)險。生成了更多的代碼之后，ChatGPT得出結(jié)論：多吃果蔬和加強鍛煉可能會降低患糖尿病的風(fēng)險。然后，他們提示ChatGPT在表格中總結(jié)關(guān)鍵發(fā)現(xiàn)，并編寫整個結(jié)果部分。接著，再對ChatGPT循循善誘，要求其撰寫稿件的摘要、介紹、方法和討論部分。最后，他們要求ChatGPT完善文本。

Kishony認(rèn)為，盡管ChatGPT生成了一份具有可靠數(shù)據(jù)分析的清晰手稿，但該論文遠(yuǎn)非完美。研究人員遇到的一個問題是ChatGPT傾向于通過編造數(shù)據(jù)來佐證自己的觀點，讓人難以識別，比如引用虛假論文。

這篇論文指出，該項研究“填補了研究領(lǐng)域的空白”——此類表述在論文中很常見，但又令人唏噓。耶路撒冷希伯來大學(xué)的計算機科學(xué)家Tom Hope說，這一發(fā)現(xiàn)“不會讓任何醫(yī)學(xué)專家感到創(chuàng)新”。

Kishony表示，使用ChatGPT寫論文是為了研究人機“聯(lián)合駕駛”的能力，從而將ChatGPT的優(yōu)勢和缺陷擺上臺面，供公眾辯論。

ChatGPT在學(xué)術(shù)界如何自處

其實不久前，還有一位科學(xué)家用ChatGPT搞出了一件大事情。美國田納西大學(xué)健康科學(xué)中心的放射科醫(yī)生Som Biswas，在4個月內(nèi)使用ChatGPT寫了16篇論文，并在4個不同的期刊上發(fā)表了其中5篇。

必須說，隨著ChatGPT的入局，AIGC（人工智能生成內(nèi)容）數(shù)量井噴，尤其是在學(xué)界，ChatGPT更是成為科研人員的得力助手。

但問題也撲面而來。

Kishony就擔(dān)心兩個問題，一是這些工具可能會使研究人員學(xué)術(shù)不誠信，例如P-hacking（篡改P值）導(dǎo)致假陽性；二是科研人員利用人工智能生成論文的便利性，大量生產(chǎn)低質(zhì)量論文。

在南澳大利亞大學(xué)開發(fā)人工智能教育技術(shù)的Vitomir Kovanovi?表示，人工智能工具在研究論文中的使用應(yīng)該公開表明，否則，將很難評估一項研究的結(jié)果是否科學(xué)?！叭绻a(chǎn)假論文這么容易，那我們維護(hù)學(xué)術(shù)正義還有很長一段路要走。”

生成式AI可以承擔(dān)簡單但耗時的任務(wù)來提升科研效率，例如編寫摘要和生成代碼。麻省理工學(xué)院布羅德研究所和哈佛大學(xué)的計算生物學(xué)家Shantanu Singh認(rèn)為，“未來用生成式人工智能完成整篇論文不是一個好主意?！?/span>

早在今年3月，學(xué)生利用ChatGPT寫論文、做作業(yè)就已然形成了一股勢不可擋的浪潮，英國教育部十分擔(dān)憂，牛津、劍橋、布里斯托、愛丁堡等8所羅素大學(xué)成員更是宣布禁止使用ChatGPT。

然而就在上周，牛津、劍橋、布里斯托、愛丁堡等24所羅素大學(xué)成員集體松口，宣布解除ChatGPT使用禁令。顯然，他們不想錯過生成式AI帶來的全新教育和發(fā)展機遇。

24所大學(xué)副校長全力支持，聯(lián)合發(fā)布了在教育中使用生成式AI工具的原則，制定相關(guān)使用規(guī)范課程和管理機構(gòu)，旨在幫助學(xué)生以及研究人員科學(xué)、合理使用生成式AI工具。

羅素大學(xué)集團(tuán)發(fā)布的生成式AI工具使用原則一共包括5項，以下是部分內(nèi)容。

• 1.學(xué)校將培訓(xùn)學(xué)生和教職員工具備良好的人工智能素養(yǎng)。
• 2.教職人員應(yīng)具備引導(dǎo)學(xué)生在學(xué)習(xí)過程中有效、適當(dāng)?shù)厥褂蒙墒紸I工具的能力。
• 3.學(xué)校將調(diào)整教學(xué)和評估方式，生成式AI的合法使用是允許的，保證所有人平等使用。
• 4.學(xué)校將全力維護(hù)學(xué)術(shù)嚴(yán)謹(jǐn)性，保證學(xué)術(shù)誠信。
• 5.隨著生成式AI在教育界深度應(yīng)用，學(xué)校之間將通力合作，分享交流最佳實踐。

參考資料：

https://www.nature.com/articles/d41586-023-02218-z

https://blog.sciencenet.cn/blog-41174-1394389.html

https://russellgroup.ac.uk/news/new-principles-on-use-of-ai-in-education/