近期，山東省科技廳發(fā)布《山東省科研誠(chéng)信管理辦法》（以下簡(jiǎn)稱《管理辦法》）?！豆芾磙k法》明確了科研誠(chéng)信管理中各部門(mén)的職責(zé)分工，細(xì)化了科研失信行為分類，完善了科研失信行為的調(diào)查處理、數(shù)據(jù)匯交流程。
《管理辦法》附件圍繞科研失信行為，對(duì)科研單位、科研人員、咨詢?cè)u(píng)審專家、第三方科學(xué)技術(shù)服務(wù)機(jī)構(gòu)及其工作人員、受托管理機(jī)構(gòu)及其工作人員等責(zé)任主體在科學(xué)研究及相關(guān)活動(dòng)違反科學(xué)研究行為準(zhǔn)則與規(guī)范的具體行為進(jìn)行了規(guī)定，細(xì)化制定了82種失信行為。
其中明確規(guī)定：“使用生成式人工智能直接生成申報(bào)、評(píng)審、實(shí)施、驗(yàn)收、監(jiān)督檢查等材料”屬于科研人員科研失信行為。
隨著AI在科研工作、日常生活中使用頻率的增加，隨之而來(lái)的是對(duì)其規(guī)范使用的迫切需求。以信息技術(shù)、人工智能為代表的新興技術(shù)快速發(fā)展，為負(fù)責(zé)任研究帶來(lái)了新機(jī)遇，推動(dòng)科學(xué)研究范式發(fā)生深刻變革，同時(shí)也可能在研究數(shù)據(jù)處理、研究成果形成、署名與知識(shí)產(chǎn)權(quán)歸屬等方面引發(fā)新問(wèn)題。因此，需要明確的規(guī)范來(lái)確?？蒲械膰?yán)謹(jǐn)性和真實(shí)性。
2024年1月，科技部監(jiān)督司編制印發(fā)《負(fù)責(zé)任研究行為規(guī)范指引（2023）》（以下簡(jiǎn)稱《指引》）?！吨敢分刑岢?，不得使用生成式人工智能直接生成申報(bào)材料，不得將生成式人工智能列為成果共同完成人，不得直接使用未經(jīng)核實(shí)的由生成式人工智能生成的參考文獻(xiàn)等，明確劃出了具體邊界。同時(shí)，強(qiáng)調(diào)科研人員應(yīng)把科技倫理要求貫穿到研究活動(dòng)的全過(guò)程?！吨敢愤m用對(duì)象包括科研機(jī)構(gòu)、高等學(xué)校、醫(yī)療衛(wèi)生機(jī)構(gòu)、企業(yè)及其科研人員，有關(guān)規(guī)范要求覆蓋科技活動(dòng)的主要環(huán)節(jié)和過(guò)程。
2024年4月，湖北大學(xué)、福州大學(xué)、南京工業(yè)大學(xué)、天津科技大學(xué)等高校相繼發(fā)布通知，稱將在本科畢業(yè)生畢業(yè)論文審核過(guò)程中試行加入對(duì)文章使用生成式AI風(fēng)險(xiǎn)情況的檢測(cè)。其中，湖北大學(xué)明確，如發(fā)現(xiàn)該論文檢測(cè)結(jié)果為“AI代寫(xiě)高風(fēng)險(xiǎn)”，教師應(yīng)指導(dǎo)學(xué)生進(jìn)行修改。福州大學(xué)強(qiáng)調(diào)，檢測(cè)結(jié)果將作為成績(jī)?cè)u(píng)定和優(yōu)秀畢業(yè)論文評(píng)選的參考依據(jù)。
今年7月，華東師范大學(xué)傳播學(xué)院與北京師范大學(xué)新聞傳播學(xué)院合辦《生成式人工智能學(xué)生使用指南》發(fā)布。該指南由兩校新聞傳播學(xué)院的人工智能專家團(tuán)隊(duì)合作制作，是生成式人工智能（AIGC）技術(shù)在我國(guó)高教領(lǐng)域規(guī)范使用首份官方指導(dǎo)。
華東師范大學(xué)傳播學(xué)院院長(zhǎng)王峰教授在媒體交流環(huán)節(jié)指出，學(xué)生在使用AI完成學(xué)業(yè)任務(wù)時(shí)，必須明確區(qū)分AI直接生成的內(nèi)容和個(gè)人貢獻(xiàn)的部分，并確保AI生成內(nèi)容不超過(guò)全文的20%，以維護(hù)學(xué)術(shù)誠(chéng)信，鼓勵(lì)學(xué)生發(fā)揮創(chuàng)造力。
官方對(duì)于AI生成內(nèi)容的態(tài)度表示出對(duì)學(xué)術(shù)不端行為的“零容忍”。AI作為一個(gè)生產(chǎn)工具，雖然能極大地為一些文本寫(xiě)作提供方便，但其背后的學(xué)術(shù)誠(chéng)信風(fēng)險(xiǎn)不容小覷。
一方面，過(guò)度依賴AI生成內(nèi)容可能導(dǎo)致創(chuàng)作者失去獨(dú)立思考和創(chuàng)新的能力。另一方面，AI生成的內(nèi)容可能存在錯(cuò)誤或不準(zhǔn)確之處，若被當(dāng)作學(xué)術(shù)資料使用，可能會(huì)誤導(dǎo)后續(xù)的相關(guān)研究。此外，在評(píng)審材料時(shí)，若無(wú)法有效區(qū)分人工創(chuàng)作與AI生成內(nèi)容，也會(huì)破壞公平競(jìng)爭(zhēng)的環(huán)境，讓真正付出努力的人認(rèn)為不公平。
嚴(yán)格的規(guī)定背后是對(duì)AI技術(shù)合理應(yīng)用的審慎思考以及對(duì)社會(huì)各領(lǐng)域健康發(fā)展的長(zhǎng)遠(yuǎn)謀劃。實(shí)際上，AI的成長(zhǎng)速度可能遠(yuǎn)超一些人的預(yù)期。從目前的情況來(lái)看，AI作者已經(jīng)開(kāi)始沖擊出版業(yè)。
今年5月，據(jù)《光明日?qǐng)?bào)》報(bào)道，華東師范大學(xué)教授王峰團(tuán)隊(duì)采用“國(guó)內(nèi)人工智能大語(yǔ)言模型+提示詞工程+人工后期潤(rùn)色”的方式完成第一部人工智能長(zhǎng)篇小說(shuō)《天命使徒》。整部小說(shuō)超過(guò)110萬(wàn)字，這樣的工作量一個(gè)勤奮的網(wǎng)絡(luò)作家寫(xiě)作大約需要一年，而人工智能機(jī)寫(xiě)僅用了一個(gè)半月。
武漢大學(xué)出版研究院院長(zhǎng)方卿教授在接受九派新聞采訪時(shí)表示，在AI時(shí)代，不僅人人可以出書(shū)，人人還可以寫(xiě)書(shū)、寫(xiě)論文。
他在采訪中說(shuō)：“當(dāng)時(shí)AI剛出來(lái)的時(shí)候，許多大型學(xué)術(shù)期刊不收錄有AI參與寫(xiě)作的論文，現(xiàn)在很多刊物態(tài)度也變了。一些學(xué)術(shù)期刊，開(kāi)始承認(rèn)AI作者了，但你要把AI參與的那一部分工作和貢獻(xiàn)寫(xiě)清楚。AI的廣泛應(yīng)用，就是一個(gè)不可避免的大趨勢(shì)。
出版業(yè)如果不能及時(shí)搶占人工智能出版業(yè)的制高點(diǎn)，用好這一技術(shù)，實(shí)現(xiàn)轉(zhuǎn)型升級(jí)，就有可能淪落為人工智能的語(yǔ)料供應(yīng)商?！?/p>
他認(rèn)為，出版業(yè)不能錯(cuò)失這次技術(shù)進(jìn)步的機(jī)會(huì)，但不要一窩蜂地上。大部分出版單位還是應(yīng)該集中精力，做好內(nèi)容資源建設(shè)工作，以等待介入AI的合適時(shí)機(jī)。在新時(shí)代，還要找到出版新業(yè)態(tài)、新模式和新場(chǎng)景，為更多普通老百姓提供知識(shí)服務(wù)。
AI的應(yīng)用無(wú)可避免，它如同一場(chǎng)洶涌的科技浪潮，正席卷各個(gè)領(lǐng)域。麥可思2024年中國(guó)高校師生生成式AI應(yīng)用情況研究結(jié)果表明，高校師生普遍擔(dān)憂生成式AI導(dǎo)致的隱私泄露風(fēng)險(xiǎn)和可能取代某些崗位的問(wèn)題。此外，被訪高校師生中超六成對(duì)生成式AI感到焦慮，其中非常焦慮的比例為14%。
總體來(lái)看，目前生成式AI在高校師生中的應(yīng)用較為廣泛，但隨之而來(lái)的問(wèn)題和挑戰(zhàn)也不容忽視。技術(shù)依賴性、學(xué)術(shù)誠(chéng)信受損、隱私保護(hù)等問(wèn)題都是必須認(rèn)真對(duì)待的議題。為了最大限度地使AI技術(shù)在教育領(lǐng)域產(chǎn)生積極影響，高校應(yīng)該適時(shí)開(kāi)展相關(guān)課程引導(dǎo)高校師生正確使用AI工具。未來(lái)，AI的發(fā)展仍將繼續(xù)，我們需要不斷完善相關(guān)的法律法規(guī)和道德規(guī)范，充分發(fā)揮它的優(yōu)勢(shì)，同時(shí)避免其帶來(lái)的負(fù)面影響，讓AI真正成為推動(dòng)社會(huì)進(jìn)步的強(qiáng)大力量。
主要參考文獻(xiàn)：
[1]“有期刊開(kāi)始承認(rèn)AI作者”，武大教授：出版業(yè)若不轉(zhuǎn)型，就有可能淪為語(yǔ)料供應(yīng)商. [EB/OL].九派新聞. 2024-10-17.
[2] 澎湃新聞、紅星新聞、各高校網(wǎng)站等。
