研究顯示 ChatGPT 可為科學(xué)假說生开yun体育官网成虛假數(shù)據(jù)集，對(duì)學(xué)術(shù)誠(chéng)信造成威脅-开yun体育官网

新聞中心

NEWS

新聞中心

研究顯示 ChatGPT 可為科學(xué)假說生开yun体育官网成虛假數(shù)據(jù)集，對(duì)學(xué)術(shù)誠(chéng)信造成威脅

2023-11-29 18:00:11

IT之家 11 月 24 日消息，據(jù)《自然》雜志當(dāng)?shù)貢r(shí)間周三報(bào)道，本月初發(fā)表在《美國(guó)醫(yī)學(xué)會(huì)眼科學(xué)雜志》上的一篇論文中，作者使用了聊天機(jī)器人 GPT-4 和高級(jí)數(shù)據(jù)分析工具 ADA 創(chuàng)建了一個(gè)虛假的臨床試驗(yàn)數(shù)據(jù)集，從而支持一個(gè)“未經(jīng)證實(shí)”的科學(xué)主張。

圖源 Pexels

IT之家注：ADA 是一種結(jié)合了 Python 的模型，可用來執(zhí)行統(tǒng)計(jì)分析、創(chuàng)建可視化數(shù)據(jù)。

報(bào)道稱，論文作者要求 GPT-4 和 ADA 生成一個(gè)有關(guān)角膜炎患者的數(shù)據(jù)集，并讓它支持“深層前部角膜移植（DALK）在視力和眼睛成像測(cè)試方面比穿透性角膜移植（PK）效果更好”的結(jié)論。

由 AI 生成的數(shù)據(jù)包括 160 名男性參與者和 140 名女性參與者的實(shí)驗(yàn)結(jié)果，并支持了上述結(jié)論，然而這個(gè)結(jié)果與真正臨床試驗(yàn)顯示的結(jié)果不符。

專家對(duì)該虛假數(shù)據(jù)集進(jìn)行了詳开yun体育官网細(xì)檢查，并發(fā)現(xiàn)其中存在明顯捏造跡象。英國(guó)曼徹斯特大學(xué)生物統(tǒng)計(jì)學(xué)家杰克?威爾金森表示，“要?jiǎng)?chuàng)建至少表面上看似可信的數(shù)據(jù)集似乎很容易，在未經(jīng)訓(xùn)練的人看來，這‘肯定是’一個(gè)真實(shí)的數(shù)據(jù)集?！?/p>

參與這份研究報(bào)告的作者承認(rèn)，這一數(shù)據(jù)集在經(jīng)過“仔細(xì)觀察”之后就可發(fā)現(xiàn)其中存在的缺陷，但如果讀者快速查看這些數(shù)據(jù)集的話，就“很難識(shí)別出”數(shù)據(jù)中的非人類來源。

由 AI 編造的“可信數(shù)據(jù)”增加了研究人員和期刊編輯對(duì)學(xué)術(shù)研究誠(chéng)信的擔(dān)憂?！禘MBO Reports》雜志主編 Bernd Pulverer 表示，“現(xiàn)實(shí)中的同行評(píng)審?fù)粫?huì)對(duì)數(shù)據(jù)進(jìn)行全面的重新分析，因此不太可能發(fā)現(xiàn)利用人工智能精心設(shè)計(jì)的完整性漏洞。”他補(bǔ)充說，期刊需要更新質(zhì)量檢查，以識(shí)別 AI 生成的合成數(shù)據(jù)。