AIが偽研究を量産する「製紙工場」との戦いを激化

Apr 28, 2023

PubMed Google Scholar でこの著者を検索することもできます

この記事には所属機関を通じて完全にアクセスできます。

リアルな画像やテキストを生成できる人工知能ツールにより、偽の研究を検出することが困難になっています。クレジット: Westend61/Alamy

人工知能（AI）の進歩により、製紙工場（注文に応じて偽の科学論文を製造する企業）の問題に取り組む出版社の取り組みが複雑になっている。 ChatGPT などのチャットボットや画像生成ソフトウェアを含む生成 AI ツールは、製紙工場のコンテンツを作成する新しい方法を提供しますが、これは検出が特に困難になる可能性があります。 これらは、製紙工場の問題に焦点を当てた5月24日のサミットで研究公正の専門家によって議論された課題の1つであった。

製紙工場の探知機が偽科学の撲滅を目指してテストされる

ニューサウスウェールズ州健康病理学およびオーストラリアのシドニー大学の分子生物学者であり、出版物の完全性を研究しているジェニファー・バーン氏は、「製紙工場がAIによってますますもっともらしい生データを生成する能力は、飛躍的に増大するだろう」と語る。

「AIによって生成されたばかりの偽の顕微鏡画像を見たことがある」と、ドイツのハイデルベルクにある出版社FEBS Pressの画像データ完全性アナリストであるヤナ・クリストファーは言う。 しかし、画像が AI によって生成されたものであることを疑いを超えて証明することは依然として課題であると彼女は言います。

ChatGPT などの言語生成 AI ツールも同様の問題を引き起こします。 「何かが ChatGPT によって生成されたことを示すことができるものがあればすぐに、それをスクランブルする別のツールが登場するでしょう」と Christopher 氏は言います。

ベルリン自由大学の社会科学者であり、独立した研究公正アナリストでもあるアンナ・アバルキナ氏は、査読プロセスの長さのせいで、これらのAIツールが学術文献でより明らかになるのに遅れがあるのではないかと疑っている。 おそらく今後数か月以内に、「最初の論文の流れが見られるだろう」と彼女は言う。

バーン氏、クリストファー氏、アバルキナ氏は先週、英国イーストリーに拠点を置く学術出版の倫理に焦点を当てた非営利団体出版倫理委員会（COPE）と国際科学協会が招集したUNITED2ACTサミットの参加者だった。 , オックスフォードに拠点を置く Technical and Medical Publishers (STM)。 このサミットには、独立した研究公正アナリストを含む国際的な研究者、資金提供団体や出版社の代表者が集まりました。

偽科学を量産する偽製紙工場との戦い

「人々のグループが集まり、この問題と闘うために今後進めていく一連の行動を共同で作成するのはこれが初めてでした」とCOPEの理事で研究公正コンサルタントのデボラ・カーンは言う、ロンドンに拠点を置く。 同グループは近く共同行動計画を発表する予定だ。

製紙工場での作業の検出に関しては、「合成画像や合成テキストなどによってもたらされるさらなる課題が絶対にあります」と、STM の子会社である STM Solutions のプログラム ディレクターであるジョリス ヴァン ロッサム氏は述べています。 「審査がより困難になる可能性があるという一般的な認識があります」と彼は言う。

カーン氏は、研究者の論文執筆を支援するために AI が積極的に活用されることは間違いないが、それでも AI で書かれた正当な論文と完全に捏造された論文を区別する必要があると述べています。 「私たちは、それらのことをどのように特定するか、人々が実際に調査を行ったかどうかをどのように確認するかを真剣に検討する必要があります。そして、それを行うためのさまざまな方法があります」と彼女は言います。

サミットで議論された戦略の1つは、著者に対し、実験から得た生データの提供を要求することであり、場合によっては出版社がそれらのデータが本物であることを確認できる電子透かしを付けて提供するというものだった。

何百もの意味不明な論文が科学文献にまだ潜んでいる

現在、生データの提出要件はパブリッシャーによって大きく異なります、とクリストファー氏は言います。 したがって、研究分野間の違いを考慮して、出版社全体で生データの提出に関する統一の要件を確立することが役立つ可能性があると彼女は言います。

英国アビングドンに本拠を置く出版社テイラー・アンド・フランシス社の出版倫理と誠実性担当ディレクターのサビナ・アラム氏もこれに同意するものの、そのような基準の導入には時間がかかると述べている。 「一夜にして状況が変わるとは想像できません。現実には多くの機関がデータ管理インフラストラクチャを提供するためのリソースを持っていないからです」と彼女は言います。 「私たちは実際の研究を罰するつもりはありません。」

サミットではまた、製紙工場の問題に広く取り組むための他の戦略についても議論した。これには、研究者向けの啓発日または週の開催や、出版社が疑わしい製紙工場に関する関連情報を共有する方法の特定などが含まれる（たとえば、出版社が同時に提出物を受け取った場合など）。データ保護ルールに違反することなく。

STM は独自の製紙工場検出ソフトウェアの開発を継続するとともに、自社のインテグリティ ハブを通じて他の場所で入手可能な同様のツールのリソースも照合しています。 製紙工場の増加により、提出時点で偽造論文を検出するためと、すでに出版された論文を識別するための両方において、そのような技術の需要が増加しています。

Taylor & Francis はそのようなツールを利用している出版社の 1 つであり、アラム氏によると、倫理関連の訴訟、つまりさらなる調査が必要とされる潜在的な不正行為の事例が増えており、彼女のチームにエスカレーションされているという。 アラム氏によると、これらの事件の約半数は製紙工場が原因だという。 彼女のチームは、倫理訴訟の数が 2019 年から 2022 年にかけて 10 倍以上に増加していることを確認しました。そして、今年これまでのところ、2022 年全体とほぼ同じ数の訴訟が発生しています。「商業化され、規模が拡大したようです」と彼女は言いました。と言う。

自然618、222-223 (2023)

土井: https://doi.org/10.1038/d41586-023-01780-w

製紙工場の探知機が偽科学の撲滅を目指してテストされる

「製紙工場アラーム」ソフトウェアが偽造紙の可能性を警告

偽科学を量産する偽製紙工場との戦い

何百もの意味不明な論文が科学文献にまだ潜んでいる

潜入科学捜査官の魅力は何ですか? 偽紙探偵が語る

出版社が団結して研究論文内の改ざん画像に取り組む

中国の研究不正行為規制、偽研究を量産する「製紙工場」をターゲットに

Nature が画像やビデオでの生成 AI の使用を許可しない理由

社説 07 6月23日

著者名の文化的多様性を維持する

通信 06 6月 23

タンザニアの研究者らは国際雑誌への出版に2万2000ドルを提供した

ニュース 06 6月 23

あなたは学術界または産業界で働いているポスドクですか? あなたのキャリア経験を Nature と共有しましょう

キャリアニュース 07 6月 23

脚本が助成金の執筆にどのように役立つか

キャリアコラム 07 JUN 23

瞑想的な散歩の驚くべき効果

キャリアコラム 07 JUN 23

スウェーデンのウメオ大学で海洋堆積物中の炭素埋没に関する2年間の博士研究員フェローシップ

ウメオ、スウェーデン

ウメオ大学 (KBC)

私たちに参加して、一緒に明るい未来を作りましょう!

中国、上海

中国華東科学技術大学 (ECUST)

南方科技大学 (SUSTech) は、深セン市が資金提供している公立研究大学です。 パイオニアとして広く認められており、...

深セン

南方科学技術大学 (SUSTech)

中国科学院は、その教授陣に加わってくれる優れた創造的な科学者を求めています。

中国、上海

CAS 脳科学および知能技術センター 神経科学研究所

歴史と文化の都市南京に位置する CPU は、世界中から才能ある科学者を求めています。

南京、江蘇、中国

中国薬科大学