Nature が画像やビデオでの生成 AI の使用を許可しない理由

Sep 05, 2023

この記事には所属機関を通じて完全にアクセスできます。

Nature は、生成 AI を全体的または部分的に使用して作成された画像を公開しません。クレジット: Artem Medvediev/Alamy

自然は画像やビデオの作成に生成人工知能 (AI) を使用することを許可すべきでしょうか? ChatGPT や Midjourney などの生成 AI ツールを使用して作成されたコンテンツが急増し、これらのプラットフォームの機能が急速に向上したことを受けて、このジャーナルは数か月間、この問題について議論、討論、コンサルティングを行ってきました。

AI に特化した記事を除き、ネイチャーは、少なくとも当面は、生成 AI を使用して写真、ビデオ、イラストが全体的または部分的に作成されたコンテンツを公開しません。

当社が依頼し協力するアーティスト、映画制作者、イラストレーター、写真家は、提出する作品が生成 AI を使用して生成または拡張されていないことを確認するよう求められます (go.nature.com/3c5vrtm を参照)。

ChatGPT などのツールは透明性のある科学を脅かします。 使用に関する基本ルールは次のとおりです

ビジュアル コンテンツでの生成 AI の使用を禁止するのはなぜですか? 結局のところ、それは誠実さの問題です。 出版のプロセスは、科学と芸術の両方に関する限り、誠実さへの共通の取り組みによって支えられています。 それには透明性も含まれます。 研究者、編集者、出版社として、私たちは皆、データと画像のソースを知り、それらが正確かつ真実であることを検証できるようにする必要があります。 既存の生成 AI ツールでは、そのような検証を行うためのソースへのアクセスが提供されていません。

次に、帰属表示があります。既存の著作物が使用または引用される場合は、帰属表示する必要があります。 これは科学と芸術の中核原則であり、生成 AI ツールはこの期待に適合しません。

同意と許可も要素です。 たとえば、個人が特定される場合、またはアーティストやイラストレーターの知的財産が関与する場合は、これらを取得する必要があります。 繰り返しになりますが、生成 AI の一般的なアプリケーションはこれらのテストに合格しません。

生成 AI システムは、ソースを特定する努力がまったく行われていない画像に対してトレーニングされています。 著作権で保護された作品は、適切な許可なしに生成 AI のトレーニングに日常的に使用されています。 場合によっては、プライバシーが侵害されることもあります。たとえば、生成 AI システムが同意なしに人々の写真やビデオのように見えるものを作成する場合です。 プライバシーへの懸念に加え、こうした「ディープフェイク」が簡単に作成できることも偽情報の拡散を加速させている。

現時点では、Nature は、適切な注意を払った上で、生成 AI を利用して生成されたテキストを含めることを許可しています (go.nature.com/3cbrjbb を参照)。 このようなラージ言語モデル (LLM) ツールの使用については、論文のメソッドまたは謝辞セクションに文書化する必要があり、著者は AI の支援によって生成されたデータを含むすべてのデータのソースを提供することが期待されます。 さらに、LLM ツールは研究論文の著者として認められません。

世界は AI 革命の瀬戸際にあります。 この革命には大きな期待が寄せられていますが、AI、特に生成 AI は、科学、芸術、出版などの分野で長年確立されてきた慣習を急速に覆しつつあります。 これらの規則は、場合によっては開発に何世紀もかかりましたが、その結果、科学の完全性を保護し、コンテンツ作成者を悪用から保護するシステムが誕生しました。 AI の取り扱いに注意しないと、これらの成果がすべて崩れてしまう危険があります。

多くの国の規制および法制度は、生成 AI の台頭に対する対応をまだ策定中です。 彼らが追いつくまで、研究と創造的な作品の出版社として、Nature のスタンスは、生成 AI を使用して作成されたビジュアル コンテンツを含めることに対して単純に「ノー」であり続けるでしょう。

自然618、214 (2023)

土井: https://doi.org/10.1038/d41586-023-01546-4

ChatGPT などのツールは透明性のある科学を脅かします。 使用に関する基本ルールは次のとおりです

Nature 読者が ChatGPT をどのように使用しているか

「自動化による軍拡競争」: 教授たちは AI によって生成された授業に懸念を抱いています

著者名の文化的多様性を維持する

通信 06 6月 23

タンザニアの研究者らは国際雑誌への出版に2万2000ドルを提供した

ニュース 06 6月 23

EU理事会の「無報酬」出版モデルは賛否両論

ニュース 02 6月 23

AIが自らソートソフトの書き方を学習する

ニュースと見解 07 6月 23

ChatGPT: 責任ある使用のための標準報告ガイドライン

通信 06 6月 23

ChatGPT を使用したコーディングを改善するための 6 つのヒント

テクノロジー特集 05 6月 23

査読を匿名化することでプロセスがより公平になる

キャリアニュース 5月26日 23日

Nature Indexの研究への貢献で中国が米国を追い越す

自然インデックス 19 5 月 23 日

計算手法を使いやすくすることに価値がある理由

キャリアコラム 4月27日 23日

キール、シュレースヴィヒ ホルシュタイン州（DE）

キールヘルムホルツ海洋研究センター (GEOMAR)

2023年7月8日（土）東京 2023年7月9日（日）大阪 イベント参加登録受付中！

東京と大阪、日本

自然のキャリア

これは全教職員と学生の共同の努力と、社会のあらゆる分野からの多大な支援に基づいています。

中国、北京

北京師範大学水科学学院

動植物保健庁 (APHA) は、環境・食糧・農村省の執行機関であり、動物と植物の保健庁を代表して活動しています。

サリー州アドルストーン

動植物保健庁

最先端の科学技術が影響力のある洞察の発見を推進する学際的な研究組織

上海浦東新区

ベイジーン研究所