ある作家がアマゾンで自分の名前で新しい本が販売されているのを発見し、警鐘を鳴らしています。
その本は、アメリカの大手書評サイトGoodreadsでも、紹介されていました(問題が起こったのち削除されています)
その本は、彼女が書いたものではないことはたしかです。本は人工知能によって生成されているようです。
本のタイトルは彼女が普段書いているテーマと似ていましたが、本文はあたかも誰かが生成 AI モデルを使って彼女のスタイルを模倣したかのように読めました。
名前を使われた実在の作者は「この本を読み始めたとき、冒頭のページを見て、略歴を見てみると、すべてではないにしても、そのほとんどが AI によって生成されたものであることが私には明らかでした。オンラインで無料で入手できるコンテンツがたくさんあります。なぜなら、私はずっとブログを書き続けているので、AI に私の真似をさせるのは難しくないからです」と述べています
何人かの著者が同様の経験をしたと言っています。「人々は私の最新の本を買ったと言い続けます。そこには私の名前が載っていますが、私は書いていません」
アマゾンは名前を使われた著者の本で、販売されていた偽書を削除し、「アマゾンの方針でそのような模造品は禁止されている」「アマゾンには出品できる書籍を管理する明確なコンテンツガイドラインがあり、懸念が生じた場合には直ちに調査します」と述べています。
全米作家協会 は、この冬以来、AIによって書かれた書籍の問題に対処するためにAmazonと協力しています。
全米作家協会 は、AI企業がAIモデルのトレーニングに自分の作品が使用されることを作者がオプトアウトできるようにすること(これにより模倣品の作成が難しくなる)と、人工的に生成されたテキストに透かしのラベルを付ける方法に同意することを期待しています。
本を偽造された作者は「AIを使用してコンテンツを生成するのは非常に簡単で、非常に安価です。しかし人間のクリエイターと同じ品質を AI で得ることは決してできません。」と述べています
ChatGPT のような AI ツールが、大量の説得力のあるテキストを 迅速かつ安価に送り出すことができるようになったことで、一部の作家や著者は、新しいテクノロジーによって仕事が失われるのではないかと警鐘を鳴らしています。他の人たちは、自分たちの仕事がAIモデルの訓練に利用され、それが模倣に利用されることを望まないと述べています
1万人以上の著者が、マイクロソフトやChatGPTメーカーのOpenAIなどのAI業界のリーダーに対し、AIモデルのトレーニングに著作物を使用する場合は著者の同意を得て、報酬を支払うよう求める公開書簡に署名しています