今日の海外新聞

テック系、考古学系、市民活動系

OpenAIがチャットGPTに「ウォーターマーク・透かし」技術を組み込まない理由

アメリカMITテックレビュー¾

オープンAIは、すでにあるAI生成文書検知ツールを組み込まないで、チャットGPTサービスをはじめたため、AI生成文書があふれることを心配する教育関係者やジャーナリストから批判を受けていました

これに答えて、オープンAI(OpenAI)は先日、同社のAIシステムであるチャットGPT(ChatGPT)によって生成された文書を検知できるツールを発表した。

オープンAI(OpenAI)は先日、同社のAIシステムであるチャットGPT(ChatGPT)によって生成された文書を検知できるツールを発表したが、このAI文書検知機は、AIが書いた文書の26%を「AIが書いた可能性が高い」と識別するというものにとどまるもので、期待したものではなかった。

そもそもAI言語モデルで最重要視されるのは、人が作ったかのように流暢な文書を生成することであり、AIモデルは人が書いた文書を真似している。だからこそ、AIが生成した文書を検出することは極めて難しい

新たなAI言語モデルは、さらに強化され、さらに流暢な文書を生成するようになるため、我々の既存の検知ツールキットはすぐに時代遅れとなってしまうのだ。

専門家は言う「正しく書くことは簡単になるでしょうが、独自のものを書くのは簡単には行かないでしょう」と