イタリアのインスブリア大学Università degli Studi dell'Insubriaの調査によると、 GPT-4o-miniのようなモデルによって生成されるDOI（科学出版物識別子）の約40%は完全に捏造されています。
この対応で、インスブリア大学は「Self-Healing LLM」と呼ばれるアーキテクチャを開発しました。
これは、人工知能によって生成されたテキスト内の参考文献を自動的に監視、検証、修正するシステムです
言語モデル・生成AIが推論中に書誌データベースに直接アクセスすることなく確率的にテキストを生成する限り、偽造引用の問題は解消されません。自己修復LLM言語モデル・生成AIはこれを防ぐのではなく、事後に修正します。
今後自動引用チェックシステムは学術論文のテキストエディタや出版プラットフォームの標準となる可能性があります。AIを活用して弁論要旨を作成する弁護士、法学修士（LLM）の支援を受けて論文を執筆する研究者、そして科学編集者は、出版前の自動チェックシステムを導入できる可能性があります。
Self-Healing LLMは権威あるデータベースを通じてDOIの実際の存在を検証します。引用が「正しく見える」かどうかだけでなく、DOIが登録されていること、メタデータが一致していること、そしてすべてが検証可能であることをチェックします
