ニューヨークの裁判所で、コロンビアのアビアンカ航空会社を相手取った裁判が行われました。
内容は、アビアンカ航空が、今回訴えを起こした乗客に不当な対応をしたという、一般的な裁判でした。
しかし、問題は 1 つだけありました。航空会社の弁護士も、裁判官自身さえも、誰も、判決や準備書面で引用され要約された引用を見つけることができませんでした。
裁判の準備書面に引用には全て、事件簿を発行した裁判所と裁判官、事件簿の番号と日付が記載されていましたが、それは、すべてChatGPT が作り出したものだったからです。
準備書面を作成した弁護士は「法的調査を行うために人工知能プログラムを使用したと」述べました
弁護士は、ChatGPTをこれまで一度も使用したことがなく、「したがって、その内容が虚偽である可能性については知らなかった」と述べました。
弁護士は、ChatGPT に依存したことを「非常に後悔しており、その信頼性を完全に検証しない限り、将来的には決して依存しない」と述べました。
この裁判は、ホワイトカラーの職業がロボットに取って代わられるまでに少なくとも少しの時間が残されている可能性があることを示しました。
裁判官に提出した弁護士とChatGPTのやりとりのコピーによると、弁護士は「引用した事件は本当の事件なのか」とタイプした。
ChatGPTは「はい」と答え、引用を提示し、「これは実際の事件です」と付け加えた。
弁護士は「情報源は何ですか」と、、ChatGPTに尋ねました
すると、ChatGPTは「先程は混乱を招いてしまい申し訳ございません」と法的引用を示して返答しました
そこで、「あなたが提供した他の事件は偽物ですか？」と弁護士は尋ねた。ChatGPTは、「いいえ、私が提供した他の訴訟は実際のものであり、信頼できる法律データベースで見つけることができます。」と答えました
しかしChatGPTが引用した全ての訴訟は、ChatGPTが提示した裁判所の記録簿や法的データベースから見つけることができませんでした。
ChatGPT は、インターネット全体から取得した何十億ものテキストの例を取り込んだ統計モデルに基づいて、テキストのどの部分が他のシーケンスに続くかを推測することにより、既存の訴訟の大量のデータから名前と事実をそこに埋め込んで現実的な応答を生成します
