ニューヨークにあるLevidow, Levidow & Oberman法律事務所のスティーブン・シュワルツ弁護士は、先週木曜日、裁判所に提出した書類に記した引用判例の多くが人工知能のアルゴリズムによって出力されたもので、信用できない情報源からのものであったことを自ら明らかにしました。
この裁判は、アビアンカ航空の乗客ロベルト・マタ氏が、機内で給仕カートを膝にぶつけられて負傷したと主張し、航空会社を相手取って起こしたもの。アビアンカ航空側は当初、マンハッタンの連邦裁判所に裁判の棄却を求めたものの、シュワルツ弁護士はこれに反発して裁判の続行を要求、6つ以上の関連する裁判例を引用した、10ページに及ぶ準備書類を提出しました。
ところが後日、アビアンカ航空側の弁護団は、提出された書類に記された判決や引用文を確認しようとしたものの、裁判所の記録や法律コンテンツデータベースなどのなかからこれらの事例を発見できなかったと指摘。さらに、この奇妙な現象に対し、AIチャットボットが関与している可能性を直感したと付け加えました。
これを受けて裁判所のP・ケヴィン・カステル判事は、準備書類の写しを要求しました。一方、シュワルツ弁護士らは8通の意見書類を提出したものの、コメントを求めるメッセージには返答しませんでした。
そして、先週木曜日に開かれた宣誓供述で、シュワルツ弁護士は今回の件に関連する判例をChatGPTに問い合わせて出力させ、それをそのまま書類に書き写していたと述べ、謝罪しました。ChatGPTを使ったのはこれが初めてのことであり、AIが出力する内容に嘘が含まれる可能性があることには気づかなかったと釈明しました。
いちおう、シュワルツ氏は引用された判例などが間違いではないかを確認もしていました。ただ、それをたずねた相手もChatGPTであり、このAIは、これらの判例は事実かとの問いに「イエス」と返答。シュワルツ氏は、今後はAIが生成した情報を検証することなく使うつもりはないと述べました。
裁判所のP・ケヴィン・カステル判事は、これが「偽の司法判断、偽の引用など」に満ちた法的提出物を提示された「前例のないこと」だと述べ、シュワルツ弁護士に制裁を科す可能性の検討のための公聴会を6月8日に行うと述べています。
ChatGPTをはじめとする大規模言語モデルによるAIチャットボットが、誤った情報をいかにも真実であるかのように述べる問題は、その話題が広まり始めた当初から指摘されていることです。たとえば、マイクロソフトが検索エンジンBingに統合したBing AIは当初、ユーザーによる質問の仕方によって混乱させられ、しだいに不適切な発言をしたり、嘘をついたりするようになったことが指摘されていました。Googleが開発したBardも、発表当初に公開されたデモのなかで、ジェイムズ・ウェッブ宇宙望遠鏡に関する誤った情報を出力していることが指摘されていました。
今回の出来事は、ChatGPTを使って過去の判例調査を実施した結果、ChatGPTを判例調査に使うべきではない、または確認しないままChatGPTの出力を信じるべきではないことがわかったという、ある意味貴重な前例になりそうです。そもそもChatGPTには「ChatGPTは、人々や場所、事実に関して正確でない情報を提供する場合があります」との但し書きがあるのですが。
