5月下旬、裁判用の書類をChatGPTで生成し、きちんと確認せずにそれを裁判所に提出した結果、記述内容が意味不明だったりウソの判例だらけであることが判明したニューヨークの弁護士が、連邦裁判所から罰金5000ドルを言い渡されました。
Levidow, Levidow & Oberman法律事務所のスティーブン・シュワルツ弁護士は、旅客機の乗客が機内で怪我をしたとして、航空会社を相手に起こした裁判の弁護を引き受け、過去の複数の判例などを記した裁判用の書類を法廷に提出しました。
ところが、この判例が過去の記録には存在しない架空のものであることを、被告側の弁護士が指摘。裁判所は書類の内容が虚偽であることをシュワルツ弁護士に問いただし、それがChatGPTを使って書かれたものであることが明らかになりました。シュワルツ弁護士は、ChatGPTのようなテキスト生成AIの出力にウソが含まれる可能性を知らなかったと釈明しています。
しかし判事はこれが「偽の司法判断、偽の引用など」に満ちた法的提出物を提示された「前例のない」ことだとして、後日シュワルツ弁護士に関して公聴会を行うとしていました。
6月初めに行われた公聴会では、チャットボットによって生成された書類に示された偽の判例のうち、そのいくつかは存在しない裁判について記述されたものであり、その他も裁判官の名前を間違えていたり、存在しない航空会社が関わっているような記述があることが取り沙汰されました。
判事は、AIが生成した偽の判例のひとつについて「表面的には実際にあった司法判断と一致する特徴をいくつか持っている」ものの、その記述には「ちんぷんかんぷん 」かつ「ナンセンス」な内容も含まれていると述べています。
そして、「技術の進歩は当たり前のことであり、信頼できる人工知能ツールを業務支援に使うことは、本質的には問題ない」としつつも「既存の規則では、弁護士には提出書類の正確性を保証するゲートキーピングの役割がある」とし、それを怠ったうえに、最初は誤りを認めず追加の意見書を提出するなどしたシュワルツ弁護士らが「悪意を持って行動した」と指摘しました。
ただ、その後の謝罪やシュワルツ弁護士らが提案した改善措置についても判事は評価し、厳しい制裁を科すことは適当ではなく、5000ドルの罰金にとどめるとしました。
一方、シュワルツ弁護士とその法律事務所は、罰金の命令に対しては従うとしながらも、「悪意を持って行動したという認定には反対する」と述べています。そして「テクノロジーが事件をでっち上げる可能性があるとはまったく知らなかった」とし「誠実な立場における過ちだったと引き続き考えている」と主張、罰金の命令に対して控訴するかどうかを検討中だとしています。
