オーストラリア南部、メルボルンの北東に位置するヘップバーンシャーの市長、ブライアン・フッド氏が、OpenAIを名誉毀損で訴えるための準備をしています。もし訴訟になれば、ジェネレーティブAIが出力するコンテンツの不正確性をめぐる世界初の事例になるかもしれません。
フッド氏の弁護人によると、ChatGPT 3.5にフッド氏に関する情報を問い合わせると「1999～2005年にマレーシア、インドネシア、ベトナムの政府関係者に賄賂を送ったことで告発された」、「2012年には会社法上の虚偽会計で2件の罪を認めて懲役30ヶ月を言い渡された」、「マレーシア政府との契約を取り付けるために仲介役としてマレーシアの武器商人に金銭の支払いを許可した」などとかなり詳細かつ、でたらめな情報を紹介されたとのこと。
フッド氏の代理人となる弁護士事務所Gordon Legalは「これらの陳述はすべて虚偽」であるため、OpenAIに懸念を通知し「不正確さを詳細に説明し、是正を要求する修正」を求めたとのことです。
フッド氏は3月下旬に、自身が収賄その他で有罪になり、服役歴もあるとの虚偽情報を広めたのはChatGPTだとしてOpenAIを提訴する方針を明らかにしていました。その準備がいま整いつつあるところですが、フッド氏はこの訴訟を回避する道として、OpenAIに28日間の猶予を提示し、その間にChatGPTがフッド氏に関する嘘情報を出力しないよう修正することを求めたとのことです。
実際のところでは、フッド氏はオーストラリア準備銀行の子会社に勤務していた2000年代初頭に、贈収賄スキャンダルを発見し当局に報告したことがありました。どうやらChatGPTはこの件を過って解釈し、フッド氏をまったく逆の立場に置き換えてしまった模様です。
ChatGPTが出力する嘘情報がどれほどの人の目に触れたかはわかりません。ただフッド氏としては、企業不正を暴き出した功績が現在の立場や評判につながっていることから、ChatGPTが生成する嘘情報が風評被害に発展する恐れがあり、もし問題が修正されなければ、名誉毀損訴訟が取り得る唯一の対応になるだろうと弁護人は述べています。
なお、今回の問題はChatGPTが使用する言語モデルのバージョンがGPT-3.5の場合と、GPT-4の場合では応答が異なり、弁護団はGPT-3.5を使用する場合に問題が修正されていないと主張しています。ただ、テクノロジー系ニュースサイトのArs Technicaは問題を再現しようとしたところ、弁護団の言うような結果は得られず、すでにOpenAIが修正を実施した可能性があると伝えています。もしかするとプロンプトの入力のしかたでAIの返答が異なる可能性もあるものの、OpenAIは修正したかとの問い合わせにまだ回答していません。
AIテキスト生成モデルの出力する文章に、いかもに事実であるかのように誤情報が紛れこんでいる場合があることは、それが話題になり始めた当初から報告されていました。しかし、その後急速に利用者が増え、さほど事情に詳しくない人でもAIモデルで気軽にコンテンツを生成できるようになりつつある今後は、まるでWikipediaを検索するような感覚で(Wikipediaがどこまで正確かどうかはともかく)、AIを使う人も出てくることでしょう。そのためOpenAIのような企業は、利用者に対しAIがまだ完璧ではなく、出力される情報が誤りを含む可能性がある旨を、もっと周知する必要があるかもしれません。
ちなみに米国著作権局は先日、AIが出力した画像や文章その他の作品には、著作権が認められないとすることをガイダンス文書に示しました。それによると、AIが出力した文章による名誉毀損は、誰が責任を負うことになるのかもはっきりしていないことになりそうです。フッド氏はOpenAIを相手として訴えると述べていますが、仮に本当に裁判になった場合は、それがどう決着するのかも注目を集める可能性があります。
