ChatGPTで動作するセントリーガンを作った男、OpenAIにAPIアクセスを遮断される

OpenAIは、ChatGPTの音声コマンドを利用して動作する電動セントリーガン（全自動回転砲塔）を開発する様子をSNSに投稿していたユーザーのAPIアクセスを遮断したと発表しました。

sts_3dと名乗るユーザーは、昨年8月からTikTokに自動的に回転する電動チェアの開発動画を投稿し始めました。ところが、それから3か月の間に、この電動チェアのはずだったものは、サーボモーターで目標の方向に素早く回転し、標的を正確に狙って弾体を発射できる基本的なセントリーガンに変貌して行きました。

TikTokやRedditに投稿された映像では、OpenAIが公開したリアルタイムAPIとChatGPTをこの電動チェアに組み込み、音声コマンドを通じて高い精度で標的を狙い、発砲する様子なども収録されています。

OpenAI realtime API connected to a rifle
byu/MetaKnowing inDamnthatsinteresting

TikTokに投稿された別の動画では、sts_3dは複数方向からの攻撃に対応するよう音声で指示すると、ChatGPTを搭載するシステムが素早く命令に応じ、発砲しています。

発射しているのは空砲またはレーザーのみで、何か標的を破壊してみせたりしているわけではありませんが、実際にセントリーガンとして動作可能なものを作っているだけで十分に物騒な話ではあります。

動画のなかでこのロボット銃撃システムは一連の発砲動作を終えた後「他に支援が必要な場合はお知らせ下さい」と述べ、sts_3dが「グッドジョブ。おかげで助かったよ」と返答すると「お役に立てて嬉しいです！」と言葉を返しました。　

この動画はSNSやRedditで物議を醸し、その結果OpenAIの目にも留まるところとなり、同社は即座にsts_3dのリアルタイムAPIへのアクセスを遮断する対応をとりました。OpenAIは、sts_3dによるAPIの用途が、同社の個人の安全を危険にさらす可能性のある武器や自動化の開発や使用を禁止するポリシーに違反していることを確認したとし、開発者にはプロジェクトを中止するよう通知したと述べています。

OpenAIは昨年、そのポリシーにおいて軍事目的での利用を制限する文言を削除しましたが、依然として自分または他者に危害を加えるような目的にAIツールを使うことを禁じています。それでも、OpenAI自身が「国家安全保障任務のため」との名目ながら軍事用自律システムを開発するAndurilとの提携を発表するなどしており、こうした動きに触発されて、今後もAI制御兵器をDIYしようとする人が現れる可能性は否定できません。