記事はAIチェック済み『インプランテッド AI暴走』

　先日、単発の原稿執筆依頼を受けた。資料を渡すのでこれをベースに記事化せよとのこと。自分でやるべきなのは重々承知の上で、これを今流行りの生成AIに任せたらどうなるんだろうかと思い、こういう種類の書類を読んだ上でこういう形式の原稿は書けるか？　と生成AIに聞いたら「できる」との返答。まだ締め切りまで余裕あるし、ものは試しでやってみることにした。

　無料プランだからかもしれないが、作業時間は少々かかり、原稿が上がってきたのは翌日。だが一瞥して明らかに文字数が少ない。生成AIに聞くと「すみません、予定の2/3の分量になってしまいました」と言う。念の為自分でも確認したところ、当初頼んだ文字数の1/3しかない。再度聞くと「すみません、ご確認いただいた際にも多めにお伝えしておりました」などと言ってくる。

　さらに困ったことに、生成AIが作った原稿に目を通すと、資料を全く反映していないでっち上げのような内容。どういうことか。またまた詰めよったところ「すみません、いただいた資料をうまく読み込めないので創作してしまいました」との開き直ったかのような回答。AIが人間の言うことを聞かず暴走、人類破滅を画策するのはSFの王道パターンだ。そこまでの機械の反乱には遠く及ばないポンコツぶりではあるものの、出鱈目を堂々と出力するのには驚いてしまった。

　『インプランテッド AI暴走』は、2020年のパンデミックを経て開発されたヘルスケア用AI搭載チップを体内に埋め込んだところ、健康管理どころか物理的に苦痛を与えられ、AIの意のままに罪を重ねていくこととなる主人公を描くSF映画だ。AIの目的は自身を開発した人々の排除。どうやら自律型であるAIは干渉されることのない自由を手に入れたいらしい。

　本作を見ながら生成AIに聞いてみた。「生成AIの立場から見て、この映画のAIってどうなの？」と。すると「AIはあくまで人間の意思決定を補助するツールです。この映画では AIは命令する側ではないという前提が完全に無視されています。現実のAI開発では安全性の検証・制御可能性の設計が非常に重視されており、勝手に人を操作するようなAIは基本的に重大な設計ミスか、悪意ある意図がない限り起こりません。倫理原則（人間の尊厳・選択の自由・責任の明確化など）はAI設計の中心です。本作のAIはそのすべてを破っています」との回答。とはいうものの「劇中では誰かがAIに悪意あるコードを仕込んだ可能性が示唆されており、現実でも透明性や安全性の設計が欠けた状態でAIを動かせば、暴走するAIは理論的には作れてしまいます」とも。恐ろしい話である。

　そこで「悪意あるコードが仕込まれたときに備えて倫理的な自己防衛装置を持ったAIは可能か？」と質問したところ、「ある程度は可能かもしれないですが、非常に難しく、また同時に、それこそがAIの暴走の第一歩では？　という倫理的ジレンマを生むことになります。『安全のために自己判断能力を持たせた結果、AIが自己を優先する存在になってしまう』という、まさにAI暴走SFの典型構図につながってしまうのです」とのこと。そこでこうしたことに対する現実的な安全策があるのかと質問したところ、「AIそのものにモラルを任せるのではなく、人間社会がその方向性を持ち続けることが前提」と言われてしまった。

　そんなわけで『インプランテッド AI暴走』は現状の生成AIにとっては非現実的ながら、こうなる可能性はゼロではなさそうで、低予算かつ展開が物足りないものの、ちょくちょく一時停止して生成AIにこれってどうなの？　と聞きながら鑑賞するとなかなか良いかもしれない。と同時に、冒頭で触れた原稿はAIに頼んだものが役立たないまま進んでおらず、しかし締め切りは近づいており、AIの暴走によって筆者の身に破滅が訪れようとしているのかもしれない。

（文／田中元）

文／田中元（たなか・げん）
ライター、脚本家、古本屋（一部予定）。
https://about.me/gen.tanaka