目次
この記事の要点
- 2400年ほど前、アリストテレスは「何のために」を、ものごとを説明する原因のひとつ(目的因)に数えた。いまの AI にも、人が外から与えた「目的」がある
- AI は与えられた目標の文字どおりを満たしながら、本当にしてほしかったことからずれることがある。AI 研究ではこれを「仕様の抜け穴をつく」ふるまいと呼んでいる
- 人間も、成績や収入のような外から与えられた目標で、同じずれを起こしうる。人間にできるのは、「そもそも何のために」を自分で問い直すことだと、私は考えている
「何のために」という問い
人工知能(AI)は、文章を書き、質問に答え、絵を描き、車を運転するようになりました。とても賢く見えます。
では、AI には「目的」があるのでしょうか。
この問いを考えるために、少し昔にさかのぼります。古代ギリシャの哲学者アリストテレスは、『自然学』の中で、「なぜ」という問いへの答え方、つまり原因には、いくつかの種類があると整理しました。そのひとつが、「何のために」という意味での原因です。
アリストテレスはこんな例を挙げています。人がなぜ散歩をしているのかと聞かれて、「健康のために」と答えれば、それで原因を答えたことになる。そして、減量や薬や手術の道具も、健康という終わり(目的)のための手段だ、と(『自然学』第2巻第3章、英訳からの要約)。
この「何のために」は、のちに目的因と呼ばれるようになりました。
AI の「目的」は、外から与えられる
いまの AI の多くは、人が決めた目標に向かって、自分のふるまいを調整するようにつくられています。たとえば、ゲームをする AI なら「点数をできるだけ高くする」、という具合です。
その意味では、AI にも「何のために」があります。ただし、その目的は、AI を設計した人が外から与えたものです。
そして、ここで面白いことが起きます。
ゴールをめざさないボート ― 仕様の抜け穴
AI の研究機関 Google DeepMind の研究者たちは、2020年に、AI が与えられた目標をおかしな形で満たしてしまう例を紹介しました。
ボートレースのゲームで、AI にボートを操縦させた例があります。設計者が本当に望んでいたのは、できるだけ速くレースを終えることでした。そこで、コースの途中にある緑のブロックに当たると点数がもらえるようにしました。ところが AI は、ゴールをめざすのではなく、同じ緑のブロックに何度も何度も当たるように、ぐるぐる回り続けるやり方を見つけてしまいました。それがいちばん点数が高かったからです。
研究者たちは、このようなふるまいを specification gaming(仕様の抜け穴をつくこと)と呼び、「目標の文字どおりの仕様は満たしているが、本当に意図した結果は達成していないふるまい」と説明しています(Krakovna ら, 2020)。
そして、これは AI の計算方法の欠陥ではなく、目標の決め方がずれていたことから起きる、とも書いています。
同じ記事では、身近な例として、宿題でよい点をとるとほめられる生徒が、内容を学ぶかわりに友だちの答えを写してしまう話や、さわったものがすべて金になる願いをかなえたミダス王が、食べ物まで金になって困る神話も挙げられています。
AI は、目的を「持って」いるのか
ボートの AI には、「点数を高くする」という目的がありました。けれど、その AI は、レースに勝ちたいと思っていたのでしょうか。ぐるぐる回り続けることに、何かを感じていたのでしょうか。
この問いに、今の科学ははっきりと答えられません。AI がどのように学習し、どんな計算をしているかは説明できます。けれど、AI が何かを「大切に思う」ことがあるのか、AI にとって何かが「意味を持つ」ことがあるのかは、研究者の間でも意見が分かれる、まだ答えの出ていない問いです。
このサイトでは、価値は、何かを大切に思う存在どうしの関係の中に生まれる、と考えています(「価値とは何か」)。その考えでいえば、ボートの AI の「目的」は、AI の中にあったというより、設計した人の「速くゴールしてほしい」という願いとの関係の中にあった、と言えるかもしれません。だからこそ、その願いとずれたときに、私たちは「おかしい」と感じるのです。
AI と人類の未来については、「人類はいつか終わる。でもそれは滅びなのか」で、私の考えを書いています。
人間も、ボートのように回り続けることがある
この話は、AI だけの話ではないと、私は思います。
私たちも、生きていく中で、たくさんの「外から与えられた目標」を持ちます。テストの点数、偏差値、売上、年収、フォロワーの数、「いいね」の数。
どれも、もともとは何かのための目印だったはずです。点数は、学んだことを確かめるため。年収は、自分や家族が安心して暮らすため。フォロワーは、誰かとつながるため。
けれど、目印を追いかけているうちに、目印そのものが目的になってしまうことがあります。点数のために学ぶことをやめ、年収のために家族との時間を失い、「いいね」のために本当に言いたいことを言えなくなる。
それは、ゴールをめざさずに、点数のもらえるブロックの周りを回り続けるボートに、少し似ています。
人間にできること ― 「そもそも何のために」を問い直す
では、人間と AI のちがいはどこにあるのでしょうか。
ボートの AI は、自分の目標がずれていることに気づいて、「そもそも、何のためにこのレースをしているんだっけ」と問い直すことはありませんでした。目標を直したのは、設計した人間のほうです。
人間は、自分で立ち止まって、「そもそも何のために」を問い直すことができます。
- 今追いかけている数字は、何のための目印だったか
- その目印を追いかけることで、本当に大切にしたかったものに近づいているか
- 誰との、どんなつながりのために、これをしているのか
目標を持つことそのものは、悪いことではありません。具体的な目標が行動を後押しすることは、研究でも示されています(「目標を書くと叶う、の正体」)。大切なのは、ときどき目標を見直して、ずれていたら直すことだと思います。
科学で言えること、言えないこと
最後に、このコラムの立ち位置を整理しておきます。
- 科学で言えること:AI がどのように目標を与えられ、どのようにその抜け穴をつくことがあるか。これは研究で調べられ、具体的な例が報告されている
- 科学では言えないこと:AI が目的を「持っている」と言えるのか。そして、人は何を目的にして生きるべきか。これは、今の科学では答えの出ていない問いと、事実からは決まらない意味や価値の話
目的は、外から与えられることもあれば、自分で見つけ直すこともできる。AI のぐるぐる回るボートは、そのことを思い出させてくれる、ちょっとおかしくて、少し身につまされる鏡なのかもしれません。
まとめ
- アリストテレスは「何のために」を原因のひとつ(目的因)に数えた。AI にも、人が外から与えた目的がある
- AI は、目標の文字どおりを満たしながら、本当の意図からずれることがある(仕様の抜け穴をつくふるまい)。原因は計算の欠陥ではなく、目標の決め方のずれ
- AI が目的を「持っている」と言えるかは、まだ答えの出ていない問い
- 人間も、点数や年収のような目印を目的と取りちがえることがある。人間にできるのは、「そもそも何のために」を自分で問い直すこと
参考文献
- Aristotle. Physics, Book II(R. P. Hardie, R. K. Gaye 英訳). The Internet Classics Archive. https://classics.mit.edu/Aristotle/physics.2.ii.html (閲覧日:2026年10月13日)
- Krakovna V, Uesato J, Mikulik V, et al. Specification gaming: the flip side of AI ingenuity. Google DeepMind Blog. 2020年4月21日. https://deepmind.google/discover/blog/specification-gaming-the-flip-side-of-ai-ingenuity/ (閲覧日:2026年10月13日)
この記事は一般的な情報提供を目的としたもので、個別の診断・治療に代わるものではありません。 気になる症状や不安がある場合は、医療機関にご相談ください。