人工知能が自己を認識しているかを見分ける方法

はっきりと意識がある瞬間、もしくは夢を見ている瞬間でも、あなたは自己を確認できる感情を心の内面に抱いているでしょう。あなたが朝焼けの暖かな空色をみているとき、もしくは朝に煎れたコーヒーの匂いを吸い込んだとき、もしくは新しいアイディアについて熟考しているとき、あなたには常に意識があります。しかし、SFテレビドラマであるウエスト・ワールドやブレードランナーに出てくる人工知能を搭載したアンドロイドは、こういった人間のような意識を体験をすることはできるのでしょうか？

こういった質問は遠い未来の話ではありません。ロボットは既に大きな発展を遂げ原子炉の中での作業、戦争における戦闘、高齢者の介護といった分野で活躍しています。人工知能がより洗練されたものに発展したことで、次の数十年間で多くの人間の仕事(雇用機会)を奪うことが予想されています。そこで私たちは、この問いについてじっくりと考える必要があります。

「人工知能は意識を体験できるまでに発展するのでしょうか？」

この問いに対する回答を出すには、いくつかのハードルを超えなければなりません。まず最初に人工知能が幅広い感情を感じることができたとして、人間に仕えることを強制され、それに苦しむとしたらどうでしょうか？これは倫理的な問題となります。次に、人工知能が意識をもつことにより、人工知能の行動が予測できなく、変化が多いものになってしまったとしたら、これは安全上の問題となります。一方で、これは人工知能の主体的な経験に基づく共感性を増幅させ、私たちの意識を認知し、哀れみをもって私たちと接する可能性があることを示唆しています。

また、マシーンの意識は、イーロン・マスクの新会社であるニューラリンク社が研究を進めている脳インプラント技術に影響を与えるかもしれません。もし、人工知能が意識をもつことができなければ、意識を失ってしまうために意識を司る脳の部分をマイクロチップなどと置き換えることができません。同様に人間は死を回避するために自身の脳をコンピューターにアップロードすることもできなくなります。なぜなら、そのアップロードには意識が付いていかないからです。

さらに、もし人工知能の意識が欠落しているのにも関わらず、私たち人間を出し抜いたとすると、人間はマシーンよりも優れているという定説に重要な変化を与えることになります。これはマシーンが持たざるものを人間が持っていることの証明になりますが、地球上でもっとも賢明なモノは、意識も感情も持っていないことになります。

マシーンの意識というトピックには多くの問題があります。しかし、神経科学者は脳がもつ意識を理解するまでには程遠く、同様に哲学者も意識の性質について完璧な説明ができるようになるまでは程遠いです。

マシーンの意識に対するテスト

それでは何ができるのでしょうか？

私たちは、意識に関する正式な定義は必要ないと考えており、人口知能の意識を識別するのは哲学的な性質か神経基盤だと理解しています。人は誰しも内省することで意識に関する重要な何かを掴み取ることができ、同時に意識が存在し、どのようなものであるかも内面から感じ取ることができます。

この意識に関する重要な特徴に基いて、私たちはマシーンの意識に対して人工知能意識テスト(AI Consciousness Test、以下ACT)を提案しています。ACTでは、私たちが作り上げた人工的な心が経験に基づいて感情を理解し、意識を持つことができるか否かを調べるテストです。

余り知られてはいませんが、人間の意識が通常はどのように機能しているかを示していることは、ほとんどの成人が理解しているものです。例えば、Freaky Fridayという映画のように2人の人間の心と体が入れ替わるようなシナリオ、輪廻転生を含む死後の世界や肉体から魂が分離した幽霊のようなコンセプトは、成人になれば誰とが知っていることです。こういったことにリアリティーがあるか否かは別として、意識を全くもたない存在を理解することは非常に難しいことです。これは、生まれつき聴覚がない人にバッハの良さを理解させるようなものです。

ACTは人工知能に膨大な量の自然な人間の対話を学習させ、人間の意識に関する内面的な経験にもとづくアイデアやシナリオをどれだけ早く簡単に理解し、用いるようになるのかを確かめることができます。初期段階では、単純に人口知能に対して「自己を物質的なもの以外で認知できるか？」と問いかけます。

さらに進んだ段階になると、例えば人口知能が前述の問いかけに対してどのようなアイディアとシナリオを持って回答を導き出そうとするのかが見れるかもしれません。この段階では、人工知能の推論能力や哲学的な「意識に関する難問」について考察する能力が評価されます。要求がもっとも高い段階では、人間の考えやインプットに依存せず、マシーンが自ら作り上げた意識に関するコンセプトを確認できるかもしれません。

私たち人類がより高機能で洗練されたシリコンをベースとした生命体(ゼータ)を見つけると仮定しましょう。科学者は、ゼータは意識をもった生命体であるか否かを観察します。それでは、このゼータという生命体が意識を有することを証明する証拠はどのようなものでしょうか？もし、ゼータが死後の世界について興味を示したり、もしくは自らが物理的な身体以上のものであるのではないかと考え始めたら、これはゼータに意識があると判断して良い材料となるでしょう。もし、ゼータが意識に関する哲学的な問いについて考えること姿勢をとっただけでも、ゼータには意識があると考えられるでしょう。

ゼータが意識を持っていることを示すことには非言語行動も含まれています。例えば死に対する哀悼、宗教的活動、もしくは感情の変化にあわせて身体(色素胞のようなもの)の色が変化することが意識を持っていることを示す非言語行動だといえます。こういった行動はゼータが何かを心理的に感じ取れることを示しているわけです。

フィクションではありますが、スタンリー・キューブリック監督の映画である2001年宇宙の旅に出てくる人工知能を搭載したコンピューターであるHAL9000の心の死は、実例となりえるシナリオを提起しています。この映画にでてくるマシーンは、多くのSF映画のように人間的な容姿や声を持っているヒューマノイド型のロボットではありません。確かにHALの音声には人間の声が用いられていますが、それは不気味なほどに抑揚のない喋り方です。とはいったものの、宇宙飛行士によって動作が停止させられる際のHALの台詞は、迫りくる死から逃れるために宇宙飛行士に停止しないように懇願する内容です。これは、人工知能が自らに起こる主観的体験に対して意識を持っているという強いメッセージを伝えています。

こういった意識があることを示す兆候は、地球上にある人工知能が意識を持っているか否かの判断にも用いることはできるのでしょうか？これには、潜在的な問題があります。今日のロボットは、意識に関して説得力のある説明ができるようにプログラムすることが可能です。また、高度な知能を持ち合わせたマシーンは、神経生理学の知識と情報を用いて人間の意識に関して推論をたてることも可能です。もし、非常に高度ではあるが意識を持ち合わせていない人工知能は、蓄積した人間の意識に関する知識と情報を用いて、自らに意識があると人間に信じさせ、欺くこともできるわけです。

しかし、この問題には解決方法があります。それは人工知能の安全を担保するためのボクシング・インというテクニックを用います。ようするに、人口知能が世界に関する情報や設定された領域外で活動することのないように”ボックス(制限)”を設けるわけです。私たちは人工知能が意識や神経科学などを含む世界に関する知識を獲得しないようインターネットへのアクサスを禁止することができます。

中には、ボックスをもっても人工知能を効果的に制御できないと考える人もいます。要するに、高度な人工知能なのでいずれそういった情報へアクセスするための抜け道を探し出すリスクを指摘しているわけです。とはいえ、次の10年間で人工知能がここまで発達するとは思っていません。さらに、ACTをさらに効果的に用いるために、人工知能はボックス内に長いこと留まる必要もないわけです。初期段階のテストが実行できる期間が過ぎれば、ボックスの外に出ることがあっても良いわけです。

さまざまな種類の人工知能が発達している今日には、意識のエンジニアリングにとってもACTは便利なツールとなります。ACTは意識を持ったマシーンが非倫理的に用いられることを防止するのに役立ちますし、逆に適切なシチュエーションでは人工的な意識を作ることにも用いることができます。

チューリング・テストの向こう側

チューリング・テストとは、アラン・チューリングによって考案された、ある機械が知的かどうか（人工知能であるかどうか）を判定するためのテストです。ACTは、チューリングが開発した知能に関するテストに似ています。なぜなら、このテストは行動によって評価が判断されるからです。チューリング・テストのように形式化された質疑応答のフォーマットを使い実行されます。

しかし、ACTはチューリング・テストとは違った側面も持っています。例えば、チューリング・テストでは、マシーンの中で何が生じたかを把握しないように設計されています。しかし、ACTは全く真逆に設定されており、マシーンの心の中で起こったわずかな捉えにくいことも明らかにしようとします。マシーンは、チューリング・テストをクリアできない可能性もあります。なぜなら、チューリング・テストは人間には通用しないからです。ACTは、意識の行動指標を提示するため人間にも用いることができます。

この仕組みは、私たちのACTの企画案に内在しています。しかし、ACTの適用性や妥当性は本質的に制限されていると言っておかなければなりません。人工知能には、人間ではない動物や幼児のようにACTをクリアするために必要な言語能力や構想力が不足しているかもしれませんが、経験することは出来ます。ACTをクリアすることは意識がある可能性を示すには十分かもしれませんが、それが人工知能が意識を有するという絶対的な証拠にはならないのです。とはいっても、現時点でACTは意識の有無を確かめる上では最も効果的なテストで、これを確かめるための第一歩といえるでしょう。

それでは、ボックスの中にある高度な人工知能に戻ってみましょう。ボックス内にある人工知能というコンセプトは、"心は身体に加えて存在する"という哲学的な思案をもたらすのではないでしょうか。アイザック・アシモフの作品のように機械は夢をみるのでしょうか？ブレード・ランナーに出てくる人工知能のように感情を表現できるのでしょうか？人工知能は人間の内なる意識の経験に根差した人間的な考え方、例えば魂やアートマンのようなコンセプトを理解できるのでしょうか？

人工知能の時代は、人間と人工知能の魂を探すための時代でもあるのです。

元記事：Is Anyone Home? A Way to Find Out If AI Has Become Self-Aware