VRで脳が騙される『クロスモーダル現象』とは?

PSVRコラム&レビュー

PlayStation VR (PSVR) の体験会やテレビ紹介などで、ありえないような体験談が挙がっています。

PlayStation VR のありえない? 体験談

「『THE DEEP』で海に潜る映像を見ていた時に、海の潮の香りがした
「『サマーレッスン』で首元に近づいた女子高生の息づかいが聴こえた

「THE DEEP」での体験は、科学未来館で開催されたPlayStatonVRトークイベントの中での参加者からの質問。
「サマーレッスン」での体験は、テレビで放送されたクローズアップ現代+での出演者の体験談。

もちろんいずれも体験したのは PlayStation VR のゲームです。

実際に磯臭い魚の匂いをこっそり嗅がせたわけでも、スタッフさんが首元に息を吹きかけたわけでもありません。

体験者は映像と音だけしか感じていないのに、いずれも実際には存在しないはずの体験をしています。

この不思議な体験は何が理由なのでしょうか。

五感の 90% 以上を支配する VR デバイス

人間の持つ感覚である「視覚」、「聴覚」、「嗅覚」、「触覚」、「味覚」の五感。

PlayStation VR (PSVR) をはじめとする VR デバイスは、立体視ができるヘッドセットと立体音響のイヤホン、ヘッドホンを使い、この五感のうちのふたつ「視覚」と「聴覚」を支配することで高い没入感を得ることができる機器です。

また、日常的な体験の感覚は 80% 以上が視覚から得られた情報で、聴覚と合わせると 90% 以上のになると言われています。(諸説あります)

つまり「視覚」と「聴覚」を支配する VR デバイスは、人間の感覚の 90% 以上をコントロールすることができるデバイスであるともいえます。

クロスモーダル現象とは

クロスモーダル現象とは、仮想体験によって実際には起こっていない感覚を得る現象で、クロスモーダル知覚 (Crossmodal perception) などとも呼ばれるようです。

先ほどの潮の香りや吐息のように、実際には起こってないことを感じてしまう。この現象がクロスモーダル現象です。

これは、五感のある感覚が刺激されることによって、存在しない他の感覚を脳が補完してしまうことによって起こります。

五感はもともと独立して働くものではなく複数の感覚の情報を組み合わせて捉えており、ある感覚の情報から他の感覚の情報を補完して処理しています。

潮の香りは嗅覚を、吐息は聴覚や触覚 (空気の流れなど) を脳が補完して感じ取った例ですが、他にも VR に限らずクロスモーダル現象は日常的にも起こるとのこと。

わかりやすい例では、見た目の大きい食べ物を食べると (実際に大きくなくても) 早く満腹感を得られたり、腹話術で人形の口から声が発せられているように感じる現象などもこのクロスモーダル現象によるものだそうです。

またちょっとおもしろい例では、大トロのお寿司の映像を見ながらアボカドを食べると、大トロの味がするなど。

このように脳が錯覚する条件はいろいろありますが、より現実に近い形で視覚と聴覚を支配する VR ではこのクロスモーダル現象が起こりやすい環境であるともいえます。

PlayStation VR のゲームタイトルではそれらを意図的に演出することで、より現実を思わせるようなリアルな体験を作り出しています。

「サマーレッスン」で起こったクロスモーダル現象の体験の違い

NHK で放送されたクローズアップ現代+の VR 特集回では、PlayStation VR の「サマーレッスン」を 2 人の被験者に体験してもらうという実験を行っていました。

被験者の一人は大学生。一人はホスト。

念のため「サマーレッスン」とは、プレイヤーが女子高生の家庭教師となり女子高生とのコミュニケーションを行うという、PlayStation VR 向けのデモンストレーションに開発されたタイトルです。

サマーレッスンの演出の中には、キャラクターの目を見て話を聞かないとそれを指摘したり、プレイヤーが近づきすぎると少し距離をとったりするような、プレイヤーの動きに対してキャラクターを反応させる「双方向性」の仕組みが取られています。

これによって、プレイヤーは目の前の映像をより現実に近いものとして VR への没入感を高める仕掛けとなっています。

そしてデモの後半では、女子高生のキャラクターがぐっとプレイヤーの首筋に顔を近づけて、ある行動をとる、という演出があるのですが、クローズアップ現代+での実験では、ここでの被験者の体験に大きな差が生まれました。

ほんの数センチ耳元、触れてしまいそうな距離まで顔を近づけてきた女子高生、ホストはクロスモーダル現象としてその吐息を聞いたのに対し、大学生はクロスモーダル現象が得られることはありませんでした

過去の経験の差がクロスモーダル現象に影響する

先ほどの通り、クロスモーダル現象は脳が五感を補完するために起こります。

そこには実際には存在しないものを脳が勝手に作り出していということは、もととなる情報が必要です。そのために脳は、過去の体験と照らし合わせて感覚を補完します。

それはつまり、クロスモーダル現象の感じ方は、脳の記憶にも依存するということ。

実際に海に行ったことのある人でなければ「海では潮の香りがする」という経験がないため、クロスモーダル現象は起こりません。クロスモーダル現象の感じ方はその人の過去の経験によるため、人それぞれ異なるのです。

サマーレッスンの例でも同様に、被験者の 2 人は女性に対する体験や記憶が違うため、クロスモーダル現象である息づかいの感じ方に大きな差が生まれました。番組内ではそれが過去の経験の差であることにも言及していました。

恐らく大トロの味も同じで、過去に大トロを食べたことがなければ、脳が味覚を十分に補完するための情報がないので、クロスモーダル現象は起こりにくいのかもしれません。

VR で体験すれば、もう現実の意味はなくなってしまうのか

行ったことのない場所へ行き、現実では行えないようなことを仮想空間で体験できる VR。

一方で VR で何もかもが体験できるようになったとき、現実での体験は意味のないものとなり、必要なくなってしまうのでしょうか?

VR デバイスでのクロスモーダル現象は、視覚と聴覚の体験がよりリアルに近づいた結果感じるもの。しかし、その「リアル」は、過去のいくつもの記憶や体験が相互に影響することで感じられるものだということが分かりました。

現実での体験は、VR での体験をより豊かにする。

そう考えると、現実で「見る」「聞く」「匂う」「触れる」「味わう」という五感すべてを使った経験は決して無駄ではないでしょう。

「VR で体験すれば、もう現実は必要ない?」

その答えは、このクロスモーダル現象が握っているのではないかと思います。

「サマーレッスン」について詳しく見る

関連情報