パフューム、サカナクションといった日本の人気アーティストや、ビョーク、OK Go、ノサッジ・シングといった世界的に有名なアーティストとのコラボレーションや、リオ2016大会閉会式、東京2020のフラッグハンドオーバーセレモニーでのAR映像演出などを手がけたライゾマティクスの真鍋大度氏。ライゾマティクス創業から15周年となる今春は、東京都現代美術館で大回顧展を開催したばかり。エンタテイメントからアート、スポーツ、医療と幅広いフィールドを横断しながら積極的に活動する真鍋氏を迎えた対談を前後編にてお届けする。

ライゾマティクスの飛躍は
ソフトとハードの両面にあり

杉原：僕が最初に真鍋さんを知るきっかけとなったのが、顔がピクピクする動画（electric stimulus to face /2008）だったのです。その時「ヒューマノイドの世界がついに来たんだ」と思いました。顔面の動きをトレースしていけば、今後は相当リアルなヒューマノイドが出来上がるんじゃないかと。

真鍋：今でこそSNSは当たり前ですが、当時はまだSNSもそこまで影響力がなかったですよね。やはりあの動画は海外で活動する大きなきっかけになりました。以前から同じようなことをやっていたのですが、なぜかあの動画だけかなりバズったんです。海外の人が見つけて面白がってくれたことが話題になった要因になっていたと思います。

杉原：それから、プリンターを使ったOK Goのミュージックビデオも印象的で、何度も繰り返して再生しました。あの動画は編集なしの一発勝負ということを聞いて、さらに驚いたんです。

真鍋：他にも似たようなことをやっている会社はあるのですが、ライゾマを評価していただいていることの１つの要因として、ハードウェアのエンジニアが多いことが挙げられると思います。なので、OK GoのMVのように大量のプリンターをハッキングして操作することができました。ソフトとハードの両方から難易度の高いことにアプローチできるので、「どうにもならなくなったらあいつらを呼ぼう」という感じで海外からオファーを受けることが多いんです。例えば広告の現場でドローンを上手く制御できなくて、どうにもならなくなって僕らが呼ばれるという。

杉原：はじめからライゾマにオファーするのは、ハードルが高いということでしょうか？

真鍋：というより、やはり最初はどの会社やチームも自分たちでやってみたいものなんですよね。難易度の高い仕事のひとつとしては、フェンシングの太田（雄貴）選手の剣先をマーキング無しで視覚化することがありました。

フェンシング・ヴィジュアライズド・プロジェクトついて

杉原：太田さんは前衛的な考え方で様々なテクノロジーやアイデアを柔軟に取り入れている印象ですよね。だから太田さんの一挙手一投足が注目されていたと思うし、ライゾマが剣先の動きを視覚化したことで、フェンシング競技の面白さが一気に高まりましたよね。本当に素晴らしいプロジェクトでした。

真鍋：ありがとうございます。2013年に、太田選手と電通からこれからのスポーツ観戦をテクノロジーの力でフェンシングをよりわかりやすく、魅力的に見せることが出来ないかというお題をいただき、ライゾマティクスが剣先を可視化するアイディアを提案、そしてプロトタイプの実装を担いプロジェクトがスタートしました。

杉原：剣道もそうだと思うんですが、フェンシングの勝負はあまりに一瞬すぎて、どう勝負が決まったのかが分かりにくいですからね。あれってカメラで剣先をトラッキングしたのですか？　それとも加速度センサーを使ったのでしょうか？

真鍋：最初は剣先に再帰性反射材を付けてマーキングして、赤外線カメラを64台設置し剣先をトラッキングしました。モーションキャプチャの技術を使えば、トラッキングは可能でした。デモンストレーションとしてはそれで充分でしたが、本番の試合ではマーキングはできません。国際試合でもこの技術を使えるようにするためには機械学習技術を用いる必要があり、2013年時点では長い道のりになることは明確でした。ただ、東京オリンピックまでにはできるはずだと話をしました。

エイブル presents 第73回全日本フェンシング選手権大会

杉原：本当にゼロからのスタートな訳ですよね。剣先の動きをありとあらゆる変数でアルゴリズム作ってディープラーニングさせていくということですよね。ちょっと吐き気がするほどの作業量ですね（笑）。

真鍋：システム開発もそうですが学習データを作る作業が大変でしたね。僕は途中からディレクションに回り、開発はライゾマの花井というシニアエンジニア主導で進めたのですが、まずは練習試合の動画データを取得し、そこからアルバイトの手によって20万枚の画像に手動で人の骨格と剣先をラベリングしました。最終的なハードウェア構成もソフトウェアの処理も本当に複雑で、かつ映像的にもきちんと見栄えが良いものを作らねばならず「良くぞこれを実装しきったな……」とエンジニアたちが開発したのを横目で見て感動していました。

杉原：技術を実用化するためには、システムのスリム化が必要ですよね。でも、ゼロから始めるときは、どうしてもマッチョなシステムから始めるしかない訳ですね。我々のプロジェクトにも同じことが言えるので非常に共感します。ふと思ったんですが、イーロン・マスクが開発しているニューラリンク（脳とコンピュータをつなぐ技術）が進み、集積したデータを自分の脳に移植すれば、ものすごいフェンシングが上達するわけですよね。

真鍋：まだまだ先の話になるでしょうが、そうした未来もあるでしょうね。僕個人としては、その技術ができたら真っ先に埋め込んでみたい（笑）。

杉原：30年後の未来を考えていくと、拡張型の技術はもはや避けては通れないですからね。だから僕は“アート×テクノロジー”というところで、真鍋さんの作品から1歩先の提案書をもらっている感じなんです。

真鍋：そう言っていただけるのは本当にありがたいです。医療の分野は倫理の問題などがあり、出来ないことも多々あるので難しいですけれど。おっしゃる通り、アートはちょっと先の未来を実験するにはちょうどいい分野でもありますね。

2015年の取り組みをアップデートさせた
ELEVENPLAY × Rhizomatiks “border 2021”

杉原：リオ2016大会閉会式、東京2020のフラッグハンドオーバーセレモニーのAR演出なども本当に素晴らしかったですね。さて、僕は結局観に行けず非常に悔しんですが、今年2月に行われた“border 2021”のコンセプトやバックグラウンドを改めて教えてください。

真鍋：ステージ上でパフォーマンスを体験しているお客さんもいるし、その様子を観客席の外から見ているお客さんもいる。そんな風にお客さんとパフォーマー、ステージと観客席、そういう境界線がない空間や入れ子構造になっている状態を作りたかったんですね。さらにリアルな現実とVRの世界をシームレスに行ったり来たりできるボーダレスな状態を作り出してみたいと思い、そこから“border”というプロジェクトが始まりました。たまたまパーソナルモビリティ・WHILL（ウィル：次世代型電動車椅子の名称であり、その開発会社）の人たちと仲良くなった時期ということもあり協力していただきました。最終的にはお客さんにMRゴーグルを装着してWHILLに乗ってもらった状態で、生のダンサーとVRのダンサーを体験する作品になりました。実際に開発して痛感したことなのですが、身体が車椅子で動かされることでさらに没入感が増すんです。

杉原：リアルと仮想のフュージョンみたいなところですね。没入感を高めるために身体の動きが重要だったというのは面白い発見ですね。

ELEVENPLAY x Rhizomatiks “border 2021” (2021)　Photo by hiroko hirota（同、トップ画像）

真鍋：そのとき改めて分かったことは、大脳ではなく中脳に作用するということです。中脳は平衡感覚神経を司っている部位なで、普段やっているVRではそれほど意識しないのですが、WHILLによって身体を動かされることで、よりリアリティを感じやすくなるということが分かったのです。

杉原：僕もVRを利用した車いすレーサーCYBER WHEEL Xを作りました。自分の腕で漕いで、VR上で2100年の東京を走るという新感覚のゲームです。その時に仕掛けた技術は、加速度をきちんと理解してもらうためにトルクを入れたのです。それで一気に没入度が上がったんですよね。上り坂になると急に重くなる、下り坂やジャンプもリアルに感じる。ジェットコースターのようにお腹が浮く感じが苦手な人はちょっと酔ってしまう…（笑）。

真鍋：車酔いと一緒ですよね。これは当時FacebookにいたGoromanさんにアドバイスをいただいたのですが、自分の体は動いていないのに、例えばジェットコースターのようにVRの世界では視点がゴリゴリ動いているようなものは確実に酔ってしまうんですね。
実際に車椅子に乗って体験すること、身体を映像と合わせてきちんと動かすこと、それによって大脳だけでなく中脳がリアルと錯覚する。そこが没入感のポイントだったんです。脳科学者の方たちにも“border 2021”を体験していただきましたが、「本当にこれは初めての体験だ！」と感動してもらえたのが嬉しかったですね。

杉原：中脳が刺激されるとは驚きました。脳科学者の方々も非常に興味深いデータが取れたのでしょうね。アートを通じて、いろんな人たちとのネットワークに繋がったのですね。

真鍋大度（まなべ・だいと）
1976年、東京都生まれ。大学卒業後、大手電気メーカーに就職するが1年で退社。2002年 IAMAS（岐阜県立国際情報科学芸術アカデミー）に進学しプログラミングを学び、2006年Rhizomatiksを設立。以後、さまざまなアーティストのMVやライブ演出、スポーツイベントやファッションショーの演出を手がける。現在も東京を拠点に、アーティスト、インタラクションデザイナー、プログラマ、DJとして活動。

関連記事を読む

• 始まりは“かめはめ波を撃ちたい！”という発想。テクノスポーツ「HADO」開発者インタビュー
• 音を感じる世界が、声を出すきっかけに！「Ontenna」開発者・本多達也が届けたいもの
• 「Arque」人間のための尻尾が生み出す、独創的な夢
• センシング技術と即自的インターフェースが導く未来「ORPHE TRACK」開発者・菊川裕也が見る夢

従来のスポーツ観戦スタイルといえば、映像、あるいは会場での生観戦。手法は違えど、試合を俯瞰するという行為によりその“視点”は共通している。そこに新たなスタイルと注目されるのがVRを使った観戦だが、独立行政法人国立高等専門学校機構東京工業高等専門学校（以下：東京高専）のチームが開発した『シンクロアスリート』は、VR（ヴァーチャル・リアリティ）やモーションベースといったテクノロジーを活用し、アスリート目線の臨場感あふれる体験を提供する。選手たちを俯瞰するのではなく、選手と同化する。新たなスポーツ観戦システムを作り出した彼らに、開発の経緯について聞いた。

アスリートの世界へ没入。
仕組みは学生オリジナル

専用のゴーグルを装着し、座席に腰掛けると、たちまちアスリートの視点へとダイブする。
「氷上の格闘技」とも呼ばれるスピードスケート・ショートトラックや、激流を乗りこなすカヌー・スラローム、さらに、トラックを疾走するレーサー（陸上競技用車いす）。さまざまなアスリートの目線と動きに合わせて、ディスプレイに映る景色がリアルな音声とともに流れ、座席自体も上下左右に可動する。「リプレイモード」と「リアルタイムモード」という2つの機能を搭載しており、前者は、予め収録した競技映像と動きを用いて、ユーザーが実際に競技をしているような体験をすることができる機能だ。収録には、360度カメラと、加速度センサーを内蔵したスマートフォンを使用する。後者は、前者における2つのツールに加えて、ライブ配信用の小型サーバを選手に身につけてもらい、今まさに競技をしている選手の目線と動きを、ユーザーがリアルタイムに体感することができる機能。アスリートと同化した臨場感溢れる体験は、もはや“競技観戦”の領域を越えていると言えよう。

その体験は、選手目線の映像を再現するヘッドマウント・ディスプレイ（HMD）と、選手の動きを再現するモーションベース（＝通常、自動車や航空機、宇宙船の操縦試験、訓練に用いられる可動式の装置）によって生み出される。設計、部品加工、組み立て、プログラミングまで、すべて東京高専のオリジナルだ。

新たなスポーツ観戦システムは、『第7回ものづくり日本大賞』（※1）でも評価され、内閣総理大臣賞を受賞。今年10月に開催された『国際福祉機器展』でも展示され、東京2020でカヌー競技が開催される東京都江戸川区との協業も進行中だ。今回は、初期開発メンバーの1人で、ソフトウェア部分を担当した瀧島和則さん、松林勝志教授、山下晃弘准教授、現在のチームメンバーである米本毬乃さん、一瀬将治さんに話を伺った。

※1：『第7回ものづくり日本大賞』における「ものづくりの将来を担う高度な技術・技能」分野「青少年部門（大学・高等専門学校・専門学校クラス）」にて受賞。

開発のきっかけは学園祭の「ジェットコースター」

『シンクロアスリート』開発の経緯を語る瀧島和則さん

「シンクロアスリート」開発の経緯について教えてください。

瀧島：発端は、3年前（2015年）に、当時のクラスメートの1人が「ジェットコースターをつくりたい」と言い出したことでした。けれども、実際にジェットコースターのコースをつくって教室で走らせるのは危ないと。そこで、モーションベースを用いて、「ヴァーチャル・ジェットコースター」という形で擬似再現できるのではないかと思い、学内の文化祭に向けて開発をして、当時は装置の動きも遅かったのですが、なんとか完成させることができました。

松林：その時は、布でスクリーンをつくって、3台のプロジェクターを使ってジェットコースターに乗車時の映像を投影しました。映像は全部CG。計算作業に1ヶ月ぐらいかかりましたね。

瀧島：学園祭で展示したところ、乗った人みんな、キャーキャー言っていて、「凄くよくできたね」と大好評でした。すると、その翌年の高専プロコン（＝全国高等専門学校プログラミングコンテスト/※2）の課題部門が、東京2020が近いこともあり「スポーツ」がテーマだったんです。そこで、ヴァーチャル・ジェットコースターの仕組みをスポーツに応用してみてはどうかということになりました。カメラでスポーツの映像を撮影し、センサーを用いて選手の動きを収録して、モーションベースで再現すれば、スポーツにおける実際の動きと映像を体感してもらうことができるのではないかと。なんとかコンテストに間に合わせて、結果的に最優秀賞を頂くことができました（※3）。

※2「ロボコン」で知られる『全国高等専門学校ロボットコンテスト』初開催の翌年（1989年）から開催されている高専生によるプログラミング大会。

※3：文部科学大臣賞、最優秀賞、情報処理学会若手奨励賞を受賞した。

東京2020の開催自治体もバックアップ

開発で工夫された点はどんなところですか

瀧島：モーションベースという装置は通常、自動車の運転や、航空機の操縦シミュレーションに用いるため、正確な動作が求められますが、私たちは、精度はある程度担保した上で、人が乗って選手の動きを楽しめる装置を目指して作りました。映像については、今までは選手目線のスポーツ観戦が難しかったので、実現できれば、技術的にも観戦のスタイルとしても面白いのではないかと考えていました。

松林：さらに工夫したポイントは、装置の小型化です。モーションベースは、大きな物になると油圧システムを使います。そうなると金額も大変高価ですし、体積も重量も大がかりになってしまうので、スポーツ会場やその付近まで運搬することが困難になると考えました。ですので、『シンクロアスリート』のモーションベースは電動式を採用して、小型化に成功しています。通常のモーションベースと異なる点は、水平回転ができないことですが、それはHMDに360度映像を映すことで補完することができました。

例えばカヌーなどは、動きもダイナミックなので相性が良さそうですよね。

松林：はい。3軸のシステムで水平を保ったままの上下運動が可能なので、それを活かしたスポーツが良いだろうと，考えました。アイディアとして浮かんできたのがカヌー競技です。上下運動で船の動きをリアルに再現することができます。そこで、東京2020でカヌー競技の会場となる江戸川区にお願いをして、江戸川区カヌー協会さんを紹介して頂きました。江戸川区としても競技施設はできるけれど、区としてどのように区民の方々の理解を促す広報活動を展開していこうか、ということも課題だったようです。そこに『シンクロアスリート』のお話をして、全面協力して頂けることになりました。

「着席位置の違い」までわかる精巧さ

東京2020の開催も追い風になっているのですね。逆に、開発で苦労した点はありますか。

瀧島：（昨年卒業した）機械工学科の学生が作ったハード部分と、私たち情報工学科の学生で担当したソフトウェアのすり合わせが大変でした。

具体的にどんなすり合わせをするのでしょうか。

瀧島：「機械本体」と機械を制御する「モータードライバ」とモーターに指示を送る「コンピュータ」と3つの系統があって、各部分で通信・電力のやりとりをする必要があります。コンピュータの指示が誤って伝達されると、ドライバが故障してしまったり、正常に動作しなかったりするんですが、実際に組み立てて試験運転してみるまでわからない。だから、通信の不具合チェックが開発の最終段階になってしまい、そこからの修正が大変でした。

ユーザーが着席するシート下部にあるモーションベース

ライブ配信の開発にも結構苦労しました。スポーツ会場での生中継ならば、電波の伝達速度の都合上、実際の競技と映像や動きに多少のタイムラグが生じるのは許容範囲です。しかし、展示会等でライブパフォーマンス的に見せる場合は、5秒、10秒遅れたら話になりません。その遅延時間をいかに減らすかはかなり苦労しましたね。現在はWi-Fi回線を使用して動かしていますが、遅れはほぼ感じない状態に持っていくことができています。

今年開催された江戸川区の展示会（『第20回産業ときめきフェア in EDOGAWA』）や『国際福祉機器展』でも展示されていましたが、体験した方の声はいかがでしたか。

米本：小さいお子さんから高齢者の方まで幅広い層の方に乗って頂きましたが、アンケートをとってみると、「楽しかった」という声も多く頂き、狙いどおりでした。シンクロアスリートによって、ひと味違ったスポーツ体験を楽しむことができるという実感を得ることができました。

松林：カヌーのクラブハウスで関係者にも乗ってもらうと「非常にリアルでよくできている」という意見を頂きましたが、一方で「普段座っている位置よりも前方に座っている感じがする」と。なぜならば、カメラの位置が実際のカヌーのシートよりも少し前についているからなんです。つまり経験者にとっては、通常との場所の違いまでわかるほどリアルに仕上がっているということです。実際にシンクロアスリートの動作と、本物のカヌーの動作を波形比較してみたところ、ほぼ一致していました。安全面を考慮して、激しい動きはカットしていますが、ほぼ完璧に再現できています。波形が一致するように、機構学を用いて計算を行ったので、一致するのは当然といえば当然なのですが、実際に一致していると嬉しいですよね。

（後編へつづく）