パフューム、サカナクションといった日本の人気アーティストや、ビョーク、OK Go、ノサッジ・シングといった世界的に有名なアーティストとのコラボレーションや、リオ2016大会閉会式、東京2020のフラッグハンドオーバーセレモニーでのAR映像演出などを手がけたライゾマティクスの真鍋大度氏。ライゾマティクス創業から15周年となる今春は、東京都現代美術館で大回顧展を開催したばかり。エンタテイメントからアート、スポーツ、医療と幅広いフィールドを横断しながら積極的に活動する真鍋氏を迎えた対談を前後編にてお届けする。

ライゾマティクスの飛躍は
ソフトとハードの両面にあり

杉原：僕が最初に真鍋さんを知るきっかけとなったのが、顔がピクピクする動画（electric stimulus to face /2008）だったのです。その時「ヒューマノイドの世界がついに来たんだ」と思いました。顔面の動きをトレースしていけば、今後は相当リアルなヒューマノイドが出来上がるんじゃないかと。

真鍋：今でこそSNSは当たり前ですが、当時はまだSNSもそこまで影響力がなかったですよね。やはりあの動画は海外で活動する大きなきっかけになりました。以前から同じようなことをやっていたのですが、なぜかあの動画だけかなりバズったんです。海外の人が見つけて面白がってくれたことが話題になった要因になっていたと思います。

杉原：それから、プリンターを使ったOK Goのミュージックビデオも印象的で、何度も繰り返して再生しました。あの動画は編集なしの一発勝負ということを聞いて、さらに驚いたんです。

真鍋：他にも似たようなことをやっている会社はあるのですが、ライゾマを評価していただいていることの１つの要因として、ハードウェアのエンジニアが多いことが挙げられると思います。なので、OK GoのMVのように大量のプリンターをハッキングして操作することができました。ソフトとハードの両方から難易度の高いことにアプローチできるので、「どうにもならなくなったらあいつらを呼ぼう」という感じで海外からオファーを受けることが多いんです。例えば広告の現場でドローンを上手く制御できなくて、どうにもならなくなって僕らが呼ばれるという。

杉原：はじめからライゾマにオファーするのは、ハードルが高いということでしょうか？

真鍋：というより、やはり最初はどの会社やチームも自分たちでやってみたいものなんですよね。難易度の高い仕事のひとつとしては、フェンシングの太田（雄貴）選手の剣先をマーキング無しで視覚化することがありました。

フェンシング・ヴィジュアライズド・プロジェクトついて

杉原：太田さんは前衛的な考え方で様々なテクノロジーやアイデアを柔軟に取り入れている印象ですよね。だから太田さんの一挙手一投足が注目されていたと思うし、ライゾマが剣先の動きを視覚化したことで、フェンシング競技の面白さが一気に高まりましたよね。本当に素晴らしいプロジェクトでした。

真鍋：ありがとうございます。2013年に、太田選手と電通からこれからのスポーツ観戦をテクノロジーの力でフェンシングをよりわかりやすく、魅力的に見せることが出来ないかというお題をいただき、ライゾマティクスが剣先を可視化するアイディアを提案、そしてプロトタイプの実装を担いプロジェクトがスタートしました。

杉原：剣道もそうだと思うんですが、フェンシングの勝負はあまりに一瞬すぎて、どう勝負が決まったのかが分かりにくいですからね。あれってカメラで剣先をトラッキングしたのですか？　それとも加速度センサーを使ったのでしょうか？

真鍋：最初は剣先に再帰性反射材を付けてマーキングして、赤外線カメラを64台設置し剣先をトラッキングしました。モーションキャプチャの技術を使えば、トラッキングは可能でした。デモンストレーションとしてはそれで充分でしたが、本番の試合ではマーキングはできません。国際試合でもこの技術を使えるようにするためには機械学習技術を用いる必要があり、2013年時点では長い道のりになることは明確でした。ただ、東京オリンピックまでにはできるはずだと話をしました。

エイブル presents 第73回全日本フェンシング選手権大会

杉原：本当にゼロからのスタートな訳ですよね。剣先の動きをありとあらゆる変数でアルゴリズム作ってディープラーニングさせていくということですよね。ちょっと吐き気がするほどの作業量ですね（笑）。

真鍋：システム開発もそうですが学習データを作る作業が大変でしたね。僕は途中からディレクションに回り、開発はライゾマの花井というシニアエンジニア主導で進めたのですが、まずは練習試合の動画データを取得し、そこからアルバイトの手によって20万枚の画像に手動で人の骨格と剣先をラベリングしました。最終的なハードウェア構成もソフトウェアの処理も本当に複雑で、かつ映像的にもきちんと見栄えが良いものを作らねばならず「良くぞこれを実装しきったな……」とエンジニアたちが開発したのを横目で見て感動していました。

杉原：技術を実用化するためには、システムのスリム化が必要ですよね。でも、ゼロから始めるときは、どうしてもマッチョなシステムから始めるしかない訳ですね。我々のプロジェクトにも同じことが言えるので非常に共感します。ふと思ったんですが、イーロン・マスクが開発しているニューラリンク（脳とコンピュータをつなぐ技術）が進み、集積したデータを自分の脳に移植すれば、ものすごいフェンシングが上達するわけですよね。

真鍋：まだまだ先の話になるでしょうが、そうした未来もあるでしょうね。僕個人としては、その技術ができたら真っ先に埋め込んでみたい（笑）。

杉原：30年後の未来を考えていくと、拡張型の技術はもはや避けては通れないですからね。だから僕は“アート×テクノロジー”というところで、真鍋さんの作品から1歩先の提案書をもらっている感じなんです。

真鍋：そう言っていただけるのは本当にありがたいです。医療の分野は倫理の問題などがあり、出来ないことも多々あるので難しいですけれど。おっしゃる通り、アートはちょっと先の未来を実験するにはちょうどいい分野でもありますね。

2015年の取り組みをアップデートさせた
ELEVENPLAY × Rhizomatiks “border 2021”

杉原：リオ2016大会閉会式、東京2020のフラッグハンドオーバーセレモニーのAR演出なども本当に素晴らしかったですね。さて、僕は結局観に行けず非常に悔しんですが、今年2月に行われた“border 2021”のコンセプトやバックグラウンドを改めて教えてください。

真鍋：ステージ上でパフォーマンスを体験しているお客さんもいるし、その様子を観客席の外から見ているお客さんもいる。そんな風にお客さんとパフォーマー、ステージと観客席、そういう境界線がない空間や入れ子構造になっている状態を作りたかったんですね。さらにリアルな現実とVRの世界をシームレスに行ったり来たりできるボーダレスな状態を作り出してみたいと思い、そこから“border”というプロジェクトが始まりました。たまたまパーソナルモビリティ・WHILL（ウィル：次世代型電動車椅子の名称であり、その開発会社）の人たちと仲良くなった時期ということもあり協力していただきました。最終的にはお客さんにMRゴーグルを装着してWHILLに乗ってもらった状態で、生のダンサーとVRのダンサーを体験する作品になりました。実際に開発して痛感したことなのですが、身体が車椅子で動かされることでさらに没入感が増すんです。

杉原：リアルと仮想のフュージョンみたいなところですね。没入感を高めるために身体の動きが重要だったというのは面白い発見ですね。

ELEVENPLAY x Rhizomatiks “border 2021” (2021)　Photo by hiroko hirota（同、トップ画像）

真鍋：そのとき改めて分かったことは、大脳ではなく中脳に作用するということです。中脳は平衡感覚神経を司っている部位なで、普段やっているVRではそれほど意識しないのですが、WHILLによって身体を動かされることで、よりリアリティを感じやすくなるということが分かったのです。

杉原：僕もVRを利用した車いすレーサーCYBER WHEEL Xを作りました。自分の腕で漕いで、VR上で2100年の東京を走るという新感覚のゲームです。その時に仕掛けた技術は、加速度をきちんと理解してもらうためにトルクを入れたのです。それで一気に没入度が上がったんですよね。上り坂になると急に重くなる、下り坂やジャンプもリアルに感じる。ジェットコースターのようにお腹が浮く感じが苦手な人はちょっと酔ってしまう…（笑）。

真鍋：車酔いと一緒ですよね。これは当時FacebookにいたGoromanさんにアドバイスをいただいたのですが、自分の体は動いていないのに、例えばジェットコースターのようにVRの世界では視点がゴリゴリ動いているようなものは確実に酔ってしまうんですね。
実際に車椅子に乗って体験すること、身体を映像と合わせてきちんと動かすこと、それによって大脳だけでなく中脳がリアルと錯覚する。そこが没入感のポイントだったんです。脳科学者の方たちにも“border 2021”を体験していただきましたが、「本当にこれは初めての体験だ！」と感動してもらえたのが嬉しかったですね。

杉原：中脳が刺激されるとは驚きました。脳科学者の方々も非常に興味深いデータが取れたのでしょうね。アートを通じて、いろんな人たちとのネットワークに繋がったのですね。

真鍋大度（まなべ・だいと）
1976年、東京都生まれ。大学卒業後、大手電気メーカーに就職するが1年で退社。2002年 IAMAS（岐阜県立国際情報科学芸術アカデミー）に進学しプログラミングを学び、2006年Rhizomatiksを設立。以後、さまざまなアーティストのMVやライブ演出、スポーツイベントやファッションショーの演出を手がける。現在も東京を拠点に、アーティスト、インタラクションデザイナー、プログラマ、DJとして活動。

関連記事を読む

• 始まりは“かめはめ波を撃ちたい！”という発想。テクノスポーツ「HADO」開発者インタビュー
• 音を感じる世界が、声を出すきっかけに！「Ontenna」開発者・本多達也が届けたいもの
• 「Arque」人間のための尻尾が生み出す、独創的な夢
• センシング技術と即自的インターフェースが導く未来「ORPHE TRACK」開発者・菊川裕也が見る夢

カシャカシャ、とロボットの指がピアノの鍵盤に触れ、「ふるさと」のメロディを優しく奏でる。NHK連続テレビ小説「半分、青い。」で5月に放送された、印象的な1シーンだ。このロボットの手を製作した東京都立産業技術高等専門学校医療福祉工学コースの深谷直樹准教授は、独自の“からくり”による機構を使った高性能ロボットハンドの研究開発を行っている。ロボットハンドの現在地と未来予想図を、深谷氏に伺った。

人間の手や指の構造を模倣、
さまざまな形状の物を掴めるように

深谷氏が開発したロボットハンドの特徴は、とても単純な制御だけで、さまざまな形状の物を掴むことができる点にある。従来のロボットハンドには、果物や工具のように一つひとつの形や重さがバラバラなものを持つことが難しいという課題があった。指の一本一本、関節の一つひとつにセンサーやモーターを組み込み制御する方法では、多数の電子部品を制御する複雑なプログラムが必要となる。その分操作やメンテナンスの難易度が高く、電力の大量消費や耐久性といった点からも産業利用には壁があったのだ。

この課題を解決しようと深谷氏が考えたのが、独自の“からくり”だった。“からくり”とは、電子制御に頼らず望ましい動作を実現する機械装置の構造的な仕掛けを指す。

「人間の手や指の微妙な構造を模倣した独自の“からくり”を開発しました。すべての関節が機械リンクで結合していて、物体に馴染み、自動的にバランスを取るというもので、協調リンク機構と名付けています。センサーは使わず、基本的には1個のモーターのみで5本の指を動かします。

具体的にどう動かすかというと、つまみを引くだけ。私たちは普段、物を掴むときに“まず親指の関節を30度曲げて……”なんて思いませんよね。それと同じで、直感的に引くだけで勝手に手前にある物に巻き付くという構造なんです」

これまで、業界ではロボットの指は人間が設計した通り、1ミリ単位で精密に動くものという先入観があったと深谷氏は話す。それによって制御が複雑になっていった。しかし、過程はどうあれ、最終的に物を掴むことができればいいはず。こう考えて仕組みをシンプルにしたことで開発に成功した。

「人差し指と中指だけで、薬指と小指はねじれないんです。物を持つときに親指と人差し指・中指を使うことが多いから、ここだけ進化したのでしょうね。いままで見てきた解剖学の文献には載っていなかった発見でした」

解剖学や人間工学といった分野も横断しながら、深谷氏は少しずつロボットハンドを人の手に近づけている。

“からくり”を応用した3種類のロボットハンド

本研究の枠組みは、新エネルギー・産業技術総合開発機構（NEDO）の委託事業において、ダブル技研と共に行っている。3者は今年1月、“からくり”を応用したロボットハンドを3種類発表した。「F-hand」「New D-hand」「オリガミハンド」だ。

「F-hand」は、人間の手の構造や大きさを模倣した5本指のロボットハンド。前述した果物や工具のほか、ストローなどの細いもの、3kg程度の荷物も持つことができる。

用途として想定しているのは、農作物の収穫や食品工場での箱詰めなど。将来的には、インフラ関係の設備メンテナンス、建築現場での施工、災害現場など危険を伴う場所での作業、家事ロボットとしての食器洗いや掃除などを代替していくことを見込んでいるという。

「New D-hand」は、前述の“からくり”、協調リンク機構を持つ指を3本にすることで「F-hand」とは違った特徴を持たせた産業用ロボットハンド。より大きくて重い物を掴むことができるのが特徴だ。物流・製造業における搬送、組み立て、加工工程等に適していて、既にダブル技研を通じて自動車メーカーや研究所などで使用されている。

金属でできた上記2つのロボットハンドと違い、「オリガミハンド」はその名の通り一枚の紙でできたロボットハンドだ。レーザーカッターで切り出した紙を折り曲げてのり付けするだけの簡単な構造で、つまみを引くと指が曲がる。

鮭やコロッケなど傷つきやすいものを優しく掴める上、金属部品などの異物混入リスクがないため、弁当の具材詰めなどに向いている。縮小・拡大印刷するだけでさまざまなサイズになり、プラスチック段ボールに印刷し強度を増すことも可能。安価で使い捨てができるので、介護ロボや手術ロボなど衛生が求められる現場での活用も期待されている。

なお、「半分、青い。」に登場したピアノを弾くロボットハンドは、「F-hand」を応用し、見た目を昭和55年に開発されたロボットWABOT-2に似せて製作したもの。実際のWABOT-2は指先でタンタンタンと力強くピアノを弾くというが、番組制作スタッフからの「ヒロインの幼なじみが夢を見つけるシーンだから、ドラマチックにしたい」という要望を受け、ロボット的になりすぎないよう、柔らかく滑らかに演奏したという。F-handが人の手に近い構造を持っているからこそ可能になった演奏だ。

後編につづく

深谷 直樹
東京都立産業技術高等専門学校荒川キャンパスものづくり工学科医療福祉工学コース准教授。工学博士。ものづくりを中心とした医療福祉・ロボット関連の研究を行う。