Reaching the top, bridging the gap - 入社3年目の若手がSelf Supervised Learningと不確実性の交差点で見た景色

私は、Self-supervised Learning(SSL, 自己教師あり学習)の研究に取り組んでいます。自己教師あり学習は、一般的にAIの学習に必要とされる膨大な教師ラベル、アノテーションを必要としない画期的な手法です。「自己教師あり学習」という名前の通り、人手ではなく自己=データ自身から自動的に付与したラベルに基づき、学習を行います。現場でのAI活用時に最初に直面する「データ不足」という課題への貢献が期待される技術の一つです。

中でも、最近注目を集めているNon-Contrastive Learning系の既存研究に、SimSiamという手法があるのですが、そのSimSiamとマルチモーダルな変分推論(Variational Inference)との関係性を理論的に証明しました。それにより、SimSiamで考慮されていなかった画像やデータの特徴量の不確実性を考慮しながら、自己教師あり学習を行えるようになった、という点が本手法の最大の貢献になります。

私も共著の岡田さんも、研究と並行して、社内の分析案件を多数担当しているのですが、「データが少なくて、なかなか学習がうまくいかない」という案件が事業分野を問わず非常に多いのです。そのような現場の課題、ニーズに幅広く応用できる可能性がある技術だと考えています。

ベースのところは…岡田さんですよね。

はい。私は主にロボットの強化学習に取り組んでおり、その中で自己教師あり学習の強化学習応用を検討していました。自己教師あり学習の論文を色々と眺める中で、数式やアルゴリズムに関する疑問点が生じたのですが、どちらかというと経験則で取り組んでいる論文が多く、理論的な裏付けが不十分な印象を受けた…というのがことの発端です。自分なりに検討を進めると、もともと私が得意としている確率推論の話と繋がることが分かり、その結果、今回の論文のベースとなる理論的な裏付けができた、という感じです。

岡田さんのアイデアが出てから、若干お漬物状態になった時期があったと思うんですよね。タイミング逃してしまったらもったいないな、面白い話なのに…、と思った時期が結構長くあったんですが、中村さんが来て手を動かしてくれて、ようやく形になりましたね。

中村さんが画像系出身なので、画像系の社内案件は私が中村さんと組んで進めることが多かったんです。本提案の理論的な裏付けが出来た段階で、一人では難しいなと思って、中村さんにお声がけしたという経緯ですね。

岡田さんらしさ爆発というか、俯瞰的に（技術の）見通しをよくできたところですね。見通しを変えると、一般化ができて、そこで少し改善できそう、というところが見つかる。そして動かした結果、より良い提案になる。そこが実験的にも証明できたのがよかった。

岡田さんは強化学習の専門家っていうラベルを貼られてますけど、どっちかっていうと、不確実性(uncertainty)の取り扱いっていうのが一つポイントやと思うんですよね。今回もSimSiamで扱ってこなかった不確実性を組み込むというところを綺麗にやれているところ、見方を変えることによって、自然に導出されたというところが、大変面白いと思います。

今回の話って、中村さんがCV(Computer Vision)バッググラウンドのまま進んで、パッと思いつく流れの話とは、ちょっと違うんじゃないかと思うんです。岡田さんの視点がエッセンスとして入っている。でも、そのエッセンスを出せる人間がいても、ビジョンのバックグラウンドがある人がきちんとインプリ（実装）をして、評価できないといけない。手を動かして、いろんなデータセットで評価、整理していくところは、CV分野でしっかりトレーニングされただけのことはあるなと感じました。今後が楽しみですね。

僕の勝手な認識やけど、CV分野は機械学習の理論的な一般化とかから入るのではなくて、まず目の前の問題に工夫の積み重ねで勝負してでもパフォーマンスをあげようとする雰囲気傾向がある気がします。あくまで全体としての雰囲気ですが。そういう意味で、まさにCV分野のパワーがある所にセオリーが入ってきて、面白い論文になったんじゃないかと思っています。こういうところが、REAL-AI（※本取組の中心となっている社内研究グループ）のいいところなのかもしれないですね。部署・分野横断の取り組みだからこそ、こういった相互触発が起こるような気がします。

僕がクロスアポイントメント制度でパナソニックに入った2017年、部署に縛られない柔軟な組織として立ち上がりました。現在では、Bringing the gap, Reaching the TOPというスローガンの下、パナソニックグループ全体への技術展開と、トップ会議レベルへの到達の両方を使命にして活動を展開しています。

企業の研究発表って、国内会議ではよく見るけれど、トップカンファレンスは視察だけ…という印象がありました。でも、どのレベルのどの学会に出すのか、これが実は、企業にとってすごく重要だと思うんです。特に、AI分野にはトップカンファレンス文化がある。先端技術情報を収集する場というだけでなく、そこで出していくことが、採用や新人のモチベーション、諸々のレピュテーションに効いてくるのが明白なんですね。研究所の役割として、現場に展開できる技術開発と、人材育成に加えて、そういったレピュテーションの確保があると思っていますので、始めるにあたっては、中途半端にやるよりは、落ちてもいいから高い目標を狙う方向に意識を揃えました。

トップカンファレンスに通そう、という空気がだいぶ醸成されてきたと思います。

今回中村さんが筆頭で書けたし、ICRA, IROSにも岡田さん、奥村さんが継続して論文を通していて、確実に広がってきていますね。成果が出た取組を、その周りのメンバーに展開して、2本目3本目を考えられるようになってきている。研究を引っ張れる人が一人いると、その人との相互作用で別の人がレベルを上げていき、次はその人が別の新人と絡んで戦える。良い感じに広がってきています。とはいえ、いきなりトップを狙うと、ポテンシャルがある人でも初手が難しいので、国内会議で経験値をつけてから、次を狙う形を取っています。去年、国内会議で発信した内容を、ロボティクス系のメディアに取り上げて頂きました。パナソニックがやると大学の研究者がやるよりも、メディアが見てくれる強みを感じましたね。

岡田さんが理論的に証明された内容を実装、実証しようと頑張っていたんですが、なかなか精度が出なくて…。色んな論文を読んだり、岡田さんの過去の手法を参考にしたり、2-3ヶ月ひたすら試行錯誤したのが一番大変でした。

理論を体系化してから、しばらくは自分で手を動かしていたんですが、今振り返るとあさっての方向というか…うまく検討が進まず手詰まってしまったことですね。中村さんと組んだことで、良い感じの提案が出て、結果に繋がったので良かったです。

岡田さんがせっかく良いアイデアを考えたのに、別の（社内）案件がいろいろ入ってきて、止まったところですね。「REAL-AIあるある」ですけど…。

中村さんは入社三年目ですが、今回国際会議に出したことで、さらに若手の後輩からの見る目が変わったと実感していると思います。後輩たちのキャリアモデルとなり、その後輩たちが成果を創出するという好循環を生み出すという観点で、国際会議投稿に挑戦するのは意義があると思います。

トップ会議に出すという戦略は、時にはアカデミアの方がやりにくいんですよね。税金からの補助金で研究やっているので、多少レベルを落としてでも、論文を量的に出さないといけないというプレッシャーもある。博士課程の学生は学位を取る為に、ジャーナル、国際会議に一定数アクセプトされる必要があり、ハイリスクなトップ会議って本人が相当優秀であったり、特別に恵まれた環境でないと狙い続けにくいところもあるんですよ。現実問題として。

一方、パナソニックの研究開発の根底にあるものは、圧倒的に、事業貢献とお客様へのお役立ち。トップレベルに挑戦し続けるほうが、メリットがあるなら、リスクがあっても挑戦し続けた方がよい。高みを目指し続ける活動による人材育成や、レピュテーションの向上といったメリットが明確にあるわけです。

レピュテーション視点で言うと、2nd Tier, 3rd Tierの学会に何本も通るより、NeurIPSとかCVPRとかに出して話題になる方が、パナソニックにとってメリットがあると思うんです。だから、僕の認識では、アカデミアにいる学生よりも研究者よりも、パナの方が相対的にリスクテイクできるんですよ。異論あるかもしれないですけど。

書いてる時に谷口先生が絶対いけるみたいなことを言っていたので、おおー、言った通りになったな～、と思いました。

実は昔、4週間インターン生として来られていた中村さんのメンターを、私が担当していたんです。その時、中村さんに学んでいただいた内容が、不確実性に関係した内容で…まさか数年後に一緒に論文を書くことになるとは思ってもみませんでしたが、今回のことにずっと繋がってきたんだなと感慨深いです。

伏線回収。笑

笑

課題が、実案件から湧いてくるところですね。実務から得られる発想が、課題提起という面で生きていると感じます。

刺激的な研究に一緒に取り組んで、トップレベルの会議に挑戦できるのがいいですね。REAL-AIには様々なバックグラウンドのメンバーが自由に入ってきます。一昨年BlackHat Europeに採択されましたが、セキュリティ分野で成果が出せるとは思ってもみなかった。これまでも分野をまたいで活動することはあったんですが、他の分野に踏み込んでいくことは一人ではできないので、そこを一緒にできるのは楽しいですね。

実案件に今回学んだことを生かしていきたいです。そして、実案件で得た知見をまた、研究に生かしていければと思っています。

今回の論文の貢献は、自己教師あり学習という技術を俯瞰的に捉え直したところにあります。その俯瞰的な視点から、新しい技術や手法をさらに量産できると考えているので、論文や新技術を量産し、最終的には事業貢献に繋げられるよう、色々と展開していきたいです。

今回、Multimodal VAEと、自己教師あり学習を繋げて、間に橋を掛けたんですよね。違う分野に橋をかけたら、その間で学問的な「貿易産業」が始まるんです。Multimodal VAEのこの手法は自己教師あり学習にするとどうなるんだろう、とか、自己教師あり学習のこの手法を、Multimodal VAEにしたらどうなるんだろう？とか。こういった貿易産業をもっと発展させて、盛り上げていきたいですね。