ディープラーニングおよび人工知能技術の進歩と挑戦

「ディープラーニングは何が得意で、なぜうまく働くのか」を明確にしておくことが重要である。
従来の機械学習が特徴空間に比例するパターン数しか識別できなかったのに対し、ディープラーニングが画期的なのは、分散表現のおかげで飛躍的に複雑なパターンをモデル化できる点だ。

ディープラーニングは、大量の計算資源や人間がラベル付けした大量のデータセットによって、学習データに含まれない新規のパターンを汎化できるという利点がある。これは実世界の既存の知識を利用した「構成性」"Compositionality"の原理によって実現されており、その利点はモデルアーキテクチャに織り込まれている。

構成性とは、複雑な概念はシンプルな個別の要素から構成されるという原理である。これは自然や自然発生するデータにほぼ普遍の原理のようである。たとえば、人間の言語では、複雑な概念は、よりシンプルな個々の単語から構成される文章によって表現される。自然画のシーンは複数のオブジェクトを含むサブ画像から成り、オブジェクトはパーツから構成される。Convolutional Neural Networkはこの構成性を利用して、ローカルな作用（畳み込み）の積み重ねにより画像を処理している。

ディープラーニングは、多くの技術の進歩や大規模データセット、計算機資源に加えて、この「構成性」がもたらした飛躍的なブレークスルーにより、音声認識、コンピュータビジョン、そして機械翻訳のような分野で大きな成果を上げてきた。

最近、ディープラーニングと強化学習の組み合わせが、コントロールだけではなく戦略とプランニングの領域でもうまくいくことが示されている。

たとえば、長い間のAIのグランドチャレンジであった、囲碁世界No.1の棋士との対戦に勝ったGoogle DeepMindのAlphaGoや、画像データで大量に学習させたコントローラでデモをおこなったNVIDIAの自動運転車などである。これらの例は、ディープラーニングがインプットの意味を理解するまでに発達し、それを適切な表現に反映させているということを示している。

当然、次のAIのグランドチャレンジは人間レベルの"常識"の学習ということになるであろう。人間レベルの常識の学習は、汎用人工知能を実現するための鍵であり、以前のAIでは一般的に不可能と考えられていたものである。この方向での最初の成果の一つは動画のキャプション自動生成であり、機械が獲得した分散表現を人間の言語に翻訳している。このことは、教師無し学習や言語の意味理解が進歩することにより、少なくとも限定された条件下において、常識の自動獲得が実現できる可能性を示している。

企業でのAI研究を成功させるためには、以下の2つの要素が必要である。

まず、成功しているAI研究部門の組織体制として、Google が買収したDeepMind、大学のチームから立ち上げられたFacebook AI Research(FAIR)、また営利を目的としないOpenAIのように様々なアプローチがある。

これらの組織の運営で類似しているのは、安定的な研究チームとオープンコラボレーションを提供して、長期に挑戦的なミッションにフォーカスしていることである。現在のAIのように競争が激しい環境で成功するには、中長期に安定した運営体制を確保することが必須である。
その次の段階でイノベーションを製品に引き継ぐためには、短期の予算獲得のプレッシャや直接のレポート体制を避けながら、事業部門と活発に交流をさせることが重要である。エンジニアとサイエンティストの快速な交流は、遅くて煩雑なレポート体制によってではなく、R&Dグループと製品グループが同じ建物にいることで生まれる。

２つ目の要素は、研究の進め方に関することである。世界クラスのAI研究プロジェクトは、企業や大学の多くの研究機関の協力で進んでおり、早期のソースコードや結果の公開が非常に重要なファクターとなっている。アイディアを保護するためには、研究成果やソースコードをarXivやGitHub等に早期に公開することが、特許出願に代わってコスト効果が高い手段である。価値ある研究を机の引き出しにしまったままにしておくことは、どの会社にとっても得にならない。なぜならその技術が受け入れられることはなく、開発が行き詰るからである。積極的に情報やソースコードを公開することが、今日の急速なAIの進歩の大きな要因となっている。AI分野の研究者がどんなに懸命に研究したとしてもオープンソースのエコシステムへの貢献なくして、成功を収めることはできない。