最近の表現学習国際学会（ICLR）で、Google、Microsoft、IBM、Facebook、Amazonなどのいくつかのテクノロジー企業の研究チームが、ディープラーニングに関連するさまざまなAIトピックに関して、合計860件のうち250件近くの論文を発表した。
会議は5月初旬にオンラインで開催された。受け入れられたすべての論文について、事前にビデオが録画されたこと加えて、ライブトークとQ&Aセッションの「24時間」プログラムが特徴的であった。4日間の会議のそれぞれの日で、技術をリードしている深層学習研究者からの2つの招待講演が行われた。ほとんどの論文は学界からのものであったが、多くの突出したハイテク企業がAI研究者によって表されていた。Googleは100以上の論文を寄稿しており、いくつかの最優秀論文賞を受賞している。また、Microsoftは53、IBMは35、Facebookは23、Salesforceは7、Amazonは4の論文を発表している。
ICLR会議は、ディープラーニングとしても知られる「表現学習と呼ばれる人工知能の分野の進歩に専念する専門家の最高の集まり」である。今年の第9回会議は、COVID-19のパンデミックのため、昨年と同様に仮想イベントであった。会議の主催者は、昨年の仮想イベントの開催から多くのことを学んだため、今年のイベントは「非常にスムーズに進んだ」と述べた。今年の会議には、2020年の2,604件に比べて、3,014件の提出があり、昨年の5,622件と比べて60か国以上から6,194件の登録があった。1週間にわたる会議中に、ライブストリームは16,624回の視聴があった。紙のプレゼンテーションとワークショップに加えて、会議では、参加者が特定のAIトピックや「一般的な研究生活」について話し合うことができるアドホックな仮想メンタリングセッションが行われた。
Google AI ResearchとGoogleの子会社であるDeepMindの研究者は、100を超える論文を寄稿し、最優秀論文賞の8人の受賞者のうち4人を占めている。DeepMindの論文の1つであるEigenGame: PCA as a Nash Equilibriumが、DeepMindブログで取り上げられた。その論文ででは、主成分分析（PCA）など、古い問題を解決するための新しい競争力のあるマルチエージェントアプローチについて説明されている。論文の著者は次のように述べている。
私たちは、マルチエージェントの観点によって、最新の計算リソースを利用した新しい洞察とアルゴリズムを開発できることを発見しました。これにより、以前は計算量が多すぎたであろう大規模なデータセットにスケールでき、将来の調査のための以前にものに代わるアプローチを提供します。
他にもいくつかの大手テクノロジー企業も論文を寄稿した。Facebookの従業員によって約24のコラボレーションが行われた。例えば、Facebook Reality Labsで取り組みを説明するNeural Synthesis of Binaural Speech From Mono Audioで最優秀論文賞を受賞している。Microsoftの研究者によって53の論文が寄稿された。例えば、BERT言語モデルに関する何回かのイテレーションとビデオおよび画像処理に関する複数の論文がある。これらの企業の多くは、コンテンツの提供に加えて、イベントのスポンサーでもある。Google、Facebook、Microsoft、Amazon、Intelは「プラチナ」レベルのスポンサーである。Intelは8件の論文、Amazonは4件を寄稿した。Apple、IBM、Salesforceは「ゴールド」スポンサーであり、IBMは35件の論文を、Salesforceは7件を発表した。
会議についての議論の中で、スタンフォード大学AIラボのディレクターであるChristopher Manning氏は、提出された論文で最も人気のあるキーワードを示すグラフをツイートした。彼は、グラフが次のことを示していると述べた。
強化学習の驚くべき台頭！（グラフニューラルネットワークとメタ学習を熱心に追求しています。ConvNets？古いですよ。）
会議論文の多くは、そこで使用されているコードとともに、Papers with Codeで入手できる。紙のプレゼンテーションのビデオはSlidesLiveで閲覧できる。