InfoQ ホームページ Natural-Language-Processing に関するすべてのコンテンツ
-
OpenAIが1,750億のパラメーターを持つGPT-3 AI言語モデルを発表
OpenAIの研究者チームは最近、1,750億のパラメーターを備えた自然言語のディープラーニングモデルであるGPT-3を説明する論文を発表した。これは、前のバージョンのGPT-2の100倍である。モデルは約5兆語で事前トレーニングされており、微調整することなくいくつかのNLPベンチマークで最先端のパフォーマンスを実現する。
-
Google AIがCOVID-19の文献調査を支援するNLU搭載ツールを発表
Google AIはCOVID-19 Research Explorerをリリースした。これは、COVID-19 Open Research Dataset上にセマンティック検索インターフェースとして提供される。これにより、科学者と研究者がデータセットのすべての雑誌論文と前刷りを効率的に分析できるようになる。
-
Facebookの最先端チャットボットBlenderがオープンソースに
Blenderは、FacebookのAIおよびマシンラーニング部門であるFacebook AI Research(FAIR)が開発した、オープンドメインのチャットボット(chatbot)だ。FAIRによると、複数の会話スキルをブレンドすることを学習した初めてのチャットボットであり、共感を示したり、ほぼ任意のトピックについて議論したりすることが可能で、人間である評価者によるテストにおいてGoogleのチャットボットを凌駕したという。
-
Googleが効率的ディープラーニングモデルのReformerをオープンソース化
Google AI研究者チームは先頃、Transformerディープラーニングモデルの効率改善バージョンであるReformerをオープンソースとして公開した。アテンション(attention)の計算にハッシュ技術を使用し、Reversible Residual Layer(可逆的残差レイヤ)を採用することにより、Reformerは、100万ワードのテキストシーケンスを16GBのメモリと単一のGPUアクセラレータのみで処理することが可能である。
-
BaiduがERNIE 2.0をオープンソース公開、自然言語処理タスクでBERTを上回る
先日のブログ記事で、中国の検索エンジンと電子商取引の巨人であるBaiduは、ERNIE 2.0と呼ばれるオープンソースの自然言語理解フレームワークを発表すると同時に、最新技術(SOTA)達成の成果、さらには中国語と英語による16のNLPタスクにおいて、GoogleのBERTやXLNetなど、既存のフレームワークをパフォーマンスで上回ったことを公開した。
-
Googleが自然言語処理用のTensorFlow.Textライブラリをリリース
Googleは、TensorFlowディープラーニングプラットフォーム用の新しいテキスト処理ライブラリであるTensorFlow.Textをリリースした。このライブラリにより、トークン化などのいくつかの一般的なテキスト前処理アクティビティをTensorFlowグラフ計算システムで処理できるようになり、自然言語処理のためのディープラーニングモデルの一貫性と移植性が向上する。
-
OpenAIはより長いシーケンスのディープラーニングのためのSparse Transformersを発表
OpenAIは、テキスト、音声、画像などの一連のデータを学習するためのディープニューラルネットワークアーキテクチャであるSparse Transformerを開発した。ネットワークは、より短いトレーニング時間で、いくつかのディープラーニングタスクにおいて最先端のパフォーマンスを達成できる。
-
Condé Nastの自然言語処理とコンテント分析に関するQ&A
2015年の始めにCondé Nastは、自社の22ブランドにわたって作成されたコンテンツに関わるメタデータ改善を目的として、自然言語処理およびコンテンツ分析のエンジンを開発した。新システムによって、クリック率が30％向上したという。Condé Nast USでテクノロジマネージャを務めるソフトウェアエンジニアのAntonino Rau氏に、このHALと命名されたNLP・アズ・ア・サービスの進化について話を聞いた。
-
GoogleがML Kitを拡張し、Smart ReplyとLanguage Identificationを追加
最近のAndroidブログ記事で、GoogleはML Kit向けの2つの新しい自然言語処理（NLP）機能のリリースを発表した。言語識別とスマートリプライである。どちらも、Googleは、開発者がテキスト、会話、その他の種類の自然言語テキストを分析および生成するのに役立つ、ドメインに依存しないAPIを提供している。
-
AWSがAIサービスの機能強化を発表
Amazon Web Services（AWS）は3つのAIサービス（Amazon Comprehend、Amazon Rekognition、およびAmazon Transcribe）の新機能をリリースした。
-
FacebookがNLPモデリングフレームワークPyTextをオープンソース化
Facebook AI Researchは、ビデオ通話デバイスのPortalやFacebook Messengerの M Suggestionsで使用されている自然言語処理（NLP）モデリングフレームワークであるPyTextをオープンソースとして公開した。
-
Facebookが自然言語処理開発を促進するPyTextをオープンソース公開
先日のブログ記事でFacebookは、自然言語処理(NLP)システムで使用されているモデリングフレームワークのPyTextを、オープンソースとして公開すると発表した。PyTextはPyTorch上に構築されたライブラリで、実験レベルにあるプロジェクトの効率を改善し、大規模な実用システムとして展開可能にする。
-
業界におけるAI応用について、Christoph Windheuser氏とのQ&A
ハードウェア能力の増大と膨大なデータにより、パターン認識、自然言語処理、強化学習など既存の機械学習アプローチが実現可能になった。人工知能は開発プロセスに影響を与えており、バージョン管理、CI/CD、テストなどは複雑さを増している。
-
Googleが精度92％の話者ダイアリゼーションAI技術をオープンソース化
最近のブログ記事で、Googleは彼らの話者ダイアリゼーション技術をオープンソース化したと発表した。それによって人々の声を高い精度で区別することができる。Googleは、複数の参加者を含むオーディオストリームを参加者ごとの同種のセグメントに分割することでこれを実現できる。
-
AWS Marketplace、機械学習アルゴリズムとモデルパッケージを提供
Amazon Web Servicesは、機械学習アルゴリズムとモデルパッケージをAWS Marketplaceで提供することをAWS re:Invent Conferenceで発表した。