BT

最新技術を追い求めるデベロッパのための情報コミュニティ

寄稿

Topics

地域を選ぶ

InfoQ ホームページ ニュース HelixML、Helix 1.0のリリースを発表

HelixML、Helix 1.0のリリースを発表

原文リンク(2024-09-09)

HelixMLは、生成AIのためのHelixプラットフォームがバージョン1.0で製品化準備が整ったことを発表した。このプラットフォームは「プライベートGenAIスタック」と称され、様々な大規模言語モデル(LLM)に接続できるインターフェース層とアプリケーションを提供する。このプラットフォームは、ラップトップ1台からアプリケーションのプロトタイプを作成でき、すべてのコンポーネントがバージョン管理されているため、有効性が証明されたアプリケーションのその後の展開や拡張が容易である。また、LLMの非決定論的な領域では、テストの代わりとして(eval)が重視されている。

Helixは2023年12月に立ち上げられ、欧州連合(EU)の規制への準拠を懸念するドイツの企業との間で初期の牽引役を果たした。(オープンソースAI革命):規制はどのように企業の生成AIを作り変えているかと題された「Vision」ブログ記事の中でのHelixMLの共同設立者兼CEOのLuke Marsden氏は、「機密データが米国拠点のサービスプロバイダーと共有されるのを避けるために、オープンソースモデルは、ローカルで実行することができる」と説明している。彼はさらに、このようなモデルは現在、ちょっと前の最先端の独自モデルと同様の機能を提供しているため、多くのユースケースにおいて、データ制御を犠牲にすることなく、同様のパフォーマンスを達成することが可能だと指摘している。

モデルのファインチューニングを容易にすることを目指したHelixMLチームは、それが顧客にとってあまり関心のないことであることを発見した。主に、同じ結果をより迅速に達成する方法として検索拡張生成(RAG)が支持されているためだ。そのため、Helix 1.0にはRAG機能が搭載されている。Luke Marsden氏はこう言う。

ファインチューニングが復活するのはもっと先のことで、大規模な汎用LLM(例えば70B)を使用する特定のシステムを最適化し、3BでファインチューニングされたLLMを 「蒸留 」することで、コストをあまりかけずに本番トラフィックまでスケールアップできるようにしたい人が出てきたときだと思う。私たちは引き続き製品のファイン・チューニングをサポートしており、私たちはそこに到達するだろう・・・

Marsden氏はプラットフォームの実装の詳細(アーキテクチャ、インターフェース層、アプリケーション、基礎となるLLMの選択)を説明する「製品」ブログ記事また、「製品」ブログポスト「Helix 1.0の発表 - 真摯な人たちのための安全なローカル生成AI」も公開している。このプラットフォームはGo言語で書かれており、コンテナのセットとしてデプロイされるため、デプロイとオペレーションについて確立された業界標準に適合している。

GenAIベースのアプリケーションのための統合ミドルウェアを構築することで、Helixは、インフラやトレーニングモデルの構築といった、この分野の高コストな部分に関与する側面に必要がない。しかし、Griptapeのような競合他社も同じようなことを売りにしているため、彼らには自分たちだけのスペースはない。Marsden氏は、2025年の冷静な予測で「ビジョン」を締めくくっているが、長期的には楽観的な見解を示している。

そう、生成AIには幻滅のくぼ地が訪れるだろう。しかし、幻滅のくぼ地を乗り越えれば、生産性の台地がやってくる。生成AIは単なる数学的モデルであり、モデルは学習データを超えて一般化できない。このようなものが世界を征服することはない。能力は頭打ちになるだろう。とはいえ、超人的スケールの知識処理能力は、ビジネスの世界を良い方向に変えるだろう。

作者について

この記事に星をつける

おすすめ度
スタイル

BT