GitHubは、開発者がGitHubツールエコシステム内から様々なAIモデルを探索し、Azure AIを使用してAIベースのサービスを簡単にデプロイできるようにすることを目的とした無料の機能、GitHub Modelsを発表した。GitHub Modelsにはプライベートモデルとパブリックモデルがあり、現在はクローズドプレビュー版となっている。
GitHub Modelsは、開発者がプロンプトをテストし、モデルのパラメーターを微調整できるプレイグラウンドを提供する。モデルを使うには、GitHub Marketplaceにアクセスし、Meta-Llama-3-70B-Instructのように使いたいモデルを選択する。モデルのページでは、始め方の詳細や、そのモデルに関連するレート制限を検査ができる。プレイグラウンドでは、あるモデルから別のモデルに切り替えて、その動作を比較することも簡単にできる。例えばGitHubでは、開発者がGPT4oを使ってプロンプトを定義した後、Phi-3 miniのような軽量モデルに切り替えて、同じプロンプトでどのように動作するかを確認するシナリオを説明している。最後に、結果に満足したら、GitHubトークンをAzure認証情報に置き換えることで、モデルをAzure AIに直接デプロイできる。
GitHub ModelsプレイグラウンドはGitHub Codespacesとも統合されており、開発者は結果に満足したら、プレイグラウンドから直接新しい設定済みのCodespace環境を立ち上げることができる。Codespacesとの統合は、いくつかの言語をサポートするAzure AIですでに利用可能な既存のSDKに依存しているようだ。生成されたコードスペースは、GitHubアカウントに付属するエンタイトルメントを使用する。つまり、APIキーを追加したり、他のサービスにサインアップしたりする必要はなく、サポートされているAIモデルのどれでも簡単にコーディングを始めることができる。
この新機能はGitHub CLIとも統合されており、ユーザーはサポートされているモデルの1つに対して指定されたプロンプトをrunし、その結果をターミナルで確認できる。runコマンドは、他のgitコマンドと組み合わせることができる。例えば、あるリポジトリの最後のコミットをまとめるには、次のように使うことができる。
git log -n 10 | gh models run phi-3-mini-4k-instruct "Summarize this commit history. Use max 1 line per commit"Hacker News のコメント欄には、Azure AI Studio と密接に関連しながらも、GitHub Models には Azure AI Studio のエンタープライズレベルのセキュリティ機能に由来する制約がないという利点があると指摘する人が何人かいた。これらの機能により、GitHub Modelsは認証が面倒になり、サポートされるモデルのバージョンという点では競合プレイグラウンドに遅れをとっている。一方で、Azure AIにアップグレードすることでしか有料の階層を利用できないという批判もある。
発表時点では、GitHub ModelsはLlama 3.1、GPT-4oとGPT-4o mini、Phi 3、Mistral Large 2などをサポートしている。サポートされていないのは、ユーザーがカスタムモデルをアップロードして実行する可能性だ。最後の注意点として、GitHubによると、プロンプトや生成された出力はモデル提供者と共有されることはなく、モデルのトレーニングや改良に使用されることもない。