SEが最近起こったことを書くブログ

ITエンジニアが試したこと、気になったことを書いていきます。

AI ToolkitのモデルでClineを動かす方法

AI Toolkitのローカルで稼働しているモデルでClineを動かそうとしたところ、Model IDの設定時にはまったため、メモ

手順

  • まず、VS Code拡張機能でAI Toolkitをインストールする
  • 次にカタログが使いたいモデルをインストールする
  • Model IDを確認する
    • AI Toolkitのメニューから「MY MODELS」→「Local Models」→「インストールしたモデル」で右クリック→「About This Model」を選択する
  • 新しく開いたタブ名が「プレビュー xxxxxxxx-README.md」となっていて、xxxxの部分がModel ID
  • Clineの設定から「OpenAI Compatible」を選択する
  • Base URLに「http://127.0.0.1:5272/v1/」を入力する
  • API Keyにはなんでもよいので文字入力する
  • Model IDにはタブ名で確認したModel IDを入力する

参考情報

learn.microsoft.com