対話体験における生成系 AI の活用を探る: Amazon Lex, LangChain, SageMaker JumpStart による事始め
aws.amazon.com
- オープンソースLLMを使用するLexチャットボットを構築するソリューション
- QnA BotまたはLexをフロントとしたSageMaker Endpointに公開したLLMにリクエストを投げるソリューションを簡単に構築できる
RAGアプリにおけるプロンプトとtemperatureの応答品質への影響ほんとのところ
speakerdeck.com
- プロンプトやtemperatureを変更するとRAGアプリの回答にどのような影響があるかを確認した結果
RLHFを利用して用途に応じたLLMを生成できるツールの紹介
blog.brainpad.co.jp
- RLHFの導入を支援するツールの紹介
- TRL、trlX
- Argilla
- ファインチューニング実行だけでなく、ヒューマンフィードバックに必要なプロセス全体をサポートするプラットフォーム
- 学習に必要なデータセットの作成も作成もサポートしている
3カ月で26万回も利用された社内向け生成AI。さらなる利用拡大を図るパナソニックコネクト
pc.watch.impress.co.jp
- パナソニックコネクトのMicrosoft Azure OpenAI Serviceを活用したConnectAIを紹介した記事
- 3カ月間の利用回数は26万回、1日あたりで5,800回の利用実績
最近公開された日本語LLMを要約生成タスクで検証してみる
note.com
- 日本語LLMの見出し生成タスクでLORAチューニングし、性能検証した結果
- gpt-35-turbo、text-davinci-003とも結果を比較している
Introducing new and updated models to Azure OpenAI Service
techcommunity.microsoft.com
- Azure OpneAI Serviceでgpt-35-turbo (version 0613)、gpt-35-turbo-16k (version 0613)、gpt-4(version 0613)、gpt-4-32k(version 0613)の4つのモデルが利用できるようになった
- まだFunction Callingは利用できないが、このバージョンのモデルまもなく利用できる予定
- gpt-35-turboの価格がOpenAIと同じ金額になった
- モデルバージョンの自動更新か特定のバージョンを固定して使うかを選択できるモデルライフサイクルの機能がリリースされた
- 日本語まとめとしては、以下の記事が非常に分かりやすいです
