SEが最近起こったことを書くブログ

ITエンジニアが試したこと、気になったことを書いていきます。

2023年5月29日の週に気になった記事などまとめ

Scikit-LLM: Sklearn Meets Large Language Models

medium.com

  • Sikit-LLMを使うとscikit-learnのような記載方法で、ゼロショットのテキスト分類やベクトル化やテキストの要約ができる

LLM推論にGPUは1つでいい?FlexGenについてまとめてみた

blog.brainpad.co.jp

  • FlexGenについてまとめたブログ
    • FlexGenを使うとGPUを一つ積んだPCでLLMの処理が行えるようになる
    • GPU、CPU、ディスクを使ったオフローディングや4ビット整数への圧縮などにより実現

LangChainのJSON出力パーサー

note.com

  • LangChainのPydantic/JSON 出力パーサーを試したブログ

rinna、人間の評価を利用したGPT言語モデル強化学習に成功

rinna.co.jp

LEARN GENERATIVE AI Short Courses

www.deeplearning.ai

  • DeepLearning.AI社からLLM向けコースが追加公開された

Rinna-3.6B を llama.cpp で CPU 動作のメモ

zenn.dev

  • Rinnna-3.6BをCPUで動作させたメモ

【開催報告 & 資料公開】Generative AI(生成系 AI)へのアプローチ – 今、見直される AI 活用と変革を迎える生成系 AI 戦略

aws.amazon.com

  • 2023年5月11日にオンラインで開催された 「Generative AI(生成系 AI )へのアプローチ」の資料公開
  • 生成系 AI モデルを AWS で簡単に作成する方法と、生成系 AI の活用アイデアやシステム設計時に考慮すべき点などのセッション情報

Arxiv論文】Gorilla: 多様なAPI群に接続する機能特化型LLM

note.com

  • ネット上の様々なAPI機械学習モデルなどを活用するための機能特化型LLM:Gorillaの概要紹介とサンプルコードを動かした記事
  • LLaMA-7Bをファインチューニングしたモデル
  • ユーザー入力に対して適切なツールを選択し、プログラムの形式で出力
  • 機能特化することで、精度、ハルシネーション(Hallucination)の面でGPT-4等の既存モデルを大幅に上回る性能を発揮

生成 AI サービスの利用に関する注意喚起等について

www.ppc.go.jp

  • 個人情報取扱事業者及び行政機関等 における生成 AI サービスの利用に際しての個人情報の取扱いに関する注意点
  • 一般の利用者における生成 AI サービスの利用に際しての個人情報の取扱いに関する留意点
  • 要配慮個人情報の取得及び利用目的の通知等についての注意喚起