SEが最近起こったことを書くブログ

ITエンジニアが試したこと、気になったことを書いていきます。

2024年5月6日の週に気になった記事などまとめ

GPUなサービスをそこそこな費用で運営する

torpid-stem-c48.notion.site

基本に立ち戻る:LLMのプロンプト

nikkie-ftnext.hatenablog.com

LLMをWebフレームワークにしたら、未来が見えた #2024

zenn.dev

  • 以下2つのアプローチを試している
    • APIの呼び出し毎に状態の変化を記録させ、それを全部プロンプトに突っ込むアプローチ
    • ToolアプローチでSQLの実行もできるようにしたアプローチ
      • llama3 8bで実装

次世代Web認証「パスキー」

speakerdeck.com

LLM にプロンプトチューニングをしていただく手法まとめ

zenn.dev

  • DSPy Optimizersは、プロンプトに対してたくさんのInput/Output Example集と自動評価関数を作り、評価が最も高くなるようなFew showの組み合わせを探す

LLMプロダクト開発における独自評価基準とデータセットの作り方の考察

zenn.dev

  • アウトプット例があったほうが具体的なイメージのすり合わせなどに利用できる
  • プロダクト要件はポジティブな要求とネガティブな要求に分かれる
  • LLM Appsの評価についての参考文献が多数記載されているなど非常に参考になる

Weekly AI Agents News!

speakerdeck.com

LLMによるLLMの評価とその評価の評価について

zenn.dev

Difyをローカルで動かしてRAGまで試してみる

zenn.dev

SQL滅ぶべし

www.docswell.com

Common Crawlから作る大規模日本語コーパスとその前処理(Mixtral 8x7Bを語彙拡張継続事前学習 Part2)

tech-blog.abeja.asia

karakuri-ai/karakuri-lm-8x7b-chat-v0.1

huggingface.co

OpenAIのBatch APIを使ってお得にプロンプトを一括処理してみる

acro-engineer.hatenablog.com

Sakana.aiが公開した「Evolutionary Model Merge」手法を「mergekit」で実施してみる

acro-engineer.hatenablog.com

Google Cloud Next'24 にて Google Cloudの生成 AI エコシステムはなぜ良いのか?について発表しました

note.com

  • シンプルなSQLでBigQueryに保存されているメタデータを使って、生成AIを使える
  • BigQuery内でほぼパイプラインが完結する

Build generative AI applications with Amazon Bedrock Studio (preview)

aws.amazon.com

  • Bedrock Studioでアプリケーションを作成すると、ナレッジベース、エージェント、ガードレールなどに対応した管理リソースがAWSアカウントに自動的にデプロイされる

LLM時代のX情報収集術

note.com

Google Colab で 属性予測モデル KARAKURI LM 7B APM v0.1 を試す

note.com

  • helpsteer、oasstの属性予測できる

噂のノーコードAIシステム開発環境Difyを使ってツールを作ってみた。使った感想

note.com

「知的単純作業」を自動化する、地に足の着いた大規模言語モデル (LLM) の活用

speakerdeck.com

  • LLMは従来のプログラムでは細かすぎて作りこみ切れない文書処理に対応できる
  • LLMを活用すると「ニッチ」な領域でもDXを実現できる

Introducing the Model Spec

https://openai.com/index/introducing-the-model-spec/

  • OpenAIが望ましいモデルの動作を形成するためのアプローチとトレードオフをどのように評価しているかを示した文書を公開した

実務につなげる数理最適化

blog.recruit.co.jp

  • 最適化問題の定式化に必要な情報の多くは、日常的に特定の業務に従事している現場担当者にとって改めて話題にするまでもない常識
    • 優秀なコンサルタントが慎重なインタビューを重ねてもこれらの情報を引き出すことはなお困難

【論文紹介】複数トークン予測によるLLMの精度向上と高速化

note.com

日本語大規模言語モデル「Japanese Stable LM 2 1.6B」をリリースしました

ja.stability.ai

  • 16億パラメータという小型モデルでありながら、40億パラメータ以下のモデルのスコアよりも高いスコアを達成し、70億パラメータのモデルに近いスコアを獲得

GoogleColobでstabilityai/japanese-stablelm-2-instruct-1_6bを動かす

ayousanz.hatenadiary.jp

生成AIの力を借りて、爆速でChatGPTアプリを開発する

qiita.com

  • Azure Static We Appsで動かすアプリを生成AIで作成した記事

learn.microsoft.com

Assistants APIが画像認識に対応した

https://platform.openai.com/docs/assistants/how-it-works/how-it-works/creating-image-input-content

ノーコードLLM統合アプリのdifyでollamaと連携してみた

qiita.com

LLMを用いた合成データ作成事例をまとめてみたーNLP2024参加報告①

note.com

[05/03~05/10] 生成AI Weekly News

note.com

生成AI・LLMを用いて「あなた」にパーソナライズされたUIの実現を目指す「生成UI」の可能性

note.com

  • 生成UIとは、ユーザーのニーズやコンテキスト、行動履歴やプロファイルに合わせて、動的にインタフェースを生成するもの

Anthropic Consoleのプロンプトジェネレータの活用マニュアル|誰でも簡単にプロンプト生成ができる

note.com

LangChain v0.2 の概要

note.com

ローカルLLMはこーやって使うの💢

gist.github.com

  • 特殊トークンによるプロンプトインジェクション、尤度関数としての利用などが追加された

Microsoft 365 界隈のコミュニティの整理

office365labo.com

Getting Started with Mistral

www.deeplearning.ai

  • DeepLearning.AIのMistralのコース。
  • プロンプトエンジニアリング、Fucntion Calling、JSONモード、RAGなどが学べる

生成AIの論点

https://www.seikyusha.co.jp/bd/isbn/9784787235374/

jphrase 0.0.1

pypi.org

  • 日本語のテキストを文節に分割するライブラリ

言語モデルの編集に関する論文紹介

note.com

『生成AIカンファレンス2024』に現地参加したイベントレポート

note.com

データ基盤を支える技術

speakerdeck.com

実務で生成AIサービスを開発してわかったこと

zenn.dev