SEが最近起こったことを書くブログ

ITエンジニアが試したこと、気になったことを書いていきます。

2024年3月18日の週に気になった記事などまとめ

Evaluating Large Language Model (LLM) systems: Metrics, challenges, and best practices

medium.com

  • LLMシステムの評価方法についてまとめた記事

Grok-1

github.com

Advanced RAG Series: Retrieval

div.beehiiv.com

  • Retrievalのテクニックについて紹介した記事

An End-to-End Framework for Production-Ready LLM Systems by Building Your LLM Twin

medium.com

  • データ収集からLLMOpsのグッドプラクティスを使用したLLMシステムのためのフレームワーク紹介の初回記事

RAFT: Adapting Language Model to Domain Specific RAG

arxiv.org

  • 質問に答えるのに役に立たない文書を無視するようにモデルをトレーニングする手法の紹介
  • これにCoTスタイルの応答を組み合わせることで、推論能力が高まる

Android端末でOpen Interpreterを使用する方法

hamaruki.com

ChatGPTを活用してサーキュレーターの異常検知をやってみた!

qiita.com

クラウドサーバーでのAI学習手順【AWS編2024年版】

zenn.dev

どのような場面で多重比較補正が必要なのか

tjo.hatenablog.com

RAGの実装戦略まとめ

qiita.com

  • ベクター計算は固有名詞を含む単語の影響が薄くなる

LangGraph を用いた LLM エージェント、Plan-and-Execute Agents の実装解説

tech.algomatic.jp

  • LangChainに基づいたエージェント作成方法を紹介する記事

作って学ぶ日本語大規模言語モデル

docs.google.com

LLMLingua-2: Data Distillation for Efficient and Faithful Task-Agnostic Prompt Compression

arxiv.org

  • タスクの精度を維持したまま、プロンプトを2~5倍圧縮する手法の提案

くふうカンパニーグループの "AX" は 1 年でどこまで進んだか

note.com

Swallow-MX 8x7b NVE v0.1 を ELYZA-tasks-100 で評価してみた

qiita.com

  • k-quant 量子化モデル (GGUFフォーマット、q4_K_M)をllama.cppで評価した

Evolving New Foundation Models: Unleashing the Power of Automating Model Development

sakana.ai

他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50%以上 イスラエルの研究者らが発表

www.itmedia.co.jp

RankPrompt: Step-by-Step Comparisons Make Language Models Better Reasoners

arxiv.org

  • LLM自身によって、回答を再ランクづけさせることで、推論タスク能力を向上させるプロンプト手法が提案された論文

aws.amazon.com

  • DynamoDBがPrivate Linkに対応した

Azure OpenAI Developers セミナー第 3 回

www.youtube.com

コスト最適化by オーナーシップ ~俺たちはQuick Winで満足しない~

speakerdeck.com

  • 予約割引を実施すると、リソース最適化しない場合があるので、注意
  • コスト最適化に貢献したことを評価する

ao-Karasu:最先端の72B日本語LLM開発

note.com

  • Qwen 1.5 72B ChatモデルをベースにLoRAで学習した
  • 独自に構築した大規模データセットをつかった

LLM開発のための環境構築

zenn.dev

SakanaAI EvoLLM-JP-v1-7Bを試した。これからのマルチモーダルAIに必要なデータについて

note.com

ChromeDBとBeluuuuuuga/Japanese-Instruction-Linux-Command-169を使って質問に対する適切なLinuxコマンドを探すRAGを構築する

ayousanz.hatenadiary.jp