SEが最近起こったことを書くブログ

ITエンジニアが試したこと、気になったことを書いていきます。

気になったものまとめ

2024年4月15日の週に気になった記事などまとめ

ゼロから始める自作LLM 小さなLLMを多数組み合わせることで、単一の巨大モデルに匹敵する可能性 コンテナ使うならAzureで決まり!個人的推しサービスのAzure Container Appsを語る_ ML system design: 300 case studies to learn from GUIと日本語環境が使え…

2024年4月8日の週に気になった記事などまとめ

Building a RAG Pattern chat bot with Azure OpenAI and LangChain.js | Azure Developers JavaScript Day Azure 技術資料インデックス AWS 初学者向けの勉強方法 6 ステップ!2024 年版! 【論文要約】Jamba: A Hybrid Transformer-Mamba Language Model【…

2024年4月1日の週に気になった記事などまとめ

10bクラスの大規模言語モデルが、ファインチューニングを経てタスクを解けるようになるメカニズムを探るメモ XZ Utilsの脆弱性 CVE-2024-3094 についてまとめてみた Google Colab で BAAI/bge-reranker-v2-m3 を試す ローカルLLM : 最近作成したデータセット…

2024年3月25日の週に気になった記事などまとめ

退屈な論文調査はAIにやらせよう ― arXivとChemRxivからの論文自動抽出&要約LLM: PaperBot君の紹介 NLP2024に参加してきました! Google Colab で EvoLLM-JP を試す Google Colab で RakutenAI-7B を試す MetaGPTを動かしてみた Generative AI for Beginners…

2024年3月18日の週に気になった記事などまとめ

Evaluating Large Language Model (LLM) systems: Metrics, challenges, and best practices Grok-1 Advanced RAG Series: Retrieval An End-to-End Framework for Production-Ready LLM Systems by Building Your LLM Twin RAFT: Adapting Language Model t…

2024年3月11日の週に気になった記事などまとめ

0.1-1B程度の日本語・大規模言語モデルを作る練習日記 Swallow on mistral Swallow-MX: Mixtral日本語継続事前学習MoEモデル Azure AI Searchを使ったマルチモーダルRAGの実現 LLMOpsを推進!Azure Log Analyticsを活用したLLMの継続的な監視と改善 Retrieva…

2024年3月4日の週に気になった記事などまとめ

Awesome-Graph-LLM 先日リリースされたGitHub Copilot Enterprise の最速レビュー!〜進化したGitHub Copilotを使ってみた〜 あなたのRAGは、回答型?それとも検索型? webbigdata/C3TR-Adapter Introducing the next generation of Claude [TU-B-1] LLMと音…

2024年2月26日の週に気になった記事などまとめ

Open TTS Tracker kunishou/J-ResearchCorpus WSL2でgpt2-large-japanese-charを試してみる Python Risk Identification Tool for generative AI (PyRIT) Same Task, More Tokens: the Impact of Input Length on the Reasoning Performance of Large Langua…

2024年2月19日の週に気になった記事などまとめ

仕事で差をつけるChatGPT活用術。初心者でも使えるテクニックを達人に聞く 論文検索GPTs6選+純正ブラウジング(Bing)の比較 マルチモーダルLLM時代のベンチマークから見たGPT-4VとGeminiの比較 Power Query でクエリを関数化する方法 KARAKURI LM を ELYZA-…

2024年2月12日の週に気になった記事などまとめ

Google Colab で LLM-jp 13B v1.1 を試す 大規模言語モデルの構築の事前学習に使えそうなデータセット(主に日本語系)の整理メモ Top Evaluation Metrics for RAG Failures Agent AI: Surveying the Horizons of Multimodal Interaction Self-Discover: Large…

2024年2月5日の週に気になった記事などまとめ

HuggingChat: ローカルLLM用モデルを試せて、アシスタントも作れるサイト GPT4-Vで構成図からIaCコードを生成させる Metaなどの研究者らが、LLMが自分自身に報酬を与える「自己報酬言語モデル」を開発 アナリティクスエンジニアのキャリアとデータモデ…

2024年1月29日の週に気になった記事などまとめ

MM-LLMs: Recent Advances in MultiModal Large Language Models google/siglip-base-patch16-256-multilingual を使って、ローカルの画像を日本語で検索してみる LangCheckでLLMの回答を自動評価する OpenAIの新embeddings,text-embedding-3-smallをRAGタス…

2024年1月22日の週に気になった記事などまとめ

GoogleのマルチモーダルAI「Gemini Pro Vision」は、動画についてどこまで正しく答えられるか? NTT、少ないデータから特定個人の声や口調を再現する技術を開発。大規模言語モデル「tsuzumi」に搭載 A Cheat Sheet and Some Recipes For Building Advanced R…

2024年1月15日の週に気になった記事などまとめ

Self-Extendでfine-tuningせずに長文コンテキストを扱おう AIと著作権に関する考え方について(素案)令和6年1月15日時点版 Survey of Vector Database Management Systems LLMにおける情報抽出(文章から必要な事柄を読み取る)タスクについての調査 コスト…

2024年1月8日の週に気になった記事などまとめ

Advanced RAG Techniques: an Illustrated Overview Retrieval-Augmented Generation (RAG):Paradigms, Technologies, and Trends プロンプトの原則26ヶ条をまとめた報告 LangChain v0.1.0 社長(AI)に頼んで今度こそ商用利用可能な日本語マルチターン会話デ…

2024年1月1日の週に気になった記事などまとめ

元旦なので社長(AI)にElyza13Bを使ってクリーンで自由な会話データセットを作ってもらってみた Large Language Models for Generative Information Extraction: A Survey OpenAI Assistants APIを使って社内用GPTsを作った際に苦労した5つの点 Google Colab …

2023年12月25日の週に気になった記事などまとめ

無料 GPT-4 アプリを活用した Instruction データセット作成の取り組み 機械学習におけるEDAって結局何するの? Vertex AI Gemini ProとLangChainで実現するMultimodal RAG 23/12/25 覚醒したguidanceを使ってローカルLLMからノイズの無い生成してもらい、4…

2023年12月18日の週に気になった記事などまとめ

AI Lab、官公庁・自治体向けに生成AIを活用したチャットボットの実証実験を開始 わずか2行のプロンプトでも実効性のある新しいアライメント手法『URIAL』 品質要件が厳しいLLMアプリケーションのトライアル評価を通じて得た知見 本編 日本はこうなる!?~20…

2023年12月11日の週に気になった記事などまとめ

アジャイル開発に欠かせない自己管理型チームを実現するTIPS10選! Geminiの技術レポートを読み解く〜生成AIの最前線 ChatGPTをフル活用したUI勉強会!プロンプトも大公開 LangChainを使わない LLMへの入力プロンプトを「意味を保持したまま」高度に圧縮する…

2023年12月4日の週に気になった記事などまとめ

マルチモーダルLLMの応用動向の論文調査 RAG用途に使える、Wikipedia 日本語の embeddings とベクトル検索用の faiss index を作った 生成AIの進化に置いてかれないためにフォロー必須なアカウント47選 2023年12月時点で英語圏で人気のある大規模言語モデル…

2023年11月27日の週に気になった記事などまとめ

GPT APIを使ったテキスト生成コンペ@YANS2023に参加した話 日常能力を試すテスト『GAIA』正答率、人間92%に対してGPT-4は15% 一般的なニーズに応えるAI開発の指針に ドメインの放棄 企業はどのようにドメインを捨てるべきか? re:Invent関連イベントスケジュ…

2023年11月20日の週に気になった記事などまとめ

Amazon OpenSearch ServiceとBedrockを組み合わせてRAGを作る(LangChainいらず) 検索付き LLM 手法 REPLUG の再現実験 生成AI活用により9万6,000時間/月、 国内パートナー数の10%にあたる600人月相当の業務時間を創出 ~「AI活用No.1企業グループ」に向け…

2023年11月13日の週に気になった記事などまとめ

1行から始めるプロンプトインジェクション対策 OpenAI Python API ライブラリ 1.x への移行 GPTs のプロンプトリーキング対策 20231112_ChatGPTの活用によるデータサイエンス人材の育成 Assistants APIでretrievalをStreamlitで使ってみる ALMA_7B_Ja_V2_g…

2023年11月6日の週に気になった記事などまとめ

LLMのための日本語インストラクションデータ作成プロジェクト 拡散モデルによる金融時系列生成 ブラウザでリロードしながらキャッシュの挙動を確認してる全ての開発者へ Retrieval-based LM (RAG system) ざっくり理解する 日英・英日機械翻訳モデルALMA-7B-…

2023年10月30日の週に気になった記事などまとめ

IBIS2023チュートリアル「大規模言語モデル活用技術の最前線」 2023年度版「データサイエンティスト スキルチェックリストver.5」および「データサイエンス領域タスクリスト ver.4」を発表 MT-Benchによる各種LLMの日本語運用能力評価まとめ(23/10/31更新) …

2023年10月23日の週に気になった記事などまとめ

構成図を描く際に気をつけていること MiniGPT-4のAPIを実装する。 プログラムでマルチモーダルを自由に操作する。 キャッチアップ速度が速い #とは Azureにおける IPv4アドレス枯渇との戦い方 自動運転のための大規模なVisual QAデータセット・AutoScene…

2023年10月16日の週に気になった記事などまとめ

アップルがマルチモーダル大規模言語モデル「Ferret」を公開。画像内の形や場所を言葉で説明(生成AIウィークリー) Diffusion modelを用いたfew-shot商品画像分類の検討 Kaggleコンペ(LLM Science Exam)の振り返りと上位解法まとめ autowarefoundation/au…

2023年10月9日の週に気になった記事などまとめ

Google Colab で LLaVA-1.5 を試す シュッと AutoGen と戯れる 商用利用可能な「Japanese StableLM Instruct Alpha 7B v2」をリリースしました Automatic Prompt Engineer aws-samples/generative-ai-use-cases-jp 続・生成AI周回遅れキャッチアップ勉強会…

2023年10月2日の週に気になった記事などまとめ

GPT-4などのLLMが「AはB」から「BはA」を導かない『逆転の呪い』における誤解なき解釈と対策 GPT-4、Bard、Claude2などの異なるLLMが円卓を囲み議論した結果の回答は品質が高いとの検証報告。円卓ツールも公開 Stable LM 3Bのご紹介: 持続可能で高性能な言語…

2023年9月25日の週に気になった記事などまとめ

LLMを用いたLLMの自動評価について 〜可能性と注意点〜 llm-jp/awesome-japanese-llm Webやアプリの日本語を読みやすく折り返す「BudouX」。GoogleがGitHubで公開 Google Colab で DeepSpeed によるLLMのフルパラメータの指示チューニングを試す サイバーセ…