SEが最近起こったことを書くブログ

ITエンジニアが試したこと、気になったことを書いていきます。

2024-01-01から1ヶ月間の記事一覧

2024年1月22日の週に気になった記事などまとめ

GoogleのマルチモーダルAI「Gemini Pro Vision」は、動画についてどこまで正しく答えられるか? NTT、少ないデータから特定個人の声や口調を再現する技術を開発。大規模言語モデル「tsuzumi」に搭載 A Cheat Sheet and Some Recipes For Building Advanced R…

2024年1月15日の週に気になった記事などまとめ

Self-Extendでfine-tuningせずに長文コンテキストを扱おう AIと著作権に関する考え方について(素案)令和6年1月15日時点版 Survey of Vector Database Management Systems LLMにおける情報抽出(文章から必要な事柄を読み取る)タスクについての調査 コスト…

2024年1月8日の週に気になった記事などまとめ

Advanced RAG Techniques: an Illustrated Overview Retrieval-Augmented Generation (RAG):Paradigms, Technologies, and Trends プロンプトの原則26ヶ条をまとめた報告 LangChain v0.1.0 社長(AI)に頼んで今度こそ商用利用可能な日本語マルチターン会話デ…

2024年1月1日の週に気になった記事などまとめ

元旦なので社長(AI)にElyza13Bを使ってクリーンで自由な会話データセットを作ってもらってみた Large Language Models for Generative Information Extraction: A Survey OpenAI Assistants APIを使って社内用GPTsを作った際に苦労した5つの点 Google Colab …

Llama.cppをGPUを使用して実行してみた

LLM

llama-cpp-pythonをGPUも活用して実行してみたので、 動かし方をメモ ポイント GPUを使うために環境変数に以下をセットする CMAKE_ARGS="-DLLAMA_CUDA=on" FORCE_CMAKE=1 n_gpu_layersにGPUにオフロードされるモデルのレイヤー数を設定。7Bは32、13Bは40が最…

日本語ローカルLLMまとめ※作成中

日本語ローカルLLMの情報をこの記事にまとめ中です。 ※2023年10月31日現在の情報を記入したつもりですが、正確性は保証できません。 まとめ lightblue/karasu-7B-chat-plus-unleashed lightblue/qarasu-14B-chat-plus-unleashed rinna/nekomata-14b-instruct…

プロンプト26の原則の日本語訳メモ

LLM

以下の論文の26の原則の日本語訳のメモ arxiv.org ※日本語訳を作成する際にChatGPTを活用してます。 番号 プロンプト原則 1 LLMに対して礼儀正しくする必要はない。「お願いします」、「差し支えなければ」、「ありがとう」、「私は...したいです」などのフ…

2023年ふりかえり

取得した資格 Azure AWS まとめ 読んだ本 検索システム 自然言語処理基礎 生成AI読み物 LangChainの使い方 Azure OpenAI Service LLM活用事例 生成AIの法的リスク その他機械学習 その他 まとめ 自己啓発のためにやったこと 来年意識すること 取得した資格 A…