Transformerの原典である"Attention Is All You Need" の論文要約メモです。 はじめに Attention Is All You Need 概要 手法 モデルアーキテクチャ 学習方法 結果 翻訳タスク Transformerモデルバリエーション 英語構文解析 おわりに/所感 参考 はじめに かの有名なAttention Is All You Need、原典をちゃんと読んだことなかったので読みます。 arxiv.org 2017/06/12にv1公開 Google Brain / Google Research コード: t...| BioErrorLog Tech Blog
"The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits" の論文要約メモです。 はじめに The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits 概要 手法 結果 おわりに/所感 参考 はじめに 今回まとめる論文はこちら: arxiv.org 2024/02/27 公開 Microsoftのチーム コード: unilm/bitnet at master · microsoft/unilm · GitHub なお本記事で掲載する図は全て上記論文…| BioErrorLog Tech Blog
画像を生成したチャットを削除すれば、対応するChatGPT Libraryの画像も削除されます。 はじめに ChatGPT Libraryの画像を削除する やり方 やってみる おわりに 参考 はじめに ChatGPTに"Library"というタブが最近追加されました。 ここには、ChatGPTで自分が生成した画像が一覧で表示されます。 ここに表示されている画像を削除する方法がパッとわからなかったので、備忘録を残...| BioErrorLog Tech Blog
LLMのプロンプトに貼り付ける用に、指定した複数ファイル内容をディレクトリ構造情報を添えて連結するシェルコマンドを用意します。 はじめに LLM用に複数ファイル情報を連結するシェルコマンド やりたいこと コマンド実装 実行例 おわりに 参考 はじめに AIコーディングツールを使わずにChatGPTのような素朴なチャット形式のLLMでコーディングする場合、複数ファイ...| BioErrorLog Tech Blog
下記のようにして、特定ディレクトリのみを対象にしたgit logが可能です。 git log -- path/to/directory はじめに 特定ディレクトリを対象にgit logする コマンド 具体例 おわりに 参考 はじめに 特定ディレクトリのみを対象にしてgit logする方法がパッとわからなかったので、備忘録を残します。 特定ディレクトリを対象にgit logする コマンド --の後にディレクトリを指定するこ...| BioErrorLog Tech Blog
awkで簡単にできます: awk '!seen[$0]++' はじめに コマンドで重複行を排除して一度だけ表示する コマンド解説 実行例 おわりに 参考 はじめに コマンドで重複行を排除して一度だけ表示する方法の備忘録を残します。 The English translation of this post is here. コマンドで重複行を排除して一度だけ表示する 下記コマンドで、重複行を排除して一度だけ表示可能です: awk '!seen[$0]++' コ...| BioErrorLog Tech Blog
Go言語におけるFunctional Options Patternを簡単に整理します。 はじめに Go言語でFunctional Options Pattern おわりに 参考 はじめに あるGo製ライブラリを使っていたところ、Functional Options Patternに遭遇しました。 Go言語におけるFunctional Options Patternとは何か、メモします。 The English translation of this post is here. Go言語でFunctional Options Pattern Functional Options Pattern…| BioErrorLog Tech Blog
Go言語でMCPサーバーを実装する方法の備忘録です。 はじめに 前提: Go言語の公式MCP SDKはあるのか？ MCPサーバーをGoで実装する 実装するMCPサーバー GoでのMCPサーバー実装 Toolの実装 Resourceの実装 Promptの実装 MCP InspectorでMCPサーバーをテスト実行する おわりに 参考 はじめに MCPサーバーをGoで実装したくなりました。 やり方のメモを残します。 # 作業環境 $ go version go version ...| BioErrorLog Tech Blog
MCP CLIの使い方をまとめます。 はじめに MCP CLIの使い方 MCP CLIをインストールする MCP CLIの機能一覧 mcp runの使い方 mcp devの使い方 mcp installの使い方 おわりに 参考 はじめに MCP CLIはMCPサーバー開発を効率化するツールで、MCP SDKに内包されています。 今回はこのMCP CLIの使い方をメモします。 The English translation of this post is here. MCP CLIの使い方 MCP Python SDKを使って、MCP CLIを利...| BioErrorLog Tech Blog
MCPサーバーのブラウザベースのテストツール"MCP Inspector"の使い方の備忘録です。 はじめに MCP Inspectorの使い方 前準備: ミニマムなMCPサーバーを用意する MCP Inspectorを起動する MCP Inspectorを使う おわりに 参考 はじめに MCP Inspectorは、MCPが公式に提供しているブラウザベースのMCPサーバーテスト/デバッグツールです。 GitHub - modelcontextprotocol/inspector: Visual testing tool for MCP server...| BioErrorLog Tech Blog
MCPを介して、LLMにマインスイーパーをプレーさせます。 はじめに MCPでマインスイーパーを遊ぶ 全体構成 マインスイーパーサーバーを起動する MCPサーバーをビルドする Claude DesktopとMCPサーバーを接続する Claudeにマインスイーパーを遊んでもらう おわりに 参考 はじめに MCPとゲームの組み合わせは個人的にとても面白いと思っています。 今回は、マインスイーパーをLLM...| BioErrorLog Tech Blog
Claude DesktopとMCP (Model Context Protocol) サーバーを接続する方法の備忘録です。 はじめに Claude DesktopをMCPサーバーに接続する方法 1. Claude Desktop設定ファイルにMCPサーバー情報を追記 2. Claude Desktopを再起動 おわりに 参考 はじめに Claude DesktopはMCP提唱元のAnthropicの製品だけあって、早いうちからMCPクライアントとしての機能を備えています。 私はこれまで、MCPとクライアント...| BioErrorLog Tech Blog
AIエージェントパターンとプラクティスを、Anthropicの記事"Building effective agents"とそのフォローアップ動画から学びます。 はじめに 前提: AIエージェントの定義 AIエージェントパターン Augmented LLM Workflow: Prompt chaining Workflow: Routing Workflow: Parallelization Workflow: Orchestrator-workers Workflow: Evaluator-optimizer Agent プラクティス 可能な限りシンプルにする フレームワークの採用は慎重に …| BioErrorLog Tech Blog
MCP (Model Context Protocol)をOpenAI API / GPTと組み合わせて動かして、MCPの仕組みを学んでいきます。 はじめに おさらい: MCPとは何か GPTとMCPサーバーを接続して使う MCPサーバーの実装 MCPクライアントの実装 MCPクライアント - サーバーの実行 おわりに 参考 はじめに 2024年11月にAnthropicがMCP:Model Context Protocolを発表してから、コミュニティの間でも徐々にMCPが盛り上がりを見せて...| BioErrorLog Tech Blog
Rust製Pythonパッケージ&プロジェクトマネージャー "uv" の基本的な使い方の備忘録です。 はじめに uvの使い方 uvをインストールする uvの使い方を一覧で見る Pythonプロジェクトの作成 Python仮想環境の構築 Pythonパッケージの追加 インストールしたパッケージの確認 Pythonコードの実行 おわりに 参考 はじめに uvは、Rust製の高速なPythonパッケージ&プロジェクトマネージャーで...| BioErrorLog Tech Blog
最近英語圏でよく目にする "Vibe coding" とは何か、まとめます。 はじめに Vibe coding とは何か おわりに 参考 はじめに 最近、特に英語圏のテック界隈で "Vibe coding" という単語をやたら目にするようになりました。 X(Twitter)やYouTubeでVibe codingと検索してみると、たくさんの議論がヒットします。 "Vibe coding"とは何を意味してるのか？ この単語の発祥は？ 何も知らなかったの...| BioErrorLog Tech Blog
LLMが3Dモデル情報を出力するLLaMA-Mesh、そのBlenderアドオンであるMeshGenで遊びます。 番外編では、ChatGPTを使って同じく3Dモデリングさせてみます。 はじめに LLaMA-Meshをざっくり理解する MeshGenで3Dモデリング MeshGenをBlenderにインストールする MeshGenの使い方 机の3Dモデルを生成する 椅子の3Dモデルを生成する 盆栽の3Dモデルを生成する 番外編: ChatGPTで3Dモデリング 机の3Dモ...| BioErrorLog Tech Blog
Blenderでmp4動画形式で出力する方法の備忘録です。 はじめに Blenderでmp4動画出力する 1. 出力フォーマットを"FFmpeg Video"に設定する 2. エンコーディングを"MPEG-4"に設定する 3. コーデック設定を調整する おわりに 参考 はじめに Blenderのデフォルト設定では、動画はpngの連番画像で出力さます。 これをmp4形式で出力する方法が分からなかったので、備忘録を残します。 # 作業...| BioErrorLog Tech Blog
Blender Pythonでシーン内の全オブジェクトを削除する方法の備忘録です。 はじめに Blender Pythonで既存オブジェクトを全て削除する おわりに 参考 はじめに Blender Pythonで試行錯誤していると、シーン内のオブジェクトを全削除したくなるときがあります。 Pythonスクリプトでどうやるかの備忘録です。 # 作業バージョン Blender 4.2.0 Blender Pythonで既存オブジェクトを全て削除す...| BioErrorLog Tech Blog
bpyバージョンとPythonバージョンの対応に気を付けましょう。 はじめに bpyをpip installする 1. Pythonバージョンを確認する 2. bpyをpip installする おわりに 参考 はじめに Blender Pythonモジュールのbpyをローカル環境にpip installしようとしたところ、上手くインストールできませんでした。 $ pip install bpy ERROR: Could not find a version that satisfies the requirement bpy (from versions: none) ERROR: No m…| BioErrorLog Tech Blog
ffmpegコマンドで、.mov形式や.mp4の動画ファイルをGIFファイルに変換する方法の備忘録です。 はじめに 補足: ffmpegとは ffmpegでmov動画ファイルをGIFに変換する GIFに変換する 幅を指定してGIF変換する fpsを指定してGIF変換する 動画をカットしてGIF変換する 複数の変換を組み合わせて同時に実行する おわりに 参考 はじめに 画面キャプチャによって出力される.movファイルを、...| BioErrorLog Tech Blog
Asepriteで減色する方法を整理します。 はじめに Asepriteで減色する 1. "Color Mode"を"Indexed"に変更する 2. 新規パレットを作成し、使用する色数を指定する おわりに 参考 はじめに Asepriteで、↓のように滑らかな画像を、 減色前の元画像 (Blenderで作ってインポートしたもの) ↓のように減色する方法をまとめます。 減色処理した後の画像 The English translation of this post is here. Asepri...| BioErrorLog Tech Blog
Blender Pythonで、print関数の出力結果が表示されない問題の対処法を整理します。 はじめに Blender Python: print結果が表示されない問題の対処法 System Consoleを開く (Windowsのみ) Blenderをコマンドラインから起動する print関数以外を使う おわりに 参考 はじめに Blender Pythonでprint()関数を使って何かを出力させようとしても、どこにも出力された様子がありません。 対処法をまとめ...| BioErrorLog Tech Blog
BlenderのShader Editorで、ショートカット"Ctrl + T"が使えないときの対処法を残します。 はじめに Blenderで"Ctrl + T"ショートカットが使えない問題 原因 解決策 おわりに 参考 はじめに YouTubeのBlender系動画では、Shader Editorでのショートカット"Ctrl + T"がしばしば登場します。 最初はこの"Ctrl + T"ショートカットが効かずに戸惑いました。 解決法のメモを残します。 # 作業バージョ...| BioErrorLog Tech Blog
Blenderで真上視点から見る方法の備忘録です。 はじめに Blenderで真上視点から見る ショートカットキー: Numpad 7 パイメニュー: Top Viewport: Top 3Dナビゲーション: Z おわりに 参考 はじめに Blenderで作業していると、ちょうど真上視点から見下ろしたくなるときがあります。 やり方が複数あるので、その備忘録を残します。 この斜めから見ている視点を、真上から見下ろす視...| BioErrorLog Tech Blog
Asepriteで、Lua Script / アドオンをインストールする方法の簡単なメモです。 はじめに AsepriteでScriptをインストールする方法 1. Scriptフォルダを開く 2. Lua ScriptをScriptフォルダに配置する 3. Scriptフォルダを再スキャンする おわりに 参考 はじめに Asepriteでは、Luaで書かれたScript/アドオンをインストールして便利な機能を追加することができます。 Asepriteフォーラムやitch.ioな...| BioErrorLog Tech Blog
Asepriteでアニメーションフレームレートを変更する方法の備忘録メモです。 はじめに Asepriteでアニメーションフレームレートを変更する 全部のフレームを一括で変更する 選択したフレームを変更する おわりに 参考 はじめに Asepriteで、アニメーションのフレームレートを変更する方法をよく忘れては調べ直しているので、備忘録を残します。 Asepriteでアニメーションフ...| BioErrorLog Tech Blog
Macでフォントファイルが保存されている場所の備忘録メモ。 はじめに MacOSでフォントファイルが配置されている場所 おわりに 参考 はじめに MacOSでフォントファイルが配置されている場所がわからなかったので、簡単に調べてまとめます。 MacOSでフォントファイルが配置されている場所 以下の3箇所のディレクトリに配置されています。 ~/Library/Fonts/ /Library/Fonts/ /System/Li...| BioErrorLog Tech Blog
システムにフォントを追加すれば、Inkscapeにも自動で認識されます。 はじめに Inkscapeにttfからフォントを追加する方法 概要 やってみる 補足: フォントフォルダに直接配置してインストール おわりに 参考 はじめに 外部で別途用意したttfのフォントファイルから、Inkscapeにフォントを追加する方法がわからなかったので整理します。 Inkscapeにttfからフォントを追加する方...| BioErrorLog Tech Blog
ライセンス記載がないGitHubレポジトリの権利の扱いはどうなるのか？のメモ。 はじめに GitHubでライセンスの記載がない場合の扱い デフォルトの著作権 GitHubの利用規約 おわりに 参考 はじめに 前にGitHubでのライセンスの選び方を整理しましたが、そもそもライセンスを記載しないとどうなるのか、よく理解できてなかったので整理します。 GitHubでライセンスの記載が...| BioErrorLog Tech Blog
検索してもパッと出てこなかったので備忘録です。 はじめに ブログ言語を英語に設定する おわりに はじめに 最近ふと思い立って英語ブログをつくってみました。 BioErrorLog Tech Blog (English ver.) しかし、はてなブログで立ち上げたブログはデフォルトで言語設定が日本語なので、自動生成される系の文字は日本語になっています。 はてなブログによって自動で生成される...| BioErrorLog Tech Blog
GitHubが提供しているOSSライセンスの選定指針ガイド choosealicense.com から、ライセンスの選び方を学びます。 はじめに OSSライセンスの選び方 シンプルでなるべく寛容にしたい場合 改善/改変の共有を重視する場合 コミュニティで開発する場合 ソフトウェアではない場合 おわりに 参考 はじめに GitHubレポジトリ等でコードを公開するときは、LICENSE.txtなどでライセンスを...| BioErrorLog Tech Blog
Citadel AIのLLM回答評価ツール"LangCheck"を使ってみます。 はじめに LangCheckとは 基本的な使い方 評価メトリクスには何があるか 補足: 評価メトリクス判定に使われるモデル LangCheckで回答自動評価をやってみる 補足: semantic_similarity()でEmbeddingモデルを指定する おわりに 参考 はじめに LLMアプリケーションの開発では、そのLLM出力を評価する仕組みが重要です。 出力評価の仕...| BioErrorLog Tech Blog
Boids Flockingの実装を通して、Go製のゲームエンジンEbitengineに入門します。 はじめに Ebitengineとは 今回作ったもの: Boids Flocking Boids Flockingを実装する 最小構成: Hello, World! ディレクトリ構成 ゲームロジックの実装 Boids Flockingロジックの実装 Vector処理の実装 CIの実装 おわりに 参考 はじめに Go製のゲームエンジンEbitengineというものを見つけて面白そうだったので、取り急ぎ...| BioErrorLog Tech Blog
Sakana.aiの進化的モデルマージを記述した論文"Evolutionary Optimization of Model Merging Recipes" の論文要約メモです。 はじめに Evolutionary Optimization of Model Merging Recipes 概要 手法 結果 LLMタスク VLMタスク おわりに/所感 参考 はじめに 今回まとめる論文はこちら: arxiv.org 2024/03/19 公開 By Sakana AIのチーム コード: GitHub - SakanaAI/evolutionary-model-merge: Official re…| BioErrorLog Tech Blog
論文読みの手法を、Andrew Ngの講義動画から学びます。 はじめに Andrew Ngに学ぶ論文の読み方 論文を読む 理解を確かめる おわりに 参考 はじめに 最近AI関連を調べている中で、論文に目を通す機会も増えてきました。 そんな中、かのAndrew Ng先生がStanford CS230の講義のなかで論文の読み方について講義している動画を見つけました。 Stanford CS230: Deep Learning | Autumn 2018 | Lecture ...| BioErrorLog Tech Blog
Andrej KarpathyのNeural Networks: Zero to Hero動画シリーズがとても良かったので紹介します。 はじめに 前提 Neural Networks: Zero to Hero 1. ニューラルネットワークと誤差逆伝播法への入門: microgradの構築 2. 言語モデリングへの入門: makemoreの構築 3. makemoreの構築その２: MLP 4. makemoreの構築その３: 活性化と勾配、バッチ正規化 5. makemoreの構築その４: 誤差逆伝播の達人へ 6. makemoreの構築...| BioErrorLog Tech Blog
torch.tensor()とtorch.Tensor()の違いについての備忘録です。 はじめに torch.tensorとtorch.Tensorの違い 一言で 詳しく 補足: 空のtensorを作るには おわりに 参考 はじめに PyTorchでtensorを作るときはtorch.tensor()メソッドが使われることが多いですね。 一方でtorch.Tensor()のようにクラスのコンストラクタをそのまま呼び出してもtensorを作れるように見えます。 これらふたつ、 torch.tensor() ...| BioErrorLog Tech Blog
Ubuntuに入っている綺麗な鶴の壁紙の詳細を追います。 はじめに Ubuntuの鶴の壁紙の詳細を調べる 画像ファイルを調べる この絵が作られた場所 この絵のタイトル 元データで遊ぶ おわりに 参考 はじめに Ubuntuの鶴の壁紙 このUbuntuの鶴の壁紙、綺麗で面白い、いい雰囲気ですね。 詳細が気になったので調べてまとめます。 ※ 以前調べたときの下記メモをもとに再整理した...| BioErrorLog Tech Blog
LLMOpsとは何か？ 概念の勘所をまとめます。 はじめに 補足: LLMOpsの指す範囲について LLMOps モデルの選定 プロンプト管理 テスト/品質評価 デプロイ モニタリング 継続的改善とfine-tuning 結論: LLMアプリケーションのテスト駆動開発 おわりに 参考 はじめに LLMアプリケーションを作る時は、LLMそのものの知識の他に、いかにプロダクトとして良いものにしていくかというア...| BioErrorLog Tech Blog
