Login
From:
Uzabase for Engineers
(Uncensored)
subscribe
テキストベクトル検索モデルを低リソースで学習するために - Uzabase for Engineers
https://tech.uzabase.com/entry/2025/07/29/105402
links
backlinks
Tagged with:
深層学習
自然言語処理
はじめに こんにちは！ 株式会社ユーザベース スピーダ事業の飯田です。 普段はベクトル検索用の埋め込みモデルの学習及びデプロイを行っています。 大きなモデルを低リソースで学習する手法としてQLoRAとFSDPが広く用いられています。 この記事では、SentenceTransformersにおいてFSDP+QLoRAを行うときの注意点をご紹介します！ 特に、開発データをつかって、学習過程をモ...
Roast topics
Find topics
Find it!
