募集要項
- 仕事内容
-
LLM（大規模言語モデル）の開発における、継続事前学習（CPT）、教師あり微調整（SFT）、強化学習（RL）の学習実行とパフォーマンス評価・改善を担っていただきます。実験管理ツールや各種ログから、学習の効率・性能に関するボトルネックを仮説ベースで特定し、モデルのポテンシャルを最大限に引き出すための検証と改善を主導するポジションです。
現在のLLM開発において、多くのエンジニアが直面している課題の一つが「計算資源の不足や、実験の順番待ちによる開発スピードの停滞」です。どれだけ優れた仮説があっても、検証環境が限られていれば最適なアプローチを見出すことは困難になります。 同プロジェクトの最大のおもしろさは、数十ノード規模の大規模なGPUクラスタ環境を、順番待ちのストレスなく豊富に活用できる点にあります。同ポジションでは、インフラの構築そのものではなく、この潤沢な計算資源を最大限に活かし、実際のモデル学習を回しながら評価結果やログを徹底的に分析していただきます。「データに基づいて仮説を立て、学習の効率化や性能向上に向けた改善を迅速に回す」という、モデル開発の本質的なプロセスに集中して取り組める環境です。
【具体的には】
・大規模言語モデルの開発における継続事前学習（CPT）、教師あり微調整（SFT）、および強化学習（RL）の学習実行と検証
・WandBなどの実験管理ツールを用いた評価結果の調査、および各種ログ分析に基づく学習効率・性能のボトルネック特定
・特定したボトルネックに対する仮説ベースの改善策（ハイパーパラメータや分散トポロジーの調整等）の立案・検証・適用
・モデル学習の効率化や精度向上に向けた、合成データ生成を含むデータパイプラインの運用と評価
・分散学習フレームワークを用いた、モデルの学習安定性およびメモリ効率化に関する検証・チューニング
- 応募資格
-
- 必須
-
※下記いずれも必須
・深層学習モデル（特に大規模モデル）の CPT／SFT／RL 等学習実行経験、および実験管理ツールやログ（WandBなど）を用いたパフォーマンス評価・ボトルネックの改善経験
・論理的思考に基づき、課題解決に向けた設計から実装、検証までを自走して遂行できる能力
- 雇用形態
- 正社員
- 勤務地
- 東京都
- 勤務時間
- 10:00 - 19:00（コアタイム：00:00 - 00:00）
- 年収・給与
-
600万円～1010万円(経験能力考慮の上優遇)
昇給1回、賞与2回
- 待遇・福利厚生
-
【保険】
健康保険、雇用保険、労災保険、厚生年金
【諸手当】
通勤手当、家族手当、資格手当、出張手当
【待遇・福利厚生】
給与改定年2回（4月・10月）、ストックオプション、従業員持株会、福利厚生サービス「ベネフィットステーション」加入、資格取得支援、部活動補助制度
- 休日休暇
- 年間休日日数126日、完全週休2日制（休日は土日祝日）・夏期・年末年始、慶弔休暇、有給休暇、育児・介護休暇
