募集要項
- 募集背景
- 事業拡大に伴う増員のため
- 仕事内容
-
数十ノード規模のGPU環境を潤沢に活用しLLMモデル開発の本質プロセスに集中【職務概要】
同社にて、大規模言語モデル（LLM）開発における継続事前学習（CPT）、教師あり微調整（SFT）、強化学習（RL）の学習実行とパフォーマンス評価・改善業務を担当していただきます。
【職務詳細】
・大規模言語モデルの開発における継続事前学習（CPT）、教師あり微調整（SFT）、および強化学習（RL）の学習実行と検証
・WandBなどの実験管理ツールを用いた評価結果の調査、および各種ログ分析に基づく学習効率・性能のボトルネック特定
・特定したボトルネックに対する仮説ベースの改善策（ハイパーパラメータや分散トポロジーの調整等）の立案・検証・適用
・モデル学習の効率化や精度向上に向けた、合成データ生成を含むデータパイプラインの運用と評価
・分散学習フレームワークを用いた、モデルの学習安定性およびメモリ効率化に関する検証・チューニング
【プロジェクトのやりがい】
・計算資源の制約や順番待ちに縛られることなく、自身の立てた仮説に基づく大規模な実験・検証を迅速に実行できます。
・評価メトリクスやログといった定量データからボトルネックを紐解き、自身のチューニングによって学習効率やモデル性能が向上していく手応えをダイレクトに実感できます。
【業務内容変更の範囲】
同社業務全般
- 応募資格
-
- 必須
-
【必須】
・深層学習モデル（特に大規模モデル）の CPT／SFT／RL 等学習実行経験、および実験管理ツールやログ（WandBなど）を用いたパフォーマンス評価・ボトルネックの改善経験
【尚可】
・AWS ParallelClusterやSlurmなどのHPC／クラスタ環境を用いた実務経験
・Megatron BridgeやNVIDIA-NeMo／RLなどの先端フレームワークを用いた最適化経験
・CPT、SFT、強化学習（RL／RLHF）のパイプライン構築や、データ処理（合成データ生成等）の効率化に関する知見
・GPU間通信（NCCL等）のチューニングや、インフラレイヤにおけるボトルネック解析の経験
・関連する技術ドキュメントや論文を読み解き、システム設計へ適用できる能力
- 歓迎
- ※活かせる経験については上記「応募資格」欄に併記しております
- フィットする人物像
-
・評価結果やログなどの定量的なデータに基づき、仮説ベースでロジカルにボトルネックを紐解き、改善を繰り返せる方
・高い主体性を持ち、環境の強みを活かして自ら進んで実験・検証を推進できる方
- 雇用形態
-
雇用形態：正社員
契約期間：無期
試用期間：有(3ヶ月)
- 勤務地
-
東京都港区芝浦1-1-1 BLUE FRONT SHIBAURA TOWER S 31階
JR山手線「田町」駅徒歩1分
勤務地変更の範囲：本社及び全国の事業場、支社、営業所
- 勤務時間
-
始業10時00分、終業19時00分を基本とし、労働者の決定に委ねる
※9時間勤務したものとみなす
- 年収・給与
-
年収:600万～1010万程度
月給制：月額500000円
給与:※経験、スキルにより決定致します。
賞与:年2回※金額は業績により変動（40万円／年以上を想定）
昇給:年2回
- 待遇・福利厚生
-
社員持株会制度（持株会奨励金として拠出金額の100％を補助）、社外活動費補助、語学研修補助、ビジネススキルアップサポート、資格取得補助、産業医によるメンタルヘルスサポート、ドリンク補助、書籍購入補助、キーボードなどの備品購入補助、子供手当、特別賞与、社外常駐手当
喫煙情報：敷地内禁煙（喫煙場所あり）
- 休日休暇
- 完全週休2日制(土・日・祝日)、夏季休暇、年末年始休暇
- 選考プロセス
-
書類選考→適性検査・一次面接・プログラミング試験→最終面接（役員）
※状況により変更になる場合あり
