Software Engineer (Product, Infrastructure and Platform Reliability)

仕事内容

• Sakana AIのプロダクトおよび本番推論プラットフォームの信頼性を担当
• SLA管理、可用性・レイテンシ・スループット・GPU利用率・コスト効率の改善
• LLMサービングシステムの運用、安全なデプロイ・ロールバックの実施
• 監視、アラート、インシデント対応、ポストモーテム、再発防止の仕組みを構築
• オンコールローテーションに参加
• エンタープライズのセキュリティ、可用性、コンプライアンス、SLA要件をインフラ設計へ反映
• キャパシティ計画とコスト管理、GPU・クラウド調達に向けた技術要件・予測の作成
• 日本語・英語を用いるグローバルチームで協働

必須要件

• AWSやGCPなどのクラウド環境で、本番インフラを設計・運用した経験
• コンテナ化サービス、API、バッチジョブ、またはモデル推論ワークロードの本番運用経験
• IaCまたは同等のツールによるインフラ管理・自動化の経験
• 監視、アラート、インシデント対応、ポストモーテムの実務経験
• GPU・クラウド・サービングのリソース使用量を、コスト・性能・可用性の観点から分析できること
• vLLM、TensorRT-LLM、SGLangなどのLLMサービングフレームワークの実務経験
• 要件、コスト、キャパシティ、優先順位について、社内外の関係者と技術プロジェクトを推進できる英語力
• 日本語能力

歓迎要件

• LLMまたは機械学習モデル向けの本番推論インフラの設計・運用経験
• Kubernetes、GKE、Vertex AI、Terraformなどの利用経験
• GPUクラスター、特にNVIDIA H100/B200クラス環境の構築・運用経験
• 量子化、Speculative Decoding、PD Disaggregationなどの推論最適化に関する知識
• SREプラクティス、SLO設計、キャパシティ計画、エンタープライズインフラに関する知識
• LLMをデプロイしたサービス、またはOpenAI・ClaudeなどのAPIを利用する本番サービスの開発経験

勤務地

• 日本語・英語を用いるグローバルチームでの勤務。具体的な勤務地の記載はありません。