お任せしたいこと

［役割］
AWSクラウドエンジニアとして、生成AIサービスの本番推論基盤を設計・構築・運用。可用性・スケーラビリティ・コストのバランスを最適化し、継続的な改善をリードする。
［役割に対して求める成果］
可観測性とセキュリティを備えた高信頼な推論プラットフォームの提供
スループット最適化とレイテンシ削減による体験品質の向上
IaCとCI/CDを通じた迅速かつ安全なリリース体制の確立

具体的な業務内容

Amazon Bedrock／SageMaker Inference／EKS（KServe）を用いた推論経路の設計
機密データを考慮したネットワーク分離・鍵管理（VPC, PrivateLink, KMS）の実装
プロンプト管理・ガードレール・評価パイプラインの整備（A/B, オフライン評価）
イベント駆動のスケーリング設計（KEDA, Auto Scaling, SQS/SNS）
ログ・トレース・メトリクス統合（CloudWatch, OpenTelemetry, X-Ray）
Terraform／CDKでのIaC化とGitHub Actionsによるデプロイ自動化

必須スキル・経験

AWSでの本番環境設計・構築・運用経験3年以上
EKSまたはSageMakerのいずれかを用いたML/推論基盤運用経験
TerraformまたはAWS CDKによるIaC実装経験
ネットワーク・セキュリティ設計（VPC, IAM, KMS, WAF）の知識
可観測性（ログ/メトリクス/トレース）設計の実務経験

歓迎スキル・経験

Amazon Bedrockの実務利用経験または他LLM推論基盤の本番運用経験
KServe, Knative, Istio等による推論ルーティング/スケーリング設計
Feature Store, Embeddings, ベクトルDB（OpenSearch, Pinecone等）運用経験
コスト最適化（Savings Plans, RI, Compute Optimizer）とSLO設計の知見

開発環境

クラウド：AWS（Bedrock, SageMaker, EKS, Lambda, API Gateway, OpenSearch, S3, CloudFront, KMS, WAF, CloudWatch, X-Ray, IAM, VPC）
データ／推論：KServe, Triton, Hugging Face Hub, OpenSearch Vector, SQS/SNS
IaC／CI/CD：Terraform, AWS CDK, GitHub Actions, ArgoCD
監視／可観測性：CloudWatch, OpenTelemetry, Prometheus, Grafana
コラボ：Slack, Jira, Confluence, GitHub, Notion, Zoom

開発チームについて

プラットフォームエンジニア3名／MLエンジニア3名／SRE2名／PM1名体制
スクラム（2週間スプリント）と週次アーキレビューを併用
本番SLO/SLIに基づく運用改善サイクルを継続実施

求める人物像

可用性・性能・コストをトレードオフで最適化できる方
セキュアなクラウド設計と自動化に情熱を持つ方
ステークホルダーと連携しながら自走できる方

仕事の魅力

Bedrock×EKS×SageMakerの先端スタックで本番推論基盤をリード
SLO起点の運用とデータ駆動の最適化に挑戦できる環境
設計～運用まで一気通貫で裁量高く関われるポジション

リモート環境

[フルリモート] フルリモートで働いていただけます。