Skip to content

LuxuryBrands/LuxuryBrands_Infra

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

9 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

LuxuryBrands_Infra

terraform 및 서비스 별 설정 파일 저장소 [프로젝트 전체보기]

1. Infrastructure Diagram

diagram.png

AWS Service Description
Lambda 데이터 수집 프로세스 실행 및 스케줄링
SecretManger 토큰, Connection 등 민감 정보 관리
CloudWatch AWS 서비스 상태 모니터링
S3 환경변수 및 EMR 저장소, 데이터 레이크
Redshift Raw Data , Mart Data가 적재된 데이터 웨어하우스 -- * dc2.large, 노드 2
EMR ETL, ELT 작업을 처리하는 클러스터 -- * m4.large Spot, 최소 노드 2 (Primary, Core)
ECR Docker 이미지 저장소
ECS Airflow 컨테이너를 관리하는 Serverless 오케스트레이션 -- * fargate Spot, 4개 컨테이너
RDS Airflow 서비스의 메타 데이터 저장소
EC2 Private Subnet 접근을 위한 Bastion Host 인스턴스 -- * T2.micro

2. Network Diagram

network.png

  • 리전별 가격 비용이 저렴한 us-west-2 을 선정하여 VPC를 구축
  • 2개의 가용영역에 Private Subnet , Public Subnet을 생성
  • Private Subnet의 서비스에 접근할 수 있도록, Bastion Host 인스턴스를 생성

3. Project Structure

.
├── README.md
├── diagram.png
├── dw
│    └── Redshift_Schema.sql
├── emr
│    ├── emr_bootstrap.sh
│    └── emr_configurations.json
└── terraform
    ├── ecs
    ├── emr
    ├── lambda
    ├── network
    └── secretmanager

About

terraform, DDL, config .. etc

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages