mini_cloud

  • 홈
  • 태그
  • 방명록

2025/11/07 1

메타데이터 계층 아키텍처(2)

메타데이터 계층 구현 옵션메타데이터를 어떻게 구현하는지 알아보자메타데이터 계층으로 도입할 표준 오픈 소스나, 제품은 없다고 함가장 간단한 구조, 조금 복잡한 구조, 아주 복잡한 구조 차례대로 메타 계층 구조를 알아보자 설정 파일의 모음인 메타데이터 계층메타데이터는 파이프라인 설정을 위한 데이터와, 파이프라인에서 실행되는 처리 내역 정보를 수집하는 처리 내역도 포함함설정 파일 방식을 활용해서 메타데이터를 구현하는 것이 가장 간단한 방법임즉, 네임스페이스, 파이프라인, 데이터 소스, 목적지, 데이터 품질 검사 정보를 별도의 설정 파일로 관리하도록 함 (스키마 레지스트리는 뒤에서 구현 방법을 배움)이런 구현은 json, yaml을 사용하거나, 각 기업에 맞는 포맷을 사용하면 됨 설정 파일을 클라우드 로그 집..

데이터/아키텍처 2025.11.07
이전
1
다음
더보기
프로필사진

mini_cloud

  • 분류 전체보기 (39)
    • 데이터 (16)
      • 아키텍처 (7)
      • RDBMS (0)
      • Airflow (5)
      • 복기 (4)
    • 클라우드 (20)
      • AWS (1)
      • OpenStack (13)
      • Docker & Kubernetes (6)
    • Distributed System (2)
    • 기타 백엔드 공부 (0)
    • Git (0)
    • 자료구조,알고리즘 (0)
      • leetcode (0)
      • 백준 알고리즘 (0)
      • 자료구조 정리 (0)
    • 기타 공부 (1)
      • 자바 (0)
      • 파이썬 (1)

Tag

e,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/11   »
일 월 화 수 목 금 토
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바