Moait
홈인기 피드모든 블로그모든 태그
홈인기 피드모든 블로그모든 태그
로그 인리치먼트(Log Enrichment) 섬네일

로그 인리치먼트(Log Enrichment)

모두싸인 favicon모두싸인·Architecture·
Amazon Simple Storage ServiceApache KafkaLog EnrichmentChange Data CaptureMetadata Store
2025년 03월 06일2

AI 요약

이 글은 AI가 요약했어요. 정확한 내용은 꼭 원문을 확인해 주세요!

핵심 요약

모두싸인은 로그 인리치먼트를 비동기로 구현하고 메타데이터 저장소를 통해 합성하는 아키텍처로, 로그 시스템과 서비스 간 의존성을 제거하여 대규모 감사로그의 안정성과 확장성을 확보했습니다.

구현 방법

  • 비동기 방식으로 생성-합성 분리
  • CDC로 메타데이터를 중앙 저장소에 동기화
  • S3 파티셔닝(workspaceId/year/month/day/hour)으로 로그 적재
  • Kafka-Connect(S3) 및 커스텀 컨슈머로 버퍼/파일 관리
  • 식별자 기반 중복 제거와 재시도/DLQ 구성

주요 결과

  • 의존성 제거로 서비스 성능 영향 최소화
  • 메타데이터 생애주기 분리로 합성 실패 감소
  • 재시도와 DLQ로 실패 재처리 안정성 확보

연관 피드

%가 높을수록 이 글과 비슷할 가능성이 높아요!
달리는 서비스의 이벤트 버스 개선하기 섬네일
73%

달리는 서비스의 이벤트 버스 개선하기

모두싸인 favicon모두싸인·2024년 11월 29일
웹앱 서버 로깅 개선기 섬네일
70%

웹앱 서버 로깅 개선기

당근 favicon당근·2025년 07월 24일
Kafka에서 S3로 실시간 데이터 수집 파이프라인 설계와 구축기 섬네일
70%

Kafka에서 S3로 실시간 데이터 수집 파이프라인 설계와 구축기

펫프렌즈 favicon펫프렌즈·2025년 11월 07일