j-node 님의 블로그

  • 홈
  • 태그
  • 방명록

2026/08/11 1

[아티클]컬리, 토스증권 데이터 파이프라인 엿보기

https://helloworld.kurly.com/blog/bigquery-1/ 컬리의 BigQuery 도입기 - 1부 - 컬리 기술 블로그컬리 데이터 파이프라인의 BigQuery 도입 배경과 그 주안점helloworld.kurly.com 1부: 전환 배경 기존 시스템의 4가지 문제① 긴 지연시간 : 데이터가 창고에 도착하기까지 20분~1시간 걸림.② 스토리지 부족 : 데이터가 계속 쌓여 오래된 데이터를 주기적으로 삭제해야 했음.③ 느린 쿼리 응답 : 적재 작업과 조회 작업이 같은 자원을 두고 경쟁해 서로 성능을 떨어뜨림.④ 복잡한 적재 과정 : 데이터가 창고에 도달하기까지 거치는 경로(파이프라인)가 지나치게 길고 얽혀 있음.기존 파이프라인의 경로여러 원본 DB → CDC(변경분 추출) → Kafka(..

카테고리 없음 2026.08.11
이전
1
다음
더보기
프로필사진

j-node 님의 블로그

j-node 님의 블로그 입니다.

  • 분류 전체보기 (70)

Tag

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/08   »
일 월 화 수 목 금 토
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Daum Corp. All rights reserved.

티스토리툴바