
TIL - CDC로 향하는 가는 첫 번째 과정(1) : OracleDB 트랜잭션 로그(Redo log)를 읽어서 Kafka에 적재하기
·
[TIL]
📌 개요기존 데이터를 다른 시스템에 중단없이, 그리고 끊임없이 동기화를 어떻게 시킬 수 있을까? 라는 고민에서 나온 CDC 프로젝트 과정입니다. 트랜잭션 로그를 분석하는 방법부터, 배치를 활용하여 카프카에 적재하는 과정까지 꽤나 많은 삽질과 배움이 있었습니다. 그럼 본격적으로 어떠한 과정이 있었는지 포스팅 해보겠습니다. 1. Source DB에서 실시간성 캡쳐하기CDC의 핵심은, 기존 운영중인 DB에 끊임없이 쏟아지는 데이터 변경에 대해서 실시간으로 캡쳐하고 다른 시스템에 옮겨야 하는 것 입니다. 좀 더 데이터베이스 관점으로 바라본다면, 데이터베이스에 쏟아지는 수많은 DML을 캐치하고 이를 다른 시스템에 그대로 알려줘야 한다는 것으로 바라볼 수 있습니다. 저희는 SourceDB가 OracleDB로 구..