TIL(오류 케이스정리) Kafka, DB

Kafka로 부터 동일한 데이터가 3번 들어오는 케이스가 있었음.

 

어플리케이션의 동작이 정상적이지 않아 로그를 확인해보니 Kafka로부터 동일한 데이터가 3번 들어오는 케이스가 있었다.

해당 데이터를 받아 DB에 insert를 하는 작업인데 동일한 pk로 3개의 데이터가 들어오니 Duplicate PK 관련 에러가 발생하였다.

 

모니터링 툴을 사용하여 확인한 결과 DB 팀에서 DB 변경 Alter Table을 수행한 것이 원인으로 테이블에 대한 lock으로 인해 처리를 하지 못하고 데이터가 리밸런싱 되었다.