전체 글 36

카프카 리스너 - 단일 메시지 리스너와 배치 메시지 리스너의 차이

카프카의 리스너를 공부하면서 단일 메세지 리스너와 배치 메시지 리스너의 대해 알아봤다.그냥 이론만 보면 단건 , 뭉티기로 보낸다는 차이점이 있는데, 맨처음 예제 문제가 for문으로 한건씩 출력되게 하는 예제다 보니까배치나, 단일이나 둘다 20줄씩 나오게 되고 이게 왜 달라..? 라고 벙찐게 생각난다. 크게는 팩토리의 설정 값을 변경하여 단일건인지 한번에 보낼건지를 설정할 수 있는 것 같은데 말이지.. 그래서 두가지의 차이점을 일단 정리해봤다.차이점이라고 할 것도 없는게 단건,,, 복수건.. 그냥 명확하게 달라서 비교할 것이 있나 싶긴한데 그냥 해보고 싶다.내맘이다.. 1.처리 단위단일 메시지 리스너:한 번에 하나의 메시지를 처리합니다.Kafka에서 메시지를 가져올 때마다 리스너 메서드가 호출됩니다.배치 ..

인프라/Kafaka 2024.12.06

카프카 리스너 종류 2-배치 메시지 리스너

https://foulerback.tistory.com/27 카프카 리스너 종류 1- 단일 메시지 리스너카프카의 리스너 종류에 대해 이전에 알아봤다.https://foulerback.tistory.com/26 Kafka 리스너(Listener) 개념과 종류Kafka Listener는 Apache Kafka로부터 데이터를 소비하는 역할을 수행하는 Spring Kafka의 기능입foulerback.tistory.com 지난번에는 단일 메시지 리스너에 대해 알아봤고, 이번에는 단일 메세지 리스너와 배치 리스너의 차이점과배치 리스너가 뭔지 알아보려고 한다. 배치 리스너:한 번에 여러 메시지(배치)를 묶어서 처리합니다.Kafka에서 여러 메시지를 가져온 뒤, 배치 단위로 리스너 메서드가 호출됩니다.뭐 한글은 읽을..

인프라/Kafaka 2024.12.06

카프카 리스너 종류 1- 단일 메시지 리스너

카프카의 리스너 종류에 대해 이전에 알아봤다.https://foulerback.tistory.com/26 Kafka 리스너(Listener) 개념과 종류Kafka Listener는 Apache Kafka로부터 데이터를 소비하는 역할을 수행하는 Spring Kafka의 기능입니다.Kafka에서 토픽(topic)에 쌓인 메시지를 리스너가 구독하여 처리합니다. Spring Kafka는 이를 손쉽게 구현할foulerback.tistory.com 이 중에서 각각의 리스너들을 어떻게 사용되는지 내 의지가 닿는한 까지 파헤쳐 보려고 한다.중간에 스킵되면.. 의지가 떨어져 나갔다고 생각하길 바란다.. 단일 메시지 리스너:한 번에 하나의 메시지를 처리합니다.Kafka에서 메시지를 가져올 때마다 리스너 메서드가 호출됩니다..

인프라/Kafaka 2024.12.06

Kafka 리스너(Listener) 개념과 종류

Kafka Listener는 Apache Kafka로부터 데이터를 소비하는 역할을 수행하는 Spring Kafka의 기능입니다.Kafka에서 토픽(topic)에 쌓인 메시지를 리스너가 구독하여 처리합니다. Spring Kafka는 이를 손쉽게 구현할 수 있는 @KafkaListener 어노테이션을 제공합니다. Kafka Listener의 동작 원리Producer가 메시지를 토픽에 전송합니다.Consumer는 특정 토픽을 구독하여 메시지를 읽습니다.Kafka Listener는 Consumer 역할을 하며, Kafka 브로커에서 데이터를 가져와 비즈니스 로직을 실행합니다. Kafka Listener 기본 구성Kafka Listener를 사용하려면 다음을 설정해야 합니다:Kafka 설정 (Producer와 C..

인프라/Kafaka 2024.12.06

패스트캠퍼스 + 9개 프로젝트로 경험하는 대용량 트래픽 & 데이터 처리 초격차 패키지 Online

물에서 육지로라는 타이틀을 걸고 공부를 시작한지 1년정도 되었다.이직에 대한 꿈을 뒤늦게 갖고 중소기업에서 그냥저냥 만족하며 삶을 잘 살고 있었는데문득 미래에 대한 걱정과 결혼하고 나서의 나의 삶과 복지? 워라벨? 아이를 키워야하는데 제약들을 생각하면서이직에 대한 꿈을 다시 꾸게 되었다. 그러면서 인터넷 검색을 통해 여러 사이트들을 찾아보았다.실제 만나서 프로젝트를 하는 사이트도 있었고, 저녁시간 마다 줌으로 강의 및 프로젝트 , 패스트 캠퍼스 처럼 강의를 보여주는 사이트 진짜 많았는데 마음 같아서는 여러 사람들과 교류하며 하고 싶었지만 현실적으로 회사 다니면서 진짜 강인한 의지가 아니고서 매일 그렇게 하고 주말에도 만나서 하고 절대 불가능할 것 같았다.의지 박약이라고 해도 좋다. 그래서 선택하게 된게 ..

카테고리 없음 2024.12.04

Kafka의 토픽(Topic)이란

Kafka의 토픽(Topic)은 Kafka에서 데이터를 발행(publish)하고 구독(subscribe)하는 논리적인 채널입니다.Kafka에서 메시지는 토픽이라는 단위로 분류되며, 각 토픽은 메시지 스트림을 구성합니다. Kafka에서 토픽은 매우 중요한 역할을 하며, 데이터의 흐름과 소비를 제어하는 기본적인 요소입니다.Kafka의 토픽(TOPIC)이란?Kafka에서 토픽은 메시지가 생산자(Producer)에 의해 기록되고, 소비자(Consumer)에 의해 읽히는 메시지 스트림을 의미합니다. 토픽은 메시지 큐와 유사하게 동작하지만, Kafka의 분산 특성과 확장성 덕분에 더 큰 용량과 처리량을 처리할 수 있습니다.1. 메시지 발행과 구독Producer는 특정 토픽에 메시지를 발행(publish)합니다.Co..

인프라/Kafaka 2024.11.29

kafka의 zookeeper 란

Zookeeper는 분산 시스템에서 관리와 협업을 위한 코디네이션 서비스입니다. 주로 분산 애플리케이션이나 분산 시스템에서 구성 정보를 관리하거나, 분산 락, 리더 선출, 노드 상태 관리 등의 작업을 지원하는 도구로 사용됩니다.Zookeeper의 역할과 주요 기능분산 환경에서의 데이터 관리:Zookeeper는 분산 시스템에서 노드 간에 공유해야 하는 설정 값, 상태 정보 등을 관리합니다. 이를 통해 각 노드들이 일관된 정보를 갖도록 보장합니다.예를 들어, 클러스터에 속한 서버들이 공통된 정보를 필요로 할 때, Zookeeper를 사용하여 이를 관리하고, 각 서버에서 동기화된 상태를 유지할 수 있습니다.리더 선출:Zookeeper는 분산 시스템에서 리더 선출을 위한 메커니즘을 제공합니다. 여러 서버가 있을..

인프라/Kafaka 2024.11.27

안녕? kafaka 너는 누구니

Apache Kafka는 인프라 도구이자 분산 스트리밍 플랫폼으로, 개발 언어는 아닙니다.Kafka는 주로 대용량의 실시간 데이터 스트리밍, 메시지 큐 및 이벤트 기반 시스템을 구축하는 데 사용되는 인프라 솔루션입니다.Kafka는 Java로 개발되었지만, 언어 자체는 아니며, 다양한 프로그래밍 언어와의 통합을 지원하는 클라이언트 라이브러리가 제공됩니다. 즉, Kafka는 특정 프로그래밍 언어에 종속되지 않으며, 여러 언어에서 Kafka를 사용할 수 있도록 클라이언트 API를 제공합니다.Kafka는 메시지 큐(MQ)나 이벤트 스트리밍 시스템으로 자주 사용되며, 주로 실시간 데이터 파이프라인과 데이터 스트리밍 애플리케이션을 구축하는 데 사용됩니다.Kafka는 무엇인가?Kafka는 분산 메시징 시스템으로, 다..

인프라/Kafaka 2024.11.27

Tuples 자료구조에 대해서

Redis 미니 프로젝트를 하는 도중에 sorted set으로 자바 언어로 구현 도중 계속 tuples라는 용어가 나와서 궁금해서 찾아본다.자료구조의 개념이었고, 어떤 내용인지 알아보았다.Tuples 자료구조튜플(Tuple)은 유한한 수의 순서가 있는 값들을 저장할 수 있는 자료구조입니다. 튜플의 중요한 특성은 값들이 서로 다른 자료형을 가질 수 있다는 점과 불변성(immutable)을 가질 수 있다는 점입니다. 이 특성 덕분에 튜플은 여러 가지 프로그래밍 언어에서 사용됩니다.튜플의 주요 특성순서가 있다(Ordered): 튜플의 요소들은 순서대로 저장됩니다. 즉, 각 요소는 인덱스를 통해 접근할 수 있습니다.다양한 자료형(Heterogeneous): 튜플은 여러 가지 자료형을 한 번에 저장할 수 있습니다..

개발언어 2024.11.25

Redis Stored set 정의

Redis의 자료형 주 stored set을 사용하여 대기열 시스템을 만들어 보려고 한다.그전에 정의에 대해 알아보고 어떻게 사용해야하는지 학습해보고 진행하려고 한다. Redis의 Sorted Set (정렬된 집합) 자료 구조에서 rank는 각 요소의 순위를 의미합니다. Redis의 Sorted Set은 각 요소에 점수(score)를 할당하여 자동으로 정렬되며, 이 점수를 기준으로 순위(rank)가 매겨집니다. 순위는 점수의 오름차순 또는 내림차순으로 정렬되기 때문에, 특정 요소의 rank를 알고 싶을 때 그 요소가 정렬된 순서에서 어느 위치에 있는지 확인할 수 있습니다.Sorted Set과 Rank 개념Sorted Set: Sorted Set은 각 요소가 유일한 값과 그에 대응하는 점수를 가집니다. 점..

인프라/REDIS 2024.11.25