Category: Apache Kafka

[Azure/Event Hub/Kafka] Using Event Hub instead of Kafka on the Azure Cloud.

Posted on By nim No Comments on [Azure/Event Hub/Kafka] Using Event Hub instead of Kafka on the Azure Cloud.

Đâu tiên nếu chúng ta chưa đăng ký sử dụng Event Hub sẽ bị lỗi trên.Chúng ta sẽ thực hiện đăng ký như sau: Bạn tìm đến eventhub click vào: Tiếp theo thì bạn sẽ chọn Subscription và Resource groupNamespace name nó là tên của event-hub rồi chọn region Pricing tier: chúng ta có rất…

Read More “[Azure/Event Hub/Kafka] Using Event Hub instead of Kafka on the Azure Cloud.” »

Azure Cloud, Kafka

Message Prioritization in Kafka

Posted on By nim No Comments on Message Prioritization in Kafka

Copy from: https://udayabharathi.medium.com/message-prioritization-in-kafka-105f712dcf8a Hello there! If you’re familiar with Kafka. And if you understand the internals, then you might wonder how to implement message prioritization in Kafka. Because, the way it works, this use case is simply not directly possible with Kafka. If you are actually new to Kafka, then be sure to stick with…

Read More “Message Prioritization in Kafka” »

Kafka

How to code a tool to connect Kafka by Golang

Posted on By nim No Comments on How to code a tool to connect Kafka by Golang

1) Overview Bạn cần viết 1 application để connect vào kafka bằng Golang. Chúng ta có 2 lựa chọn:https://github.com/confluentinc/confluent-kafka-gohttps://github.com/IBM/sarama Hãy tìm hiểu về sơ về cách thức hoạt động và ưu nhược điểm của 2 package trên. confluent-kafka-go Key Features: sarama Key Features: Comparison and Considerations Hoặc bạn có thể tham khảo link này:https://www.reddit.com/r/golang/comments/olrd34/confluentkafkago_or_shopifysarama/ Example…

Read More “How to code a tool to connect Kafka by Golang” »

Golang, Kafka

[Kafka/Strimzi] Install kafka cluster on k8s by Strimzi

Posted on By nim No Comments on [Kafka/Strimzi] Install kafka cluster on k8s by Strimzi

Bạn đang sợ hữu 1 cluster k8s. Và bạn muốn cài kafka lên đó.Mình đã có hướng dẫn cài bạn ở 1 bài trước đó Giờ bạn có thể cài kafka thông qua strimzi. Nó là 1 operator. Tiếp theo là bạn sẽ sử dụng dụng file để tạo ra 1 simple kafka. vì mình…

Read More “[Kafka/Strimzi] Install kafka cluster on k8s by Strimzi” »

Kafka

IBM MQ -> RabbitMQ -> Kafka ->Pulsar: How do message queue architectures evolve?

Posted on By nim No Comments on IBM MQ -> RabbitMQ -> Kafka ->Pulsar: How do message queue architectures evolve?

Nguồn: https://blog.bytebytego.com/i/137744340/ibm-mq-rabbitmq-kafka-pulsar-how-do-message-queue-architectures-evolve IBM MQ IBM MQ được ra mắt vào năm 1993. Ban đầu nó được gọi là MQSeries và được đổi tên thành WebSphere MQ vào năm 2002. Nó được đổi tên thành IBM MQ vào năm 2014. IBM MQ là một sản phẩm rất thành công, được sử dụng rộng rãi trong ngành…

Read More “IBM MQ -> RabbitMQ -> Kafka ->Pulsar: How do message queue architectures evolve?” »

Kafka Connect

Wins from Effective Kafka Monitoring at Adobe: Stability, Performance, and Cost Savings

Posted on By nim No Comments on Wins from Effective Kafka Monitoring at Adobe: Stability, Performance, and Cost Savings

https://blog.developer.adobe.com/wins-from-effective-kafka-monitoring-at-adobe-stability-performance-and-cost-savings-a3ecb701ee5b Co-author: Eugen Nicolae Cojan As the father of quality management W. Edwards Deming, put it: “Without data, you are just another person with an opinion.” This post combines real-world issues faced by our team and our approach to addressing them. It also shares the key metrics to start monitoring Kafka client implementations effectively. Case studies…

Read More “Wins from Effective Kafka Monitoring at Adobe: Stability, Performance, and Cost Savings” »

Kafka

[Kafka/MSK] Install kafka or MSK on aws through terraform.

Posted on By nim 2 Comments on [Kafka/MSK] Install kafka or MSK on aws through terraform.

1) Creating VPC Đầu tiên mình sẽ tạo vpc 2) Creating Security Group. 3) Declare variable and Create Kafka by terraform on AWS Tiếp đến là tạo msk hay còn gọi là kafka on aws Nếu bạn bị lỗi bên dưới Bạn phải khai báo:client_authentication_unauthenticated_enabled = true bạn cần chú ý số number_of_nodes nó phải…

Read More “[Kafka/MSK] Install kafka or MSK on aws through terraform.” »

AWS - Amazon Web Service, Kafka

[Kafka] How many partitions are enough in a topic on Kafka?

Posted on By nim No Comments on [Kafka] How many partitions are enough in a topic on Kafka?

Chúng ta cần set bao nhiều partion là phù hợp. Số partition không vượt quá số tổng CPU của các node vật lý.Số partition bằng 2 x nodeSố partitions = số pod trên k8s Bạn có thể tham khảo thêm bài viết này: https://viblo.asia/p/005-bao-nhieu-partition-la-du-cho-mot-topic-trong-apache-kafka-V3m5WQxQZO7

Kafka