Um pipeline simples end-to-end usando Kafka, Python e Kafka UI para simular vendas de frutas, detectar compras suspeitas e visualizar dados em tempo real.
- Produz mensagens Kafka simulando vendas de frutas com dados como quantidade, preço e cliente.
- Consome mensagens Kafka e classifica compras como
NORMALouSUSPEITAcom base no valor total. - Kafka UI para visualizar e explorar mensagens e tópicos via interface web.
- Todo o ambiente Kafka (Kafka Broker, Zookeeper, Kafka UI) roda via Docker Compose para fácil setup.
- Docker instalado e rodando
- Python 3.11+ instalado
- (Opcional) pipenv ou
venvpara criar ambiente virtual Python
git clone https://github.com/thaisdo/franz-stream.git
cd franz-streamdocker-compose up -d- Espere alguns segundos até os containers subirem.
Se quiser garantir que o tópico existe:
docker exec -it kafka kafka-topics --create --topic vendas --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1python -m venv venv
.\venv\Scripts\activate # Windows PowerShell
pip install -r pyproject.tomlpython consumer.pypython producer.pyhttp://localhost:8080├── consumer.py # Consome e analisa mensagens Kafka
├── producer.py # Produz mensagens simulando vendas de frutas
├── docker-compose.yml # Configuração Docker Kafka, Zookeeper e Kafka UI
├── pyproject.toml # Dependências Python (kafka-python, etc)
└── README.md # Este arquivo