Вопросы по теме 'kafka-topic'

Как читать тему Kafka построчно в программе Flink
Сначала я загружаю CSV-файл в тему Kafka и могу распечатать тему через программу Flink. Код выглядит следующим образом: final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); Properties prop = new...
456 просмотров
schedule 03.10.2021

kafka кастомный разделитель и переразбиение
Мы можем указать собственный разделитель для тем kafka. Таким образом, производитель kafka может детерминированно отправить сообщение в конкретный раздел на основе определенного настраиваемого алгоритма. Теперь вопрос в том, когда я увеличиваю...
70 просмотров
schedule 08.11.2021

Кафка: автоматическое создание темы с опциями
Использую автосоздание тем в Кафке. Некоторые темы требуют уплотнения, некоторые нет. Можно ли указать собственные параметры при автоматическом создании темы; или мне нужно проверить наличие и создать его «вручную» с желаемыми параметрами, прежде...
144 просмотров

Перенаправление внутренних тем в Kafka Streams
В настоящее время работает с Kafka Streams для агрегирования событий в клиентской системе. При запуске нашего прототипа с фейковыми событиями все работает отлично. Однако при использовании реальных данных мы заметили, что в процессе агрегирования...
26 просмотров

Почему кафка не создает тему? bootstrap-server не является опцией
Я новичок в Kafka и пытаюсь создать новую тему на своем локальном компьютере. Я перехожу по этой ссылке . Вот шаги, которые я выполнил: Запустить zookeeper bin/zookeeper-server-start.sh config/zookeeper.properties Запустить...
15296 просмотров

Ошибка при десериализации объекта при отправке в тему Kafka
Я новичок в Кафке. Я пытаюсь отправить сообщение в тему Kafka, содержащую заголовок и полезную нагрузку. Ниже приведена ошибка: "org.apache.kafka.common.errors.SerializationException: Can't convert value of class...
69 просмотров
schedule 22.03.2022

Сообщения Kafka не удаляются
Я новичок в Кафке. Я провожу эксперимент, как удалить сообщения в теме кафки. Я обнаружил, что если мы установим для свойства «retention.ms» для темы меньшее значение времени, скажем, 1 секунду, то через 1 секунду сообщения в теме будут удалены, как...
118 просмотров

Очистить тему кафки программно с помощью С#
Мне нужно программно очистить или удалить темы Kafka с помощью языка С#. В настоящее время я использую библиотеку Confluent.Kafka для публикации и использования тем Kafka. Я могу удалить темы Kafka, используя командную строку, как это...
1406 просмотров

Может ли выходная тема Kafka Streams находиться в отдельном кластере?
У меня есть тема, в которой все журналы помещаются в централизованную тему, но я хотел бы отфильтровать некоторые из этих записей в отдельную тему и сгруппировать, если это возможно. Спасибо
1499 просмотров

Как просмотреть свойства темы в Apache Kafka
я хочу просмотреть свойства уровня темы что-то вроде "message.timestamp.type": "LogAppendTime", "cleanup.policy":"compact" можно ли просмотреть все свойства, установленные на уровне темы? есть ли какая-нибудь команда, где я могу просмотреть...
714 просмотров
schedule 31.01.2023

Прочитайте тему Кафки с начала
У меня есть приложение весенней загрузки, которое продолжает читать все сообщения из определенной темы. Моя проблема в том, что у меня проблема в том, что при перезапуске приложения ему нужно заново прочитать все сообщения из темы. Я думал, что эти...
245 просмотров

Где хранится смещение потребителя в Kafka
В Kafka я знаю, что есть тема с именем __consumer_offsets , которая используется для хранения смещений потребителей. Насколько я понимаю, потребитель будет делать два типа вещей: получить данные из раздела. пишите офсеты в тему...
16 просмотров

Кафка log.segment.bytes против log.retention.hours
Я следил за книгой Kafka: The Definitive Guide First Edition, чтобы понять, когда сегменты журнала удаляются брокером. Согласно тексту, который я понял, сегмент не подлежит удалению, пока он не будет закрыт. Сегмент может быть закрыт только тогда,...
1714 просмотров