Вопросы по теме 'kafka-topic'
Как читать тему Kafka построчно в программе Flink
Сначала я загружаю CSV-файл в тему Kafka и могу распечатать тему через программу Flink. Код выглядит следующим образом:
final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
Properties prop = new...
456 просмотров
schedule
03.10.2021
kafka кастомный разделитель и переразбиение
Мы можем указать собственный разделитель для тем kafka. Таким образом, производитель kafka может детерминированно отправить сообщение в конкретный раздел на основе определенного настраиваемого алгоритма.
Теперь вопрос в том, когда я увеличиваю...
70 просмотров
schedule
08.11.2021
Кафка: автоматическое создание темы с опциями
Использую автосоздание тем в Кафке. Некоторые темы требуют уплотнения, некоторые нет.
Можно ли указать собственные параметры при автоматическом создании темы; или мне нужно проверить наличие и создать его «вручную» с желаемыми параметрами, прежде...
144 просмотров
schedule
08.10.2021
Перенаправление внутренних тем в Kafka Streams
В настоящее время работает с Kafka Streams для агрегирования событий в клиентской системе. При запуске нашего прототипа с фейковыми событиями все работает отлично. Однако при использовании реальных данных мы заметили, что в процессе агрегирования...
26 просмотров
schedule
17.09.2021
Почему кафка не создает тему? bootstrap-server не является опцией
Я новичок в Kafka и пытаюсь создать новую тему на своем локальном компьютере.
Я перехожу по этой ссылке .
Вот шаги, которые я выполнил:
Запустить zookeeper
bin/zookeeper-server-start.sh config/zookeeper.properties
Запустить...
15296 просмотров
schedule
21.02.2022
Ошибка при десериализации объекта при отправке в тему Kafka
Я новичок в Кафке. Я пытаюсь отправить сообщение в тему Kafka, содержащую заголовок и полезную нагрузку.
Ниже приведена ошибка:
"org.apache.kafka.common.errors.SerializationException: Can't convert value of class...
69 просмотров
schedule
22.03.2022
Сообщения Kafka не удаляются
Я новичок в Кафке. Я провожу эксперимент, как удалить сообщения в теме кафки. Я обнаружил, что если мы установим для свойства «retention.ms» для темы меньшее значение времени, скажем, 1 секунду, то через 1 секунду сообщения в теме будут удалены, как...
118 просмотров
schedule
08.07.2022
Очистить тему кафки программно с помощью С#
Мне нужно программно очистить или удалить темы Kafka с помощью языка С#. В настоящее время я использую библиотеку Confluent.Kafka для публикации и использования тем Kafka.
Я могу удалить темы Kafka, используя командную строку, как это...
1406 просмотров
schedule
19.09.2022
Может ли выходная тема Kafka Streams находиться в отдельном кластере?
У меня есть тема, в которой все журналы помещаются в централизованную тему, но я хотел бы отфильтровать некоторые из этих записей в отдельную тему и сгруппировать, если это возможно.
Спасибо
1499 просмотров
schedule
09.02.2023
Как просмотреть свойства темы в Apache Kafka
я хочу просмотреть свойства уровня темы что-то вроде
"message.timestamp.type": "LogAppendTime",
"cleanup.policy":"compact"
можно ли просмотреть все свойства, установленные на уровне темы? есть ли какая-нибудь команда, где я могу просмотреть...
714 просмотров
schedule
31.01.2023
Прочитайте тему Кафки с начала
У меня есть приложение весенней загрузки, которое продолжает читать все сообщения из определенной темы. Моя проблема в том, что у меня проблема в том, что при перезапуске приложения ему нужно заново прочитать все сообщения из темы. Я думал, что эти...
245 просмотров
schedule
03.01.2023
Где хранится смещение потребителя в Kafka
В Kafka я знаю, что есть тема с именем __consumer_offsets , которая используется для хранения смещений потребителей. Насколько я понимаю, потребитель будет делать два типа вещей:
получить данные из раздела.
пишите офсеты в тему...
16 просмотров
schedule
26.04.2023
Кафка log.segment.bytes против log.retention.hours
Я следил за книгой Kafka: The Definitive Guide First Edition, чтобы понять, когда сегменты журнала удаляются брокером.
Согласно тексту, который я понял, сегмент не подлежит удалению, пока он не будет закрыт. Сегмент может быть закрыт только тогда,...
1714 просмотров
schedule
10.04.2023