通过pykafka接收Kafka消息队列的方法


Posted in Python onDecember 27, 2018

没有Kafka环境,所以也没有进行验证。感觉今后应该能用到,所以借抄在此,备查。

pykafka使用示例,自动消费最新消息,不重复消费:

# -* coding:utf8 *-
from pykafka import KafkaClient
 
host = '192.168.200.38'
client = KafkaClient(hosts="%s:9092" % host)
 
print client.topics
 
# 生产者
# topicdocu = client.topics['task_pull']
# producer = topicdocu.get_producer()
# for i in range(4):
#   print i
#   producer.produce('test message ' + str(i ** 2))
# producer.stop()
 
# 消费者
topic = client.topics['task_push']
consumer = topic.get_simple_consumer(consumer_group='test', auto_commit_enable=True, consumer_id='test')
for message in consumer:
  if message is not None:
    print message.offset, message.value

以上这篇通过pykafka接收Kafka消息队列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
零基础写python爬虫之urllib2中的两个重要概念:Openers和Handlers
Nov 05 Python
Python安装使用命令行交互模块pexpect的基础教程
May 12 Python
python3实现ftp服务功能(客户端)
Mar 24 Python
TensorFlow实现RNN循环神经网络
Feb 28 Python
详谈套接字中SO_REUSEPORT和SO_REUSEADDR的区别
Apr 28 Python
python打印异常信息的两种实现方式
Dec 24 Python
详解pycharm连接不上mysql数据库的解决办法
Jan 10 Python
解决Pytorch 加载训练好的模型 遇到的error问题
Jan 10 Python
使用python 计算百分位数实现数据分箱代码
Mar 03 Python
Python定时从Mysql提取数据存入Redis的实现
May 03 Python
Keras: model实现固定部分layer,训练部分layer操作
Jun 28 Python
Python带你从浅入深探究Tuple(基础篇)
May 15 Python
python利用thrift服务读取hbase数据的方法
Dec 27 #Python
python hbase读取数据发送kafka的方法
Dec 27 #Python
Python类和对象的定义与实际应用案例分析
Dec 27 #Python
在python环境下运用kafka对数据进行实时传输的方法
Dec 27 #Python
kafka-python批量发送数据的实例
Dec 27 #Python
Python闭包思想与用法浅析
Dec 27 #Python
对python操作kafka写入json数据的简单demo分享
Dec 27 #Python
You might like
动漫定律:眯眯眼都是怪物!这些角色狠话不多~
2020/03/03 日漫
PHP之COOKIE支持详解
2010/09/20 PHP
PHP spl_autoload_register实现自动加载研究
2011/12/06 PHP
2个自定义的PHP in_array 函数,解决大量数据判断in_array的效率问题
2014/04/08 PHP
Yii2基于Ajax自动获取表单数据的方法
2016/08/10 PHP
laravel csrf排除路由,禁止,关闭指定路由的例子
2019/10/21 PHP
自己写的兼容ie和ff的在线文本编辑器类似ewebeditor
2012/12/12 Javascript
jquery validate在ie8下的bug解决方法
2013/11/13 Javascript
jQuery aminate方法定位到页面具体位置
2013/12/26 Javascript
使用CSS3的scale实现网页整体缩放
2014/03/18 Javascript
jquery统计用户选中的复选框的个数
2014/06/06 Javascript
jquery中each遍历对象和数组示例
2014/08/05 Javascript
jQuery基于$.ajax设置移动端click超时处理方法
2016/05/14 Javascript
最丑的时钟效果!js canvas时钟制作方法
2016/08/15 Javascript
three.js实现3D视野缩放效果
2017/11/16 Javascript
JS闭包原理与应用经典示例
2018/12/20 Javascript
jquery分页优化操作实例分析
2019/08/23 jQuery
vue根据条件不同显示不同按钮的操作
2020/08/04 Javascript
js+canvas绘制图形验证码
2020/09/21 Javascript
写一个Vue loading 插件
2020/11/09 Javascript
[04:42]2015国际邀请赛CDEC战队晋级之路
2015/08/13 DOTA
详解Python中 __get__和__getattr__和__getattribute__的区别
2016/06/16 Python
Python数据集切分实例
2018/12/08 Python
python 申请内存空间,用于创建多维数组的实例
2019/12/02 Python
解决pycharm 安装numpy失败的问题
2019/12/05 Python
python-xpath获取html文档的部分内容
2020/03/06 Python
python3.x中安装web.py步骤方法
2020/06/23 Python
Selenium python时间控件输入问题解决方案
2020/07/22 Python
RentCars.com巴西:汽车租赁网站
2016/08/22 全球购物
测绘工程本科生求职信
2013/10/10 职场文书
创业计划书如何吸引他人眼球
2014/01/10 职场文书
小学岗位竞聘方案
2014/01/22 职场文书
销售口号大全
2014/06/11 职场文书
2014年党支部工作总结
2014/11/13 职场文书
成品仓管员岗位职责
2015/04/01 职场文书
2015年度个人工作总结报告
2015/10/24 职场文书