Python使用struct处理二进制的实例详解


Posted in Python onSeptember 11, 2017

Python使用struct处理二进制的实例详解

有的时候需要用python处理二进制数据,比如,存取文件,socket操作时.这时候,可以使用python的struct模块来完成.可以用 struct来处理c语言中的结构体. 

  • struct模块中最重要的三个函数是pack(), unpack(), calcsize()
  • pack(fmt, v1, v2, ...)     按照给定的格式(fmt),把数据封装成字符串(实际上是类似于c结构体的字节流)
  • unpack(fmt, string)       按照给定的格式(fmt)解析字节流string,返回解析出来的tuple
  • calcsize(fmt)                 计算给定的格式(fmt)占用多少字节的内存 

struct中支持的格式如下表:

Format C Type Python 字节数
x pad byte no value 1
c char string of length 1 1
b signed char integer 1
B unsigned char integer 1
? _Bool bool 1
h short integer 2
H unsigned short integer 2
i int integer 4
I unsigned int integer or long 4
l long integer 4
L unsigned long long 4
q long long long 8
Q unsigned long long long 8
f float float 4
d double float 8
s char[] string 1
p char[] string 1
P void * long

注1.q和Q只在机器支持64位操作时有意思
注2.每个格式前可以有一个数字,表示个数
注3.s格式表示一定长度的字符串,4s表示长度为4的字符串,但是p表示的是pascal字符串
注4.P用来转换一个指针,其长度和机器字长相关
注5.最后一个可以用来表示指针类型的,占4个字节

为了同c中的结构体交换数据,还要考虑有的c或c++编译器使用了字节对齐,通常是以4个字节为单位的32位系统,故而struct根据本地机器字节顺序转换.可以用格式中的第一个字符来改变对齐方式.定义如下:

Character Byte order Size and alignment
@ native native            凑够4个字节
= native standard        按原字节数
little-endian standard        按原字节数
> big-endian standard       按原字节数
! network (= big-endian) standard       按原字节数

使用方法是放在fmt的第一个位置,就像'@5s6sif' 

示例一:

比如有一个结构体

struct Header
{
  unsigned short id;
  char[4] tag;
  unsigned int version;
  unsigned int count;
}

通过socket.recv接收到了一个上面的结构体数据,存在字符串s中,现在需要把它解析出来,可以使用unpack()函数.

import struct id, tag, version, count = struct.unpack("!H4s2I", s)

上面的格式字符串中,!表示我们要使用网络字节顺序解析,因为我们的数据是从网络中接收到的,在网络上传送的时候它是网络字节顺序的.后面的H表示 一个unsigned short的id,4s表示4字节长的字符串,2I表示有两个unsigned int类型的数据.

就通过一个unpack,现在id, tag, version, count里已经保存好我们的信息了.

同样,也可以很方便的把本地数据再pack成struct格式.

ss = struct.pack("!H4s2I", id, tag, version, count);

pack函数就把id, tag, version, count按照指定的格式转换成了结构体Header,ss现在是一个字符串(实际上是类似于c结构体的字节流),可以通过 socket.send(ss)把这个字符串发送出去.

示例二:

import struct
a=12.34
#将a变为二进制
bytes=struct.pack('i',a)

此时bytes就是一个string字符串,字符串按字节同a的二进制存储内容相同。

再进行反操作

现有二进制数据bytes,(其实就是字符串),将它反过来转换成python的数据类型:

a,=struct.unpack('i',bytes)

注意,unpack返回的是tuple

所以如果只有一个变量的话:

bytes=struct.pack('i',a)

那么,解码的时候需要这样

a,=struct.unpack('i',bytes) 或者 (a,)=struct.unpack('i',bytes)

如果直接用a=struct.unpack('i',bytes),那么 a=(12.34,) ,是一个tuple而不是原来的浮点数了。

如果是由多个数据构成的,可以这样:

a='hello'
b='world!'
c=2
d=45.123
bytes=struct.pack('5s6sif',a,b,c,d)

此时的bytes就是二进制形式的数据了,可以直接写入文件比如 binfile.write(bytes)

然后,当我们需要时可以再读出来,bytes=binfile.read()

再通过struct.unpack()解码成python变量

a,b,c,d=struct.unpack('5s6sif',bytes)

'5s6sif'这个叫做fmt,就是格式化字符串,由数字加字符构成,5s表示占5个字符的字符串,2i,表示2个整数等等,下面是可用的字符及类型,ctype表示可以与python中的类型一一对应。

注意:二进制文件处理时会碰到的问题

我们使用处理二进制文件时,需要用如下方法

binfile=open(filepath,'rb')  读二进制文件

binfile=open(filepath,'wb')  写二进制文件

那么和binfile=open(filepath,'r')的结果到底有何不同呢?

不同之处有两个地方:

第一,使用'r'的时候如果碰到'0x1A',就会视为文件结束,这就是EOF。使用'rb'则不存在这个问题。即,如果你用二进制写入再用文本读出的话,如果其中存在'0X1A',就只会读出文件的一部分。使用'rb'的时候会一直读到文件末尾。

第二,对于字符串x='abc\ndef',我们可用len(x)得到它的长度为7,\n我们称之为换行符,实际上是'0X0A'。当我们用'w'即文本方式写的时候,在windows平台上会自动将'0X0A'变成两个字符'0X0D','0X0A',即文件长度实际上变成8.。当用'r'文本方式读取时,又自动的转换成原来的换行符。如果换成'wb'二进制方式来写的话,则会保持一个字符不变,读取时也是原样读取。所以如果用文本方式写入,用二进制方式读取的话,就要考虑这多出的一个字节了。'0X0D'又称回车符。linux下不会变。因为linux只使用'0X0A'来表示换行。

 如有疑问请留言或者到本站社区交流讨论,感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

Python 相关文章推荐
python 将字符串转换成字典dict
Mar 24 Python
使用C语言来扩展Python程序和Zope服务器的教程
Apr 14 Python
python3 模拟登录v2ex实例讲解
Jul 13 Python
PyCharm-错误-找不到指定文件python.exe的解决方法
Jul 01 Python
Python matplotlib绘制饼状图功能示例
Sep 10 Python
python找出列表中大于某个阈值的数据段示例
Nov 24 Python
基于pytorch的lstm参数使用详解
Jan 14 Python
在pycharm中debug 实时查看数据操作(交互式)
Jun 09 Python
在keras中model.fit_generator()和model.fit()的区别说明
Jun 17 Python
Python 高效编程技巧分享
Sep 10 Python
Python importlib模块重载使用方法详解
Oct 13 Python
python使用torch随机初始化参数
Mar 22 Python
Python基于回溯法子集树模板解决野人与传教士问题示例
Sep 11 #Python
Python 高级专用类方法的实例详解
Sep 11 #Python
Python 异常处理的实例详解
Sep 11 #Python
Python基于回溯法子集树模板解决马踏棋盘问题示例
Sep 11 #Python
Python基于回溯法子集树模板解决找零问题示例
Sep 11 #Python
详解 Python 与文件对象共事的实例
Sep 11 #Python
Python 私有函数的实例详解
Sep 11 #Python
You might like
php 过滤器实现代码
2010/08/09 PHP
php使HTML标签自动补全闭合函数代码
2012/10/04 PHP
PHP使用range协议实现输出文件断点续传代码实例
2014/07/04 PHP
PHP-FPM实现性能优化
2016/03/31 PHP
PHP实现的数独求解问题示例
2017/04/18 PHP
js 方法实现返回多个数据的代码
2009/04/30 Javascript
js自执行函数的几种不同写法的比较
2012/08/16 Javascript
Jquery绑定事件(bind和live的区别介绍)
2013/08/23 Javascript
JavaScript利用正则表达式去除日期中的“-”
2014/07/01 Javascript
详谈jQuery操纵DOM元素属性 attr()和removeAtrr()方法
2015/01/22 Javascript
JavaScript实现页面5秒后自动跳转的方法
2015/04/16 Javascript
非常棒的jQuery图片轮播效果
2016/04/17 Javascript
jquery遍历json对象集合详解
2016/05/18 Javascript
js+canvas实现动态吃豆人效果
2017/03/22 Javascript
vue父组件通过props如何向子组件传递方法详解
2017/08/16 Javascript
Angular2之二级路由详解
2018/08/31 Javascript
详细分析vue表单数据的绑定
2020/07/20 Javascript
Antd中单个DatePicker限定时间输入范围操作
2020/10/29 Javascript
js重写alert事件(避免alert弹框标题出现网址)
2020/12/04 Javascript
[48:53]2014 DOTA2华西杯精英邀请赛 5 25 LGD VS VG第一场
2014/05/26 DOTA
详解python项目实战:模拟登陆CSDN
2019/04/04 Python
numpy数组广播的机制
2019/07/12 Python
python读写csv文件并增加行列的实例代码
2019/08/01 Python
30秒学会30个超实用Python代码片段【收藏版】
2019/10/15 Python
Python configparser模块配置文件过程解析
2020/03/03 Python
详解使用python3.7配置开发钉钉群自定义机器人(2020年新版攻略)
2020/04/01 Python
Python爬虫入门有哪些基础知识点
2020/06/02 Python
Python如何执行系统命令
2020/09/23 Python
美国专业汽车音响和移动电子产品零售商:Car Toys
2019/05/13 全球购物
如何用Python来进行查询和替换一个文本字符串
2014/01/02 面试题
旅游管理毕业生自荐书
2014/02/02 职场文书
2015年七夕爱情寄语
2015/03/24 职场文书
2015年幼儿园教育教学工作总结
2015/05/25 职场文书
正规欠条模板
2015/07/03 职场文书
Python 文本滚动播放器的实现代码
2021/04/25 Python
MySQL数据迁移相关总结
2021/04/29 MySQL