Python读写Json涉及到中文的处理方法


Posted in Python onSeptember 12, 2016

今天在帮前端准备数据的时候,需要把数据格式转成json格式,说实话,涉及到中文有时候真的是很蛋疼,除非对Python的编码规则比较了解,不然处理起来真的很蛋疼。

整个逻辑

我们需要处理的是把一些文章处理,生成多个html文件,然后用json来显示文章的列表,图片,摘要和标题。

思路

为了以后的数据扩展,那必须有一个数据库,我的想法就是自己写一个简单的网页做为提交输入,然后post到后台以后录入到数据库中,再写一个展示文章的页面,展示效果正确后,写一个requests动态的把所有的数据都爬下来生成一个一个的html文档。最后的json数据我只要从数据库把数据抽出来生成就行了。

前端

其实前端的东西很简单,最近一直在写网页,所以前端的东西分分钟就搞定了。代码如下:

urls.py

from django.conf.urls import url, include
from . import views


urlpatterns = {
  url(r'^$', views.index, name='index'),
  url(r'add_article/', views.add_article, name='add_article'),
  url(r'^article/(?P<main_id>\S+)/$', views.article, name='article'),
}
views.py

# coding=utf-8
from django.shortcuts import render
from .models import Tzxy

# Create your views here.


def index(request):
  return render(request, 'index.html')


def add_article(request):
  error = 'error'
  if request.method == 'POST':
    # 获取前段request的内容
    main_id = request.POST['main_id']
    img_url = request.POST['img_url']
    title = request.POST['title']
    content = request.POST['content']
    abstract = content[:50]
    print main_id
    indb = Tzxy(
          main_id=main_id,
          img_url=img_url,
          title=title,
          content=content,
          abstract=abstract
          )
    indb.save()
    error = 'success'
    return render(request, 'index.html', {'error': error})
  return render(request, 'index.html')


def article(request, main_id):
  article_detial = Tzxy.objects.get(main_id=main_id)
  return render(request, 'views.html', {'content': article_detial})

models.py

from __future__ import unicode_literals
from django.db import models
from django.contrib import admin


class Tzxy(models.Model):
  main_id = models.CharField(max_length=10)
  img_url = models.CharField(max_length=50, null=True)
  title = models.CharField(max_length=50)
  content = models.TextField()
  abstract = models.CharField(max_length=200)

admin.site.register(Tzxy)

模板我就随便写了一个简单的表单

index.html

<!DOCTYPE html>
<html lang="en">
<head>
  <meta charset="UTF-8">
  <title>Title</title>
  <link href="http://libs.baidu.com/bootstrap/3.0.3/css/bootstrap.min.css" rel="stylesheet">
  <script src="http://libs.baidu.com/jquery/2.0.0/jquery.min.js"></script>
  <script src="http://libs.baidu.com/bootstrap/3.0.3/js/bootstrap.min.js"></script>
</head>
<body>
<form method="post" action="/tzxy/add_article/">
{% csrf_token %}
main_id: <input type="text" name="main_id"><br>
img_url: <input type="text" name="img_url"><br>
title: <input type="text" name="title"><br>
{% if error == 'success' %}
  <div class="alert alert-success">{{ error }}</div>
{% endif %}
<textarea name="content" rows="25" style="width: 600px;"></textarea><br>
  <input type="submit" name="Submit">
</form>
</body>
</html>

展示的页面

{% load custom_markdown %}
<!DOCTYPE html>
<html lang="zh-cn">
<head>
  <meta charset="UTF-8">
  <meta name="viewport" content="initial-scale=1.0,maximum-scale=1.0,minimum-scale=1.0,user-scalable=no" />
  <meta name="apple-touch-fullscreen" content="yes" />
  <meta name="apple-mobile-web-app-capable" content="yes" />
  <meta name="format-detection" content="telephone=no">
  <meta http-equiv="Cache-Control" content="no-store" />
  <meta http-equiv="Pragma" content="no-cache" />
  <meta http-equiv="Expires" content="0" />
  <title>{{ content.title }}</title>
  <link rel="stylesheet" href="../../css/cssreset.min.css">
  <link rel="stylesheet" href="../../css/fx_tzxy_content.min.css">
</head>
<body>

  <div class="page">
    <h1>{{ content.title }}</h1>
    <div class="content">
      {{ content.content | custom_markdown | linebreaksbr }}
    </div>
  </div>

</body>
</html>

当然,我里面使用了markdown来处理了一些数据。有关markdown的集成,可以移步《Django开发博客(六)——添加markdown支持》
爬数据的小脚本如下,需要使用到requests模块

# coding=utf-8
import sys
import requests
reload(sys)
sys.setdefaultencoding('utf8')


def tohtml(file_name, startpos, endpos):
  """
  请求网页数据后把网页源码存储为html格式,启动脚本时要先启动Django的Server
  :param file_name:生成文件名的前缀,最后一位用传入的数字来代替
  :param startpos:开始的数字
  :param endpos:结束的数字
  :return:None
  """

  for x in range(startpos, endpos):
    r = requests.get('http://127.0.0.1:8000/tzxy/article/' + file_name + str(x))
    with open('/Users/SvenWeng/Desktop/test/' + file_name + str(x) + '.html', 'w') as f:
      f.write(r.text)
  print 'success'


if __name__ == '__main__':
  tzhtl_name = 'tzxy_tzhtl_h_'
  djjyy_name = 'tzxy_djjyy_h_'
  tohtml(djjyy_name, 1, 39)

里面的一些命名自己可以根据需要去修改。

生成json

说实话,json的使用方式很简单,Python对json的支持也很好,不过涉及到中文就有点蛋疼了,我的代码是这样的:

# coding=utf-8
import sqlite3
import json
import sys
reload(sys)
sys.setdefaultencoding('utf8')

list_json = []

conn = sqlite3.connect('db.sqlite3')
c = conn.cursor()
sql = 'select * from Tzxy_tzxy'
c.execute(sql)
all_thing = c.fetchall()

for x in all_thing:
  dic_member = {'id': x[1].split('_')[3],
         'img': x[2],
         'title': x[3],
         'abstract': ''}
  list_json.append(dic_member)
conn.close()

final_json = json.dumps(list_json, sort_keys=True, indent=4)
with open('test.json', 'w') as f:
  f.write(final_json)

代码逻辑是:定义一个空列表,用来装生成的字典信息,然后从sqlite里面把之前存的数据全部抓出来。把数据循环生成自己想要的格式的字典,一个一个的插到列表中。再用Python提供的json.dumps方法把数据转成json格式,再写入文件就行了。
逻辑看上去是没什么问题,实现起来也很完美,但是最后我打开json文件检查的时候发现所有的中文都变成Unicode了。这简直是坑爹啊。

大致查了一下,好像网络上对这块说的内容并不详细,举得例子也都是非常非常简单的那种,直接给中文的,并不是我想要的,最后只能硬着头皮去看官方的说明,最后找到了这么一个东西ensure_ascii=False,在Python转Json的时候带上这个方法,也就是

final_json = json.dumps(list_json, sort_keys=True, indent=4, ensure_ascii=False)

这样处理之后,写入文件就是正常的中文了。

以上这篇Python读写Json涉及到中文的处理方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
深入理解Python中的元类(metaclass)
Feb 14 Python
python操作ie登陆土豆网的方法
May 09 Python
Python字符串特性及常用字符串方法的简单笔记
Jan 04 Python
SQLite3中文编码 Python的实现
Jan 11 Python
Python数据分析之双色球中蓝红球分析统计示例
Feb 03 Python
python多维数组切片方法
Apr 13 Python
Python过滤txt文件内重复内容的方法
Oct 21 Python
解决Python中list里的中文输出到html模板里的问题
Dec 17 Python
Python编写通讯录通过数据库存储实现模糊查询功能
Jul 18 Python
Python用input输入列表的实例代码
Feb 07 Python
用python介绍4种常用的单链表翻转的方法小结
Feb 24 Python
python简单的三元一次方程求解实例
Apr 02 Python
详细介绍Python的鸭子类型
Sep 12 #Python
Python 读写文件和file对象的方法(推荐)
Sep 12 #Python
使用Python进行二进制文件读写的简单方法(推荐)
Sep 12 #Python
浅谈python对象数据的读写权限
Sep 12 #Python
python获取list下标及其值的简单方法
Sep 12 #Python
Python循环语句中else的用法总结
Sep 11 #Python
python字典键值对的添加和遍历方法
Sep 11 #Python
You might like
Docker 如何布置PHP开发环境
2016/06/21 PHP
jQuery 表格工具集
2010/04/25 Javascript
this和执行上下文实现代码
2010/07/01 Javascript
通过js获取div的background-image属性
2013/10/15 Javascript
jQuery中on()方法用法实例
2015/01/19 Javascript
jQuery表单域选择器用法分析
2015/02/10 Javascript
js拖拽的原型声明和用法总结
2016/04/04 Javascript
深入理解React中es6创建组件this的方法
2016/08/29 Javascript
Vuejs仿网易云音乐实现听歌及搜索功能
2017/03/30 Javascript
网页中的图片查看器viewjs使用方法
2017/07/11 Javascript
JS实现多物体运动的方法详解
2018/01/23 Javascript
解决在layer.open中使用时间控件laydate失败的问题
2019/09/11 Javascript
基于Vue的商品主图放大镜方案详解
2019/09/19 Javascript
[02:16]深扒TI7聊天轮盘语音出处2
2017/05/11 DOTA
Python实现自动登录百度空间的方法
2017/06/10 Python
对Python中gensim库word2vec的使用详解
2018/05/08 Python
python实现音乐下载的统计
2018/06/20 Python
PyQt5+requests实现车票查询工具
2019/01/21 Python
Python 中Django安装和使用教程详解
2019/07/03 Python
elasticsearch python 查询的两种方法
2019/08/04 Python
浅谈Python中(&amp;,|)和(and,or)之间的区别
2019/08/07 Python
python 如何读、写、解析CSV文件
2021/03/03 Python
纯CSS3实现图片无间断轮播效果
2016/08/25 HTML / CSS
生产总经理岗位职责
2013/12/19 职场文书
上课打牌的检讨书
2014/02/15 职场文书
社区消防工作实施方案
2014/03/21 职场文书
法人授权委托书格式
2014/04/08 职场文书
询价采购方案
2014/06/09 职场文书
小学生关于梦想的演讲稿
2014/08/22 职场文书
党员自我剖析材料
2014/08/31 职场文书
交通事故赔偿协议书怎么写
2014/10/04 职场文书
幼儿园见习报告
2014/10/30 职场文书
学校群众路线专项整治方案
2014/10/31 职场文书
乡镇团委工作总结2015
2015/05/26 职场文书
再见,2019我们不负使命;你好,2020我们砥砺前行
2020/01/03 职场文书
python opencv常用图形绘制方法(线段、矩形、圆形、椭圆、文本)
2021/04/12 Python