使用twisted将mysql插入变成异步执行
2024-09-04 09:30:47
python 异步MySQL存库
对于异步框架而言,这些延迟是无法接受的。因此, Twisted 提供了 twisted.enterprise.adbapi, 遵循DB-API 2.0协议的一个异步封装。
adbapi 在单独的线程里面进行阻塞数据库操作, 当操作完成的时候仍然通过这个线程来进行回调。同事,原始线程能继续进行正常的工作,服务其他请求。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
|
# 用twisted库将数据进行异步插入到数据库 import pymysql from twisted.enterprise import adbapi from twisted.internet import reactor class MysqlTwistedPipeline( object ): def __init__( self , dbpool): self .dbpool = dbpool @classmethod def from_settings( cls , settings): # 需要在setting中设置数据库配置参数 dbparms = dict ( host = settings[ 'MYSQL_HOST' ], db = settings[ 'MYSQL_DBNAME' ], user = settings[ 'MYSQL_USER' ], passwd = settings[ 'MYSQL_PASSWORD' ], charset = 'utf8' , cursorclass = pymysql.cursors.DictCursor, use_unicode = True , ) # 连接ConnectionPool(使用MySQLdb连接,或者pymysql) dbpool = adbapi.ConnectionPool( "MySQLdb" , * * dbparms) # **让参数变成可变化参数 return cls (dbpool) # 返回实例化对象 def process_item( self , item, spider): # 使用twisted将MySQL插入变成异步执行 query = self .dbpool.runInteraction( self .do_insert, item) # 添加异常处理 query.addCallback( self .handle_error) def handle_error( self , failure): # 处理异步插入时的异常 print (failure) def do_insert( self , cursor, item): # 执行具体的插入 insert_sql = """ insert into jobbole_artitle(name, base_url, date, comment) VALUES (%s, %s, %s, %s) """ cursor.execute(insert_sql, (item[ 'name' ], item[ 'base_url' ], item[ 'date' ], item[ 'coment' ],)) |
最新文章
- 14073102(CCDIKRecoil)
- canvas画布在主流浏览器中的尺寸限制
- jquery如何让滚动条默认在最底部
- App评分
- 第六篇:python高级之网络编程
- Delphi 写日志的类
- easyui最小化后停留在页面的右下角
- ASP.NET 短路由配置
- Web API 的安全性
- JS中 事件冒泡与事件捕获
- 201521123117 《Java程序设计》第1周学习总结
- bootstrap 表单样式
- 【2】Asp.Net Core2.2第一个功能增加
- SQL Server导入导出不丢主键和视图的方法
- 收藏:Non-direct与direct ByteBuffer区别
- 随机查出满足条件的5条数据(tp5)
- 【九天教您南方cass 9.1】 12 道路断面土方计算
- UDP协议的例子
- tcp_nopush高性能
- python学习-(__new__方法和单例模式)