postgresql批量插入copy_from()的使用
2024-10-20 21:10:07
在批量插入postgresql时想使用同Mysql的语法时发现并不能使用:
cursor.executemany("INSERT INTO persons VALUES (%d, %s, %s)",[(1, 'John Smith', 'John Doe'),(2, 'Jane Doe', 'Joe Dog'),(3, 'Mike T.', 'Sarah H.')])
难道只能写成这样吗:
insert into A values(**********),(*************),(*****************)
但是这种方法及麻烦而且还不快
后发现了copy_from()这个神奇的方法!
在参考:https://blog.csdn.net/rongyongfeikai2/article/details/17935139 这位仁兄的博客后一直失败,提示缺少字段.这就很难受了,查阅所有百度的资料无解,大部分都是来回抄袭,毫无新意,这里又忍不住要吐槽百度了.
只能去Google看看了,进入pg的官网才豁然开朗
http://initd.org/psycopg/docs/cursor.htmlCOPY_FROM说明:copy_from
(file,table,sep ='\ t',null ='\\ N',size = 8192,columns = None )
从类似文件的目标文件中读取数据,将它们附加到名为table的表中。
- file - 从中读取数据的类文件对象。它必须具有
read()
和readline()
方法。 - table - 要将数据复制到的表的名称。
- sep - 文件中预期的列分隔符。默认为选项卡。
- null -
NULL
文件中的文本表示。默认为两个字符串\N
。 - size - 用于从文件中读取的缓冲区的大小。
- columns - 可以使用要导入的列的名称进行迭代。长度和类型应与要读取的文件的内容相匹配。如果未指定,则假定整个表与文件结构匹配。
例:
import StringIO
>>> f = StringIO("42\tfoo\n74\tbar\n")>>> cur.copy_from(f, 'test', columns=('num', 'data'))>>> cur.execute("select * from test where id > 5;")>>> cur.fetchall() [(6, 42, 'foo'), (7, 74, 'bar')]
注意:
表的名称未引用:如果表名包含大写字母或特殊字符,则必须使用双引号引用:
cur.copy_from(f, '"TABLE"')
不得不说上面哪位仁兄的不严谨性了,在批量插入的每个数据之间用<\t>分割,在一条数据的末尾用<\n>分割.
附本人代码段:
tap = (indent_num, it.get(u'商品编码'),it.get(u'商品名称'),it.get(u'批发价'),it.get(u'零售指导价'),it.get(u'需求量'),it.get(u'订购量'),it.get(u'金额'),it.get(u'预计盈利'),cigarette_price)
values_list.append('\t'.join(tap))s = ''
for value in values_list:
s += value + '\n'cur = self.conn.cursor()try:
# cur.executemany(insert_sql)
cur.copy_from(StringIO.StringIO(s), table,
columns=('indent_num', 'commodity_code', 'commodity_name', 'rade_price', 'guidance_price',
'requirement', 'order_quantity','amount_of_money','wholesale_price','cigarette_price'))
except Exception as e:
raise e
finally:
self.conn.commit()
print 'done'
最新文章
- Wampserver 2.5 多站点配置方法
- OSG配置问题
- Java多线程系列--“JUC原子类”04之 AtomicReference原子类
- c#MD5珍藏
- Altera CYCLONE III FPGA BGA布线
- 轻轻的扩展了一下IEnumerable<;T>;
- 【2017-06-01】Linq基础+Lambda表达式实现对数据库的增删改查
- 国内开源社区巨作AspectCore-Framework入门
- Windows 10-限制Windows更新上传带宽
- java实现Windows记事本
- LCA最近公共祖先
- 记一次生产环境thrift服务的配置问题
- yii2 getter
- JSP(7)—EL和JSTL
- POJ3694 Network【连通分量+LCA】
- windows下docker的安装并使用
- [模仿微软Live.cn]JavaScript输入邮箱自动提示
- selenium,unittest——下拉菜单操作,百度账号设置修改
- sad 关于一些html5新属性还需要用https才能支持
- Web开发者需养成的8个好习惯
热门文章
- 简单介绍无限轮播图,js源代码
- C# 通过反射实现对象映射:将2个属性相近的对象相互转换
- c++与c#混合编程
- MVVMLight学习笔记(六)---DispatchHelper更新UI
- 闭包 panic recover
- TFRecord读写简介+Demo 基于Ubuntu18.04+Tensorflow1.12 无WARNING
- BUUCTF-[CISCN2019 华北赛区 Day1 Web5]CyberPunk
- React Native startReactApplication 方法简析
- python实现分水岭算法分割遥感图像
- @RequestParam、@RequestBody、@PathVariable区别和案例分析