PostgreSQL如何比SQLite执行写入速度快得多?

我做了一个简单的整数更新性能测试。 SQLite每秒只做15次更新,而PostgreSQL每秒做1500次更新。

SQLite案件的编号似乎是正常的。

SQLite网站的常见问题解释就好像它是旋转磁盘的基本限制一样。

实际上,SQLite在一台普通台式机上每秒钟可以轻松完成50,000或更多的INSERT语句。 但它每秒只能做几十个事务。 交易速度受到磁盘驱动器转速的限制。 一个交易通常需要磁盘盘片的两次完整的旋转,这在7200RPM磁盘驱动器上每秒限制您约60个事务。 交易速度受磁盘驱动器速度的限制,因为(默认情况下)SQLite实际上会一直等到数据确实在交易完成之前安全地存储在磁盘表面上。 这样,如果您突然断电或者您的操作系统崩溃,您的数据仍然安全。 有关详细信息,请阅读SQLite中的原子提交。

默认情况下,每个INSERT语句都是它自己的事务。 但是,如果使用BEGIN ... COMMIT包围多个INSERT语句,则所有插入操作都会分组到一个事务中。 提交事务所需的时间将在所有随附的插入语句中摊销,因此每个插入语句的时间会大大减少。

另一个选项是运行PRAGMA synchronous = OFF。 这个命令将导致SQLite不等待数据到达磁盘表面,这将使写入操作看起来更快。 但是,如果您在交易中断电,您的数据库文件可能会损坏。

这个描述是真的吗? 那么,PostgreSQL如何比SQLite执行得更快? (我在PostgreSQL中将fsyncsynchronous_commit选项设置为on

更新:

以下是用Clojure编写的完整测试代码:

(defproject foo "0.1.0-SNAPSHOT"
  :repositories {"sonatype-oss-public" "https://oss.sonatype.org/content/groups/public/"}
  :dependencies [[org.clojure/clojure "1.5.1"]
                 [org.clojure/java.jdbc "0.3.0-SNAPSHOT"]
                 [com.mchange/c3p0 "0.9.2.1"]
                 [org.xerial/sqlite-jdbc "3.7.2"]
                 [postgresql "9.1-901.jdbc4"]])
(ns foo.core
  (:require [clojure.java.jdbc :as jdbc]
            [clojure.java.jdbc.ddl :as ddl])
  (:import  [com.mchange.v2.c3p0 ComboPooledDataSource]))

(def sqlite
  (let [spec {:classname "org.sqlite.JDBC"
              :subprotocol "sqlite"
              :subname "test.db"}]
    {:datasource (doto (ComboPooledDataSource.)
                   (.setDriverClass (:classname spec))
                   (.setJdbcUrl (str "jdbc:" (:subprotocol spec) ":" (:subname spec)))
                   (.setMaxIdleTimeExcessConnections (* 30 60))
                   (.setMaxIdleTime (* 3 60 60)))}))

(def postgres
  (let [spec {:classname "org.postgresql.Driver"
              :subprotocol "postgresql"
              :subname "//localhost:5432/testdb"
              :user "postgres"
              :password "uiop"}]
    {:datasource (doto (ComboPooledDataSource.)
                   (.setDriverClass (:classname spec))
                   (.setJdbcUrl (str "jdbc:" (:subprotocol spec) ":" (:subname spec)))
                   (.setUser (:user spec))
                   (.setPassword (:password spec))
                   (.setMaxIdleTimeExcessConnections (* 30 60))
                   (.setMaxIdleTime (* 3 60 60)))}))

(doseq [x [sqlite postgres]]
  (jdbc/db-do-commands x
    (ddl/create-table :foo [:id :int "PRIMARY KEY"] [:bar :int])))

(doseq [x [sqlite postgres]]
  (jdbc/insert! x :foo {:id 1 :bar 1}))

(defmacro bench
  [expr n]
  `(dotimes [_# 3]
     (let [start# (. System (nanoTime))]
       (dotimes [_# ~n]
         ~expr)
       (let [end#               (. System (nanoTime))
             elapsed#           (/ (double (- end# start#)) 1000000.0)
             operation-per-sec# (long (/ (double ~n) (/ (double (- end# start#)) 1000000000)))]
       (prn (str "Elapsed time: " elapsed# " ms (" (format "%,d" operation-per-sec#) " ops)"))))))

(bench (jdbc/query sqlite ["select * from foo"]) 20000)
(bench (jdbc/execute! sqlite ["update foo set bar=bar+1 where id=?" 1]) 100)

(bench (jdbc/query postgres ["select * from foo"]) 20000)
(bench (jdbc/execute! postgres ["update foo set bar=bar+1 where id=?" 1]) 5000)

输出是:

; Running "select * from foo" 20000 times in SQLite

"Elapsed time: 1802.426963 ms (11,096 ops)"
"Elapsed time: 1731.118831 ms (11,553 ops)"
"Elapsed time: 1749.842658 ms (11,429 ops)"

; Running "update foo set bar=bar+1 where id=1" 100 times in SQLite

"Elapsed time: 6362.829057 ms (15 ops)"
"Elapsed time: 6405.25075 ms (15 ops)"
"Elapsed time: 6352.943553 ms (15 ops)"

; Running "select * from foo" 20000 times in PostgreSQL

"Elapsed time: 2898.636079 ms (6,899 ops)"
"Elapsed time: 2824.77372 ms (7,080 ops)"
"Elapsed time: 2837.622659 ms (7,048 ops)"

; Running "update foo set bar=bar+1 where id=1" 5000 times in PostgreSQL

"Elapsed time: 3213.120219 ms (1,556 ops)"
"Elapsed time: 3564.249492 ms (1,402 ops)"
"Elapsed time: 3280.128708 ms (1,524 ops)"

pg_fsync_test结果:

C:temp>"C:Program FilesPostgreSQL9.3binpg_test_fsync"
5 seconds per test
O_DIRECT supported on this platform for open_datasync and open_sync.

Compare file sync methods using one 8kB write:
(in wal_sync_method preference order, except fdatasync
is Linux's default)
        open_datasync                   81199.920 ops/sec      12 usecs/op
        fdatasync                                     n/a
        fsync                              45.337 ops/sec   22057 usecs/op
        fsync_writethrough                 46.470 ops/sec   21519 usecs/op
        open_sync                                     n/a

Compare file sync methods using two 8kB writes:
(in wal_sync_method preference order, except fdatasync
is Linux's default)
        open_datasync                   41093.981 ops/sec      24 usecs/op
        fdatasync                                     n/a
        fsync                              38.569 ops/sec   25927 usecs/op
        fsync_writethrough                 36.970 ops/sec   27049 usecs/op
        open_sync                                     n/a

Compare open_sync with different write sizes:
(This is designed to compare the cost of writing 16kB
in different write open_sync sizes.)
         1 * 16kB open_sync write                     n/a
         2 *  8kB open_sync writes                    n/a
         4 *  4kB open_sync writes                    n/a
         8 *  2kB open_sync writes                    n/a
        16 *  1kB open_sync writes                    n/a

Test if fsync on non-write file descriptor is honored:
(If the times are similar, fsync() can sync data written
on a different descriptor.)
        write, fsync, close                45.564 ops/sec   21947 usecs/op
        write, close, fsync                33.373 ops/sec   29964 usecs/op

Non-Sync'ed 8kB writes:
        write                             889.800 ops/sec    1124 usecs/op

你是对的,是可疑的。 带有您指示的设置的PostgreSQL应该无法在每秒钟向独立顺序事务执行1500次更新之前对旋转介质执行任何操作。

IO堆栈中的某些东西可能是谎言或错误的关于它如何实现同步。 这意味着在意外断电或操作系统故障后,您的数据有可能遭受严重损坏。

看看pg_test_fsync的结果,情况确实如此。 open_datasync在Windows下是默认的,它看起来是不现实的,因此必须是不安全的。 当我在Windows7机器上运行pg_test_fsync时,我看到了同样的情况。


它分解为它们如何实现快照隔离。

SQLite使用文件锁定作为隔离事务的手段,只有在完成所有读操作后才允许写操作。

相比之下,Postgres使用一种更复杂的方法,称为多元共享版本控制(mvcc),允许多个写入与多个读取并行进行。

http://www.sqliteconcepts.org/SI_index.html

http://www.postgresql.org/docs/current/static/mvcc-intro.html

http://wiki.postgresql.org/wiki/MVCC


丹尼斯的答案有你需要的所有链接。 我会去做一个不太详细但可能更容易理解的答案。

Sqlite不使用任何复杂的事务管理器,它没有隐藏高级多任务逻辑。 它按照正确的顺序执行你要执行的内容。 换句话说:它完全符合你的要求。 如果您尝试在两个进程中使用同一个数据库 - 您会遇到问题。

另一方面,PostgreSQL是一个非常复杂的数据库:它有效地支持多个并发的读写操作。 把它看作是一个异步系统 - 你只需要安排工作,而不是实际上控制它的细节 - Postgres会为你做。

如何处理你的效率? 加入几十 - 几十个 - 数百个更新/插入到一个事务中。 对于一个简单的表格,您将获得非常好的表现。

链接地址: http://www.djcxy.com/p/3341.html

上一篇: How does PostgreSQL perform writes so much faster than SQLite?

下一篇: SQLite insert speed slows as number of records increases due to an index