为什么有些浮点<整数比较比其他四倍慢?

将浮点数与整数进行比较时,某些值对需要比其他类似值的值更长的时间来评估。

例如:

>>> import timeit
>>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times
0.5387085462592742

但是如果浮点数或整数的数值变小或变大一些,则比较运行得更快:

>>> timeit.timeit("562949953420000.7 < 562949953422000") # integer increased by 1000
0.1481498428446173
>>> timeit.timeit("562949953423001.8 < 562949953421000") # float increased by 3001.1
0.1459577925548956

更改比较运算符(例如,使用==> )不会以任何明显的方式影响时间。

这不仅仅与幅度有关,因为选择更大或更小的值会导致更快的比较,所以我怀疑它是由一些不幸的方式排列起来的。

显然,比较这些值对于大多数使用情况来说足够快。 我只是好奇,为什么Python似乎更多地与一些价值观斗争而不是其他人。


浮动对象的Python源代码中的注释承认:

比较几乎是一场噩梦

将浮点数与整数进行比较时尤其如此,因为与浮点数不同,Python中的整数可以任意大且始终精确。 尝试将整数转换为浮点数可能会损失精度并使比较不准确。 尝试将浮点数转换为整数不会起作用,因为任何小数部分都会丢失。

为了解决这个问题,Python执行一系列检查,如果其中一个检查成功,则返回结果。 它比较两个值的符号,然后是整数是否“太大”而不是浮点数,然后将浮点数的指数与整数的长度进行比较。 如果所有这些检查均失败,则需要构造两个新的Python对象进行比较以获得结果。

当比较浮点数v与整数/长整数w ,最坏的情况是:

  • vw具有相同的符号(正数或负数),
  • 整数w位数足够少,可以保存在size_t类型中(通常为32或64位),
  • 整数w至少有49位,
  • 浮点数v的指数与w的位数相同。
  • 这正是我们对这个问题的价值所具有的:

    >>> import math
    >>> math.frexp(562949953420000.7) # gives the float's (significand, exponent) pair
    (0.9999999999976706, 49)
    >>> (562949953421000).bit_length()
    49
    

    我们可以看到49是float的指数和整数中的位数。 这两个数字都是正数,因此满足上述四个标准。

    选择其中一个较大(或更小)的值可以改变整数的位数或指数的值,所以Python可以在不执行昂贵的最终检查的情况下确定比较结果。

    这是针对该语言的CPython实现特定的。


    比较更详细

    float_richcompare函数处理两个值vw之间的比较。

    以下是该功能执行的检查的分步说明。 Python源代码中的注释在尝试理解函数的作用时非常有用,因此我已将它们留在相关的位置。 我还在答案的底部列出了这些检查。

    主要想法是将Python对象vw映射到两个适当的C双打, ij ,然后可以轻松地比较它们以提供正确的结果。 Python 2和Python 3都使用相同的想法来做到这一点(前者分别处理intlong类型)。

    首先要做的是检查v是否肯定是一个Python浮点数并将其映射到一个C double i 。 接下来,该函数将查看w是否也是一个浮点数并将其映射到一个C double j 。 这是功能最好的情况,因为所有其他检查都可以跳过。 该函数还检查vinf还是nan

    static PyObject*
    float_richcompare(PyObject *v, PyObject *w, int op)
    {
        double i, j;
        int r = 0;
        assert(PyFloat_Check(v));       
        i = PyFloat_AS_DOUBLE(v);       
    
        if (PyFloat_Check(w))           
            j = PyFloat_AS_DOUBLE(w);   
    
        else if (!Py_IS_FINITE(i)) {
            if (PyLong_Check(w))
                j = 0.0;
            else
                goto Unimplemented;
        }
    

    现在我们知道如果w没有通过这些检查,它不是Python浮点数。 现在函数检查它是否是一个Python整数。 如果是这种情况,最简单的测试就是提取v的符号和w的符号(如果为零则返回0否则返回-1 ,如果为正-1则返回1 )。 如果符号不同,这是返回比较结果所需的全部信息:

        else if (PyLong_Check(w)) {
            int vsign = i == 0.0 ? 0 : i < 0.0 ? -1 : 1;
            int wsign = _PyLong_Sign(w);
            size_t nbits;
            int exponent;
    
            if (vsign != wsign) {
                /* Magnitudes are irrelevant -- the signs alone
                 * determine the outcome.
                 */
                i = (double)vsign;
                j = (double)wsign;
                goto Compare;
            }
        }   
    

    如果检查失败,则vw具有相同的符号。

    下一次检查将计算整数w的位数。 如果它的位数太多,那么它不可能作为浮点数保存,因此必须大于浮点数v

        nbits = _PyLong_NumBits(w);
        if (nbits == (size_t)-1 && PyErr_Occurred()) {
            /* This long is so large that size_t isn't big enough
             * to hold the # of bits.  Replace with little doubles
             * that give the same outcome -- w is so large that
             * its magnitude must exceed the magnitude of any
             * finite float.
             */
            PyErr_Clear();
            i = (double)vsign;
            assert(wsign != 0);
            j = wsign * 2.0;
            goto Compare;
        }
    

    另一方面,如果整数w具有48位或更少的位,则它可以安全地转入C双j并进行比较:

        if (nbits <= 48) {
            j = PyLong_AsDouble(w);
            /* It's impossible that <= 48 bits overflowed. */
            assert(j != -1.0 || ! PyErr_Occurred());
            goto Compare;
        }
    

    从这一点开始,我们知道w有49位或更多位。 将w视为正整数会很方便,因此必须根据需要更改符号和比较运算符:

        if (nbits <= 48) {
            /* "Multiply both sides" by -1; this also swaps the
             * comparator.
             */
            i = -i;
            op = _Py_SwappedOp[op];
        }
    

    现在函数查看浮点数的指数。 回想一下,浮点数可以写成(忽略符号)为有效数字* 2分量,而有效数字表示一个介于0.5和1之间的数字:

        (void) frexp(i, &exponent);
        if (exponent < 0 || (size_t)exponent < nbits) {
            i = 1.0;
            j = 2.0;
            goto Compare;
        }
    

    这检查了两件事。 如果指数小于0,那么浮点数小于1(幅度小于任何整数)。 或者,如果指数小于w的位数,那么我们有v < |w| 因为有效数* 2分量少于2个数。

    如果这两项检查失败,函数将查看指数是否大于w的位数。 这表明有效数* 2分量大于2个数,所以v > |w|

        if ((size_t)exponent > nbits) {
            i = 2.0;
            j = 1.0;
            goto Compare;
        }
    

    如果这个检查没有成功,我们知道float v的指数与整数w的位数相同。

    现在可以比较两个值的唯一方法是从vw构造两个新的Python整数。 这个想法是放弃v的小数部分,加倍整数部分,然后添加一个。 w也加倍,并且可以比较这两个新的Python对象以提供正确的返回值。 使用小值的示例, 4.65 < 4将由比较(2*4)+1 == 9 < 8 == (2*4) (返回false)来确定。

        {
            double fracpart;
            double intpart;
            PyObject *result = NULL;
            PyObject *one = NULL;
            PyObject *vv = NULL;
            PyObject *ww = w;
    
            // snip
    
            fracpart = modf(i, &intpart); // split i (the double that v mapped to)
            vv = PyLong_FromDouble(intpart);
    
            // snip
    
            if (fracpart != 0.0) {
                /* Shift left, and or a 1 bit into vv
                 * to represent the lost fraction.
                 */
                PyObject *temp;
    
                one = PyLong_FromLong(1);
    
                temp = PyNumber_Lshift(ww, one); // left-shift doubles an integer
                ww = temp;
    
                temp = PyNumber_Lshift(vv, one);
                vv = temp;
    
                temp = PyNumber_Or(vv, one); // a doubled integer is even, so this adds 1
                vv = temp;
            }
            // snip
        }
    }
    

    为了简洁,我省略了额外的错误检查和垃圾跟踪Python在创建这些新对象时必须执行的操作。 不用说,这增加了额外的开销,并解释了为什么问题中突出显示的值比其他值显着慢。


    以下是比较功能执行的检查汇总。

    v是一个浮点数并将其转换为C双精度值。 现在,如果w也是一个浮点数:

  • 检查wnan还是inf 。 如果是这样,根据w的类型分别处理这个特殊情况。

  • 如果不是,则将vw作为C双打直接与它们的表示作比较。

  • 如果w是一个整数:

  • 提取vw的符号。 如果它们不同,那么我们知道vw是不同的,哪个是更大的价值。

  • (符号相同。)检查w是否有太多位是浮点数(大于size_t )。 如果是这样, w幅度大于v

  • 检查w是否有48位或更少位。 如果是这样,它可以安全地转换为C双精度,而不会失去其精度,并与v进行比较。

  • w有48位以上,我们现在将w视为一个正整数,以适当地改变比较操作)。

  • 考虑float v的指数。 如果指数为负,则v小于1 ,因此小于任何正整数。 否则,如果指数小于w的位数,那么它必须小于w

  • 如果v的指数大于w的位数,则v大于w

  • (指数与w的位数相同。)

  • 最后的检查。 将v拆分为整数和小数部分。 将整数部分加倍并加1以补偿小数部分。 现在加倍整数w 。 比较这两个新的整数来获得结果。


  • 使用具有任意精度浮点数和整数的gmpy2 ,可以获得更均匀的比较性能:

    ~ $ ptipython
    Python 3.5.1 |Anaconda 4.0.0 (64-bit)| (default, Dec  7 2015, 11:16:01) 
    Type "copyright", "credits" or "license" for more information.
    
    IPython 4.1.2 -- An enhanced Interactive Python.
    ?         -> Introduction and overview of IPython's features.
    %quickref -> Quick reference.
    help      -> Python's own help system.
    object?   -> Details about 'object', use 'object??' for extra details.
    
    In [1]: import gmpy2
    
    In [2]: from gmpy2 import mpfr
    
    In [3]: from gmpy2 import mpz
    
    In [4]: gmpy2.get_context().precision=200
    
    In [5]: i1=562949953421000
    
    In [6]: i2=562949953422000
    
    In [7]: f=562949953420000.7
    
    In [8]: i11=mpz('562949953421000')
    
    In [9]: i12=mpz('562949953422000')
    
    In [10]: f1=mpfr('562949953420000.7')
    
    In [11]: f<i1
    Out[11]: True
    
    In [12]: f<i2
    Out[12]: True
    
    In [13]: f1<i11
    Out[13]: True
    
    In [14]: f1<i12
    Out[14]: True
    
    In [15]: %timeit f<i1
    The slowest run took 10.15 times longer than the fastest. This could mean that an intermediate result is being cached.
    1000000 loops, best of 3: 441 ns per loop
    
    In [16]: %timeit f<i2
    The slowest run took 12.55 times longer than the fastest. This could mean that an intermediate result is being cached.
    10000000 loops, best of 3: 152 ns per loop
    
    In [17]: %timeit f1<i11
    The slowest run took 32.04 times longer than the fastest. This could mean that an intermediate result is being cached.
    1000000 loops, best of 3: 269 ns per loop
    
    In [18]: %timeit f1<i12
    The slowest run took 36.81 times longer than the fastest. This could mean that an intermediate result is being cached.
    1000000 loops, best of 3: 231 ns per loop
    
    In [19]: %timeit f<i11
    The slowest run took 78.26 times longer than the fastest. This could mean that an intermediate result is being cached.
    10000000 loops, best of 3: 156 ns per loop
    
    In [20]: %timeit f<i12
    The slowest run took 21.24 times longer than the fastest. This could mean that an intermediate result is being cached.
    10000000 loops, best of 3: 194 ns per loop
    
    In [21]: %timeit f1<i1
    The slowest run took 37.61 times longer than the fastest. This could mean that an intermediate result is being cached.
    1000000 loops, best of 3: 275 ns per loop
    
    In [22]: %timeit f1<i2
    The slowest run took 39.03 times longer than the fastest. This could mean that an intermediate result is being cached.
    1000000 loops, best of 3: 259 ns per loop
    
    链接地址: http://www.djcxy.com/p/5405.html

    上一篇: Why are some float < integer comparisons four times slower than others?

    下一篇: Why would you use Expression<Func<T>> rather than Func<T>?