社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

深度剖析为什么Python中整型不会溢出

Python中文社区 • 5 年前 • 450 次点击  

前言

本次分析基于 CPython 解释器,python3.x版本

在python2时代,整型有 int 类型和 long 长整型,长整型不存在溢出问题,即可以存放任意大小的整数。在python3后,统一使用了长整型。这也是吸引科研人员的一部分了,适合大数据运算,不会溢出,也不会有其他语言那样还分短整型,整型,长整型...因此python就降低其他行业的学习门槛了。

那么,不溢出的整型实现上是否可行呢?

不溢出的整型的可行性

尽管在 C 语言中,整型所表示的大小是有范围的,但是 python 代码是保存到文本文件中的,也就是说,python代码中并不是一下子就转化成 C 语言的整型的,我们需要重新定义一种数据结构来表示和存储我们新的“整型”。

怎么来存储呢,既然我们要表示任意大小,那就得用动态的可变长的结构,显然,数组的形式能够胜任:

  1. [longintrepr.h]

  2. struct _longobject {

  3.    PyObject_VAR_HEAD

  4.    int *ob_digit;

  5. };

长整型的保存形式

长整型在python内部是用一个 int 数组( ob_digit[n] )保存值的. 待存储的数值的低位信息放于低位下标, 高位信息放于高下标.比如要保存 123456789 较大的数字,但我们的int只能保存3位(假设):

  1. ob_digit[0] = 789;

  2. ob_digit[1] = 456;

  3. ob_digit[2] = 123;

低索引保存的是地位,那么每个 int 元素保存多大的数合适?有同学会认为数组中每个int存放它的上限(2^31 - 1),这样表示大数时,数组长度更短,更省空间。但是,空间确实是更省了,但操作会代码麻烦,比方大数做乘积操作,由于元素之间存在乘法溢出问题,又得多考虑一种溢出的情况。

怎么来改进呢?在长整型的 ob_digit 中元素理论上可以保存的int类型有 32 位,但是我们只保存 15位,这样元素之间的乘积就可以只用 int 类型保存即可, 对乘积结果做位移操作就能得到尾部和进位 carry了,因此定义位移长度为 15:

  1. #define PyLong_SHIFT  15

  2. #define PyLong_BASE ((digit)1 << PyLong_SHIFT)

  3. #define PyLong_MASK ((digit)(PyLong_BASE - 1))

PyLong_MASK 也就是 0b111111111111111 ,通过与它做位运算 与 的操作就能得到低位数。

有了这种存放方式,在内存空间允许的情况下,我们就可以存放任意大小的数字了。

长整型的运算

加法与乘法运算都可以使用我们小学的竖式计算方法,例如对于加法运算:

为方便理解,表格展示的是数组中每个元素保存的是 3 位十进制数,计算结果保存在变量z中,那么 z 的数组最多只要 size_a+1 的空间(两个加数中数组较大的元素个数 + 1),因此对于加法运算,处理过程就是各个对应位置的元素进行加法运算,计算过程就是竖式计算的方式:

  1. [longobject.c]

  2. static PyLongObject * x_add(PyLongObject *a, PyLongObject *b) {

  3.    int size_a = len(a), size_b = len(b);

  4.    PyLongObject *z;

  5.    int i ;

  6.    int carry = 0; // 进位

  7.    // 确保a是两个加数中较大的一个

  8.    if (size_a < size_b) {

  9.        // 交换两个加数

  10.        swap(a, b);

  11.        swap(&size_a, &size_b);

  12.    }

  13.    z = _PyLong_New(size_a + 1);  // 申请一个能容纳size_a+1个元素的长整型对象

  14.    for (i = 0; i < size_b; ++i) {

  15.        carry += a->ob_digit[i] + b->ob_digit [i];

  16.        z->ob_digit[i] = carry & PyLong_MASK;   // 掩码

  17.        carry >>= PyLong_SHIFT;                 // 移除低15位, 得到进位

  18.    }

  19.    for (; i < size_a; ++i) {                   // 单独处理a中高位数字

  20.        carry += a->ob_digit[i];

  21.        z->ob_digit[i] = carry & PyLong_MASK;

  22.        carry >>= PyLong_SHIFT;

  23.    }

  24.    z->ob_digit[i] = carry;

  25.    return long_normalize(z);                   // 整理元素个数

  26. }

这部分的过程就是,先将两个加数中长度较长的作为第一个加数,再为用于保存结果的 z 申请空间,两个加数从数组从低位向高位计算,处理结果的进位,将结果的低 15 位赋值给 z 相应的位置。最后的 long_normalize(z)是一个整理函数,因为我们 z 申请了 a_size+1 的空间,但不意味着 z 会全部用到,因此这个函数会做一些调整,去掉多余的空间,数组长度调整至正确的数量。

若不方便理解,附录将给出更利于理解的 python 代码。

竖式计算不是按个位十位来计算的吗,为什么这边用整个元素?

竖式计算方法适用与任何进制的数字,我们可以这样来理解,这是一个 32768 (2的15次方) 进制的,那么就可以把数组索引为 0 的元素当做是 “个位”,索引 1 的元素当做是 “十位”。

乘法运算

乘法运算一样可以用竖式的计算方式,两个乘数相乘,存放结果的 z 的元素个数为 size_a+size_b即可:

这里需要主意的是,当乘数 b 用索引 i 的元素进行计算时,结果 z 也是从 i 索引开始保存。先创建 z 并初始化为 0,这 z 进行累加,加法运算则可以利用前面的 x_add 函数:

  1. // 为方便理解,会与cpython中源码部分稍有不同

  2. static PyLongObject * x_mul (PyLongObject *a, PyLongObject *b)

  3. {

  4.    int size_a = len(a), size_b = len(b);

  5.    PyLongObject *z = _PyLong_New(size_a + size_b);

  6.    memset(z->ob_digit, 0 , len(z) * sizeof(int)); // z 的数组清 0

  7.    for (i = 0; i < size_b; ++i) {

  8.        int carry = 0;          // 用一个int保存元素之间的乘法结果

  9.        int f = b->ob_digit [i]; // 当前乘数b的元素

  10.        // 创建一个临时变量,保存当前元素的计算结果,用于累加

  11.        PyLongObject *temp = _PyLong_New(size_a + size_b);

  12.        memset(temp->ob_digit, 0, len(temp) * sizeof(int)); // temp 的数组清 0

  13.        int pz = i; // 存放到临时变量的低位

  14.        for (j = 0; j < size_a; ++j) {

  15.            carry = f * a[j] + carry;

  16.            temp[pz] = carry & PyLong_MASK;  // 取低15位

  17.            carry = carry >> PyLong_SHIFT;  // 保留进位

  18.            pz ++;

  19.        }

  20.        if (carry){     //  处理进位

  21.            carry += temp[pz];

  22.            temp[pz] = carry & PyLong_MASK;

  23.            carry = carry >> PyLong_SHIFT;

  24.        }

  25.        if (carry){

  26.            temp[pz] += carry & PyLong_MASK;

  27.        }

  28.        temp = long_normalize(temp);

  29.        z = x_add(z , temp);

  30.    }

  31.    return z

  32. }

这大致就是乘法的处理过程,竖式乘法的复杂度是n^2,当数字非常大的时候(数组元素个数超过 70 个)时,python会选择性能更好,更高效的 Karatsuba multiplication 乘法运算方式,这种的算法复杂度是 3nlog3≈3n1.585,当然这种计算方法已经不是今天讨论的内容了。有兴趣的小伙伴可以去了解下。

总结

要想支持任意大小的整数运算,首先要找到适合存放整数的方式,本篇介绍了用 int 数组来存放,当然也可以用字符串来存储。找到合适的数据结构后,要重新定义整型的所有运算操作,本篇虽然只介绍了加法和乘法的处理过程,但其实还需要做很多的工作诸如减法,除法,位运算,取模,取余等。

python代码以文本形式存放,因此最后,还需要一个将字符串形式的数字转换成这种整型结构:

  1. [longobject.c]

  2. PyObject * PyLong_FromString(const char *str, char **pend, int base)

  3. {

  4. }

这部分不是本篇的重点,有兴趣的同学可以看看这个转换的过程,这个过程还是比较繁琐的,因为它还要处理进制问题,能够处理 0xfff3 或者 0b1011 等情况。

参考

  1. https://github.com/python/cpython/blob/master/Objects/longobject.c

附录

  1. # 例子中的表格中,数组元素最多存放3位整数,因此这边设置1000

  2. # 对应的取低位与取高位也就变成对 1000 取模和取余操作

  3. PyLong_SHIFT = 1000

  4. PyLong_MASK = 999

  5. # 以15位长度的二进制

  6. # PyLong_SHIFT = 15

  7. # PyLong_MASK = (1 << 15) - 1

  8. def long_normalize(num):

  9.    """

  10.    去掉多余的空间,调整数组的到正确的长度

  11.    eg: [176, 631, 0, 0]  ==>  [176, 631]

  12.    :param num:

  13.    :return:

  14.    """

  15.    end = len(num )

  16.    while end >= 1:

  17.        if num[end - 1] != 0:

  18.            break

  19.        end -= 1

  20.    num = num[:end]

  21.    return num

  22. def x_add(a, b):

  23.    size_a = len(a)

  24.    size_b = len(b)

  25.    carry = 0

  26.    # 确保 a 是两个加数较大的,较大指的是元素的个数

  27.    if size_a < size_b:

  28.        size_a, size_b = size_b, size_a

  29.        a, b = b, a

  30.    z = [0] * (size_a + 1)

  31.    i = 0

  32.    while i < size_b:

  33.        carry += a[i] + b[i]

  34.        z[i] = carry % PyLong_SHIFT

  35.        carry //= PyLong_SHIFT

  36.        i += 1

  37.    while i < size_a:

  38.        carry += a[i]

  39.        z [i] = carry % PyLong_SHIFT

  40.        carry //= PyLong_SHIFT

  41.        i += 1

  42.    z[i] = carry

  43.    # 去掉多余的空间,数组长度调整至正确的数量

  44.    z = long_normalize(z)

  45.    return z

  46. def x_mul(a, b):

  47.    size_a = len(a)

  48.    size_b = len(b)

  49.    z = [0] * (size_a + size_b)

  50.    for i in range(size_b):

  51.        carry = 0

  52.        f = b[i]

  53.        # 创建一个临时变量

  54.        temp = [0] * (size_a + size_b)

  55.        pz = i  # 元素计算结果从 i 索引开始保存

  56.        for j in range(size_a):

  57.            carry += f * a[j]

  58.            temp[pz] = carry % PyLong_SHIFT

  59.            carry //= PyLong_SHIFT

  60.            pz += 1

  61.        if carry:

  62.            carry += temp[pz]

  63.            temp[pz ] = carry % PyLong_SHIFT

  64.            carry //= PyLong_SHIFT

  65.            pz += 1

  66.        if carry:

  67.            temp[pz] += carry % PyLong_SHIFT

  68.        temp = long_normalize(temp)

  69.        z = x_add(z, temp)

  70.    return z

  71. a = [543, 934, 23]

  72. b = [632, 454]

  73. print(x_add(a, b))

  74. print(x_mul(a , b))

作者:weapon,不会写程序的浴室麦霸不是好的神经科医生.

客:https://www.hongweipeng.com/


     

赞赏作者

Python中文社区作为一个去中心化的全球技术社区,以成为全球20万Python中文开发者的精神部落为愿景,目前覆盖各大主流媒体和协作平台,与阿里、腾讯、百度、微软、亚马逊、开源中国、CSDN等业界知名公司和技术社区建立了广泛的联系,拥有来自十多个国家和地区数万名登记会员,会员来自以公安部、工信部、清华大学、北京大学、北京邮电大学、中国人民银行、中科院、中金、华为、BAT、谷歌、微软等为代表的政府机关、科研单位、金融机构以及海内外知名公司,全平台近20万开发者关注。

▼ 点击下方阅读原文免费成为社区会员


今天看啥 - 高品质阅读平台
本文地址:http://www.jintiankansha.me/t/LkZaKx0TSu
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/13827
 
450 次点击