社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

Python 开发神技 -- 使用管道 Pipe

Python编程 • 2 年前 • 185 次点击  
来自公众号:Python技术

众所周知,Pytnon 非常擅长处理数据,尤其是后期数据的清洗工作。今天派森酱就给大家介绍一款处理数据的神器 Pipe。

什么是 Pipe

简言之,Pipe 是 Python 的一个三方库。

通过 Pipe 我们可以将一个函数的处理结果传递给另外一个函数,这意味着你的代码会非常简洁。

要使用 Pipe 需要提前安装,直接使用 pip 安装即可。

pip install pipe

过滤元素

和 filter 类似,pipe 中的 where 操作可以过滤可迭代对象中的元素。

In [5]: numbers = [012345]

In [6]: list(numbers | where(lambda x: x % 2 == 0))
Out[6]: [024]

作用元素

类似 map,select 操作可以将函数作用于可迭代对象中的每个元素。下面的例子中我们将列表中的元素都扩大 2 倍。

In [8]: list(numbers | select(lambda x: x * 2))
Out[8]: [0246810]

当然,还可以将多种操作合并在一起来玩。

下面的例子就是将列表中的偶数挑选出来并扩大 2 倍,和 filter 与 map 不同的是,pipe 可以将多个操作连接起来,就像水管套水管一样,所以我想管道这个名字也是很接地气了。

In [10]: list(numbers
    ...:     | where(lambda x: x % 2 == 0)
    ...:     | select(lambda x: x * 2)
    ...:    )
    ...:
Out[10]: [048]

连接元素

操作嵌套列表时非常痛苦,值得高兴的是 pipe 给出了很友好的接口,只需要 chain 一下即可。

In [11]: list([[12], [34], [5]] | chain)
Out[11]: [12345]

In [30]: list((123) | chain_with([45], [6]))
Out[30]: [123456]

In [31]: list((123 ) | chain_with([45], [6,[7]]))
Out[31]: [123456, [7]]

如你所见,chain 只可以拆开一层,如果要拆开多层嵌套的话,不要慌,traverse 轻松搞定。

In [12]: list([[12], [[[3], [[4]]], [5]]] | traverse)
Out[12]: [12345]

结合 select 一起,获取字典中的某个字段属性集合。

In [32]: fruits = [
    ...:     {"name""apple""price": [25]},
    ...:     {"name""orange""price"4},
    ...:     {"name""grape""price"5},
    ...: ]

In [33]: list(fruits
    ...:      | select(lambda fruit: fruit["price"])
    ...:      | traverse)
    ...:
Out[33]: [2545]

分组

对列表中的元素进行分组是必不可少的,在 pipe 中可以使用 groupby 来完成。

In [26]: list(numbers
    ...:      | groupby(lambda x: 'Even' if x % 2 == 0 else 'Odd')
    ...:      | select(lambda x: {x[0]: list(x[1])})
    ...:     )
    ...:
Out[26]: [{'Even': [024]}, {'Odd': [135]}]

同样,还可以在 select 中添加 where 过滤条件。

In [27]: list(numbers
    ...:      | groupby(lambda x: 'Even' if x % 2 == 0 else 'Odd')
    ...:      | select(lambda x: {x[0]: list(x[1] | where(lambda x: x > 2))})
    ...:     )
    ...:
Out[27]: [{'Even': [4]}, {'Odd': [35]}]

行列互换

数据处理中时常会用到行列互相转换,尤其是在用 DataFrame 时,使用 pipe 一行代码搞定行列转换。

In [24]: [[123], [456], [789]] | transpose
Out[24]: [(147), (258), (369)]

删除元素

对列表去重也是一项常用的操作,在 pipe 中使用 dedup 来对列表进行去重。

In [28]: list([112233123] | dedup)
Out[28]: [123]

与 dedup 不同的是,uniq 只会对连续的重复元素保留一个,非连续重复元素则不过滤。

In [29]: list([112233123] | uniq)
Out[29]: [123123]

总结

今天派森酱给大家介绍了一个处理数据的神器,使用管道可以让繁琐的操作浓缩在几行甚至一行代码搞定,提高可读性的同时还提升了代码的整洁程度,美滋滋~

--- EOF ---


推荐↓↓↓
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/125197
 
185 次点击