小编给大家分享一下全平台都能用的pandas运算加速神器modin怎么用，相信大部分人都还不怎么了解，因此分享这篇文章给大家参考一下，希望大家阅读完这篇文章后大有收获，下面让我们一起去了解一下吧！

为峨边彝族等地区用户提供了全套网页设计制作服务，及峨边彝族网站建设行业解决方案。主营业务为成都网站建设、成都网站设计、峨边彝族网站设计，以传统方式定制建设网站，并提供域名空间备案等一条龙服务，秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求，就会得到认可，从而选择与我们长期合作。这样，我们也可以走得更远！

1 简介

modin就是一个致力于在改变代码量最少的前提下，调用起多核计算资源，对pandas的计算过程进行并行化改造的Python库，并且随着其近期的一系列内容更新，modin基于Dask开始对Windows系统同样进行了支持，使得我们只需要改变一行代码，就可以在所有平台上获得部分pandas功能可观的计算效率提升。

图1

2 基于modin的pandas运算加速

modin支持Windows、Linux以及Mac系统，其中Linux与Mac平台版本的modin工作时可基于并行运算框架Ray和Dask，而Windows平台版本目前只支持Dask作为计算后端（因为Ray没有Win版本），安装起来十分方便，可以用如下3种命令来安装具有不同后端的modin：

pip install modin[dask] # 安装dask后端
pip install modin[ray] # 安装ray后端（windows不支持）
pip install modin[all] # 推荐方式，自动安装当前系统支持的所有后端

本文在Win10系统上演示modin的功能，执行命令：

pip install modin[all]

成功安装modin+dask之后，在使用modin时，只需要将我们习惯的import pandas as pd变更为import modin.pandas as pd即可，接下来我们来看一下在一些常见功能上，pandasVSmodin性能差异情况。

首先我们分别使用pandas和modin读入一个大小为1.1G的csv文件esea_master_dmg_demos.part1.csv，来自kaggle（https://www.kaggle.com/skihikingkevin/csgo-matchmaking-damage/data），记录了关于热门游戏CS:GO的一些玩家行为数据，因为体积过大，请感兴趣的读者朋友自行去下载：

图2

为了区分他们，在导入时暂时将modin.pandas命名为mpd：

图3

可以看到因为是Win平台，所以使用的计算后端为Dask，首先我们来分别读入文件查看耗时：

图4

借助jupyter notebook记录计算时间的插件，可以看到原生的pandas耗时14.8秒，而modin只用了5.32秒，接着我们再来试试concat操作：

图5

可以看到在pandas花了8.78秒才完成任务的情况下，modin仅用了0.174秒，取得了惊人的效率提升。接下来我们再来执行常见的检查每列缺失情况的任务：

图6

这时耗时差距虽然不如concat操作时那么巨大，也是比较可观的，但是modin毕竟是一个处于快速开发迭代阶段的工具，其针对pandas的并行化改造尚未覆盖全部的功能，譬如分组聚合功能。

对于这部分功能，modin会在执行代码时检查自己是否支持，对于尚未支持的功能modin会自动切换到pandas单核后端来执行运算，但由于modin中组织数据的形式与pandas不相同，所以中间需要经历转换：

图7

这种时候modin的运算反而会比pandas慢很多：

图8

因此我对modin持有的态度是在处理大型数据集时，部分应用场景可以用其替换pandas，即其已经完成可靠并行化改造的pandas功能，你可以在官网对应界面（https://modin.readthedocs.io/en/latest/supported_apis/index.html ）查看其已经支持及尚未良好支持的功能,，因为modin还处于快速开发阶段，很多目前无法支持的功能也许未来不久就会被加入modin：

图9

以上是“全平台都能用的pandas运算加速神器modin怎么用”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联行业资讯频道！

名称栏目：全平台都能用的pandas运算加速神器modin怎么用
网站URL：http://lswzjz.com/article/psphds.html