Python的datatable程序包概述

 

从文明之初到2003年，只创造了5艾字节的信息，但是现在每两天就有如此之多的信息产生。埃里克·施密特（Eric Schmidt）

 

如果你是R使用者，可能你已经使用过data.table程序包。Data.table是R中数据帧程序包的延伸。涉及大型数据（包括RAM中1的10GB）快速集合时，该数据包也是R使用者的首选程序包。

 

R的data.table程序包使用简易方便，非常通用且拥有高性能。在R领域，此包十分出名，其每月下载量超过了4万，几乎650 CRAN（新型无线接入网构架）及Bioconductor包使用这个datatable包。

 

所以，Python使用者可以从中得到什么？好消息是Python中也有与data.table等同的程序包，称为datatable，其明确注重大数据支持、高性能、内存外存数据集以及多线程算法。某种程度上来说，这个也可以称为data.table的年轻同胞。

 

Datatable

 

 

 

现代机器学习应用需要处理巨大数量的数据并生成多个功能。为了构建更精确的模型，这是必需的。Python的datatable模块正是为了应对这种类问题而创建的。这就相当于是一个在单节机器上以尽可能最大的速度运行大数据（达100GB）的工具包。datatable由H2O.ai 出资开发，其首个使用者是 Driverless.ai。

 

此工具箱与panda非常相似，但更侧重于速度和大数据支持。

 

Pythondatatable也力求用户良好体验，反馈错误信息，拥有强大的API（应用程序编程接口）。通过本文，可以了解如何使用此datatable以及其用于大数据时是如何优于pandas的。

 

安装

 

在macOs中，datatable可简单地利用pip进行安装：

pip install datatable

 

在linux中，利用二进制发行版，就可以实现安装，如下所示：

# If you have Python 3.5
pip install https://s3.amazonaws.com/h2o-release/datatable/stable/datatable-0.8.0/datatable-0.8.0-cp35-cp35m-linux_x86_64.whl

# If you have Python 3.6
pip install https://s3.amazonaws.com/h2o-release/datatable/stable/datatable-0.8.0/datatable-0.8.0-cp36-cp36m-linux_x86_64.whl

 

目前，datatable还未能运用于windows，但是其也正在实现对Windows的支持。

Github Repository传送门：https://github.com/parulnith/An-Overview-of-Python-s-Datatable-package

 

读取数据

 

使用的数据集来自于Kaggle网，属于Lending Club Loan DataDataset。此数据集是2007——2015年所有发布的贷款信息中完整的贷款数据，包括当前贷款状况（当前、滞后、全部付清等）以及最想念付款信息。此文件包含226万行，145列。数据规模是datatable库性能的最理想说明。

# Importing necessary Libraries
 
import numpy as np
import pandas as pd
import datatable as dt

 

将数据加载到Frame对象中。datatable的基本分析单元就是一个Frame，这和pandas 的DataFrame 或 SQL 表是相同的概念：数据排列成具有行和列的二维数组。

利用datatable

%%time
datatable_df = dt.fread("data.csv")
__________________________________
CPU times: user 30 s, sys: 3.39 s, total: 33.4 s 
Wall time: 23.6 s

 

上述fread() 函数不仅功能强大，而且速度极快。其可自动删除和分析绝大多数文本文件、.zip压缩文档中的下载数据或URLs、读取Excel文件以及其他文件。

不仅如此，datatable分析程序还有以下功能：

· 可以自动删除分隔符、页眉、列类型以及引号规则等。

· 可以多源读取数据，包括包括文件、URL、shell、原始文本、存档和glob。

· 极速多线程文件读取。

· 显示读取文件的进度条。

· 可以读取 RFC4180相容型及非相容型文件。（传送门：https://tools.ietf.org/html/rfc4180）

利用pandas

现在，计算一下利用pandas来读取相同文件所用的时间。

 

%%time
pandas_df= pd.read_csv("data.csv")
__________________________________
CPU times: user 47.5 s, sys: 12.1 s, total: 59.6 s
Wall time: 1min 4s

 

结果显示，datatable在读取大数据集时优于pandas。因为都i相同数据时，pandas读取时间超过了一分钟，而datatable则只使用了数秒。
 

Frame转换

 

现有的Frame还可以如下所示转化为numpy或dateframe。

numpy_df = datatable_df.to_numpy()
pandas_df = datatable_df.to_pandas()

 

现在将现有frame转化为pandas的dataframe对象那个，对比所用时间。

%%time
datatable_pandas = datatable_df.to_pandas()
__________________________________
CPU times: user 17.1 s, sys: 4 s, total: 21.1 s
Wall time: 21.4 s

 

看来将文件读取为datatable框架，然后将其转换为panda的dataframe所需的时间比直接利用pandas的dataframe读取文件所需的时间要少。所以，通过datatable导入一个大数据文件，然后将其转换为panda的dataframe，这似乎是一个好主意。

type(datatable_pandas)
__________________________________
pandas.core.frame.DataFrame

 

基础Frame属性

 

一起来看看与pandas性能相似的datatable fame的基础性能。

print(datatable_df.shape) # (nrows, ncols)
print(datatable_df.names[:5]) # top 5 column names
print(datatable_df.stypes[:5]) # column types(top 5)
__________________________________
(2260668, 145)
('id', 'member_id', 'loan_amnt', 'funded_amnt', 'funded_amnt_inv')
(stype.bool8, stype.bool8, stype.int32, stype.int32, stype.float64)

 

也可利用head 指令输出靠前的“n”行。

datatable_df.head(10)

 

 

datatableframe中前10行略表

颜色表示数据类型。其中，红色表示字符串，绿色表示整数，蓝色则代表浮动。

 

汇总统计信息

 

在panda中计算汇总统计信息是一个消耗内存的过程，但在datatable中就不是如此了。下面每列汇总信息均可通过datatable来计算：

datatable_df.sum() datatable_df.nunique()
datatable_df.sd() datatable_df.max()
datatable_df.mode() datatable_df.min()
datatable_df.nmodal() datatable_df.mean()

 

利用datatable和pandas来计算平均值，测量各所需计算时间之间的差异。

 

利用datatable

%%time
datatable_df.mean()
__________________________________
CPU times: user 5.11 s, sys: 51.8 ms, total: 5.16 s
Wall time: 1.43 s

 

利用pandas

pandas_df.mean()
__________________________________
Throws memory error.

 

上述指令在pandas中未能实现，因为其在开始就显示内存错误。

 

数据操作

像dataframe这类数据表是柱状数据结构。在datatable中，所有操作最基础的媒介就是方括号符号，即传统矩阵索引，只不过其具备更多的功能。

 

 

 

datatable中的方括号符号

 

在指数矩阵、C/C++, R, pandas, numpy等数学运算中利用相同的DT[i, j]符号。来看看如何利用datatable执行常见的数据操作活动：

#选择行/列子集

下列代码从数据集中选择所有的行及 funded_amnt列。

datatable_df[:,'funded_amnt']

 

 

 

这里展示了是如何选取5行及3列的。

datatable_df[:5,:3]

 

 

 

 

#Frame排序

利用datatable

通过datatable完成利用特定列队frame的排序，如下所示：

%%time
datatable_df.sort('funded_amnt_inv')
__________________________________
CPU times: user 534 ms, sys: 67.9 ms, total: 602 ms
Wall time: 179 ms

 

利用pandas

%%time
pandas_df.sort_values(by = 'funded_amnt_inv')
__________________________________
CPU times: user 8.76 s, sys: 2.87 s, total: 11.6 s
Wall time: 12.4 s

 

关注datatable和pandas大量的时间差异。

#删除行/列

这里阐述了如何删除名为member_id的列：

del datatable_df[:, 'member_id']

 

#分组

就像在pandas中的一样，datatable也有分组功能。来看看如何利用grade列来对funded_amount列平均值进行分组。

利用datatable

%%time
for i in range(100):
 pandas_df.groupby("grade")["funded_amnt"].sum()
__________________________________
CPU times: user 12.9 s, sys: 859 ms, total: 13.7 s
Wall time: 13.9 s

 

.f代表什么？

f代表frame proxy，提供一种简单的方法来使用当前操作的Frame。就例子而言，dt.f代表dt_df。

#筛选行

 

筛选行的句法与分组相似。对loan_amnt的这些行进行筛选，其中，loan_amnt的值大于funded_amnt。

datatable_df[dt.f.loan_amnt>dt.f.funded_amnt,"loan_amnt"

 

储存Frame

还可以将Frame的内容写入csv文件，以便将来使用

datatable_df.to_csv('output.csv')

documentation传送门，了解更多操作功能：https://datatable.readthedocs.io/en/latest/using-datatable.html

 

结论

 

与默认的Panda相比，datatable模块无疑加快了执行速度，这在处理大型数据集时无疑是一个优势所在。然而，datatable在功能方面却落后于Panda。但是，由于仍在积极地开发datatable，将来可能会增加一些库。