如何更好的清理数据？求朋友

Question

我刚刚开始工作，所以我尝试先构建一些可以工作的东西，然后再考虑如何改进代码。

我一直在使用CoinGecko的API来转储价格等数据。我得到的第一个问题是，查询返回的是一个列表。每个条目包含一个UNIX时间戳和一个值。

首先，我使用pandas把这些数据放到一个DataFrame中。

data = cg.get_coin_market_chart_by_id('bitcoin', 'USD', 'max')
df = pd.DataFrame(data)

它返回了一个DataFrame，每个单元格都包含一个列表，其中有一个UNIX时间戳和一个值。

显然，我对每个单元格都包含一个UNIX时间戳并不满意。所以，我从每个Series中制作了3个DataFrames。我还将新索引中的UNIX时间戳格式化为每个索引中的日期时间。

price = df['prices'].apply(pd.Series)
price.columns = ['date', 'price']
price = price.set_index(['date'])
price.index = pd.to_datetime(price.index, unit = 'ms')
price.columns = ['price']
market_cap = pd.DataFrame(df.market_caps.values.tolist(), index = df.index)
market_cap = market_cap.set_index(0)
market_cap.index = pd.to_datetime(market_cap.index, unit = 'ms')
market_cap.index.names = ['date']
market_cap.columns = ['market_cap']
volume = pd.DataFrame(df.total_volumes.values.tolist(), index = df.index)
volume = volume.set_index(0)
volume.index = pd.to_datetime(volume.index, unit = 'ms')
volume.index.names = ['date']
volume.columns = ['volume']

最后，我把所有的3个DataFrames连接起来。

dfs = [price, market_cap, volume]
conc = pd.concat(dfs, axis = 1, sort = False)

我不是CS高手什么的，但我想学习如何处理好数据。我让你们这些StackOverflow的奇才们，在描述我的代码时，用什么难听的话都可以，只要能帮助我改进。谢谢你们。

Answer 1

在这个特殊情况下。pd.DataFrame 接受一个这样的字典。

{column0:{index0:value0, index1: value1, ...}, ...}

所以，只要把你的输入数据转化成dict，把内部的列表做出来就可以了。

In [22]: import pandas as pd

In [23]: data ={
    ...:     'prices': [[1367107200000, 135.3], [1367193600000, 141.96]],
    ...:     'market_caps': [[1367107200000, 1500517590], [1367193600000, 1575032004.0]],
    ...:     'total_volumes': [[1367107200000, 0], [1367193600000, 0.0]]
    ...: }
    ...:

In [24]: pd.DataFrame({k:dict(v) for k,v in data.items()})
Out[24]:
               prices   market_caps  total_volumes
1367107200000  135.30  1.500518e+09            0.0
1367193600000  141.96  1.575032e+09            0.0

要得到一个实际的日期时间索引，用..:

In [26]: df.set_index(pd.to_datetime(df.index,unit='ms'))
Out[26]:
            prices   market_caps  total_volumes
2013-04-28  135.30  1.500518e+09            0.0
2013-04-29  141.96  1.575032e+09            0.0

或者一气呵成。

In [28]: from datetime import datetime
    ...: pd.DataFrame({
    ...:     k:{datetime.fromtimestamp(x/1000): y for x,y in v}
    ...:     for k,v in data.items()
    ...: })
Out[28]:
                     prices   market_caps  total_volumes
2013-04-27 17:00:00  135.30  1.500518e+09            0.0
2013-04-28 17:00:00  141.96  1.575032e+09            0.0

虽然这有点难看，我觉得。