社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Python

【Python】学习时序模型没有数据怎么办?自己造!

机器学习初学者 • 3 年前 • 355 次点击  
授人以鱼,不如授人以渔! 云朵君今天给大家分享一个时间序列数据生成方法!简单好用!云朵君致力于知识分享,希望能够在大家奋斗的路上出一份薄力,文末给大家带来了由清华大学出版社出版的《Python机器学习》免费送书给大家!
云朵君之前分享过不少时间序列相关文章,有时间序列基本概念介绍、有基本模型介绍、也有时间序列分析与预测实战案例。我发现,很多小伙伴私信云朵君,说的最多的就是需要案例数据。其实云朵君分享的文章,重点是介绍基本方法的使用,演示所用数据仅仅是用来演示,很多情况下并没有实际意义。这个时候,我们就不必纠结于数据本身。

为此,云朵君教大家自动动手,生成学习时间序列分析和预测过程中,缺少练手数据的问题。当然,大家也可以举一反三,用这样的方法去生成更多适用于其他应用场景的实验数据。

时序数据生成原理

一般而言,数据是由函数生成的,而周期性时间序列数据可以使用由余弦函数来生成。

余弦型函数是实践中广泛应用的一类重要函数,指函数(其中均为常数,且)。这里A称为振幅, 称为圆频率或角频率, 称为初相位或初相角,正弦型函数是周期函数,其周期为

但由于正常的余弦型函数是单调周期性函数,生成的函数图像如下图所示:

这样的数据太过理想,与现实相差很大。现实中的时序数据具有大量的噪声,因此此时我们只需要加上随机振幅和随机偏移就能生存具有噪声的时间序列数据。

接下来我们一步一步实现具有真实场景的随机时间序列数据。

生成时间序列索引

def get_init_df():
    # 生成时间序列索引
    date_rng = pd.date_range(start="2015-01-01", end="2020-01-01", freq="D")
    dataframe = pd.DataFrame(date_rng, columns=["timestamp"])
    dataframe["index"] = range(dataframe.shape[0])
    dataframe["article"] = uuid4().hex 
    # UUID 为 32 个字符的十六进制字符串
    return dataframe
  
get_init_df().head()

设置振幅

生成随机振幅的函数,我们选用

其中:

  • 为最大振幅,(0.1, 1)之间的随机数
  • 为最大步幅,(90, 365) 中的随机整数
  • 为偏移,(-1, 1)之间的随机数

最后为了增加随机性,每次生成,都有50%的机会正序或倒序排列。

def set_amplitude(dataframe):

    max_step = random.randint(90365)
    max_amplitude = random.uniform(0.11)
    offset = random.uniform(-11)

    phase = random.randint(-10001000)

    amplitude = (
        dataframe["index"]
        .apply(lambda x: max_amplitude * (x % max_step + phase) / max_step + offset)
        .values
    )
    
    # 每次生成,都有50%的机会正序或倒序排列
    if random.random() 0.5:
        amplitude = amplitude[::-1]

    dataframe["amplitude"] = amplitude

    return dataframe

设置偏移

生成随机偏移的函数,我们选用

其中

  • 为最大偏移,(-1, 1)之间的随机数
  • 为基础偏移,(-1, 1)之间的随机数
  • 为最大步幅,(15, 45) 中的随机整数

同样为了增加随机性,每次生成,都有50%的机会正序或倒序排列。

def set_offset(dataframe):
    max_step = random.randint(1545)
    max_offset = random.uniform(-11)
    base_offset = random.uniform(-11)

    phase = random.randint(-10001000)

    offset = (
        dataframe["index"]
        .apply(
            lambda x: max_offset * np.cos(x * 2 * np.pi / max_step + phase)
            + base_offset
        )
        .values
    )

    if random.random() 0.5:
        offset = offset[::-1]

    dataframe[ "offset"] = offset

    return dataframe

生成具有噪声的时序数据

生成随机时序数据的函数,我们选用余弦型函数

其中

  • 为生成的随机振幅:set_amplitude
  • 为生成的随机偏移:set_offset
  • 为周期:在 [7, 14, 28, 30] 中随机选择
  • 为初相位:(-1000, 1000)中的随机整数

为了增加随机性,这里有两个细节:

一是设置余弦函数的最大最小值范围,在(0.3, 1)中的随机数。而是在整个函数上加上一系列常数,使得每次生成的数据有一定的差别。该系列常数分布满足是从0到最大振幅之间生成的正态分布。

def generate_time_series(dataframe):
  periods = [7142830]
    clip_val = random.uniform(0.31)
    period = random.choice(periods)
    phase = random.randint(-10001000)

    dataframe["views"] = dataframe.apply(
        lambda x: np.clip(
            np.cos(x["index"] * 2 * np.pi / period + phase), -clip_val, clip_val
        )
        * x["amplitude"]
        + x["offset"],
        axis=1,
    ) + np.random.normal(
        0, dataframe["amplitude"].abs().max() / 10, size=(dataframe.shape[0],)
    )

    return dataframe

多次生成的数据样式是不同的:

最后我们多次生成,并合并数据:

dataframes = []
for _ in tqdm(range(20)):
  df = generate_df()
  # 简单绘图步骤
  # fig = plt.figure()
  # plt.plot(df[-120:]["index"], df[-120:]["views"])
  # plt.show()

  dataframes.append(df)
  all_data = pd.concat(dataframes, ignore_index=True)

得到如下形状的时间序列数据。

季节性分解

最后,我们使用时间序列季节性分解,看下分解结果。从结果看,基本符合我们日常学习使用。

from statsmodels.tsa.seasonal import seasonal_decompose
df = generate_df()
df = df.set_index(['timestamp'])
result_mul = seasonal_decompose(df['views'], 
             model='additive'
             extrapolate_trend='freq')

plt.rcParams.update({'figure.figsize': (1010)})
result_mul.plot().suptitle('Additive Decompose')
plt.show()

写在最后

以上就是本次所有内容,本次介绍的所有生成函数中的参数,均可以根据实际需要修改,如最大振幅,最大步长等。

往期精彩 回顾




Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/134512
 
355 次点击