我有一个非常大的2D数组,看起来像这样:
a=
[[a1, b1, c1],
[a2, b2, c2],
...,
[an, bn, cn]]
使用numpy,是否有一种简单的方法来获得一个新的2D数组,例如,从初始数组a中随机抽取2行(没有替换)?
e.g.
b=
[[a4, b4, c4],
[a99, b99, c99]]
我有一个非常大的2D数组,看起来像这样:
a=
[[a1, b1, c1],
[a2, b2, c2],
...,
[an, bn, cn]]
使用numpy,是否有一种简单的方法来获得一个新的2D数组,例如,从初始数组a中随机抽取2行(没有替换)?
e.g.
b=
[[a4, b4, c4],
[a99, b99, c99]]
当前回答
我看到有人建议排列。事实上,它可以变成一行:
>>> A = np.random.randint(5, size=(10,3))
>>> np.random.permutation(A)[:2]
array([[0, 3, 0],
[3, 1, 2]])
其他回答
另一种选择是创建一个随机掩码,如果您只是想按某个因素对数据进行抽样。假设我想降低样本到25%的原始数据集,它目前保存在数组data_arr中:
# generate random boolean mask the length of data
# use p 0.75 for False and 0.25 for True
mask = numpy.random.choice([False, True], len(data_arr), p=[0.75, 0.25])
现在您可以调用data_arr[mask]并返回~25%的行,随机采样。
如果你需要相同的行,但只是一个随机样本,
import random
new_array = random.sample(old_array,x)
这里x必须是一个'int'定义你想随机选择的行数。
另一种方法是使用Generator类https://github.com/numpy/numpy/issues/10835的选择方法
import numpy as np
# generate the random array
A = np.random.randint(5, size=(10,3))
# use the choice method of the Generator class
rng = np.random.default_rng()
A_sampled = rng.choice(A, 2)
导致一个采样数据,
array([[1, 3, 2],
[1, 2, 1]])
运行时间也进行了比较,如下所示:
%timeit rng.choice(A, 2)
15.1 µs ± 115 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
%timeit np.random.permutation(A)[:2]
4.22 µs ± 83.9 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
%timeit A[np.random.randint(A.shape[0], size=2), :]
10.6 µs ± 418 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
但当数组变大时,A = np.random。randint(10、大小=(1000、300))。研究索引是最好的方法。
%timeit A[np.random.randint(A.shape[0], size=50), :]
17.6 µs ± 657 ns per loop (mean ± std. dev. of 7 runs, 100000 loops each)
%timeit rng.choice(A, 50)
22.3 µs ± 134 ns per loop (mean ± std. dev. of 7 runs, 10000 loops each)
%timeit np.random.permutation(A)[:50]
143 µs ± 1.33 µs per loop (mean ± std. dev. of 7 runs, 10000 loops each)
所以当数组很小的时候,排列法似乎是最有效的方法而当数组很大的时候,处理索引是最优的解决方案。
我很惊讶这个更容易阅读的解决方案在10多年后还没有被提出 :
import random
b = np.array(
random.choices(a, k=2)
)
编辑 :啊,也许是因为它只在Python 3.6中引入,但仍然……
这与Hezi Rasheff提供的答案类似,但简化了,以便新的python用户能够理解发生了什么(我注意到许多新的数据科学学生以最奇怪的方式获取随机样本,因为他们不知道他们在用python做什么)。
你可以使用以下方法从数组中获取一些随机下标:
indices = np.random.choice(A.shape[0], number_of_samples, replace=False)
然后你可以使用你的numpy数组的花哨索引来获得这些索引的样本:
A[indices]
这将从数据中得到指定数量的随机样本。