更好的方式洗牌两个numpy数组一致

我有两个不同形状的numpy数组，但具有相同的长度(前维数)。我想对它们进行洗牌，以便相应的元素继续对应——即根据它们的前导索引对它们进行一致的洗牌。

这段代码可以工作，并说明了我的目标:

def shuffle_in_unison(a, b):
    assert len(a) == len(b)
    shuffled_a = numpy.empty(a.shape, dtype=a.dtype)
    shuffled_b = numpy.empty(b.shape, dtype=b.dtype)
    permutation = numpy.random.permutation(len(a))
    for old_index, new_index in enumerate(permutation):
        shuffled_a[new_index] = a[old_index]
        shuffled_b[new_index] = b[old_index]
    return shuffled_a, shuffled_b

例如:

>>> a = numpy.asarray([[1, 1], [2, 2], [3, 3]])
>>> b = numpy.asarray([1, 2, 3])
>>> shuffle_in_unison(a, b)
(array([[2, 2],
       [1, 1],
       [3, 3]]), array([2, 1, 3]))

然而，这感觉很笨拙、效率低、速度慢，而且需要复制数组——我宁愿在适当的位置重新排列它们，因为它们会相当大。

还有更好的办法吗?更快的执行和更低的内存使用是我的主要目标，但优雅的代码也会很好。

我的另一个想法是:

def shuffle_in_unison_scary(a, b):
    rng_state = numpy.random.get_state()
    numpy.random.shuffle(a)
    numpy.random.set_state(rng_state)
    numpy.random.shuffle(b)

这工作…但这有点可怕，因为我几乎没有看到它会继续工作的保证——例如，它看起来不像是那种保证在numpy版本中存活的东西。

当前回答

只要使用numpy…

首先将两个输入数组合并，1D数组为标签(y)， 2D数组为数据(x)，并使用NumPy shuffle方法进行shuffle。最后把他们分开回来。

import numpy as np

def shuffle_2d(a, b):
    rows= a.shape[0]
    if b.shape != (rows,1):
        b = b.reshape((rows,1))
    S = np.hstack((b,a))
    np.random.shuffle(S)
    b, a  = S[:,0], S[:,1:]
    return a,b

features, samples = 2, 5
x, y = np.random.random((samples, features)), np.arange(samples)
x, y = shuffle_2d(train, test)

2020-04-02 21:30:02

其他回答

对连接列表进行就地洗牌的一种方法是使用种子(可以是随机的)并使用numpy.random.shuffle进行洗牌。

# Set seed to a random number if you want the shuffling to be non-deterministic.
def shuffle(a, b, seed):
   np.random.seed(seed)
   np.random.shuffle(a)
   np.random.seed(seed)
   np.random.shuffle(b)

就是这样。这将以完全相同的方式对a和b进行洗牌。这也是在原地完成的，这总是一个加分项。

编辑，不要使用np.random.seed()，而是使用np.random.RandomState

def shuffle(a, b, seed):
   rand_state = np.random.RandomState(seed)
   rand_state.shuffle(a)
   rand_state.seed(seed)
   rand_state.shuffle(b)

当调用它时，只需传入任意种子来提供随机状态:

a = [1,2,3,4]
b = [11, 22, 33, 44]
shuffle(a, b, 12345)

输出:

>>> a
[1, 4, 2, 3]
>>> b
[11, 44, 22, 33]

编辑:修正了重新播种随机状态的代码

2017-11-30 23:56:13

X = np.array([[1., 0.], [2., 1.], [0., 0.]])
y = np.array([0, 1, 2])
from sklearn.utils import shuffle
X, y = shuffle(X, y, random_state=0)

欲了解更多，请访问http://scikit-learn.org/stable/modules/generated/sklearn.utils.shuffle.html

2015-06-04 01:46:55

有一个众所周知的函数可以处理这个问题:

from sklearn.model_selection import train_test_split
X, _, Y, _ = train_test_split(X,Y, test_size=0.0)

只要将test_size设置为0，就可以避免分裂并得到打乱的数据。虽然它通常用于分割训练和测试数据，但它也会打乱它们。从文档

将数组或矩阵分割为随机的训练和测试子集包装输入验证和的快速实用程序 next (ShuffleSplit()。split(X, y))和应用程序将数据输入到类中拆分(和可选子采样)数据的单个调用 oneliner。

2018-11-07 19:55:43

上面的大多数解都是可行的，但是如果你有列向量，你必须先转置它们。这里有一个例子

def shuffle(self) -> None:
    """
    Shuffles X and Y
    """
    x = self.X.T
    y = self.Y.T
    p = np.random.permutation(len(x))
    self.X = x[p].T
    self.Y = y[p].T

2022-05-28 12:17:00

我扩展了python的random.shuffle()来接受第二个arg:

def shuffle_together(x, y):
    assert len(x) == len(y)

    for i in reversed(xrange(1, len(x))):
        # pick an element in x[:i+1] with which to exchange x[i]
        j = int(random.random() * (i+1))
        x[i], x[j] = x[j], x[i]
        y[i], y[j] = y[j], y[i]

这样，我可以确保洗牌发生在适当的位置，并且函数不会太长或太复杂。

2017-10-30 14:15:47

更好的方式洗牌两个numpy数组一致

推荐文章

最新文章

标签