我有一个80%类别变量的机器学习分类问题。如果我想使用一些分类器进行分类，我必须使用一个热编码吗?我可以将数据传递给分类器而不进行编码吗?
我试图做以下的特征选择:
I read the train file:
num_rows_to_read = 10000
train_small = pd.read_csv("../../dataset/train.csv", nrows=num_rows_to_read)
I change the type of the categorical features to 'category':
non_categorial_features = ['orig_destination_distance',
'srch_adults_cnt',
'srch_children_cnt',
'srch_rm_cnt',
'cnt']
for categorical_feature in list(train_small.columns):
if categorical_feature not in non_categorial_features:
train_small[categorical_feature] = train_small[categorical_feature].astype('category')
I use one hot encoding:
train_small_with_dummies = pd.get_dummies(train_small, sparse=True)
问题是，第三部分经常卡住，尽管我使用的是一个强大的机器。
因此，如果没有一个热编码，我就无法进行任何特征选择，以确定特征的重要性。
你有什么建议吗?
首先，最简单的热编码方法:使用Sklearn。
http://scikit-learn.org/stable/modules/generated/sklearn.preprocessing.OneHotEncoder.html
其次，我不认为使用熊猫进行一个热编码是那么简单(虽然未经证实)
在pandas中为python创建虚拟变量
最后，你需要一个热编码吗?一个热编码以指数方式增加了特征的数量，大大增加了任何分类器或任何你要运行的东西的运行时间。特别是当每个分类特征都有很多层次时。相反，你可以进行虚拟编码。
使用虚拟编码通常工作得很好，运行时间和复杂性要少得多。一位睿智的教授曾经告诉我，“少即是多”。
如果你愿意，这是我的自定义编码函数的代码。
from sklearn.preprocessing import LabelEncoder
#Auto encodes any dataframe column of type category or object.
def dummyEncode(df):
columnsToEncode = list(df.select_dtypes(include=['category','object']))
le = LabelEncoder()
for feature in columnsToEncode:
try:
df[feature] = le.fit_transform(df[feature])
except:
print('Error encoding '+feature)
return df
编辑:比较更清楚:
一热编码:将n层转换为n-1列。
Index Animal Index cat mouse
1 dog 1 0 0
2 cat --> 2 1 0
3 mouse 3 0 1
你可以看到，如果你的分类特征中有许多不同类型(或级别)，这会使你的记忆爆发式增长。记住，这只是一列。
伪代码:
Index Animal Index Animal
1 dog 1 0
2 cat --> 2 1
3 mouse 3 2
转换为数字表示。极大地节省了特征空间，代价是准确性。
假设在10个变量中，在数据帧中有3个分类变量，分别为cname1、cname2和cname3。
然后下面的代码将自动在新的数据框架中创建一个热编码变量。
import category_encoders as ce
encoder_var=ce.OneHotEncoder(cols=['cname1','cname2','cname3'],handle_unknown='return_nan',return_df=True,use_cat_names=True)
new_df = encoder_var.fit_transform(old_df)
首先，最简单的热编码方法:使用Sklearn。
http://scikit-learn.org/stable/modules/generated/sklearn.preprocessing.OneHotEncoder.html
其次，我不认为使用熊猫进行一个热编码是那么简单(虽然未经证实)
在pandas中为python创建虚拟变量
最后，你需要一个热编码吗?一个热编码以指数方式增加了特征的数量，大大增加了任何分类器或任何你要运行的东西的运行时间。特别是当每个分类特征都有很多层次时。相反，你可以进行虚拟编码。
使用虚拟编码通常工作得很好，运行时间和复杂性要少得多。一位睿智的教授曾经告诉我，“少即是多”。
如果你愿意，这是我的自定义编码函数的代码。
from sklearn.preprocessing import LabelEncoder
#Auto encodes any dataframe column of type category or object.
def dummyEncode(df):
columnsToEncode = list(df.select_dtypes(include=['category','object']))
le = LabelEncoder()
for feature in columnsToEncode:
try:
df[feature] = le.fit_transform(df[feature])
except:
print('Error encoding '+feature)
return df
编辑:比较更清楚:
一热编码:将n层转换为n-1列。
Index Animal Index cat mouse
1 dog 1 0 0
2 cat --> 2 1 0
3 mouse 3 0 1
你可以看到，如果你的分类特征中有许多不同类型(或级别)，这会使你的记忆爆发式增长。记住，这只是一列。
伪代码:
Index Animal Index Animal
1 dog 1 0
2 cat --> 2 1
3 mouse 3 2
转换为数字表示。极大地节省了特征空间，代价是准确性。
您可以使用numpy。眼睛的功能。
import numpy as np
def one_hot_encode(x, n_classes):
"""
One hot encode a list of sample labels. Return a one-hot encoded vector for each label.
: x: List of sample Labels
: return: Numpy array of one-hot encoded labels
"""
return np.eye(n_classes)[x]
def main():
list = [0,1,2,3,4,3,2,1,0]
n_classes = 5
one_hot_list = one_hot_encode(list, n_classes)
print(one_hot_list)
if __name__ == "__main__":
main()
结果
D:\Desktop>python test.py
[[ 1. 0. 0. 0. 0.]
[ 0. 1. 0. 0. 0.]
[ 0. 0. 1. 0. 0.]
[ 0. 0. 0. 1. 0.]
[ 0. 0. 0. 0. 1.]
[ 0. 0. 0. 1. 0.]
[ 0. 0. 1. 0. 0.]
[ 0. 1. 0. 0. 0.]
[ 1. 0. 0. 0. 0.]]
为了补充其他问题，让我提供如何使用Numpy使用Python 2.0函数:
def one_hot(y_):
# Function to encode output labels from number indexes
# e.g.: [[5], [0], [3]] --> [[0, 0, 0, 0, 0, 1], [1, 0, 0, 0, 0, 0], [0, 0, 0, 1, 0, 0]]
y_ = y_.reshape(len(y_))
n_values = np.max(y_) + 1
return np.eye(n_values)[np.array(y_, dtype=np.int32)] # Returns FLOATS
行n_values = np.max(y_) + 1可以硬编码，以便在使用小批量的情况下使用足够数量的神经元。
使用此函数的演示项目/教程:
https://github.com/guillaume-chevalier/LSTM-Human-Activity-Recognition
