Как рассчитать количество последовательных столбцов с нулевыми значениями справа до появления первого ненулевого элемента
Предположим, у меня есть следующий фрейм данных:
C1 C2 C3 C4
0 1 2 3 0
1 4 0 0 0
2 0 0 0 3
3 0 3 0 0
Затем я хочу добавить еще один столбец, чтобы он отображал число столбцов с нулевым значением, которые встречаются справа. Новый столбец будет:
Cnew
0 1
1 3
2 0
3 2
3 ответа
Решение
Ты можешь использовать:
- обратный порядок по
iloc
а также[::-1]
- получить
cumsum
за ряд (axis=1
) - проверять
eq
и получитьsum
изTrue
s
df['new'] = df.iloc[:,::-1].cumsum(axis=1).eq(0).sum(axis=1)
print (df)
C1 C2 C3 C4 new
0 1 2 3 0 1
1 4 0 0 0 3
2 0 0 0 3 0
3 0 3 0 0 2
print (df.iloc[:,::-1])
C4 C3 C2 C1
0 0 3 2 1
1 0 0 0 4
2 3 0 0 0
3 0 0 3 0
print (df.iloc[:,::-1].cumsum(axis=1))
C4 C3 C2 C1
0 0 3 5 6
1 0 0 0 4
2 3 3 3 3
3 0 0 3 3
print (df.iloc[:,::-1].cumsum(axis=1).eq(0))
C4 C3 C2 C1
0 True False False False
1 True True True False
2 False False False False
3 True True False False
Я бы использовал argmax
на логическом массиве. Кроме того, если я пропущу прямо к numpy
Я могу сделать это очень быстро.
(df.values[:, ::-1] != 0).argmax(1)
array([1, 3, 0, 2])
Или очень похоже
(df.values[:, ::-1].astype(bool)).argmax(1)
array([1, 3, 0, 2])
Я могу поместить его в новую колонку с assign
df.assign(new=(df.values[:, ::-1] != 0).argmax(1))
C1 C2 C3 C4 new
0 1 2 3 0 1
1 4 0 0 0 3
2 0 0 0 3 0
3 0 3 0 0 2
Или добавьте новый столбец на месте
df['new'] = (df.values[:, ::-1] != 0).argmax(1)
df
C1 C2 C3 C4 new
0 1 2 3 0 1
1 4 0 0 0 3
2 0 0 0 3 0
3 0 3 0 0 2
тайминг
Мы сокращаем время за счет сокращения необходимой работы. Нам нужно только найти положение первого ненулевого.
# My first variant
%timeit df.assign(new=(df.values[:, ::-1] != 0).argmax(1))
# My second variant
%timeit df.assign(new=(df.values[:, ::-1].astype(bool)).argmax(1))
# jezrael's solution
%timeit df.assign(new=df.iloc[:,::-1].cumsum(1).eq(0).sum(1))
# numpy version of jezrael's solution
%timeit df.assign(new=(df.values[:,::-1].cumsum(1) == 0).sum(1))
# Scott Boston's solution
%timeit df.assign(new=df.iloc[:,::-1].eq(0).cumprod(axis=1).sum(axis=1))
# numpy version of Scott Boston's solution
%timeit df.assign(new=(df.values[:,::-1] == 0).cumprod(1).sum(1))
небольшие данные
1000 loops, best of 3: 301 µs per loop
1000 loops, best of 3: 273 µs per loop
1000 loops, best of 3: 770 µs per loop
1000 loops, best of 3: 323 µs per loop
1000 loops, best of 3: 647 µs per loop
1000 loops, best of 3: 324 µs per loop
большие данные
df = pd.DataFrame(np.random.choice([0, 1], (10000, 100), p=(.7, .3)))
100 loops, best of 3: 6.03 ms per loop
100 loops, best of 3: 5.3 ms per loop
100 loops, best of 3: 16.9 ms per loop
100 loops, best of 3: 9 ms per loop
100 loops, best of 3: 10.7 ms per loop
100 loops, best of 3: 10.1 ms per loop
Использование eq
, cumprod
а также sum
(Это очень похоже на ответ на вопрос здесь.)
df.iloc[:,::-1].eq(0).cumprod(axis=1).sum(axis=1)
Выход:
0 1
1 3
2 0
3 2
dtype: int64