Фильтруйте Pandas df по количеству столбцов и записывайте данные

Question

У меня есть набор данных о размещенных в социальных сетях сообщениях, которые я пытаюсь отфильтровать по частоте user_id больше 1 (пользователи, которые разместили 2 или более раз). Я хотел бы отфильтровать это, чтобы я мог дополнительно очистить данные траектории, которые я создаю.

Образец кода:

# Import Data
data = pd.read_csv('path', delimiter=',', engine='python')
#print len(data),"rows"
#print data

# Create Data Fame
df = pd.DataFrame(data, columns=['user_id','timestamp','latitude','longitude'])
#print data.head()

# Get a list of unique user_id values
uniqueIds = np.unique(data['user_id'].values)

# Get the ordered (by timestamp) coordinates for each user_id
output = [[id,data.loc[data['user_id']==id].sort_values(by='timestamp')['latitude','longitude'].values.tolist()] for id in uniqueIds]

# Save outputs
outputs = pd.DataFrame(output)
#print outputs
outputs.to_csv('path', index=False, header=False)

Я пытался с помощью df[].value_counts() чтобы получить счетчик user_id, а затем передать>1 в строке output = [[......data['user_id']==id>1]..... однако это не сработало. Можно ли добавить частоту user_id в качестве дополнительного аргумента для кода и извлечения информации только для тех пользователей?

Пример данных:

user_id, timestamp, latitude, longitude
478134225, 3/12/2017 9:04, 38.8940974, -77.0276216
478103585, 3/12/2017 9:04, 38.882584, -77.1124701
478073193, 3/12/2017 9:07, 39.00027849, -77.09480086
476194185, 3/12/2017 9:14, 38.8048355, -77.0469214
476162349, 3/12/2017 9:16, 38.8940974, -77.0276216
478073193, 3/12/2017 9:05, 38.8549, -76.8752
477899275, 3/12/2017 9:08, 38.90181532, -77.03733586
477452890, 3/12/2017 9:08, 38.96117237, -76.95561893
478073193, 3/12/2017 9:05, 38.7188716, -77.1542684

Answer 1

Давай попробуем groupby тогда filter метод, который возвращает только те записи, которые оцениваются как истинные в функции фильтра. В этом случае верните True для групп или user_id, которые имеют более одной записи.

df.groupby('user_id').filter(lambda x: x['user_id'].count()>1)