Проблемы с использованием groupby для подсчета слов, а затем цикла с использованием python

Количество слов и совокупная сумма

У меня набор данных до 1,5 миллионов строк. Этот набор данных представляет собой временной ряд в формате года, как показано ниже. Я пытаюсь подсчитать количество строк за год в кумулятивном формате. Пример ниже:

lodgement_year                trademark_text
  1906                          PEPS
  1906  BILE BEANS FOR BILIOUSNESS B
  1906                     ZAM-BUK Z

  lodgement_year
  1906    {PEPS BILE BEANS FOR BILIOUSNESS B ZAM-BUK Z Z...

  1907    {WHS CHERUB BLACK & WHITE SOUTHERN CROSS HISTO...

В качестве первоначальной задачи я сгруппировал строки, а затем применил цикл в течение всего года, используя код, который был опубликован на этом форуме пользователем xxx. Пока цикл работает, сразу после него появляется следующее сообщение:

    The code :

    d = df_merge.groupby('lodgement_year')['trademark_text'].apply(lambda x: "{%s}" % ' '.join(x))


  for name in d.index:
            data = d.loc[name]
            ngram_vectorizer =    CountVectorizer(analyzer='word',tokenizer=word_tokenize, ngram_range=(1, 1), min_df=1)              
            X = ngram_vectorizer.fit_transform(data.split('\n'))
            vocab = list(ngram_vectorizer.get_feature_names())
            counts = X.sum(axis=0).A1
            freq_distribution = Counter(dict(zip(vocab, counts)))
            print (name, freq_distribution.most_common(10))

Сообщение об ошибке:

Отслеживание (последний вызов последний):

Файл "/ Users / PycharmProjects / Slice_Time_Series", строка 65, в X = ngram_vectorizer.fit_transform (data.split ('\ n'))

Файл "/Users/anaconda3/lib/python3.6/site-packages/pandas/core/generic.py", строка 3081, в объекте возврата getattr. getattribute ( self, name) AttributeError: объект 'Series' не имеет атрибута 'split'

Результат, который работает до ошибки:

 1906 [('.', 24), ("'s", 22), ('star', 18), ('&', 15), ('kodak', 12), ('co', 9), ('the', 9), ('brand', 8), ('express', 8), ('anchor', 6)]
 1907 [('&', 11), ("'s", 11), ('brand', 11), ('pinnacle', 7), ('vaseline', 7), ('the', 6), ('.', 5), ('co.', 5), ('kepler', 5), ('lucas', 5)]

Любая помощь будет оценена. В качестве следующей задачи я пытаюсь создать серию, которая представляет собой сумму из 1906, затем 1906 плюс 1907, затем 1906 + 1907 + 1908. Я пока не знаю, что делать, любое руководство было бы также отличным.

Ян


python pandas group-by pandas-groupby word-count
person Ian_De_Oliveira    schedule 26.12.2017    source источник

Ответы (1)


arrow_upward
1
arrow_downward

Вы можете сначала сгруппировать свой DF по переменной lodgement, а затем перебрать пары имя-группа, выполнить еще одну группировку и, наконец, присоединиться к результатам.

import pandas as pd
from collections import Counter
df = pd.DataFrame({'lodg':[1,2,1,3,1,2,2,3,1,1],
               'text':['x y z','y y','x y','z x','y x','y y z','x z','x x','x x','y z']})
grouped = df.groupby('lodg')
joined = []
for name, group in grouped:
    texts = " ".join(group['text'])
    groupCounts = Counter(texts.split(" ")).items()
    joined.append([name, [texts], groupCounts])
groupedJoined = pd.DataFrame(joined, columns = ['lodg','texts','textCounts'])

Результат:

In [16]: groupedJoined
Out[16]: 
   lodg                    texts                textCounts
0     1  [x y z x y y x x x y z]  [(y, 4), (x, 5), (z, 2)]
1     2          [y y y y z x z]  [(y, 4), (x, 1), (z, 2)]
2     3                [z x x x]          [(x, 3), (z, 1)]

После явного решения потребовалось немного времени, чтобы придумать однострочное лямбда-решение.

Две лямбды:

df.groupby('lodg')['text'].apply(lambda x: "%s" % ' '.join(x)).apply(lambda x: Counter(x.split(" ")).items())

Одиночная лямбда:

df.groupby('lodg')['text'].apply(lambda x: Counter((' '.join(x)).split(" ")).items())

Оба дают одинаковый результат:

Out[62]: 
lodg
1    [(y, 4), (x, 5), (z, 2)]
2    [(y, 4), (x, 1), (z, 2)]
3            [(x, 3), (z, 1)]
Name: text, dtype: object

Теперь, если вы не хотите иметь дело с безымянным столбцом (фактически называемым индексом), назовите результат res и выполните res.reset_index(), чтобы получить следующее:

In [68]: res.reset_index()
Out[68]: 
   lodg                      text
0     1  [(y, 4), (x, 5), (z, 2)]
1     2  [(y, 4), (x, 1), (z, 2)]
2     3          [(x, 3), (z, 1)]

С этим должно быть намного проще работать.

person FatihAkici    schedule 26.12.2017
comment
Привет, Фатих, и спасибо за советы. Код работает, но мне нужно считать каждое отдельное слово. Например: ЖЕЛЧНЫЕ ФАСОЛИ ПРИ БИЛИОЗНОСТИ B, результат должен быть ЖЕЛЧНОЙ 1, ФАСОЛИ 1 ... Не ЖЕЛЧНЫЕ ФАСОЛИ ПРИ БИЛИОЗНОСТИ B 1. - person Ian_De_Oliveira; 27.12.2017
comment
Если я группирую с помощью лямбда-выражения, чтобы разбить все слова, я получаю сообщение об ошибке, слишком много значений для распаковки. grouped = df.groupby ('lodgement_year') ['trademark_text']. apply (lambda x: {% s}% '' .join (x)) connected = [] для имени, сгруппировать в grouped: groupCounts = Counter (list (group ['trademark_text'])). items () connected.append ([name, [.join (group ['trademark_text'])], groupCounts]) groupedJoined = pd.DataFrame (connected, columns = ['lodgement_year') , 'тексты', 'textCounts']) - person Ian_De_Oliveira; 27.12.2017
comment
@Ian_De_Oliveira, пожалуйста, посмотрите обновленный ответ. Далее я разбил такие тексты, как ЖЕЛЧНЫЕ ФАСОЛИ ДЛЯ ДВУСТОРОННИХ B на ЖЕЛЧНЫЕ - ФАСОЛИ - ДЛЯ - БИЛИОЗНОСТИ - B. По моей аналогии у вас есть тексты типа «xyz» и «yy» для каждого lodgement_year, и мой обновленный ответ учитывает каждый x, y и z; вместо подсчета строк «x y z» и «y y». Я не мог придумать простого решения с использованием лямбда. Лямбда-нотация не всегда может быть простой, но если кто-то другой предложит решение на основе лямбда, мне понравится его изучение :) - person FatihAkici; 27.12.2017
comment
@Ian_De_Oliveira Я тоже понял лямбды. См. Обновленный ответ. Дайте мне знать, если вам нужны дополнительные улучшения / разъяснения. - person FatihAkici; 27.12.2017
comment
Вау, вся сложность, которую я пытался преодолеть, сработала в однострочном коде, гений. Извините, мой вопрос, я действительно новичок в кодировании слова, как бы вы повторили, чтобы создать новое совокупное наблюдение. Например 1906 + 1907, затем 1906 + 1907 + 1908 и так далее? Я пытаюсь собрать кумулятивную сумму уникальных слов, а затем взять среднее значение по количеству наблюдений или заявок на товарные знаки за год. - person Ian_De_Oliveira; 27.12.2017
comment
@ Вера Акичи. Спасибо за отличный код, я пытался отсортировать результаты, но все не получалось. Вы знаете, где мне искать дополнительную информацию о функциях groupby? Еще раз большое спасибо. - person Ian_De_Oliveira; 27.12.2017
comment
Как бы вы распаковали в этом случае и отправили в файл csv или excel, как показано ниже: Слова 1906 1907 1908 peps 1 0 6 bile 1 0 4 beans 1 5 1 for 1 7 3 whs 0 2 4 black 0 1 4 - person Ian_De_Oliveira; 27.12.2017
comment
@Ian_De_Oliveira Я определенно могу помочь и с этим, но было бы лучше, если бы вы задали эту часть как новый вопрос. Вы можете обобщить то, что мы достигли в этой беседе, поделиться кодом, чтобы люди могли его воспроизвести, а затем задать вторую часть вашего вопроса. Я буду более чем счастлив помочь! - person FatihAkici; 28.12.2017
comment
@ Спасибо за совет, напишу как новый вопрос :) - person Ian_De_Oliveira; 30.12.2017
comment
Добро пожаловать, @Ian_De_Oliveira. Надеюсь, я смогу помочь. Буду рад помочь еще. Удачи! - person FatihAkici; 30.12.2017
comment
stackoverflow.com/questions/48033351/ - person Ian_De_Oliveira; 30.12.2017