Анализ комментариев #Hashtag из записи SQL Server

Я пытаюсь извлечь все комментарии «#» из текстового поля в базе данных SQL Server 2014. Я использую код, который нашел на этом MSDN thread, чтобы найти несколько хэштегов в одной записи и немного изменить ее, чтобы она соответствовала моим потребностям, но я вижу некоторые неожиданные результаты в моем наборе результатов .

Мой T-SQL до сих пор:

IF OBJECT_ID('tempdb..#hashtag') IS NOT NULL DROP TABLE #hashtag;

IF OBJECT_ID('tempdb..#numbers') IS NOT NULL DROP TABLE #numbers;

IF OBJECT_ID('tempdb..#hashtagcounts') IS NOT NULL DROP TABLE #hashtagcounts;

CREATE TABLE #numbers ( N INT );
DECLARE @i INT; 
SET @i = 1;
WHILE @i < 500
BEGIN
    INSERT  #numbers
    VALUES  ( @i );
    SET @i = @i + 1;
END;

CREATE TABLE #hashtag ( tkt_desc VARCHAR(MAX) );

INSERT INTO #hashtag ( tkt_desc )
SELECT  cst.ticketDescription
FROM    dbo.Trending AS [cst]
    WHERE   cst.ticketDescription LIKE '%#%'
            AND LTRIM(RTRIM(cst.ticketDescription)) NOT LIKE '%# %'
            AND cst.ticketDescription NOT LIKE '%BATCH #%'
            AND cst.ticketDescription NOT LIKE '%#[.:''1-9]%';

SELECT  LOWER ('#' + SUBSTRING(tkt_desc, N,
              CASE WHEN CHARINDEX(' ', tkt_desc, N) > 0
                   THEN CHARINDEX(' ', tkt_desc, N) - N
                   ELSE LEN(tkt_desc)
              END)) AS tkt_desc
INTO #hashtagcounts
FROM    #hashtag
    CROSS JOIN #numbers
WHERE   N <= LEN(tkt_desc) AND SUBSTRING(tkt_desc, N - 1, 1) = '#';

SELECT tkt_desc, COUNT(*) AS [Count]
FROM #hashtagcounts
GROUP BY tkt_desc
ORDER BY Count DESC, tkt_desc;

И мой набор данных выглядит так:

tkt_desc              Count
#updateinfo           6
#update               4
#update update        3
#update updated       3
#reprint              2
#callback             1
#nochargereprint      1
#nocostreprint        1
#notes update         1
#paperlicense please  1

У меня возникают проблемы, когда тег #update представлен тремя разными способами. В идеале я бы не хотел включать в хэштег ничего, что следует после пробела ' ', а тег #update должен иметь значение 10.

Моя первоначальная мысль заключалась в том, что, поскольку это текстовое поле, в поле может быть разрыв строки или возврат каретки, поэтому я попытался справиться с этим, заменив SELECT cst.ticketDescription на REPLACE(REPLACE(cst.ticketDescription,CHAR(13),''),CHAR(10),''), но это просто объединяет отдельные слова в один хэштег. См. пример ниже:

#updateinfo    6
#update        4
#updateupdate  3
#updateupdated 3

Любые предложения о том, как я могу достичь желаемого результата? И я включаю некоторые примеры данных ниже на случай, если кто-то захочет поэкспериментировать.

Запрос, который я решил использовать с помощью двух функций/перекрестного применения и очистил операторы LIKE и NOT LIKE:

SELECT  '#' + LOWER(B.RetVal) AS [HashTag] ,
    COUNT(*) AS [Cnt]
FROM    dbo.Common_SupportTickets AS [cst]
    CROSS APPLY [dbo].[udf-Str-Extract]([dbo].[udf-Str-Strip-Control](cst.ticketDescription) + ' ', '#', ' ') AS [B]
WHERE   cst.ticketDescription LIKE '%#%'
    AND LTRIM(RTRIM(REPLACE(cst.ticketDescription,CHAR(13)+CHAR(10),''))) NOT LIKE '%#'
    AND cst.ticketDescription NOT LIKE '%BATCH #%'
    AND cst.ticketDescription NOT LIKE '%#[.:'')1-9]%'
    AND CAST(cst.createDate AS DATE) >= CAST( @paramStartDate AS DATE )
    AND CAST(cst.createDate AS DATE) <= CAST( @paramEndDate AS DATE )
GROUP BY B.RetVal

Примеры данных и записей:

USE [Sandbox]
GO

SET ANSI_NULLS ON
GO
SET QUOTED_IDENTIFIER ON
GO
CREATE TABLE [dbo].[Trending](
[TicketDescription] [varchar](max) NULL
) ON [PRIMARY] TEXTIMAGE_ON [PRIMARY]

GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#registrationnotreceived     customer has not received registration for boat...')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#registrationnoreceived      Customer called and still has not received duplicate registration...')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#callback (111) 111-1111

Agent''s POS is briefly turning on before "going to sleep" and entering sleep mode. Agent claims POS will not stay active for any length of time.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Corrected last name and driver''s license number.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Update customer''s last name.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Update last name, address')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#update - Profile updated. Corrected last name.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#updateinfo')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#updateinfo')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#updateinfo')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#updateinfo')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#question')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Update residency status')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#update #SSNdiscrepancy 
John Doe called in claiming this was their SSN, please advise. Please contact John Doe at this number (111-111-2222) when the issue is resolved. He wishes to create an account once the issue is resolved.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Notes
Update Customer''s Hunter certificate number')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#update
Updated residency status')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Changed residency from in-state to out-of-state, likely didn''t update.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Updated Customer''s last name')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#updateinfo')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#updateinfo')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#void - Agent called in asking to void a duplicate license sale.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update - updated customer''s last name')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#permissions
Changed agent role from AGENT CLERK to AGENT MANAGER in order to order supplies.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#registrationreprint customer didn''t receive registration I sent to Twra It for reprint. Told to call if he has not received in 10days ')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#printerissue')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#update - Profile updated. Religious Exempt.')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#reprint   this is 2nd call from customer that they have not received there boat registration...')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#registratedincorrectly  He send in check and info from Clerks office beginning of Dec, ')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#reprint #paperlicense Please reprint this license for the customer, he claims he has not yet received it. ')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#nocostreprint customer did not receive boat regst')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#Update
Updated customer''s address over the phone')
GO
INSERT [dbo].[Trending] ([TicketDescription]) VALUES (N'#nochargereprint  ')
GO

Только что заметил странное поведение, когда запускал тот же скрипт для другого диапазона дат — он создавал несуществующие #хэштеги. Например, он возвращает Order: 10 раз, но в поле для #order нет текста:

Несуществующий хэштег

Образец данных:

CREATE TABLE #temptable ( [ticketDescription] varchar(max), [RetVal] varchar(max) )
INSERT INTO #temptable
VALUES
( 'DURABLE HARD CARD RETURN-WAS GOING TO CALL TO PICK UP  NO# NUMBER ', 'DURABLE' ), 
( 'Order: 30341143OrderItemId: 30517890License for: NATHAN TIMOTHY SUMNER  Printed on: 10 Apr 2017 06:43:57:857 Shipped to: 7650 KIOWA ST, APT #01 MILLINGTON TN 38053 - 3219', 'Order:' ), 
( 'Order: 30341143OrderItemId: 30517890License for: NATHAN TIMOTHY SUMNER  Printed on: 10 Apr 2017 06:43:57:857 Shipped to: 7650 KIOWA ST, APT #01 MILLINGTON TN 38053 - 3219', '01' ), 
( 'Order: 30346281OrderItemId: 30526511License for: STANLEY R ROWLAND  Printed on: 07 Apr 2017 06:22:23:417 Shipped to: 25 COUNTRY WOOD LN # 601 WALNUT MS 38683 - 5367', 'Order:' ), 
( 'Order: 30347906OrderItemId: 30529325License for: DOUGLAS R EASTRIDGE  Printed on: 07 Apr 2017 09:29:51:643 Shipped to: 7980 HUFFS FERRY RD N # R LOUDON TN 37774 - 5910', 'Order:' ), 
( 'Order: 30361947OrderItemId: 30554547License for: BLAKE R HADDON  Printed on: 07 Apr 2017 14:01:42:637 Shipped to: 146 14TH AVE NW # 146 WINCHESTER TN 37398 - 1079', 'Order:' ), 
( 'Order: 30362075OrderItemId: 30554740License for: KYLE  JACKSON  Printed on: 07 Apr 2017 14:04:23:473 Shipped to: 3765 E ANDREW JOHNSON HWY, APT # A4 MORRISTOWN TN 37814 - 6200', 'Order:' ), 
( 'Order: 30369152OrderItemId: 30565137License for: DANIEL JAMES SOLA  Printed on: 09 Apr 2017 07:08:28:683 Shipped to: 3212 MAYES LOOP RD # 1 PIGEON FORGE TN 37863 - 7721', 'Order:' ), 
( 'Order: 30370097OrderItemId: 30566543License for: JAMES D JOHNSON  Printed on: 09 Apr 2017 11:51:37:170 Shipped to: 230 FRANKLIN RD # 907 FRANKLIN TN 37064 - 2256', 'Order:' ), 
( 'Order: 30372876OrderItemId: 30571083License for: MARCOS  CLAUDIO P POLONIATO  Printed on: 06 Apr 2017 08:15:01:093 Shipped to: 295 WINDING RIVER DR, # J SANDY SPRINGS GA 30350 - 1926', 'Order:' ), 
( 'Order: 30396415OrderItemId: 30604206License for: GARY T GOODMAN  Printed on: 07 Apr 2017 15:11:20:317 Shipped to: 1046 GREENBRIAR RD # RD.423 TALBOTT TN 37877 - 9055', 'Order:' ), 
( 'Order: 30405689OrderItemId: 30617970License for: VANCE K JOHNSON  Printed on: 09 Apr 2017 09:25:48:670 Shipped to: 614 GARRISON HOLLOW RD, LOT # 11 ELIZABETHTON TN 37643 - 4897', 'Order:' )

SELECT * FROM #temptable;

DROP TABLE #temptable

ИЗМЕНИТЬ – исправить

Select HashTag = '#'+B.RetVal
      ,Cnt      = Count(*)
 From  #temptable A
 Cross Apply [dbo].[udf-Str-Extract]([dbo].[udf-Str-Strip-Control]('#>>> '+A.TicketDescription)+' ','#',' ') B
 Where B.RetVal <> '>>>'
   and B.RetVal Not Like '[0-9][0-9]'
 Group By B.RetVal
 Order By 1

person MISNole    schedule 03.04.2017    source источник
comment
Совет: вы можете прочитать на like узоры. Что-то вроде not like '%#[.:''1-9]%' немного наведет порядок.   -  person HABO    schedule 03.04.2017
comment
Спасибо - я посмотрю на это.   -  person MISNole    schedule 03.04.2017


Ответы (1)


С помощью двух функций и ПЕРЕКРЕСТНОГО ПРИМЕНЕНИЯ может помочь следующее.

Первая функция удалит все управляющие символы и заменит их пробелом, чтобы не объединять такие слова, как John{13}{10}Smith, которые возвращались бы как John Smith.

Вторая функция — это модифицированная функция синтаксического анализа, которая принимает два непохожих разделителя (начало/конец). В вашем случае # и пробел. Если есть несколько хэштегов, будет возвращено несколько записей.

Пример

Select HashTag = '#'+B.RetVal
      ,Cnt      = Count(*)
 From  trending A
 Cross Apply [dbo].[udf-Str-Extract]([dbo].[udf-Str-Strip-Control](A.TicketDescription)+' ','#',' ') B
 Group By B.RetVal
 Order By 1

Возврат

HashTag                 Cnt
#callback               1
#nochargereprint        1
#nocostreprint          1
#Notes                  1
#paperlicense           1   ---<< 2nd hashtag in text
#permissions            1
#printerissue           1
#question               1
#registratedincorrectly 1
#registrationnoreceived 1
#registrationnotreceived1
#registrationreprint    1
#reprint                2
#SSNdiscrepancy         1   ---<< 2nd hashtag in text
#Update                 12
#updateinfo             6
#void                   1

Если есть пользовательские функции, если интересно

CREATE FUNCTION [dbo].[udf-Str-Strip-Control](@S varchar(max))
Returns varchar(max)
Begin
    ;with  cte1(N) As (Select 1 From (Values(1),(1),(1),(1),(1),(1),(1),(1),(1),(1)) N(N)),
           cte2(C) As (Select Top (32) Char(Row_Number() over (Order By (Select NULL))-1) From cte1 a,cte1 b)
    Select @S = Replace(@S,C,' ')
     From  cte2

    Return LTrim(RTrim(Replace(Replace(Replace(@S,' ','><'),'<>',''),'><',' ')))
End
--Select [dbo].[udf-Str-Strip-Control]('Michael        '+char(13)+char(10)+'LastName')  --Returns: Michael LastName

CREATE FUNCTION [dbo].[udf-Str-Extract] (@String varchar(max),@Delimiter1 varchar(100),@Delimiter2 varchar(100))
Returns Table 
As
Return (  

with   cte1(N)   As (Select 1 From (Values(1),(1),(1),(1),(1),(1),(1),(1),(1),(1)) N(N)),
       cte2(N)   As (Select Top (IsNull(DataLength(@String),0)) Row_Number() over (Order By (Select NULL)) From (Select N=1 From cte1 N1,cte1 N2,cte1 N3,cte1 N4,cte1 N5,cte1 N6) A ),
       cte3(N)   As (Select 1 Union All Select t.N+DataLength(@Delimiter1) From cte2 t Where Substring(@String,t.N,DataLength(@Delimiter1)) = @Delimiter1),
       cte4(N,L) As (Select S.N,IsNull(NullIf(CharIndex(@Delimiter1,@String,s.N),0)-S.N,8000) From cte3 S)

Select RetSeq = Row_Number() over (Order By N)
      ,RetPos = N
      ,RetVal = left(RetVal,charindex(@Delimiter2,RetVal)-1) 
 From  (Select *,RetVal = Substring(@String, N, L) From cte4) A
 Where charindex(@Delimiter2,RetVal)>1
)
/*
Max Length of String 1MM characters

Declare @String varchar(max) = 'Dear [[FirstName]] [[LastName]], ...'
Select * From [dbo].[udf-Str-Extract] (@String,'[[',']]')
*/

EDIT – может помочь с визуализацией

Если вы запустите запрос без какой-либо агрегации

Select A.*,B.*
 From  trending A
 Cross Apply [dbo].[udf-Str-Extract]([dbo].[udf-Str-Strip-Control](' '+replace(A.TicketDescription,'#','|||#'))+' .','|||',' ') B
 Order By 1

Вы получите

введите здесь описание изображения

person John Cappelletti    schedule 03.04.2017
comment
Выглядит многообещающе — не терпится проверить. Я должен спросить - у вас уже были эти функции или вы их только создали? - person MISNole; 03.04.2017
comment
У @MISNole они уже были. Со временем я нашел множество применений функции извлечения. - person John Cappelletti; 04.04.2017
comment
@MISNole Полное раскрытие Чтобы сохранить #, вы заметите, что я заменил # на |||#, а затем проанализировал ||| - person John Cappelletti; 04.04.2017
comment
Могу я спросить, почему бы вам не сделать что-то вроде SELECT ('#' + B.RetVal) в качестве [хэштега], чтобы сохранить ''# на месте? - person MISNole; 04.04.2017
comment
@MISNole Вы можете - person John Cappelletti; 04.04.2017
comment
@MISNole Cross Apply [dbo].[udf-Str-Extract]([dbo].[udf-Str-Strip-Control](A.TicketDescription)+' ','#',' ') B - person John Cappelletti; 04.04.2017
comment
@MISNole в вашем случае вам все равно нужно будет добавить пробел в конце строки, как показано выше, потому что у вас есть хэштеги без конечных пробелов. - person John Cappelletti; 04.04.2017
comment
@MISNole обновил выражение CROSS APPLY. Возможно, я слишком много думал об этом раньше. - person John Cappelletti; 04.04.2017
comment
Спасибо Джон - только что проверил, и я доволен результатами. Ценить это! - person MISNole; 04.04.2017
comment
@MISNole Рад, что это помогло - person John Cappelletti; 04.04.2017
comment
Давайте продолжим обсуждение в чате. - person MISNole; 05.04.2017
comment
@MISNole Просто подумав. Что касается некоторых из тех фильтров, которые вы применили, вместо того, чтобы фильтровать записи, входящие в запрос, возможно, было бы безопаснее, если бы фильтрация была добавлена ​​​​с добавлением где перед окончательной группой. По B.RetVal - person John Cappelletti; 05.04.2017
comment
Привет, Джон - не уверен, что именно вы имеете в виду, не могли бы вы предложить использовать CTE или что-то еще, чтобы получить отфильтрованные результаты, а затем использовать функции? Я отредактировал свой вопрос, чтобы показать окончательный (?) запрос, который я использовал для получения желаемых результатов. - person MISNole; 05.04.2017
comment
@MISNole нет, я просто нервничаю, когда данные фильтруются. В зависимости от ваших фильтров вы можете исключить допустимые хэштеги. Если вас устраивают результаты, то я думаю, вы должны быть в порядке - person John Cappelletti; 05.04.2017
comment
Эй, Джон, ненавижу задавать вопросы, но я обнаружил странное поведение, которое, как я надеялся, вы могли бы объяснить. Если бы было лучше открыть новый вопрос, я был бы рад. - person MISNole; 14.04.2017
comment
@MISNole В чем проблема? - person John Cappelletti; 14.04.2017
comment
Я разместил в исходном вопросе, но создаются хэштеги, которых на самом деле не существует - person MISNole; 14.04.2017
comment
Хорошо, я вижу Орден и 01. Порядок легко исправить, установив фиктивный хэштег в начале строки, например так... Cross Apply [dbo].[udf-Str-Extract]([dbo].[udf-Str-Strip-Control]( '#››› '+A.TicketDescription)+' ','#',' ') B Где B.RetVal ‹›'›››' - person John Cappelletti; 14.04.2017
comment
@MISNole Если это помогает, я добавил EDIT - Fix внизу вашего вопроса. - person John Cappelletti; 14.04.2017
comment
Потрясающе - пытаюсь понять, что именно вы сделали, но, насколько я могу судить, это выглядит хорошо. - person MISNole; 14.04.2017
comment
@MISNole Нет проблем. Просто пропингуйте, если вам нужна дополнительная помощь - person John Cappelletti; 14.04.2017