BERTrend: 주제의 등장·발전·소멸을 이해하는 방법
“지금 어떤 주제가 주목받고 있을까?”
“그리고 그 관심은 계속 커지고 있을까, 아니면 이미 줄어들고 있을까?”
“앞으로 더 중요해질 주제는 무엇일까?”
대량의 텍스트 데이터 속에서 이런 질문에 답하려면, 단순히 현재 존재하는 주제를 식별하는 것만으로는 충분하지 않습니다. 주제가 시간이 지나며 등장하고 변화하는 흐름까지 함께 살펴봐야 합니다.
기존의 토픽 모델링이 주로 문서 속에서 지금 무엇이 이야기되고 있는지 분석하는 것에 초점이 있엇다면,
BERTrend는 그 주제가 시간 속에서 어떻게 변화하고 있는지 보여주는 분석 기법입니다.
시간의 흐름에 따라 변화하는 주제 구조를 이해하는 방법
많은 연구에서는 텍스트 데이터를 기반으로 주제의 변화를 분석하기 위해, LDA나 BERTopic으로 문서를 주제별로 분류한 뒤 시간 순으로 문서 수를 추적하는 방식을 활용해 왔습니다. 이러한 접근은 특정 주제가 언제 증가하거나 감소했는지를 확인하는 데 유용합니다.
하지만, 기존의 토픽 모델링 방법은 일반적으로 전체 문서를 한 번에 분석하기 때문에, 규모는 작지만 중요한 신흥 주제(Emerging Topic)를 포착하기 어렵다는 한계가 있습니다. 이를 해결하기 위해 일부 연구에서는 문서를 시간 단위로 나누어 시기별로 토픽 분석을 수행하는 경우도 있으나, 시점별로 생성된 유사한 토픽들을 연구자가 직접 비교하고 연결해야 하며, 기존 주제가 발전한 것인지 새로운 주제인지를 자동으로 판별하기 어렵습니다
BERTrend는 이러한 기존의 한계를 극복하기 위해 2024년에 제안된 최신 분석 기법입니다.
BERTrend(BERT + Trend Detection)는 BERTopic으로 생성된 주제를 시간 순서에 따라 의미적으로 연결하고, 그 변화를 기반으로 부상(emerging), 안정(strong), 쇠퇴(declining), 소멸(inactive)과 같은 신호(signal) 를 분류하는 최신의 분석 기법입니다.
다시 말해, BERTrend는 단순히 주제를 분류하는 데서 끝나는 것이 아니라, 주제가 등장 → 성장 → 확산 → 쇠퇴 → 소멸하는 흐름을 체계적으로 추적할 수 있도록 합니다.
BERTrend는 어떻게 작동할까?
BERTrend는 다음의 과정을 통해 주제의 시간적 변화를 분석합니다.
1. 문서를 시간 단위로 나누기
분석 대상 문서를 연도, 분기, 월 등 사용자가 설정한 시간 축 기준으로 그룹화합니다.
이 단계는 이후 분석에서 “같은 시기의 문서들끼리 어떤 주제가 형성되었는가” 를 판단하는 기본 단위가 됩니다. 예를 들어 2022년, 2023년, 2024년처럼 연도별로 분석할 수도 있고, 연구 목적에 따라 더 세밀한 단위로 나눌 수도 있습니다.
2. 시기별 주제 생성
각 시간 구간에 포함된 문서만을 대상으로 BERTopic 방식(문서 임베딩 → 차원 축소 → 군집화 → 핵심 단어 추출)을 적용해 주제를 도출합니다.
이 과정에서 각 시점은 독립적으로 분석되기 때문에, 기존 토픽 모델링이 놓치기 쉬운 초기 규모가 작은 신흥 주제도 발견될 수 있습니다.
3. 시간 순서에 따른 주제 연결
각 시점에서 생성된 주제에 대해 이전 시점의 주제와의 의미적 유사도(코사인 유사도 기반)를 확인합니다.
유사도가 기준값을 넘으면(기본: 0.7), 두 주제는 동일한 주제의 시간적 연속으로 간주되어 연결됩니다. 그렇지 않으면 새롭게 등장한 신규 주제로 간주됩니다.
이 과정은 사용자가 직접 라벨을 정의하거나 토픽 이름을 비교하는 방식이 아니라, 언어모델 기반 의미 표현(주제 임베딩)을 활용해 이전 시점의 주제와 의미적으로 유사한지 자동으로 판단하고 연결한다는 점에서 기존 방식과 차별화됩니다.
※ 주제 임베딩은 해당 주제에 포함된 문서들의 의미를 평균으로, 그 주제를 대표할 수 있는 의미 값
4. 인기도 계산 (Popularity Tracking with Decay)
병합된 주제는 시간에 따라 누적되며, 새로운 문서가 추가될 때마다 인기도(popularity)가 증가합니다.
반면 일정 기간 동안 새로운 문서가 들어오지 않으면 지수 감쇠(exponential decay) 를 적용해 인기도가 서서히 감소합니다. 이 방식은 단순 문서 수 집계보다 주제의 실제 관심도 추이를 더 잘 반영할 수 있습니다.
5. 신호 분류 (Trend Signal Classification)
마지막 단계에서는 사용자가 설정한 회고 구간(Retrospective Window) 안에서 주제의 인기도 변화를 분석합니다. 먼저, 해당 기간의 인기도 분포(percentile)를 기준으로 주제를 Strong·Weak·Inactive 로 구분한 뒤, Weak에 속한 주제는 기울기(slope)를 추가로 고려해 최종 신호 유형을 결정합니다.
Strong: 지속적이고 높은 관심이 유지되는 주제
Weak-Emerging: 최근 빠르게 주목받고 있는 신흥 주제 (기울기가 양수)
Weak-Declining: 점차 관심이 감소하고 있는 주제 (기울기가 음수)
Inactive: 언급량이 적은 주제 (참고 문헌에서는 Noise로 표기)
이 과정을 통해 BERTrend는 단순히 “주제가 존재하는지”를 보여주는 수준을 넘어, 주제가 어떻게 등장하고, 성장하고, 약화되고, 소멸하는지까지 분석합니다.
대량의 텍스트에서 주제를 식별하는 것도 중요하지만, 그 주제가 시간이 지나며 어떻게 변화하고 있는지를 이해하는 것도 중요한 인사이트입니다. BERTrend는 이러한 관점을 지원하는 분석 기법으로, 주제의 등장과 확산, 그리고 관심의 감소까지 시간 축 위에서 구조적으로 파악할 수 있습니다.
예를 들어,
연구·정책 환경에서는 새롭게 등장하는 논의나 연구 방향 탐지
산업·기술 분야에서는 혁신 트렌드 모니터링 및 잠재 시장 탐색
커뮤니케이션·사회 데이터 분석에서는 여론 변화나 관심 이슈 확산 패턴 파악
과 같은 목적에 효과적으로 적용할 수 있습니다.
BERTrend는 텍스트 데이터를 통해 현재를 이해하는 분석을 넘어, 변화의 방향을 읽어내는 분석 도구라고 할 수 있습니다.