센서 데이터 해석을 위한 LLM 적용 유스케이스

이 글은 센서 데이터 해석을 위한 대형언어모델 LLM 적용 유스케이스를 간략히 정리한 것이다. 

머리말

센서 데이터를 다루는 목적은 주로 몇 개로 한정된다.

• 추론
• 예측
• 질의
• 이상패턴 검출
• 분류

LLM은 이 과정을 모두 수행할 수 있으나, 사실, 잘 알려진 기존 딥러닝 모델에 비해 비효율적이다. 트랜스포머 계열 LLM은 구조와 사용 리소스를 고려했을 때, 좀 더 유용한 목적이 아니면, 그리 추천하기 어렵다. 

LLM의 강점은 연역, 추론(reasoning), 생성인데, 이와 관련된 주요 연구들은 다음과 같다. 

추론

다양한 센서 데이터로부터 센싱된 대상이 되는 상태를 추론하는 것이다.

LLM sense

예측

시계열 데이터의 미래를 예측한다.

Semantic Space Informed Prompt Learning with LLM for Time Series Forecasting

검색 질의

전문가 시스템으로서 주어진 데이터를 증강해 검색에 활용한다.

Ragal LLM RAG

이상패턴 검출

전문가가 데이터를 상세히 확인하여, 이상한 부분을 검출하듯이, 정상 패턴과 이상 패턴을 구분한다.

Needle in A HayStack (Legal-RAG vs. RAG: A Technical Exploration of Retrieval Systems | TrueLaw AI)

SaulLM

결론

이외 데이터 분류, 요약 등을 LLM으로 실행할 수 있다. 다만, LLM은 기존 LSTM, MLP 등에 비해 큰 리소스를 사용하여 비용이 크다. 적절히 적용할 필요가 있다.

레퍼런스

• awesome-llm-time-series: tracking papers, datasets, and models of "large language model (LLM) for time series"
• LLMSense: Harnessing LLMs for High-level Reasoning Over Spatiotemporal Sensor Traces
• Empowering-Time-Series-Analysis-with-LLM: Official website for "Empowering Time Series Analysis with Large Language Models: A Survey"
• Anomaly Detection in Time Series Sensor Data | by Bauyrjan Jyenis
• Local LLM for interpreting ECG time series data. : r/LocalLLaMA
• Semantic Space Informed Prompt Learning with LLM for Time Series Forecasting
• DocQuery — Document Query Engine - a Hugging Face Space by impira
• Contract Advisor RAG: Towards Building A High-Precision Legal Expert LLM APP | by Birehan Anteneh | Medium
• LLM Application for Law Using SaulLM-7B and RAG (e2enetworks.com)
• Contract Advisor RAG: Towards Building A High-Precision Legal Expert LLM APP | by Diriba | Medium
• LLM-and-Law: This repository is dedicated to summarizing papers related to large language models with the field of law (github.com)
• Legal-LLMs-GPTs: Large Language Models (LLMs) and Generative Pre-trained Transformers (GPTs) for Legal (github.com)
• Korea-Law-LLM (github.com)
• LAW-Alpaca: KoAlpaca LoRA finetuning
• DISC-LawLLM: DISC-LawLLM, an intelligent legal system utilizing large language models (LLMs) to provide a wide range of legal services (github.com)