소셜 엔지니어링 기법으로 정교하게 작성된 피싱 이메일은 베테랑 보안 담당자도 눈치채기 어렵다. 텍스트 내용만으로 피싱 여부를 가려내는 것이 얼마나 어려운 일인지, 현장에서 일해본 사람이라면 누구나 안다. 단순 키워드 필터링이나 전통적인 머신러닝 분류기로는 점점 더 자연스러워지는 피싱 문구를 따라잡기가 쉽지 않다.
2025년 Journal of Advanced Research in Applied Sciences and Engineering Technology에 게재된 연구는 이 문제를 NLP와 딥러닝의 결합으로 정면 돌파한다. Md Mehedi Hassan Melon 외 7명의 연구팀은 나이브 베이즈, SVM, 랜덤 포레스트 등 전통적 ML 모델과 CNN, RNN, LSTM 딥러닝 모델을 종합적으로 비교 분석해 피싱 탐지 성능의 한계와 가능성을 실증적으로 검토했다.
실험 결과는 명확했다. 딥러닝 모델, 특히 CNN과 RNN이 97%이상의 정확도와 높은 재현율 및 F1 점수를 기록하며 전통적 ML 모델을 앞섰다. NLP가 피싱 콘텐츠에서 문맥적·의미론적 특징을 추출하는 데 핵심적 역할을 한다는 것도 확인됐다. LSTM은 순차 의존성이 있는 문장 패턴에서 강점을 보였고, CNN은 로컬 텍스트 패턴 감지에 효과적이었다. 단순 키워드 매칭이 통하지 않는 정교한 피싱 문구도 딥러닝 기반 모델은 높은 확률로 탐지해냈다.
전통적 ML 모델은 피처 엔지니어링에 크게 의존하며 복잡한 문맥적 패턴을 놓치기 쉽다. 반면 딥러닝 모델은 텍스트에서 자동으로 계층적 표현을 학습해 더 미묘한 피싱 신호를 포착할 수 있다. 다만 딥러닝은 연산 비용이 높고 학습 데이터가 많이 필요하다는 한계가 있어, 자원이 제한된 환경에서는 가벼운 모델과의 하이브리드 접근이 현실적인 대안이 될 수 있다.
보안 시스템을 구축하는 개발자라면, 이메일·웹페이지 텍스트 분류에 CNN이나 RNN 기반 모델을 도입할 때 97%이상의 탐지 정확도를 기대할 수 있다는 점을 참고할 만하다. NLP 전처리 파이프라인과 딥러닝 분류기의 조합이 현시점에서 피싱 탐지의 사실상 표준에 가까워지고 있다. 기존 ML 기반 필터를 운영 중인 조직이라면 딥러닝 모델로의 단계적 전환을 로드맵에 포함시킬 필요가 있다.
📖 *Phishing Detection in the Age of NLP: Leveraging Deep and Machine Learning for Enhanced Accuracy* |
논문 원문
※ 이 기사는 학술 논문을 바탕으로 작성되었습니다.
Ask any security engineer what makes phishing so hard to stop and you'll hear the same answer: the messages keep getting better. Blacklists get bypassed the moment an attacker registers a fresh domain. Simple keyword filters fail as adversaries craft increasingly natural-sounding lures. The problem is not just technical — it is linguistic, and solving it requires models that understand language, not just patterns.
A 2025 study published in the Journal of Advanced Research in Applied Sciences and Engineering Technology offers a data-driven look at where machine learning and deep learning currently stand in the fight against phishing. Led by Md Mehedi Hassan Melon and a team of seven researchers, the study provides a comprehensive comparison of traditional ML classifiers versus modern deep learning architectures for phishing detection powered by Natural Language Processing (NLP).
The comparison covers a wide field. On the traditional side: Naive Bayes, Support Vector Machines (SVM), and Random Forests. On the deep learning side: Convolutional Neural Networks (CNNs), Recurrent Neural Networks (RNNs), and Long Short-Term Memory (LSTM) networks. All models were evaluated on their ability to extract contextual and semantic features from phishing content using NLP preprocessing pipelines.
The results were decisive: deep learning models, specifically CNNs and RNNs, achieved accuracy exceeding 97%, with consistently high recall and F1 scores. Traditional ML classifiers fell short, largely because they rely on manually engineered features and struggle with nuanced, context-dependent phishing language. CNNs proved effective at detecting local text patterns within messages, while RNNs and LSTMs excelled at handling sequential dependencies in longer-form phishing content — the kind of multi-sentence social engineering narrative that simpler models routinely miss.
The study underscores the central role NLP plays in extracting the contextual and semantic signals that make phishing content identifiable. Without robust text feature extraction, even sophisticated classifiers fall short. Deep learning architectures that learn hierarchical text representations automatically have a clear edge over feature-engineered alternatives.
The trade-offs are real. Deep learning models are computationally expensive and require larger labeled datasets for training. Organizations with constrained infrastructure may need to consider lighter hybrid approaches or cloud-based inference pipelines rather than running full transformer-scale models on-premise.
For developers and security teams, the implication is clear: if you are building or upgrading a phishing detection system, NLP-powered deep learning — particularly CNN or RNN architectures — should be on your shortlist. The 97%+ accuracy benchmark sets a practical performance target. Existing ML-based email filters should be evaluated against this bar, and organizations should map out a migration path toward deep learning models in their security roadmap.
📖 *Phishing Detection in the Age of NLP: Leveraging Deep and Machine Learning for Enhanced Accuracy* |
Paper
This article is based on an academic research paper.
