전세보증금 반환보증 가입의 동태적 결정요인 및 구조적 변화 분석^*:

한국 주택시장의 고유한 임대차 방식인 전세 제도는 임대인에게는 무이자 레버리지를 활용한 부동산 투자의 기회를, 임차인에게는 주거 비용 절감 및 자산 축적을 위한 주거 사다리의 기능을 제공하며 유지되어 왔다. 이러한 전세 제도는 임대인과 임차인 개인 간의 신용을 바탕으로 전세보증금이라는 채권 채무 관계가 형성된다는 점에서 사금융적 성격을 띤다. 그러나 전세 보증금을 승계하여 주택을 매수하는 이른바 갭투자 방식은 주택 가격 상승기에는 임대인 입장에서 부동산 투자 수익을 극대화할 수 있으나, 주택 가격 하락기에는 주택 처분 가격이 전세보증금보다 낮아지는 깡통전세 위험을 구조적으로 내포하고 있다. 특히 임대인의 유동성 위기는 곧바로 임차인 입장에서 보증금 미반환 위험으로 전이되며, 이는 개별 가계의 리스크를 넘어 사회적 시스템 리스크로 확산될 가능성을 가진다.

반환보증은 임대인이 임차인에게 보증금을 반환하지 못할 경우, 보증기관(HUG, HF[Korea Housing Finance Corporation], SGI[Seoul Guarantee Insurance] 등)이 이를 대신 변제하고 추후 임대인에게 구상권을 청구하는 공적 보험의 성격을 가진 상품이다. 이는 임차인의 재산권을 보호하는 안전장치인 동시에, 개인 간 거래에 내재되어 있는 전세 제도의 신용 위험을 제도권 금융 시스템으로 흡수하는 역할을 한다. 선행 연구에 따르면, 반환보증 수요는 시장의 위험 인식과 밀접한 관계를 가진다. 전세가율이 상승하여 깡통전세의 위험이 가시화될수록 임차인의 반환보증 가입 유인은 증가한다. 또한, 시장 금리(COFIX 금리 등)는 임차인의 전세자금 대출 비용을 결정하는 핵심 변수이다. 시장금리 상승은 임차인 입장에서 전세자금 대출 비용 증가 요인으로 전세 수요를 위축시켜 반환보증 가입 감소 유인이 되며, 전세 수요 위축은 전세 가격 하락을 유발하는 이중적인 특성을 보이기도 한다. 이론상 전세가율이 하락하면 깡통전세의 위험이 낮아져 반환보증의 가입 유인이 감소할 수도 있지만, 동시에 시장 금리 인상에 따른 전세가격 하락은 임대인의 유동성 부족 및 역전세 위험을 가중시킨다. 이는 임차인들에게 전세보증금 미반환 공포를 자극하여, 반환보증 가입의 필요성을 높이는 비선형적이고 복합적인 메커니즘으로 작동한다. 즉, 특정 거시경제 변수는 반환보증 수요에 일방향으로 작용한다기보다는 여러 변수와 시장 심리, 정책 영향들이 복합적으로 작용하는 비선형적 메커니즘을 내재하고 있다.

전세 시장의 메커니즘과 리스크를 규명하기 위한 기존의 계량 연구는 주로 거시경제 변수와 주택·전세가격 간의 관계 분석에서 출발하여, 최근에는 전세보증사고 및 정책 효과 분석으로 확장되어 왔다. 초기 연구인 이영수(2010)는 VECM을 이용하여 주택가격과 전세가격 간에 장기적 균형관계가 성립함을 밝혔으며, 전세가격의 변화가 주택가격에 영향을 미친다는 점을 실증하였다.

최근 전세보증금 미반환 문제가 심각한 사회 문제로 대두되면서, 실제 보증사고 데이터를 활용한 실증 연구 또한 활발히 진행되었다. 김진유(2022)는 주택도시보증공사의 대위변제 자료를 바탕으로 회귀분석을 실시하여, 전세가율이 높은 고위험 전세가 전세사고로 이어질 가능성이 높음을 규명하고 연립·다세대주택 밀집 지역의 취약성을 지적하였다. 안선영·이상엽(2025)은 이항로짓모형을 활용하여 전세보증금 미반환 사고에 영향을 미치는 요인을 분석하였으며, 임대인의 다주택 여부, 부채비율, 특정 주택 유형(오피스텔, 연립다세대) 등이 사고 발생 확률을 높이는 주요인임을 밝혔다. 또한, 거시적 관점에서 박진백 외(2023)는 가계금융복지조사 데이터를 활용해 주택 매매가격 하락 시 전세 레버리지(갭투자)로 인한 보증금 미반환 위험 가구 수를 추정하며 선제적 리스크 대응의 필요성을 강조하였다.

더 나아가 반환보증 제도와 전세 시장의 공간적·정책적 구조를 계량적으로 분석한 연구들도 등장하였다. 권혁·성현곤(2025)은 다수준 교차분류 순서형 로지스틱 모형을 통해 반환보증 가입 요건의 완화가 정보 비대칭성과 도덕적 해이를 유발하여 고위험 전세 발생 확률을 증가시켰음을 증명하였다. 이지언·이정란(2026)은 이중차분(difference in difference, DID) 로지스틱 회귀분석을 적용해 반환보증 가입 요건 강화 제도가 비아파트 및 중저가 주택 시장에서 전세의 월세화 현상을 구조적으로 가속화했음을 확인하였다. 김성민·우명제(2026)는 공간패널모형을 이용하여 전세보증사고가 수도권 내에서 뚜렷한 공간적 군집(high- high)을 형성하며, 인접 지역으로의 공간 누출 효과를 지니고 있음을 실증하였다.

부동산 시장 분석에 있어 기존의 선형회귀모형은 변수들 간의 관계가 비선형적일 경우 계수 추정치가 과대 또는 과소 추정되어 예측의 정확성을 저하시킬 수 있다는 한계가 지속적으로 지적되어 왔다. 이를 극복하기 위해 최근 부동산 연구에서는 ML 및 DL 기법을 도입하여 데이터의 비선형성을 반영하고 예측력을 높이려는 시도가 활발히 이루어지고 있다. 김승현 외(2022)는 서울시 아파트 실거래가 패널 데이터를 바탕으로 ML 기법인 랜덤 포레스트(random forest)와 다변량 적응 회귀 스플라인(multivariate adaptive regression splines, MARS)을 패널고정효과모형과 비교 분석하였으며, ML 모형이 기존 선형 모형보다 비선형 모델링을 통해 더욱 우수한 예측 정확성을 보임을 실증하였다.

기존의 연구 성과들에도 불구하고, 방법론적 측면에서 연구의 확장 가능성은 여전히 존재한다. 다수의 기존 계량 분석 연구들은 전세가율, 금리, 정책 변수 등이 전세 사고 및 임차인의 주거 불안에 미치는 평균적인 영향력을 규명하여 주택금융 연구의 기반을 마련하였다. 그러나 반환보증 등 주택금융 정책 수요 관련 연구에 대한 비선형적 모형 분석이나, 특정 위기 국면에서 나타나는 전세 시장 참여자들의 심리적 쏠림 현상 등을 반영하는 분석모형에 대한 연구의 필요성은 여전히 존재한다. 또한, ML을 활용한 최신 부동산 연구들은 주로 주택 가격 및 지수 예측을 중심으로 진행되어 왔으며, 최근 전세 위험 추정에 ML이 일부 도입되기도 하였으나 이를 주택금융 정책 수요인 ‘반환보증 가입 수요’라는 행태적 영역으로 확장한 실증 연구는 미비하였다.

이에 본 연구는 ML(XGBoost), DL(LSTM), 시계열 구조모형(Prophet)을 ‘반환보증 가입 수요’라는 행태적 영역에 새롭게 적용하고자 한다. 이를 통해 기존 선행연구들이 포착한 거시 변수의 선형적 방향성을 넘어서, 전세가율과 PIR 등이 특정 위험 수위(임계치)를 돌파할 때 반환보증 가입 수요에 대한 예측 기여도가 급격히 증폭되는 시장 참여자들의 비선형적 쏠림 현상과 특정 정책 변화에 따른 구조적 단절을 실증적으로 확인하였다. 이는 기존 연구의 성과를 보완하고 주택 임대차 시장의 동태적 리스크 관리에 대한 새로운 시사점을 제공한다는 점에서 차별화된 학술적 의의를 지닌다.

다양한 ML 모형 중 XGBoost를 최종 선정한 이유는 다음과 같다.

첫째, 비선형성 학습 능력이다. 반환보증 수요는 특정 시계열 시점에서 급격히 변화하는 비선형적 특성을 보인다. XGBoost는 경사 하강법을 통해 이전 트리가 범한 예측 오차를 순차적으로 줄여나가는 직렬적 학습 구조를 취하고 있어, 선형 모형이 포착하기 어려운 데이터의 복잡한 패턴과 임계치를 효과적으로 학습한다.

둘째, 과적합 제어 능력이다. 시계열 데이터 분석 시 발생할 수 있는 과적합 문제를 방지하기 위해, XGBoost는 모형의 복잡도에 페널티를 부여하는 L1(lasso) 및 L2(ridge) 규제 항을 목적함수에 포함하고 있다. 이는 학습 데이터에 대한 편향을 줄이는 동시에 분산을 억제하여, 미래 시점인 테스트 데이터에 대해서도 강건한 예측 성능을 확보하게 한다.

일반적으로 XGBoost와 같은 앙상블 모형은 높은 예측 정확도를 보장하는 대신, 개별 변수가 결과에 미치는 영향을 직관적으로 이해하기 어려운 블랙박스(black-box)의 한계를 가진다. 즉, 모형이 “반환보증 가입이 증가할 것”이라고 예측할 수는 있어도, “구체적으로 어떤 변수가 얼마나 영향을 미쳤는지”를 설명하는 데에는 제약이 있다.

이에 본 연구는 XGBoost의 예측 결과를 단순히 제시하는 데 그치지 않고, 후속 분석으로 SHAP 기법을 도입하여 연구의 깊이를 더하였다. SHAP 분석을 통해 블랙박스 모형 내부를 시각화함으로써, 각 변수의 기여도와 영향의 방향성(양/음)을 정량적으로 규명하고 정책적 시사점을 도출하는 등 설명 가능한 인공지능(eXplainable artificial intelligence, XAI) 분석을 수행하였다.

Prophet은 복잡한 시계열 데이터를 트렌드, 계절성, 그리고 휴일 효과의 합으로 분해하여 해석하는 가법 모형이다(Taylor and Letham, 2018). 본 연구가 채택한 기본 수식은 다음 (식 2)와 같다.

여기서 g(t)는 비주기적인 장기 추세 변화를 나타내며, s(t)는 월별 시계열 데이터 내에 존재하는 주기적 계절성을 의미한다. 또한 h(t)는 더미 변수로 설정한 주요 부동산 정책 변동과 같은 데이터 외적인 구조적 이벤트 효과를 의미한다. 특히 본 연구는 Prophet의 변화점 식별 기능을 핵심 분석 도구로 활용한다. 구체적인 예시로, 2023년 5월 시행된 ‘반환보증 가입 요건 강화(126% 룰)’ 등 주요 정책 시행 시점을 사전에 모형 내에서 구조적 변화점으로 지정함으로써, 해당 정책 충격이 반환보증 가입 수요 추세의 기울기를 통계적으로 유의미하게 변화시켰는지를 시각적·정량적으로 규명한다.

본 연구의 LSTM 네트워크 설계는 전체 시계열 데이터 표본이 84개월로 제한적인 상황임을 고려하여, 모델의 복잡도와 학습 데이터 확보 간의 최적 균형을 찾는 데 주안점을 두었다. 구체적인 아키텍처와 그 설정 근거는 다음과 같다.

첫째, 데이터 전처리 단계에서 min-max 정규화를 적용하였다. LSTM은 입력 데이터의 스케일 차이에 민감하므로, 학습 효율성을 높이고 안정적인 수렴을 유도하기 위해 모든 입력 변수를 0과 1 사이의 값으로 변환하였다.

둘째, 입력 시퀀스의 길이(window size)는 VECM의 최적 시차(lag=2)와 동일하게 2개월로 설정하여, 두 모형의 통제 조건을 일치시켰다.

셋째, 은닉층은 전체 시계열 데이터 표본이 84개월로 제한적인 상황임을 고려하여, 모형의 과적합을 방지하고자 32개의 유닛을 가진 단일 LSTM 층(1-layer)으로 간결화하여 소규모 데이터셋에 최적화된 학습 용량을 확보하였다.

넷째, 과적합을 추가로 제어하기 위해 dropout 비율은 0.2로 설정하여 정보 소실을 막으면서도 일반화 성능을 높였다.

다섯째, 모델 최적화를 위해 Adam optimizer와 MSE(mean squared error) 손실 함수를 채택하였으며, 소규모 표본에서 조기 종료 기법 적용 시 발생할 수 있는 학습 부족(underfitting) 현상을 방지하기 위해 충분한 에포크(epoch=300)를 고정적으로 할당하여 안정적인 수렴을 유도하였다.

마지막으로, 역변환 과정을 거쳐 복원된 예측값으로 평균 RMSE 및 MAPE를 산출하여 분석의 객관성과 강건성을 극대화하고, VECM 등 타 모형과의 객관적인 성능 비교를 가능하게 하였다.

반환보증 가입의 동태적 결정요인을 분석하기 위해 <표 1>과 같은 데이터를 분석에 활용하였다.

본 연구의 차별점은 2020년 이후 급격하게 전개된 부동산 정책 변화와 시장 충격 사건을 더미변수로 모형화하여 분석에 반영했다는 점이다. 시계열 데이터의 구조적 변화를 야기할 수 있는 다음과 같은 주요 사건을 더미변수로 설정하여 분석에 포함하였다.

다변량 시계열 모형인 VECM을 구축하기에 앞서, 분석에 사용된 변수들의 통계적 안정성을 확인하고 허구적 회귀 문제를 방지하기 위해 ADF 검정을 실시하였다. <표 3>의 분석 결과에 따르면, 원자료 상태에서 ‘실업률’을 제외한 5개 변수의 검정 통계량 p-value가 5% 유의수준(0.05)을 초과하여 ‘시계열 자료에 단위근이 존재한다’는 귀무가설을 기각하지 못하였다. 반면, ‘실업률’ 변수는 원자료 상태에서도 p-value가 0.0111로 도출되어 귀무가설을 기각하고 이미 통계적으로 안정적인 영차 적분(I[0]) 시계열임이 확인되었다. 원자료 상태에서 단위근이 존재했던 5개 변수들은 1차 차분 후 모두 p-value가 유의수준 미만으로 도출되어 안정성을 확보하였다.

결과적으로, 본 연구에 투입된 모든 변수들이 1차 차분 후 안정적인 시계열 특성(I[1])을 공유하고 있음이 통계적으로 확인되었다. 이는 비정상 시계열 변수들 간의 장기적 선형 결합을 분석하는 요한센 공적분 검정 및 VECM 모형 구축을 위한 계량경제학적 전제조건을 충족하는 결과이다.⁴⁾

검정 결과, <표 4>와 같이 Trace 통계량 기준으로 ‘공적분 벡터가 없다(r=0)’ 및 ‘1개 이하이다(r≤1)’라는 귀무가설이 모두 5% 유의수준에서 기각된 반면, ‘r≤2’ 가설은 기각되지 않아 변수 간에 2개의 장기 균형 관계가 존재함이 확인되었다. 이는 개별 불안정 시계열들이 결합하여 강력한 장기 균형 경로를 형성함을 시사한다.

통계적으로는 2개의 공적분 벡터(rank=2)가 도출되었으나, 다중 공적분 벡터를 모두 반영할 경우 모형이 과도하게 복잡해지고 경제학적 해석의 직관성을 잃을 우려가 있다. 이에 본 연구는 모형의 간명성을 확보하고자 가장 설명력이 높은 첫 번째 공적분 벡터(rank=1)만을 제한적으로 적용하였다. 추가적인 강건성 검정 결과, rank=2를 적용했을 때와 주요 변수들의 부호에는 유의미한 차이가 없음을 확인하였으며, 이를 통해 변수 간의 지배적인 장기 균형과 단기 조정 과정을 타당성 있게 설명하고자 한다.

VAR(vector autoregression) 계열 모형의 구축에 앞서, 분산을 안정화한(자연로그 변환) 내생변수들을 대상으로 정보기준을 통해 적정 시차를 검토하였다. 검토 결과, <표 5>와 같이 각 정보기준이 지시하는 최적 시차가 상이하게 도출되었다. 정보기준만으로는 단일한 최적 시차를 특정하기 어려운 바, 본 연구는 통계적 지표 간의 균형(HQ[Hannan-Quinn] 기준 부합)과 경제적 현실성 등을 종합적으로 고려하여 시차 2(lag=2)를 최종 분석 시차로 설정하였다. 시차 2(lag=2)를 채택한 구체적인 이유는 다음과 같다.

첫째, 반환보증 가입 제도의 요건에 따른 구조적 시차 발생이다. 통상적으로 임차인이 거시경제적 위험(전세가율 상승 등)을 인지하고 전세계약을 체결하더라도, 「전세임대주택 전세보증금반환보증 규정」(주택도시보증공사, 2020)에 따르면 실제 반환보증 가입은 임차인이 ‘대항력과 확정일자’를 모두 갖춘 이후에만 가능하다. 주택임대차보호법상 대항력은 주택의 인도(입주)와 전입신고를 마쳐야 발생하는데, 주택시장의 관행상 전세계약 체결일과 실제 입주일 사이에는 통상 1~2개월의 시차가 존재한다. 따라서 임차인의 ‘위험 인지 및 의사결정(계약 시점)’과 본 연구의 종속변수인 ‘반환보증 가입(대항력 요건 충족 이후)’ 사이에는 구조적으로 1~2개월의 시차가 발생한다.

둘째, 통계적 모형의 간명성 확보이다. <표 5>에 나타난 바와 같이, 가장 긴 시차를 지지하는 시차 3(AIC[Akaike information criterion]: ‒40.24)과 본 연구가 채택한 시차 2(AIC: ‒40.19) 간의 정보기준 값 차이는 불과 0.05로 근소하다. 시차를 늘릴수록 추정해야 할 파라미터가 급증하여 소표본 분석 환경에서 자유도 손실 및 과적합 우려가 커지게 된다. 응용 시계열 계량경제학의 원칙에 따르면, 정보기준은 시차 설정 시 유용한 지표이나, 이것이 데이터 생성 과정 및 제도적 현실에 대한 고려를 맹목적으로 대체해서는 안 된다(Enders, 2014). 따라서 모형의 간명성을 유지하며 현실적인 작동 원리를 가장 잘 반영할 수 있는 시차 2를 적용하는 것이 타당하다.

변수 간의 장기적 균형 관계와 단기 동태적 조정 과정을 확인하기 위해 VECM을 추정하였다. 추정된 장기 균형 방정식은 (식 3)과 같다. 데이터의 분산 안정화를 위해 로그 변환된 자료를 사용하였으므로, 도출된 계수 값은 변수의 탄력성, 즉 퍼센트(%) 변화율에 따른 가입 건수의 증감률로 해석된다.

주 : joinCount : 반환보증 가입 건수

Jeonse : 전세가율

COFIX : 신규취급액 기준

COFIX 금리

Unemp : 실업률

P I R : 소득 대비 부동산 가격 비율

Sent : 부동산 소비심리지수

Constant : 상수항

단기 동태식에서 도출된 오차수정항(error correction term, ECT)의 계수는 ‒0.0674로 추정되었다. 이는 전월의 실제 가입 건수가 장기 균형 수준을 이탈했을 경우, 매월 약 6.74%의 속도로 불균형을 해소하며 장기 균형으로 수렴해 나감을 의미한다. 장기 균형식의 계수들을 살펴보면, COFIX 금리(+0.599)와 실업률(+3.525) 등은 종속변수와 양(+)의 상관성을, 전세가율(‒17.858)은 음(‒)의 상관성을 띠는 것으로 나타났다.⁴⁾

다음으로, 각 독립 변수가 반환보증 가입 수요에 미치는 예측적 선행성을 통계적으로 엄밀하게 검증하기 위해 VECM 기반의 그랜저 인과관계 검정을 추가로 수행하였으며, 그 결과는 <표 6>과 같다.

검정 결과, ‘전세가율’이 본 연구의 적정 시차(lag=2)의 동태적 흐름 안에서 ‘반환보증 가입 건수’의 증감을 예측하는 데 있어 통계적으로 유의미한 선행성을 가지는 것으로 확인되었다. 이는 전세가율의 변동과 같은 전세시장의 핵심 리스크 요인이 시차를 두고 임차인들의 위험 회피 행동(반환보증 가입)을 촉발하는 선행 지표로 작동함을 시사한다.

반면, 부동산 소비심리지수(p=0.103)는 10% 유의수준에 근접한 한계적 유의성(marginal significance)⁵⁾을 보여 심리적 요인의 단기 선행 가능성을 시사하였으나, 그 외 변수들(COFIX 금리, PIR, 실업률)은 반환보증 가입 건수를 그랜저 인과하지 않는 것으로 나타났다. 해당 변수들은 VECM 모형 내에서 종속변수와 장기적인 균형 관계(동조 현상)를 형성하며 함께 움직일 수는 있으나, 반환보증 가입 수요의 변동을 시계열적으로 선행하여 예측하는 설명력을 갖추었다고 보기에는 어렵다고 할 수 있다. 즉, 해당 변수들은 전세가율 및 부동산 소비심리지수 등 핵심 지표들과 결합하여 전세 시장의 전반적인 리스크 환경을 조성하는 배경 요인이라고 제한적으로 해석하는 것이 타당하다.

본 연구는 VECM 모형 기반의 충격반응함수(impulse response function, IRF)를 도출하여 특정 충격이 반환보증 가입 건수에 미치는 동태적 반응을 12개월간 추적하였으며, 앞선 그랜저 인과관계 검정과 연계하여 해석하였다. 반환보증 가입 건수에 대한 주요 변수의 충격반응함수 그래프는 <그림 1>과 같으며, 주요 분석 결과는 다음과 같다.

첫째, 예측적 선행성이 확인된 전세가율 충격은 반환보증 가입 건수에 유의미한 음(‒)의 반응을 유발하였다. 이는 2022~2023년 매매가격 대비 전세가격 하락으로 수치상 전세가율은 하락했음에도, 오히려 깡통전세 및 역전세 공포 심리가 자극되어 가입 수요가 폭증했던 비전형적인 시장의 동태성을 반영한다.

둘째, 한계적 유의성(p=0.103)을 보이며 단기 선행 가능성을 시사했던 ‘부동산 소비심리지수’ 충격 또한 가입 건수에 음(‒)의 동태적 반응을 나타냈다. 부동산 시장에 대한 소비자들의 불안 심리가 가중될수록(심리지수 하락), 보증금 미반환에 대한 공포가 확산되어 반환보증 가입 수요를 자극하는 기제가 실재함을 보여준다.

셋째, 그랜저 인과성이 관찰되지 않은 변수들(PIR, COFIX 금리, 실업률)의 충격은 반환보증 가입을 직접 견인하는 인과적 동인이라기보다는, 시스템 내의 구조적 동조 현상으로 해석하는 것이 타당하다. 즉, 해당 변수들은 전반적인 거시경제 지표와 연동되어 주거비 부담이나 시장의 불안 심리를 반영할 뿐, 독립적으로 반환보증 가입 수요를 유발하는 변수로 보기는 어렵다.

충격반응함수 분석을 보완하여, 반환보증 가입건수의 예측 오차 분산이 시스템 내 각 변수의 충격에 의해 설명되는 상대적 비중(기여도)을 파악하고자 예측오차 분산분해를 실시하였다. 분석결과(<표 7>), 반환보증 가입 수요의 결정 요인은 단기와 장기에 따라 구조적인 차이를 보였다.

첫째, 장단기 전반적으로 반환보증 가입 건수 자체의 추세적 관성이 지배적이었다. 이는 반환보증 시장이 거시경제의 즉각적인 변화보다는, 과거에 형성된 시장의 불안 심리와 추세에 강하게 의존하는 자기회귀적 특성을 띰을 시사한다.

둘째, 독립 변수 중에서는 한계적 유의성이 포착되었던 부동산 소비심리지수가 제1의 동인으로 확인되었다. 이는 부동산 소비심리의 불안이 가중될수록, 보증금 미반환에 대한 공포가 확산되어 반환보증 가입 수요를 자극하는 기제가 실재함을 보였던 그랜저 인과관계 분석의 결과를 재차 입증하는 결과이다.

셋째, 12개월 시점 기준 실업률(21.3%)과 전세가율(8.6%)이 그 뒤를 이었다. 단기 그랜저 인과성이 가장 강력했던 전세가율은 즉각적인 위험 회피를 촉발한 후 장기 기여도가 8.6%(12개월)로 비교적 제한적인 반면, 단기 그랜저 인과성이 관찰되지 않았던 실업률은 12개월 차에 21.3%의 설명력을 보였다. 이는 고용 충격이 반환보증 수요 자극에 즉각적인 방아쇠 역할을 하지는 않으나, 시차를 두고 전세 시장의 전반적인 불안에 영향을 미치는 기저 요인임으로 해석할 수 있다. 앞서 그랜저 인과성이 관찰되지 않은 COFIX 금리(3.4%)와 PIR(4.8%)의 설명력은 상대적으로 낮게 도출되었다.

본 연구는 2018년 1월부터 2023년 12월까지를 학습 데이터로, 2024년 1월부터 2024년 12월까지를 테스트 데이터로 설정하여 시계열 예측 모델을 구축하였다. 또한 모형 간 공정한 성능 비교를 위해 VECM(lag=2) 및 LSTM(window size= 2)과 동일하게 슬라이딩 윈도우(sliding window) 기법을 적용하여 과거 2개월치의 지연 변수를 생성 및 학습시켰다.

모델의 과적합 방지와 성능 극대화를 위해 시계열 교차 검증(TimeSeriesSplit 3-Fold) 기반의 GridSearchCV를 수행하였다. 그 결과, 최적 파라미터로 학습률(learning rate) 0.1, 트리의 최대 깊이(max depth) 3, subsample 비율 0.8, 의사결정 나무 개수(n_estimators) 100개를 도출하여 최종 예측 모형을 설정하였다.

또한, 알고리즘 고유의 무작위성에 따른 결과 편차를 통제하기 위해, 중심극한정리에 근거하여 무작위 시드(random seed) 기반의 30회 반복 수행을 실시하였으며, 여기서 도출된 평균값을 최종 성능 지표로 채택하여 분석의 강건성을 확보하였다.

실증 분석 결과, <표 8>과 같이 ML 모델(XGBoost)이 모든 평가지표에서 벤치마크 모형인 VECM을 압도하는 성과를 보였다. 구체적으로 MAPE 기준, VECM은 15.77%의 오차율을 기록한 반면, XGBoost는 7.63%를 기록하여 예측 오차를 절반 이하(약 51.62% 개선)로 대폭 감소시켰다.

<그림 2>의 시각화 결과에서도 이러한 차이는 명확히 드러난다. VECM(푸른색 점선)은 2024년 초반부터 실제 반환보증 가입 건수(검정색 실선)와의 괴리가 커지며 시장의 변곡점을 제대로 포착하지 못하는 과소 예측 경향을 보였다. 이에 반해 XGBoost(붉은색 실선)는 실제 데이터의 미세한 등락 패턴과 추세를 비교적 정교하게 추종하는 모습을 보였다.

이는 반환보증 가입 행태에 정책 변화(126% 룰 등)나 시장 심리의 급격한 쏠림 등 선형적 수식으로는 포착하기 어려운 복합적인 비선형 상호작용이 깊게 내재되어 있음을 시사한다.

XGBoost 모델의 예측 기여도를 정량화하기 위해 SHAP 변수 중요도 분석을 수행하였으며, 특히 앞서 적용한 슬라이딩 윈도우 기법을 통해 도출된 과거 2개월(t-1, t-2)의 시차 변수들이 미치는 동태적 영향력을 추적하였다. 머신러닝 모델의 변수 중요도 분석 결과의 시각화는 <그림 3>과 같으며, 주요 분석 결과는 다음과 같다.

첫째, ‘전월(t-1) 반환보증 가입 건수’가 전체의 약 33.5%를 차지하며 1위를 기록했다. 이는 가입 수요가 거시 변수보다 전월 가입 추세에 강하게 의존하는 자기회귀적 관성을 가짐을 시사하며, 앞선 분산분해 결과(관성 효과 지배적)와도 논리적으로 일치한다.

둘째, ‘PIR(t-2)’이 23.6%의 중요도로 2위를 기록했다. 직전 월(t-1)보다 2개월 전(t-2)의 중요도가 더 높게 나타난 것은, 주택 가격 변화로 인한 매매 부담이 전세 시장으로 전이되어 실제 수요에 반영되기까지 약 2개월의 시차가 존재함을 의미한다.

셋째, ‘전세가율(t-1)’이 12.8%의 중요도로 3위 변수로 식별되었다. 이는 시장 참여자들이 직전 월의 전세가율 변화를 깡통전세 위험의 즉각적인 단기 요인으로 민감하게 인식하고 있음을 보여준다.

넷째, ‘COFIX 금리(t-1)’가 12.7%의 중요도로 4위를 차지했으며, 2개월 전의 ‘COFIX 금리(t-2)’ 역시 4.2%의 기여도로 5위에 위치했다. 두 시차의 기여도를 합치면 약 16.9%에 달해 금리의 영향력이 결코 보조적이지 않음을 알 수 있다. 이외의 실업률 및 부동산 소비심리지수 등은 비중이 3% 미만으로 상대적 기여도가 낮아 보조적인 기저 요인으로 작용하고 있음으로 확인되었다.⁶⁾

본 연구에서는 시계열의 구조적 변화점 식별에 탁월한 Prophet 모형을 활용하여, 주요 부동산 정책 도입과 반환보증 가입 추세 간의 연관성을 분석하였다. 분석 결과, <그림 4>와 같이 정책 및 사회적 이슈와 밀접하게 반응하는 세 개의 주요 구조적 변곡점이 확인되었다.

첫째, 2020년 8월(임대차 3법 시행 직후): 이전 기간 대비 상승폭이 다소 둔화되며 완만한 상승세(기울기: +149.6)로 전환되는 패턴이 확인되었다. 이는 계약갱신청구권 등으로 인한 전세 매물 잠김(거래절벽) 현상 등으로 인해 반환보증 가입의 선결 조건인 전세 거래 규모 자체가 감소했고, 그 결과 반환보증 가입 건수의 증가 속도가 둔화된 것으로 해석된다.

둘째, 2022년 11월(빌라왕 사태 본격화): 추세 기울기가 +1,204.8로 폭발적으로 급증하는 강력한 구조적 단절이 발생하였다. 이는 전세 사기 공포가 시장을 완전히 지배하면서, 임차인들의 반환보증 가입이 선택이 아닌 필수 생존 전략으로 바뀌며 가입이 폭발적으로 쇄도했음을 통계적으로 입증한다.⁷⁾

셋째, 2023년 5월(126% 룰 시행): 가파르던 상승 추세가 꺾이며 하향 안정화(기울기: ‒237.8)로 반전되는 변곡점이 확인되었다. 이는 ‘126% 룰’이라는 정책적 변화가 시장의 과열된 상승 관성을 인위적으로 억제하고, 반환보증 가입 가능 대상을 물리적으로 축소시키는 강력한 구조적 변화 요인으로 작용했음을 시각적으로 뒷받침한다.

LSTM 모델의 핵심 하이퍼파라미터인 입력 시퀀스 길이(window size)는 2개월로 설정하였다.⁸⁾ 분석 결과, <표 9> 및 <그림 5>와 같이 LSTM 모델은 모든 평가지표에서 VECM을 압도하였다.

이러한 성능 우위는 LSTM 고유의 ‘게이트 매커니즘’에 기인한다고 추론할 수 있다. 이 메커니즘이 과거의 불필요한 노이즈(오래된 추세)는 효율적으로 제거하고, 최근의 구조적 변화(빌라왕 사태 및 126% 룰 등)가 반영된 최신 정보에는 높은 가중치를 부여하여 예측에 반영했기 때문이다. 결과적으로, 본 연구는 복잡한 비선형성이 내재된 반환보증 수요 예측에 있어, LSTM 모델의 우수한 측면을 확인하였다.

기존 연구들이 선형 및 ML 모형을 주로 주택 가격 예측에 활용한 반면, 본 연구는 이를 주택금융 정책 수요인 ‘반환보증 가입’의 동태적 비선형성 분석 및 행태적 영역으로 확장 분석한 데에 의의가 있다.

특히, 전통적 계량 모형(VECM 등)으로 포착하기 어려웠던 시장 참여자들의 비선형적 임계 효과와 정책 변화(126% 룰 등)가 유발하는 시계열의 구조적 단절 현상을 ML 및 DL 기법을 통해 정량적으로 규명하였다. 이는 전세 시장 분석의 방법론적 한계를 보완하고, 향후 부동산 정책의 파급 효과를 다각적으로 분석할 수 있는 새로운 틀을 제공한다는 점에서 차별화된 통찰을 지닌다.

분석 결과를 바탕으로, 반환보증 제도의 지속 가능성과 전세 시장의 안정성을 제고하기 위한 정책적 시사점을 다음과 같이 고찰해 보았다.

첫째, 향후 ‘리스크 기반의 차등적 보증료율’ 산정 기준을 논의함에 있어 본 연구의 분석 프레임워크가 기초 자료로 활용될 수 있다. 현재 보증기관의 획일적인 보증료율 체계는 전세시장의 개별 위험을 보증료에 제대로 반영하지 못하고 있다. 본 연구의 XGBoost 및 SHAP 분석 결과, PIR과 전세가율이 특정 임계치를 초과하는 구간에서 보증기관의 리스크가 급격히 증가하는 비선형적 패턴이 확인되었다. 향후 후속 연구를 통해 고위험 물건에 대해서는 할증된 요율을 적용하되 저위험 물건은 인하하는 등 ‘임계치 기반의 적정 보증료율 산정 모델’ 등의 개발을 고민해 볼 수 있다. 이는 보증 기관의 재무 건전성을 확보하는 주요 기제가 될 수 있을 것이다.

둘째, AI 및 DL 기반의 ‘조기 경보 시스템’ 도입의 가능성을 검토해 볼 수 있다. 본 연구에서 LSTM 모델은 기존 계량 모형대비 2배 이상의 예측 정확도(MAPE 5.31%)를 입증하였다. 이는 시장의 구조적 변화가 잦은 전세 시장에서 과거 데이터에 의존하는 선형적 예측은 한계가 있음을 의미한다. 정책 당국은 보증 기관 내에 AI 및 DL 기반의 모니터링 체계를 통해, 거시경제 충격 지표(금리, 실업률 등)나 전세가율 변동에 따른 반환보증 사고 위험을 선제적으로 파악하는 기반을 마련할 수 있다.

셋째, ‘126% 룰’의 보완책 마련을 검토해 볼 수 있다. Prophet 분석을 통해 확인된 바와 같이, 2023년 5월 반환보증 가입 요건 강화(126% 룰) 이후 반환보증 수요 추세는 구조적인 단절 국면으로 전환되었다. 이는 획일적인 보증 가입 요건 강화가 리스크 관리에는 기여했을지라도, 시장 전체의 반환보증 가입 접근성을 위축시키는 부작용을 동반하였을 가능성이 높음을 시사한다. 따라서 반환보증 가입 강화 요건을 일괄적으로 적용하기보다는, 지역별·주택 유형별 가격 데이터 및 피보증인·임대인 데이터 등을 폭넓게 연동하여 가입 한도를 조정하는 등 정책 보완을 고려해볼 수 있다.