10세기 초 야율아보기(耶律阿保機)가 흩어져 있던 부족을 통일하고, 916년 거란국의 건국을 선언하였다. 얼마 뒤에 요(遼)로 국호를 바꾸어 강국의 면모를 과시하였다. 이러한 세력을 배경으로 925년 2월에 동쪽의 발해를 침공해 이듬해 2월에 멸망시켰다. 또한 중국을 침략해 연운(燕雲) 16주를 영토의 일부로 편입시켰다.
그러나 유목사회의 생산단계를 벗어나지 못해 고도의 문화전통을 가진 중국을 통치하는 데는 일정한 한계가 있었다. 결국 통치를 포기하고 철수하였다. 이러한 한계를 극복하고 요나라가 안정을 찾게 된 것은 성종(聖宗) 때였다.
성종은 한족을 다스리는 남추밀원(南樞密院)과 거란족을 비롯한 부족제의 주민을 다스리는 북추밀원을 두어, 세종(世宗) 때부터 시행되어오던 정치적 이중체제를 확립하였다.
한편, 즉위하던 해 고려 정벌을 위한 여진 토벌작업을 벌여 외정(外征)에도 힘을 기울였다. 그러나 금의 세력이 성장함에 따라 점차 세력이 약화되어 12세기 초에는 한때 하남 지방(河南地方)까지를 점령했던 면모가 상실되고, 다시 부족상태로 분열되기에 이르렀다.
거란과의 관련은 고구려 때부터이지만 특히 밀접한 관계를 유지하게 된 것은 고려시대부터였다. 이 때에는 거란도 부족분열상태로부터 통일 국가를 이루고 있었다.
고려에서는 이들을 ‘금수지국(禽獸之國)’이라 하여 국초부터 견제하였다. 그러나 지리적으로 인접해 있던 까닭으로 정치·경제·문화 등 여러 분야에서 교류가 빈번하게 행해졌다.
특히, 거란의 3차에 걸친 침공은 우리 역사에 큰 충격과 영향을 끼친 사건이었다. 993년(성종 12) 10월소손녕(蕭遜寧)의 침입, 1010년(현종 1) 11월강조(康兆)가 목종을 시해한 죄를 묻는다는 구실로 성종의 직접 침입, 1015년소적렬(蕭敵烈)의 흥화진(興化鎭) 내침과 1018년 12월소배압(蕭排押)의 침입까지를 통틀어 말한 것이다.
야율아보기가 거란족을 통일해 나라를 세운 뒤, 922년(태조 5)에는 낙타·말 등을 보내어 고려에 수교를 요청하였다. 그러나 고려는 발해가 거란에 의해 멸망되자 발해의 유민을 받아들이며 이들을 우대한 반면, 거란에 대해서는 적대관계를 유지하였다. 그리하여 942년에는 거란의 태종(太宗)이 보내온 낙타 50필을 만부교(萬夫橋) 아래에서 굶겨 죽이고, 사신 30인을 유배보내기도 하였다.
이러한 대거란정책은 이후의 왕들에게도 계승되었다. 광종 때에는 서북쪽에 맹산·숙천·박천·문산 등 청천강 유역과, 동북쪽으로는 영흥·고원 등에 성을 쌓거나 군사시설을 갖추고, 또 광군 30만으로 광군사(光軍司)을 설치하는 등 거란의 침입에 대비하였다.
거란은 태종이 남침에 실패하고 급사한 뒤, 수구파와 진보파의 대립과 정치싸움으로 고려와 겨룰 여유가 없었으나, 982년 이후 정국이 안정되었다. 한편 975년에 통일을 이룩한 송나라가 985년(성종 4)에는 고려에 한국화(韓國華)를 보내어 거란 협공을 제의하였다. 또한 압록강 중류에 세워진 발해유민의 독립국가 정안국(定安國)과 해상을 통해 내왕하고 있었다. 따라서 거란으로서는 고려의 움직임에 커다란 관심을 보이게 되었다.
이에 거란은 고려 침입에 앞서 983년과 984년에 소포령(蕭蒲寧)에게 고려·송나라와 교류하던 압록강 하류의 여진을 평정하게 하였다. 이어 986년에 정안국을 토멸하였고, 991년 압록강변에 위구(威寇)·내원(來遠)·진화(振化)의 3책(柵)을 구축해 고려 침입의 준비를 완료하였다.
993년 5월과 8월의 두 차례에 압록강 부근의 여진으로부터 거란의 침입이 있을 것이라는 통고가 있더니, 10월에 소손녕의 거란군이 내침하였다.
이에 박양유(朴良柔)·서희(徐熙)·최량(崔亮) 등이 거란군과 싸웠으나
봉산군(蓬山郡)주 01)을 빼앗기는 등 전세가 불리하였다. 이 때 왕은 이몽전(李蒙戩)을 청화사(請和使)로 하여 내침의 진의를 타진케 했으나, 소손녕은 항복만 요구할 뿐 명분없는 침입이었다.
한편, 고려의 대응책으로 할지론(割地論)이 대두되어 대동강 이북의 땅을 거란에 떼어주자는 움직임이 유력하였다. 그러나 서희·이지백(李知白) 등이 반대하고 항전을 역설하므로 성종도 이에 찬성하였다.
마침 고려의 항복을 촉구하다가 회답이 없어 초조해 있던 소손녕이 청천강 남쪽의 안융진(安戎鎭)을 공격했다가 실패해 전의를 잃게 되었다. 이에 양국간에 화전의 분위기가 무르익어 서희와 소손녕과의 담판이 이루어졌다.
서희는 소손녕이 고려의 비위로 지적한 ① 고려가, 거란이 점유한 고구려 옛 땅을 침식한 점과, ② 이웃나라인 거란을 버리고 바다를 건너 송나라와 교빙하고 있다는 점에 대해, ① 고려는 고구려의 계승이며, ② 고려가 거란과 교빙하고자 해도 중간에 여진이 가로막혀 있어 불가능하니 이 지역을 회복해 성보를 쌓고 도로를 확보해야 한다고 응수하였다.
이 담판의 결과 고려는 이른바 조공도(朝貢道) 개척을 명목으로 청천강 북쪽에 있는 압록강 동쪽 280리의 땅에 대한 점유를 거란으로부터 인정받는 대가로 송나라의 연호 대신 거란의 연호를 사용하는 것에 합의하였다.
이와 더불어 994년부터 거란의 연호 통화(統和)를 쓰게 되었고, 부로(俘虜)의 교환이 실행되자 송나라와는 국교가 끊어지게 되었다. 그리고 성종 때 두 차례에 걸쳐 유학생 20명을 거란에 보내어 거란어를 배우게 하였다. 1005년(목종 8)에는
보주(保州)주 11)와 진무군(振武軍)에는 무역장(貿易場)인 각장(榷場)이 설치되는 등 거란과의 관계는 원만하게 되었다.
1009년 권신 강조가 목종을 폐위, 시해하고 현종을 옹립하는 정변을 일으켰다. 이것이 거란 침입의 구실이 되었다. 즉, 거란의 성종은 고려의 정변을 듣고 목종 폐위의 이유를 묻다가 1010년(현종 1) 11월에 정변에 대한 문죄를 명분삼아 친히 40만의 대군을 이끌고 서북부에 침입해왔다. 이것이 거란의 제2차 침입이다.
11월 중순에 압록강을 건너온 거란군은 의주가도의 흥화진을 포위, 공격했으나 양규(楊規)·이수화(李守和)의 방어로 성공하지 못하자, 통주로 옮기어 강조를 격파하고 그를 사로잡아 죽였다. 그러나 주성을 함락시키지 못한 채 다음달에 겨우 서북의 곽산·안주·숙천의 여러 성만을 차례로 함락시켰다. 곧 통주의 잔류병을 모아 분전하는 고려군에게 곽산이 탈환하는 등 거란군의 전황은 처음부터 뜻대로는 되지 않았다.
그럼에도 불구하고 남침만을 서둘렀던 거란군은 서경도 빼앗지 못한 채 남하하였다. 고려는 하공진(河拱辰)·고영기(高英起)에게 국서를 가지고 적진에 가서 화전을 청하게 하였다. 그러나 왕의 일행이 광주(廣州)에 이르렀을 때, 거란군이 개경에 돌입해 궁묘와 민옥이 소실되었다.
고려에서 전개한 화전교섭에 거란의 성종은 고려국왕의 입조를 강화조건으로 제시하고, 하공진을 인질로 삼아 데리고 돌아갔다. 구주 남쪽의 산악지대에 이르러 계속되는 비와 거란군의 피로를 틈탄 양규 등 고려 제장(諸將)의 추격을 받아 많은 병사와 장비를 잃고 내원성을 거쳐 되돌아갔다. 정월 13일 나주에 이르렀던 현종은 거란군의 철퇴 보고를 듣고 그 달 21일 나주에서 개경으로 돌아왔다.
거란의 제2차 침입은 명분도 뚜렷하지 않은 전쟁에 헛되이 많은 인명과 물자를 잃게 된 것으로 보인다. 그러나 거란이 제1차 침입에 이어 994년 화삭노(和朔奴) 등으로 하여금 두만강 하류의 올야부(兀惹部)와 함흥평야를 중심으로 한 여진부락 포로모타부(蒲盧毛朶部)를 원정케 했다가 실패하였었다. 실패 원인을 《요사》에는 “길이 멀고 양식이 끊어진 데 있었다.”고 했는데, 그 내용을 되새겨보아야 할 것이다.
즉, 거란이 압록강구의 강동6주만 확보한다면 거기서 만포진(滿浦鎭)으로 나와 장진과 강계의 분수령을 넘는 통로를 이용할 수 있었을 것이다. 이른바 조공도로서 고려에 무심히 인정한 강동지방의 전략적인 가치를 새삼 인식된 직후에 제2차 침입이 있었던 것이다.
거란이 제2차 침입에서 되돌아가는 조건으로 요구한 국왕의 친조(親朝)가 1012년에 고려에서 보내어진 전공지(田拱之)에 의해 거부되자, 거란은 강동6주의 반환을 요구하였다.
고려는 1013년부터 거란과의 국교를 끊고, 1014년에 윤징고(尹徵古)를 송나라에 보내어 국교의 회복을 요청하였다. 이로써 거란과 정면으로 대결할 태세를 보이기에 이르렀다. 이에 거란은 이송무(李松茂)를 보내어 강동6주의 환부를 요구하였고, 곧 소적렬로 하여금 압록강을 건너 흥화진 등을 치게 했으나 크게 패하고 돌아갔다. 이 해부터 거란은 압록강에 부교(浮橋)를 가설해 강동에 보주성(保州城)을 쌓고, 6주탈취의 기지로 삼았다.
1015년에 가교와 보주성이 완성되자, 거란은 흥화진·통주에 침입하고 용주를 공격하였다. 그러나 고려군의 굳건한 방어로 뜻을 이루지 못하였다. 거란은 야율행평(耶律行平)을 보내어 6주의 환부를 강요했다가 억류당하자, 다시 이송무를 보내어 6주의 환부를 요구하였다. 한편 무력으로 흥화진과
영주성(寧州城)주 12)을 공격하다가 실패하는 등 외교전과 무력전에서 실패를 거듭하였다.
이에 거란은 모병령을 내려 동경(東京)의 승려 일부와 상경(上京)·중경(中京) 및 제궁(諸宮)에서 정병 5만5천을 뽑아 1017년에 침입해 또 크게 손실만 입고 뜻을 이루지는 못하였다. 이듬해 12월에 소배압을 총지휘관으로 한 대규모의 군대로서 고려에 침입했는데, 이것이 제3차 침입이었다.
고려는 상원수 강감찬(姜邯贊)과 부원수 강민첨(姜民瞻)으로 하여금 20만의 군대를 인솔하게 하였다. 이들은 지금의 안주에서 대기하고 있다가 흥화진 방면에서 거란군을 무찔렀다. 이에 소배압은 사잇길로 개경으로 들어가다가
자주(慈州)주 13)에서 뒤쫓아온 강민첨에게 공격을 받았으나, 1019년 정월 개경에서 멀지 않은 신은현(新恩縣)까지 침입하였다.
그러나 싸움마다 불리하게 되어 남은 군대를 모아 되돌아가지 않을 수 없게 되었다. 거란은 뒤쫓아 공격하는 고려군으로부터 많은 손실을 입었다. 특히, 구주에서 강감찬의 공격을 받아 10만 대군 중 살아서 돌아간 자가 겨우 수천명밖에 되지 않은 대참패였다.
이와 같은 참패는 강동6주를 제압하지 못하고 너무 성급히 진군한 데 있었고, 크게 노한 거란의 성종이 꾸짖는 데서도 지적되고 있다. 그리고 그들의 손실과 민생고는 결코 고려가 입었던 그것에 못지 않았다.
승자와 패자가 가려지지 않았던 이 전쟁은 양국간에 화해분위기를 무르익게 하여, 1019년 8월부터 사절이 왕래했으며, 국교가 회복되었다. 고려는 송나라와의 국교를 끊고 거란의 연호를 쓰게 되었다.
이로써 거란이 요구했던 강동6주의 환부와 국왕의 친조는 자연 백지화되어 거란이 멸망하는 1125년까지 약 1백년간 양국간에는 평화적인 국교가 유지되었다. 거란의 제1차 침입에서 제3차 침입 후 양국의 국교가 회복될 때까지 36년간의 싸움에서 거란에 사로잡힌 고려 전쟁포로도 적지 않아 동몽고인 지금의 열하성으로 옮겨져 집단생활을 하였다.
거란의 행정구역인 고주삼한현(高州三韓縣)은 바로 이들로써 구성된 현이었다. 한편, 고려에 사로잡힌 거란 병사들도 그 수가 적지 않았다. 이들은 천례계급(賤隷階級)에 편제되어 집단거주를 하면서 기구(器具)·복식의 제조 등으로 생계를 이어나가도록 하였다.