본관은 대구(大丘). 자는 도윤(道潤), 호는 몽어정(夢漁亭). 판서 서성(徐渻)의 증손으로, 할아버지는 제조(提調) 서경주(徐景霌)이고, 아버지는 남원부사 서정리(徐貞履)이다. 어머니는 판서 이사발(李時發)의 딸이다. 당숙인 함경도관찰사 서원리(徐元履)에게 입양되었다.
1657년(효종 8) 생원시에 합격했으며, 1673년(현종 14) 학행(學行)으로 천거되어 동몽교관에 임명되었다. 그 뒤 계속 승진해 청도군수·이천부사·상주목사를 역임하고, 1680년(숙종 6) 정시 문과에 장원으로 급제, 당상관에 올랐다.
다음 해 광주부윤(廣州府尹)이 되어 남한산성 수축에 힘쓰고 1682년 경상도관찰사에 제수되었으나, 너무 빨리 승진한다는 말이 있어 부임하지 않았다. 이듬해 호조참판을 거쳐 경상도관찰사가 되어 재판을 공정히 하는데 크게 노력하였다. 백성의 부담을 줄이기 위해 군액을 삭감하자고 건의하였다.
그 뒤 예조참판·도승지·좌윤·공조참판을 거쳐 1686년 공조판서가 되어 군량미 비축에 힘쓰고, 다음 해 형조판서 겸 종묘·빙고(氷庫)의 제조(提調)가 되었다. 1689년 기사환국으로 남인세력이 득세할 때 우참찬으로 재직하다가 중앙 정계에서 밀려났다.
이듬해 동지부사로 청나라에 다녀오고 경주부윤과 강릉부사를 역임하였다. 1694년 갑술환국으로 서인이 득세하자 병조판서 겸 지의금부사로 등용되었으나, 희빈 장씨(禧嬪張氏) 및 남인에 대한 징계 문제에 온건론을 주장하다 조정에서 배척받아 금천(衿川)에 퇴거하였다.
그 뒤 박세채(朴世采)의 건의로 서용되어 훈련대장·형조판서·병조판서를 역임하였다. 1695년에서 이듬해까지 기근구제 사업에 공을 세우고 1698년 우의정에 올랐으며, 같은 해 청나라에 파견되어 세자 책봉을 요청하였다. 1699년 좌의정을 거쳐 영의정이 되었고 1701년 판중추부사로 호위대장을 겸했다가 이듬해 다시 영의정이 되었다.
정치적으로 소론(少論) 입장이었고, 군사제도와 그 운영에 밝았으며 기근구제 사업에 많은 구실을 하였다. 넓은 도량과 굳은 지조가 있었으며 평생을 조심하며 한결같이 근신했다고 한다. 독서를 좋아하여 하루도 책을 보지 않는 날이 없었다. 특히, 사적(史籍)에 관심이 많아 역대 사실을 꿰뚫지 않는 것이 없었다.
경상도관찰사로 있을 때 지리적·군사적 사정을 정리해 『해방지(海防誌)』를 엮었다. 의정부에 재직할 때는 각 지방의 성지(城池)·토전(土田)·호구(戶口)·곡물·전함·봉수·진보(鎭堡)·우역(郵驛)·군대 등을 조사해 『군국총부(軍國摠簿)』라는 책을 저술하였다.
그 밖에도 조선시대의 여러 고사를 엮은 『조야기문(朝野記聞)』·『상제례가범(喪祭禮家範)』·『역대재상연표(歷代宰相年表)』·『국조대신연표(國朝大臣年表)』·『병가승산(兵家勝算)』·『동인시화(東人詩話)』 등의 많은 저서를 남겼다. 시호는 공숙(恭肅)이다.

출처/한국민족문화대백과, 한국학중앙연구원