본관 반남(潘南), 자 화숙(和叔), 호 현석(玄石)·남계(南溪), 시호 문순(文純), 교리(校理)의(猗)의 아들이다. 원두추(元斗樞)의 사위, 김상헌(金尙憲)의 문인이다. 현석은 그가 태어난 한양의 한 지명에서, 남계는 그가 만년에 기거한 파주(坡州)의 시내 이름에서 각각 따온 것이다. 성균관 유생 시절에 이이(李珥)와 성혼(成渾)의 문묘종사(文廟從祀)를 주장, 효종의 꾸지람을 받자 과거를 포기하였다.
주로 송시열(宋時烈)·송준길(宋浚吉) 등 서인과 학문적 교유관계를 가졌으며, 1659년 1차 예송논쟁(禮訟論爭)이 일어나자 기년복(朞年服)을 주장한 서인의 입장을 지지하였다. 1674년 2차 예송논쟁에서 서인이 패하고 남인이 집권하자 파직되었으며, 1680년 경신환국(庚申換局)으로 서인이 다시 집권하자 집의(執義)·동부승지 등에 등용되었다.
1683년 서인이 노론과 소론으로 분립되자 윤증(尹拯)·최석정(崔錫鼎)·남구만(南九萬) 등과 소론의 영수가 되었으며, 1694년 갑술환국(甲戌換局)으로 소론이 정권을 잡자 좌의정에 올랐다. 소론의 힘으로 좌의정이 되었지만 이후에는 <시비명변(是非明辨) 후의 탕평론(蕩平論)>과 <벽이단(闢異端)>을 강조하는 노론의 정치·학문적 입장을 지지하였다. 그와 교유한 인물과 초기의 문인들은 대부분 소론이지만, 죽은 뒤에 김간(金幹)·김구(金構) 등 문인 대부분이 노론으로 이탈하는 것은 이러한 이유에서이다.
숙종 후반에 송시열이 사사(賜死)되고 윤증도 출사하지 않자 조정에서 산림학자를 대표하는 위치에 있게 되면서 붕당간의 조정에 힘을 기울여 탕평론을 적극 개진하였다. 그의 탕평론은 선조대에 이이가 주장한 조제보합설(調劑保合說)을 모범으로 한 것으로서 황극탕평설(皇極蕩平說)로 구체화되었으며, 영조·정조대에 이르러 탕평책을 시행할 수 있는 중요한 기반을 제공하였다.
성리학 이론에 밝았으며, 예학에도 해박하여 《남계예설(南溪禮說)》 《삼례의(三禮儀)》 《육례의집(六禮疑輯)》 등 많은 예학서를 저술하였다. 신라시대부터 당시대까지 학자들의 학통을 기록한 《동유사우록(東儒師友錄)》을 저술하여 조선시대 성리학자의 계보를 파악하였다. 숙종의 묘정에 배향되었으며, 문집에 《남계집》이 있다.

출처/두산백과, 한국민족문화대백과, 한국학중앙연구원