본관은 광산(光山). 자는 인감(人鑑), 호는 아계(丫溪). 김계(金棨)의 증손으로, 할아버지는 김익렴(金益廉)이고, 아버지는 김하중(金夏重)이며, 어머니는 권우(權堣)의 딸이다. 생원 김여중(金呂重)에게 입양되었다. 소론의 거두이다.
1687년(숙종 13)에 진사가 되었고, 1702년 식년 문과에 장원 급제하였다. 그 뒤 정언(正言)·감찰(監察) 등을 거쳐 세자시강원문학(世子侍講院文學)·지평(持平)을 지냈다. 1707년 문과 중시에 장원해 판결사(判決事)에 특진되었고, 1710년 동부승지가 되었으나 곧 집권층인 노론에 의해서 한직인 부사과(副司果)로 전직되었다.
1720년 소론이 추대한 경종이 즉위하자 다시 동부승지가 되었다. 이듬해 노론 정권은 연잉군(延礽君)이금(李昑 : 뒤에 영조)을 세제(世弟)에 책봉한 뒤 경종의 병약함을 이유로 세제의 대리청정을 실시하려고 하였다. 그러나 이조참판으로서 소론의 영수인 조태구(趙泰耉) 등과 함께 이를 반대해 대리청정을 취소하게 하였다.
이 해에 이진유(李眞儒)·윤성시(尹聖時) 등과 함께 경종이 병이 없어 손수 국사를 처리할 수 있는데도 노론 사대신(老論四大臣)들이 세제의 대리청정을 주장하는 일은 나라를 망칠 죄목이라고 탄핵해, 사대신 김창집(金昌集)·이이명(李頤命)·조태채(趙泰采)·이건명(李健命) 등을 위리안치(圍籬安置: 변방 지역에 가시울타리를 쳐서 그 안에서만 생활하게 한 유배형의 하나)하게 하였다.
이어 노론을 축출하고 소론 정권을 수립한 뒤 노론을 탄압하는 데 앞장섰다. 대사헌을 거쳐 형조판서가 되고, 1722년(경종 2) 노론의 목호룡(睦虎龍)을 매수해 목호룡 자신이 백망(白望)·정인중(鄭麟重) 등과 모의해 경종의 시해와 이이명의 추대 음모에 가담했다고 고변하게 하였다.
이에 옥사가 일어나서 유배 중이던 노론 사대신들은 모두 사사되었고, 노론 수백 명이 살해 또는 추방되었다. 2년에 걸쳐서 주도한 노론 숙청을 신임사화라고 한다.
그 뒤에 우참찬·이조참판·이조판서를 지냈다. 1724년 영조가 즉위하자 노론의 재집권으로 유배되었다. 그러다가 청주의 유생 송재후(宋載厚)의 상소를 발단으로 신임사화가 무고(誣告)였다는 노론의 집중적인 탄핵을 받고 목호룡과 함께 투옥되어 친국을 받았다. 그러나 공모자들의 이름을 끝까지 밝히지 않고 참형을 당하였다. 저서로 『아계집(丫溪集)』이 있다.

출처/한국민족문화대백과, 한국학중앙연구원