본관은 광산(光山). 자는 대유(大柔), 호는 자암(自庵) 또는 삼일재(三一齋). 김의몽(金義蒙)의 증손으로, 할아버지는 사예(司藝) 김성원(金性源)이고, 아버지는 대흥현감(大興縣監) 김계문(金季文)이며, 어머니는 이겸인(李兼仁)의 딸이다.
거주지는 서울인수방(仁壽坊)이었고, 충청도 예산에도 근거지가 있었다. 어려서부터 학문에 열중해 1503년(연산군 9)에 한성시(漢城試)에서 일등으로 뽑혔고, 1507년(중종 2) 생원·진사시에서 모두 장원을 차지해 시관을 놀라게 하였다. 6년 뒤인 1513년에 별시 문과에서 을과로 급제한 뒤, 홍문관정자를 거쳐 전경(典經)·사경(司經)·부수찬 등을 지냈다. 1515년에는 기준(奇遵) 등과 함께 사가독서(賜暇讀書)했고, 이어서 홍문관수찬·부교리를 거쳐 사간원헌납(司諫院獻納)이 되었다. 신병으로 일시 사직했다가 다시 관직에 나가 이조좌랑·정랑·사간·홍문관직제학·동부승지·좌승지 등을 지냈다. 1519년 5월 같은 사림파인 김식(金湜)이 성균관대사성이 되자, 후임으로 홍문관부제학이 되었다. 이로 인해 사림파는 관료들을 육성하는 성균관과 문한·언론기관인 홍문관을 장악해 세력을 더욱 공고히 할 수 있는 바탕을 마련하였다. 1519년 11월에 남곤(南袞)·심정(沈貞)·홍경주(洪景舟) 등 훈구 세력이 일으킨 기묘사화로 개령(開寧)에 유배되었다가 수개월 뒤에 죄목이 추가되어 남해로 이배되었다. 남해에 이배된 지 13년 만에 임피(臨陂)로 가깝게 옮겼다가, 2년 뒤에 풀려나와 고향인 예산으로 돌아오게 되었다. 하지만 유배 중 부모가 모두 죽고 그 때문에 김구도 병을 얻어 죽었다. 그 뒤 선조 때 김구가 지은 종계변무(宗系辨誣)에 관한 표문(表文)이 명나라로부터 호의를 얻어 그 공으로 이조참판에 추증되고, 광국공신(光國功臣)에 녹훈되었다.
일찍부터 성리학 연구에 전념해 학문 실력이 조광조(趙光祖)·김식과 겨눌만했다 한다. 『전고대방(典故大方)』의 문인록에 의하면 김굉필(金宏弼)의 문인이었다고 하나 확실하지 않다. 음률에도 능통해 악정(樂正)에 임명된 적이 있으며, 글씨에도 뛰어나 안평대군(安平大君) 이용(李瑢)·양사언(楊士彦)·한호(韓濩) 등과 함께 조선시대 전기 서예계의 4대가로 손꼽힌다. 서체가 매우 독특해 김구가 살았던 인수방의 이름을 따서 ‘인수체(仁壽體)’라고 했으며, 중국 사람들까지도 김구의 글씨를 사갈 정도였다고 한다. 또한, 시독관(侍讀官)으로도 활약해 중종으로 하여금 사림파의 개혁 정치에 적극 호응하도록 하였으며, 조정의 일에 임해서는 매우 강개하였다. 또, 조광조와 함께 소격서(昭格署)의 혁파에 앞장섰고, 사림파 대간(臺諫)의 현실 개혁 상소에도 적극 후원하였다.
예산의 덕잠서원(德岑書院)과 임피의 봉암서원(鳳巖書院) 등에 제향되었다. 저서로는 『자암집(自庵集)』, 유품으로는 『자암필첩(自庵筆帖)』·『우주영허첩(宇宙盈虛帖)』과 예산 소재의 「이겸묘지(李謙墓誌)」 등이 있다. 또 단가 3수와 「화전별곡(花田別曲)」이 문집에 전한다. 시호는 문의(文懿)이다.

출처/한국민족문화대백과, 한국학중앙연구원