김상수는 2006년 삼성 라이온즈에 입단해 2008년 6월 20일 문학 SK전에서 KBO 리그 데뷔전을 치렀다. 데뷔 시즌에는 9경기 출장에 그쳤지만, 이듬해 2009시즌 43경기에 등판하며 1군에서 입지를 넓혀갔다.

김상수는 2010시즌 넥센으로 팀을 옮긴 뒤 본격적으로 출장 기록을 쌓기 시작했다. 넥센·키움에서 활약한 2010~2020시즌 동안 선발과 중간, 마무리를 오가며 총 404경기에 등판했다.

이후 2021~2022시즌에는 SSG에서 두 시즌 동안 58경기에 나섰다. 특히 이적 첫해인 2021시즌에 50경기에 출전하며 2016시즌부터 2021시즌까지 6시즌 연속 50경기 출장 기록을 세웠고, 같은 해 10월 6일 잠실 LG전에서 개인 통산 500경기 고지에 오르며 2개의 대기록을 작성했다.

2023시즌 롯데로 이적한 김상수는, 2024년 5월 9일 사직 한화전에서 개인 통산 600경기 출장 기록을 달성했다. 올 시즌에도 44경기에 출장하며, 개인 통산 699경기 출장을 기록하고 있다.

KBO는 김상수가 700경기 출장을 달성할 경우, KBO 표창 규정에 따라 기념상을 수여할 예정이다