１９５２年、北海道生まれ。１９６５年、上京し木谷實九段に入門、２年後入段。１９７７年、第二期天元戦で公式戦初優勝を飾る。
１９７９年、九段。１９７７年の初優勝以来、タイトル獲得数は５９に上り、史上歴代３位を誇る。２００５年、通算１２００勝を達成。棋聖戦８連覇、名人戦７連覇、碁聖戦６連覇など数々の記録を打ち立て、名誉棋聖、名誉名人、名誉碁聖の資格を持つ。
１９８５年旭川市民栄誉賞、翌年、北海道栄誉賞、１９９３年には都民文化栄誉賞を受賞。日本棋院東京本院所属。２００６〜２００７年、日本棋院副理事長を務める。棋士の育成、囲碁の発展に力を注ぐ。大矢浩一九段、河野臨九段、酒井真樹八段、大木啓司七段、金沢秀男七段、桑原陽子五段、穂坂繭三段等、多くのプロ棋士を門下に。
長女は、小林泉美六段。著書、『小林流必勝置碁シリーズ』（ユージン伝）、『進化する布石構想』、『勝負どころの感性』、『勝負を決める形勢判断』（フローラル出版）など多数。