吹き替え草創期より活躍しており、役どころとしては、威厳のある地位の高い役、心強い父親役などが多かった。青年から老人まで広くこなしていた。
洋画吹き替えを主体とし、数多くの作品に出演。特にユル・ブリンナーの吹き替えはほとんどの作品を担当していた。ハンナ・バーベラ作品では2度も主演した数少ない声優であった。また、『宇宙戦艦ヤマト』シリーズでは常連の1人であり、第一作でドメル将軍を演じ、以後も一作を除いて出演していた。
2011年6月28日、膵臓癌のため東京都文京区の病院で死去。76歳没。
2012年、第六回声優アワード「特別功労賞」を受賞。

小林の死後、持ち役を引き継いだ人物は以下の通り。
堀勝之祐 -『へうげもの』：細川藤孝
沢木郁也 -『第2次スーパーロボット大戦Z 再世篇』：ブランチ（太陽の使者 鉄人28号）
高瀬右光 - 『スパイ大作戦』：ウィリー・アーミテージ ※DVDの追加収録のみ
稲葉実 -『暴走特急』：ベイツ提督 ※テレビ朝日版、2014年の追加収録のみ
田中秀幸 - 『それいけ!アンパンマン』：チェロヒキーさん
浦山迅 - 『アマデウス』：レオポルト・モーツァルト ※テレビ朝日版、2016年の追加収録のみ
森田了介 - 『燃えよドラゴン』：ハン ※TBS版、WOWOW放映時の追加収録のみ
堀内賢雄 - 『モンキー・ビジネス』：バーナビー・フルトン博士 ※WOWOW放映時の追加収録のみ