幼い頃は体が弱く、体育の授業は見学ばかりだったという。多賀城高等学校時代はバスケットボール部に所属し、マネージャーを務めていた。東北学院大学時代は落語研究会に所属し、その縁で学生時代から端役ではあるが地元のテレビ番組や企業CMに出演、その経験が後の『GAP SYSTEM』シリーズなどで活かされることになる。当初は口が立つ事を理由に営業マンになろうと考え就職活動をしたが、「なんだかイヤになった」と放棄。CM出演経験でコネのあった広告代理店から声がかかったものの、当時流行り出した俳優?声優の啓発本を読んで役者の仕事に興味を持ち目指そうと考える。

本を読んだ結果俳優は「なんだこりゃ、わかんねえや」と断念、声優を目指して1984年俳協養成所に入所。1986年養成所を卒業（第14期）し、養成所の先輩が旗揚げした舞台と並行して俳協に所属。2008年3月まで東京俳優生活協同組合に所属し、2008年4月からアクロス エンタテインメントに移籍した。

「七色の声を持つ男」と呼ばれるほど、広域の声質が特徴である。さらに演技力、そして司会業で見せる巧みな話術も相まり、渋い青年から初老、ヒーローから悪役のボス、シリアスな役からコミカルな役、二枚目から三枚目まで多数の役柄の声を演じこなす。業界内では「（配役に）困った時の山寺宏一」と言われることもあり、声優界の大御所?羽佐間道夫は「俺の二代目」と称している。

1995年に死去した富山敬の役を多く引き継いでいる。富山と一緒に声優の仕事をした人でさえ区別がつきにくかったというエピソードに象徴されるほど持ち役を自分のものにしている。『宇宙戦艦ヤマト』のゲームでは映像作品で富山が生前に声を演じたライブラリー音声に山寺の新録を繋ぎ合わせて作られた作品も存在する[要出典]。特に2007年に発売されたパチンコ機「CR宇宙戦艦ヤマト」（藤商事）では、古代進役で波動砲発射シーンなどで重要な声をあてられており、大当たり画面中の10ラウンド以降で通常当たりの際に古代進役の声優として山寺の名前がクレジットされている。2009年12月に公開された『宇宙戦艦ヤマト 復活篇』ではアニメ作品で初めて古代進の声を担当した。

また、リメイク版『ヤッターマン』においては富山の持ち役であったナレーション、おだてブタの2役に加え、ヤッターワンをはじめとする全てのヤッターメカ（池田勝の後任）やゲストキャラクターの声を演じている。ドロンボー一味からも劇中で「山ちゃん」と呼ばれており、時折「山ちゃん本人」が劇中に2頭身のキャラクター（ゼンダマンの「トミー?ヤマケ」の流れ）として登場することもある。タイムボカンシリーズ全体としては前述の富山敬、鈴置洋孝（『逆転イッパツマン』）、堀内賢雄（CDドラマ版）、滝口順平（『怪盗きらめきマン』）に次ぐ5代目のナレーションとなる。実写映画版でもナレーター?ヤッターワン?ヤッターキングの声を演じるほか、顔出しで出演もしている。アニメ劇場版においては、ナレーション?ヤッターキングなど、しめて16の役の声を演じている。

ディズニー作品において、ドナルドダックを始め『美女と野獣』『アラジン』『ムーラン』『リロ?アンド?スティッチ』『リトル?マーメイドII Return to The Sea』などで、10役以上を担当。日本声優の中では一番ディズニーキャラクターの声を当てている。そのため、スクウェア?エニックスのゲームソフト『キングダム ハーツ』シリーズでは、プレイの合間に流れるムービーに出てくるキャラクターの会話を1人で演じている場面もしばしばみられる。中でもドナルドダックの演技は、ディズニー側にすばらしいと認められ、青一色のK?YAMADERAの文字とドナルドの顔イラストを文字盤に入れた腕時計とその原画を贈られている。ドナルドダックの演技を山寺に教えたのは松本梨香である。また、近年発表されているディズニー映画（特に子供向けアニメ映画）のDVDのCMナレーションの多くを山寺が担当している。

本人がDJを務めるラジオ番組で、リスナーからディズニーのキャラクターの声を頼まれることが多々あるが常に断っている。しかし『笑っていいとも』に出演した際には、ドナルドの泣き声だけを一節だけ演じた。その代わりディズニー作品以外のキャラクターを演じるが、ディズニー作品におけるキャラクターでの声を期待するリスナーの反応はいまひとつな場合が多い。

吹き替え作品には多く出演しており、主な担当俳優にエディ?マーフィー、チャウ?シンチー、ジム?キャリー、ブラッド?ピットなどがある。以前はジャン＝クロード?ヴァンダム、チャーリー?シーン、トム?ハンクス、マイケル?J?フォックスなどの吹き替えも多く担当していた。映画『チャーリー』のロバート?ダウニー?Jrの吹き替えは、原語版よりも日本語吹き替え版の方が素晴らしいとVTRの発売時の批評からも絶賛された。江原正士や堀内賢雄とは、同一作品の別音源で同じ俳優を担当している事が多い。

子供向けのアニメでもその多彩な声から一人何役もこなしていることが多く、『それいけ!アンパンマン』ではチーズ?カバお?かまめしどんの他、多くのゲストキャラクターを演じており、多いときには1話で4つの役をこなす。また、その『アンパンマン』では、当初ばいきんまんの声でオーディションを受けたが落ちたというエピソードがある。その後映画『ばいきんまんと3ばいパンチ』でばいきんまんに瓜二つのアカキンマンを演じ、「ばいきんまんvsバイキンマン!?」では偽者のばいきんまんを演じている。

アニメ監督の押井守は、「彼の最大の不幸は、誰も彼の本当の声を知らないことである」と評している。