1947年大分県佐伯市に生まれる。
大分県立佐伯鶴城高等学校卒業後、京都大学工学部に進学。

1970年京大卒業後、日立電子株式会社のミニコンピュータのシステムエンジニアとしてキャリアをスタートした。
1978年日立電子のミニコンからの撤退に伴いDigital Equipment Corporation（DEC）Japanに転籍、通産省第五世代コンピュータプロジェクトの担当を務める中で、人工知能（AI）分野の知見を修得、
1986年から、米国マサチューセッツ州のDEC米国本社人工知能技術センターに5年間勤務した。

1991年日本に帰任後は、DEC取締役マーケティング本部長を務めた。
その後、複数の米国系IT企業の日本法人代表を務めた後、
2003年4月、Google米国本社副社長兼Google Japan代表取締役社長としてGoogleに入社以来、
日本におけるGoogleの全業務の責任者を務めて来たが、
2009年1月名誉会長に就任、
2011年1月1日付けで退任し、村上憲郎事務所を開設した。

現在、株式会社電通　電通総研カウンセル兼フェロー、株式会社ブイキューブ　社外取締役、
一般社団法人野菜プラネット協会理事長、等も務めている。

京都大学で工学士号を取得、現在、以下の教職にも従事している。
国際大学グローバル・コミュニケーション・センター（GLOCOM）主幹研究員・教授
大阪市立大学大学院　特任教授
大阪工業大学　客員教授
会津大学　参与
東京工業大学　学長アドバイザリーボード委員