天保9年(1838年)4月8日、玖島城下岩船で渡辺巌の二男として生まれました。兄は渡辺清です。
　負けん気の強い昇は、剣を学び、また藩校五教館で書を学びました。
　その後江戸で、剣を斎藤弥九郎の錬兵館に、書を安井息軒のもとで学びました。
　そのころ、錬兵館の塾頭が長州藩の桂小五郎で、後に新撰組の局長となる近藤勇ともそのころ知り合っています。また長州藩の高杉晋作を訪ね藩に帰った昇は、藩論を倒幕にまとめるため活動します。やがて、大村藩は藩主純熈を中心に勤王にまとまり、薩摩と長州に昇を派遣し、同盟関係を結びます。
　長崎で坂本龍馬と会った昇は、薩長同盟の必要性を説かれ、長州藩に薩摩との同盟を働きかけるよう頼まれました。
　明治になって「浦上四番崩れ」と呼ばれる潜伏キリシタン発覚事件の難しい処分に携わり、その後、大阪府知事、会計検査院長を歴任。
　剣客としても全国に知られた昇は、大日本武徳会の役員として、近代日本の剣道の発展に尽くしました。