慶応元年(1865年)に大村藩士長岡治三郎の長男として久原で生まれ五教館で学びました。
明治7年(1874年)、一家で上京、湯島小学校、英語学校を経て、明治15年(1882年)東京帝国大学理科大学物理学科に入学しました。
大学院を経て助教授になり、その後ドイツに留学、ヨーロッパ各地の大学を視察し、帰国後教授として活躍しました。とくに業績としてあげられる研究に地球物理学、原子構造論などがあります。
全てのものの元となる原子の構造を世界で初めて発表したことは、その後の研究に大きな影響を残しました。
昭和6年(1931年)に、大阪帝国大学が開設されると初代総長となり、理学部を作りました。
後にノーベル賞を受賞した湯川秀樹博士や朝永振一郎博士などを教えています。
昭和12年(1937年)には、最初の文化勲章を受章しています。
昭和25年(1950年)に85歳で亡くなりました。