上野壯吉は文久2年（1862）3月29日、生地を福岡県遠賀郡江川村大字拂川（現北九州市若松区）として、福岡城下の地行東町（現中央区地行1）の福岡藩士の家に生まれ通称を壯吉諱を尚義といい後に号を江陽とした。

　明治6年（1873）11歳より18歳までの問、同郡吉木村（現遠賀郡岡垣町）に明治2 年（1869）に学塾・己百斎（こひゃくさい）を開いていた海妻甘蔵※ 60や後に宮本茂任※ 61に歴事した。福岡市薬院町（現中央区大名1）の春信義塾※ 62や旧藩主の援助で設立され後に再興された修猷館の前身である福岡市浜町※ 63（現中央区舞鶴3）の藤雲館※ 64で和漢籍及び普通学を修めた。海妻甘蔵は、明治24年に福岡に帰り、柳原（現中央区赤坂3）のちに船津町（現中央区天神5）に没するまで在住したので、上野壯吉は教職についても師との往来があったと考えられる。

　その後明治13年（1880）8月、陸軍教導団※ 65歩兵科に入学し、19歳となった明治14年（1881）11月に卒業した。卒業と同時に陸軍歩兵伍長に任じ、熊本鎮台勤務、その後明治26年まで第十二師団に所属、陸軍歩兵一等軍曹で満期退役した。明治26年（1893）12月、30歳で芦屋高等小学校準訓導となり学校教育に携わることになり、同29年に文部省より師範学校尋常中学校教員の免許（体操科）を受ける。

　陸軍教導団は、その前身を教導隊といい、明治2年（1869）11月陸軍兵学寮に先行して大阪において創設され、明治5年（1872）6月東京移転後に教導団と改称、兵学寮管下の教育機関の1つとなったが、同年の徴兵令施行に伴って兵学寮を離れ陸軍省直轄の主に下士官教育の養成所となった。陸軍教導団条例の総則第一条に「陸軍教導団ハ陸軍下士ニ出身志願ノ者ヲ選抜シ之ヲ生徒ト為シ諸兵ノ下士ニ要用ナル学術ヲ教授スル所ナリ」として歩兵科をはじめとする6科※ 66があった。