幕末期に、新選組の総長として名を残しながら、結局は切腹して果てた山南敬介は、仙台藩出身で養賢堂で学んだと言っていたようだ。しかし、当時の仙台藩には、「山南敬介」の名はなく、また「山南」の姓も見られない。
近藤勇の天然理心流試衛館に他流試合を挑み、近藤勇に敗れた。この時、近藤の腕前や人柄に感服し、以後は試衛館の門人の、土方歳三・沖田総司・永倉新八らと行動を共にするようになった。
文久３年（1863）、将軍警護と尊王攘夷を目的に清河八郎が浪士組を組織すると、山南は近藤らとこれに参加して上洛した。芹沢鴨や近藤勇らは、京都守護職を務めていた会津藩預かりとなり壬生浪士組を名乗るようになり、山南は土方歳三と共に副長に就任した。
この頃、敬介は漢詩を書いている。
牢落の天涯、志空しからず 尽忠、唯一刀の中にあり
何ぞ辞せん、萬里艱難の路 早く皇州に向かい、好き功を奏さん
この漢詩は、「これまで志を持ちながらも空しく時をすごしていたが、その心はこれまで鍛錬を重ねた一刀の中にこそある。このさき艱難辛苦の道であろうとそれを避けることはなく、皇国日本のために邁進したいものだ。」とでもいうべきものか。
壬生浪士組は、本来は尊王攘夷を掲げて組織されたが、京都では、不逞浪士が跋扈しその取り締まりに専念するようになった。山南自身は尊王の思いは強かったようで、その意味では薩摩や長州藩が掲げる尊王とその理念は同じはずだった。また出身の仙台藩では、開国、富国強兵が論じられており、山南はいわば、尊王開国ともいうべきものだったはずで、尊王攘夷の壬生浪士組の中で、佐幕攘夷の立場で戦わなければならない自身に「捻じれ」を感じていたと思う。
文久３年（1863）９月には、壬生浪士組の芹沢組長らが粛清され、浪士組は近藤派によって統一され、新選組が新設され、局長は近藤、副長は土方となり、山南は総長の地位に就いた。しかし、この事件以降、後に脱走するまで山南の名は新選組の活動記録から消えてしまい、元治元年（1864）６月の池田屋事件にも、山南は出動していない。恐らくは自身の中で理念的な葛藤があったものと推測できる。
元治２年（1865）２月、山南は「江戸へ行く」と置き手紙を残して行方をくらませた。新選組の法度で脱走は切腹とされていた。近藤と土方は直ちに沖田総司を追っ手として差し向けた。沖田だけを派遣したのは、弟のように可愛がっていた彼ならば山南も抵抗しないだろうという、土方の思惑によるものといわれている。大津で沖田に追いつかれた山南は抵抗することもなく、新選組屯所に連れ戻された。
近藤勇は、山南と大変仲が良かったという沖田総司ただ一人を追っ手にしたことは、「形式上」追わせただけで、事実上逃亡を見逃したと言う説もある。
山南はその心優しく温厚な性格から、壬生の女性や子供たちから慕われており、隊士からも「サンナンさん」と呼ばれ、捕縛され屯所に連れ戻されてからも、伊東甲子太郎や、試衛館以来の親交があった永倉新八からは再度の脱走を勧められた。
また、死の覚悟を決めていた山南に対して、永倉は、山南が馴染みにしていた島原の遊女の明里が、今生の別れを告げることができるように配慮したという。明里は山南が監禁されていた部屋の格子戸をしきりに叩いた。山南は格子戸の障子を少し開けると、格子を掴んで泣き崩れる明里と言葉を交わした。そのうち人が来て明里を連れ去ろうとしたが、明里は格子を掴んで離れようとはせず、それを見ていた山南は、静かに障子を閉じた。それから程無く山南は切腹したという。
最初に述べたように、仙台藩士の中に、「山南」の姓はない。恐らくは、近藤勇や土方歳三らと同じ、仙台藩内の郷士だったのかもしれない。「山南」の姓については、宮城野原の西端に位置する国分寺境内に、天明２年（1782）、駿河の歌人「山南官鼠」が来仙した折に建立した歌碑がある。また、宮城野原の地域には、山南敬介が通った道場があったとの伝承がある。
これらのことから考えると、山南敬介の生家は、宮城野原にあった郷士の家系で、歌人の山南官鼠は、山南敬介の生家に逗留したことがあったのではと推測する。敬介は両親などからその話を聞き、広く目を広げ、養賢堂に通ったのでは。
この時期の養賢堂は、庶民の子弟にも構内に日講所を開設し、身分の隔てなく広く教育を行っていたようで、向学心にあふれ、幕末の世に、自分の活躍の場を求めようとする若者が集まったものと考えられ、敬介もそのような一人だったのかもしれない。
それでも藩士でもない敬介に、仙台藩内で活躍する場がそう簡単に与えられるはずもなく、「牢落の天涯、志空しからず」として「山南」の姓を使い藩を出奔し、近藤勇らとともに時代の激流に身を投じることになる。
しかし壬生浪士組や新選組として戦う中で、「尊王」の考えでは同じ考え同士のものが殺し合い、天下国家を見定めることもなく「開国、攘夷」で殺しあう、そんな無力感に流されたのかもしれない。