会津藩士佐々木源八の三男として会津若松に生れる。27歳の時幕臣佐々木矢太夫の養子となると、幕府講武所にて剣術方師範役に任ぜらたほどの剣豪であった。攘夷派と通じた清川八郎暗殺、新選組結成に係わった。京都見廻組が結成されるとその隊長として新選組と共に京都の治安維持に努めた。のち薩長同盟の仲介役となった坂本龍馬暗殺を指揮し近江屋 での殺害に関与したと言われている。慶応4年の鳥羽伏見の戦いに参戦し被弾して負傷、和歌山の紀三井寺まで落ち延びたがそこで没した。墓は紀三井寺にあったが近年会津若松市の武家屋敷に移された。