Aufgrund seiner juristischen Ausbildung nahm Kaiser als Kriegsgerichtsrat am Ersten Weltkrieg teil. Er genoss das Vertrauen der Soldaten, was dazu führte, dass er während der Novemberrevolution von 1918 in den Soldatenrat gewählt wurde.
Bereits frühzeitig lehnte er den Nationalsozialismus offen ab – Kaiser gehörte 1932 zu den Unterzeichnern eines Aufrufes gegen die NSDAP. Mit Beginn des Zweiten Weltkriegs wurde Kaiser als Heeresrichter zur Wehrmacht eingezogen und als Oberkriegsgerichtsrat der Reserve der Heeresrechtsabteilung beim Oberkommando des Heeres in Berlin zugeteilt. Hier stieß er zu den Kreisen des militärischen Widerstandes gegen das NS-Regime, bei der Organisation und der Vorbereitung des Attentats vom 20. Juli 1944 arbeitete Kaiser eng mit diesem zusammen und wurde verhaftet.
Nach Kriegsende befasste sich besonders damit, gegenüber der BRD die Ansprüche von Opfern der NS-Diktatur und Angehörigen des Widerstandes beziehungsweise ihren Hinterbliebenen auf Entschädigungen und Renten zu vertreten. Bis in die fünfziger Jahre trat Kaiser noch als Pianist auf; doch als Spätfolge der Gestapohaft verschlechterte sich sein Sehvermögen so sehr, dass er das Klavierspiel aufgab. 1965 erblindete er nahezu vollkommen. Eine Augenoperation konnte nur zehn Prozent der Sehkraft wiederherstellen, zudem erlitt er mehrere Schlaganfälle. Obwohl er zuletzt halbseitig gelähmt war, führte er seine Tätigkeit als Rechtsanwalt fort, bis ein letzter Schlaganfall zu seinem Tod führte.