Né à Berlin dans une famille de la noblesse prussienne, Bülow combat durant la guerre austro-prussienne de 1866 et la guerre franco-allemande de 1870, avant d'intégrer l'état-major général avec le grade de capitaine. Promu colonel le 17 juin 1893, il commande le 4e régiment de gardes à pied du 27 janvier 1894 au 5 février 1897, avant d'être promu major-général le 22 mars 1897 et nommé directeur des services centraux du ministère prussien de la guerre. Élevé au grade de lieutenant général le 22 mai 1900, il prend, le 18 avril 1901, le commandant de la 2e division de la Garde. L'année suivante, il devient quartier-maître général de l'état-major général. Le 27 janvier 1903, il prend la tête du IIIe corps d'armée. Nommé Kommandierender General le 18 avril 1903 et General der Infanterie le 15 septembre 1904, il devient inspecteur général de la IIIe inspection d'armée le 1er octobre 1912 et promu Generaloberst.