Rodolfo non si limitò a rinnovare il "Reichslandfrieden" del 1235 (ispirandosi all'esempio degli Hohenstaufen), ma contrattò dei "Landfrieden" locali con i singoli grandi feudatari nell'ovest e nel sud della Germania, come fece per esempio con il Landfrieden austriaco del 1276 e con quello bavarese, renano e franco del 1281. Cercò di affermare l'ordine anche in regioni più periferiche dell'impero: nel 1289/90, in Turingia, fece abbattere 66 castelli che ospitavano cavalieri che si erano dati al brigantaggio. Nel marzo 1287 Rodolfo ritenne i tempi maturi per proclamare un Landfrieden generale.
Il 9 agosto 1281 decretò che tutte le donazioni o cessioni di beni e diritti imperiali avvenute dopo la fine del regno di Federico II dovevano essere considerate nulle, a meno che non venissero ratificate dalla maggioranza dei principi elettori. Inoltre nominò appositi funzionari, incaricati individuare i beni imperiali passati in possesso a qualcun altro, e ad agire in veste di rappresentanti dell'imperatore. Rodolfo infine riorganizzò in maniera radicale l'intera amministrazione del patrimonio imperiale, rendendola finalmente efficiente, una misura che le altre monarchie europee (come Francia e Inghilterra) avevano preso da molto tempo.
Questa politica ebbe successo soprattutto nei territori vicini alla base del potere di Rodolfo, ovvero nella Germania Sud-occidentale, mentre nelle zone più distanti, come il settentrione, sebbene cercasse, con l'aiuto di alleati, di recuperare i beni imperiali e a garantire i diritti delle città, non ottenne risultati di rilievo. Il suo tentativo di assicurarsi il controllo della Borgogna fu di breve durata, in quanto i suoi successori non furono in grado di mantenere la Borgogna a fronte dell'aggressiva politica espansionistica praticata dalla monarchia francese nei confronti dell'impero.