Nel 1881 papa Leone XIII apre l'Archivio Segreto Vaticano ai ricercatori di tutte le confessioni e nazionalità. La prospettiva di poter consultare questo archivio, unico in tutto il mondo, scatena tra gli studiosi una vera e propria febbre dell'oro: sperano di trovarvi fonti, finora inaccessibili, sul medioevo e sull'età moderna. Roma, diventata nel corso del XIX secolo un centro per la ricerca archeologica internazionale, esercita ora una grande attrattiva anche sulle scienze storiche.
Risalgono al 1883 i primi tentativi di studiosi e politici della scienza tedeschi per aprire un istituto a Roma. Alla fine sarà lo stato federale più grande dell'Impero tedesco, la Prussia, a dar vita a una propria istituzione. Essa si chiamerà in un primo momento Stazione Storica Reale Prussiana, a partire dal 1890 Istituto Storico Reale Prussiano.
Ai primordi l'Istituto rivolge il suo interesse esclusivamente alla storia nazionale. Secondo lo statuto fondativo i suoi compiti consistono nella "esplorazione scientifica della storia tedesca soprattutto attraverso l'archivio vaticano, poi attraverso gli altri archivi e le biblioteche romani e italiani" e nel "fattivo sostegno di ricercatori tedeschi che lavorano temporaneamente a Roma e in Italia".
 

Subito dopo la sua costituzione, l'Istituto avvia due grandi progetti che fino ad oggi fanno parte dei nostri lavori: l'edizione dei "Nuntiaturberichte aus Deutschland", vale a dire i rapporti mandati dai nunzi nel XVI e XVII secolo dalla Germania alla Curia, e il "Repertorium Germanicum" che riguarda il periodo tra il 1378 e il 1517. Ideatore del repertorio è Ludwig Quidde, il futuro premio Nobel per la pace, che dirige l'Istituto tra il 1890 e il 1892. Con il suo successore Walter Friedensburg escono, dal 1898, i primi volumi della nostra rivista "Quellen und Forschungen aus Italienischen Archiven und Bibliotheken".
 

Paul Fridolin Kehr dirige l'Istituto dal 1903 al 1936. Kehr diventa in questi anni uno dei più influenti politici della scienza in Germania. Durante la sua lunga direzione dà all'Istituto un profilo che sarà ancora determinante nel secondo dopoguerra. Fino all'inizio della Prima guerra mondiale l'Istituto conosce una fase di consolidamento.
Il diplomatista Kehr concentra le attività sulla ricerca medievistica di base e l'allarga, tra altro, ai fondi relativi alla storia del Sacro Impero Romano che sono custoditi negli archivi italiani. Inoltre instaura la cooperazione con i Monumenta Germaniae Historica, la cui direzione assume nel 1919 accanto a quella dell'Istituto, e con l'"Italia Pontificia" di Gottinga, la serie dei regesti dei diplomi pontefici da lui iniziata. Avvia un'ulteriore cooperazione con l'Istituto Storico Italiano per il Medio Evo.
A partire dal 1905 l'Istituto pubblica la collana "Bibliothek des Kgl. Preußischen Historischen Instituts" che oggi si chiama "Bibliothek des Deutschen Historischen Instituts in Rom".
 

Nel maggio 1915 l'Italia entra nella Prima guerra mondiale dalla parte della Triplice intesa e l'Istituto deve sospendere le sue attività. La biblioteca rimane inizialmente nei locali dell'Istituto a palazzo Giustiniani, ma nel 1918 deve traslocare nella sede dell'ambasciata prussiana presso la Santa Sede. Dopo l'interessamento di Benedetto Croce, ministro della Pubblica Istruzione, che nel 1920 si adopera per la riapertura delle istituzioni di cultura tedesche a Roma, l'Istituto e la biblioteca ritornano a fine anno del 1922 al palazzo Giustiniani.
 

Solo nel 1924, dopo l'inflazione, riprendono i lavori a Roma – con mezzi finanziari e un organico fortemente ridotti. Nel 1928 si ristabilisce l'assetto prebellico dell'Istituto e si rilancia il "Repertorium Germanicum". Nel 1932 si rischia il trasferimento a Berlino o addirittura la chiusura. Paul Fridolin Kehr riesce ad assicurare la permanenza a Roma, sottolineando l'importanza dell'Istituto per i rapporti politico-culturali con il Vaticano e con l'Italia.
 

Nel 1935 si fondono l'Istituto Storico Prussiano di Roma e i Monumenta Germaniae Historica di Berlino nell'Istituto nazionale di storia della Germania medievale – Reichsinstitut für ältere deutsche Geschichtskunde. In questo modo tutte e due le istituzioni vengono inserite nel sistema delle organizzazioni scientifiche nazionalsocialiste che fanno capo al ministero del Reich per la Scienza.
Nel 1937 la sede romana prende il nome di Istituto Storico Germanico in Roma. Dopo l''Anschluss' dell'Austria, avvenuta nel 1938, esso ingloba l'Istituto austriaco di Cultura nel cui edificio di nuova costruzione trasloca l'anno successivo. L'Istituto austriaco sarà ricostituito nel 1950. La sezione storica recupera, però, la sua autonomia solo nel 1981 come Istituto Storico presso l'Istituto austriaco di Cultura.
Dopo l'armistizio tra l'Italia e gli alleati e la successiva occupazione del paese da parte dei tedeschi, il DHI di Roma sospende le sue attività. La biblioteca viene trasportata in Germania.
 

Nel 1946 i libri dell'Istituto ritornano a Roma e vengono depositati nella Biblioteca Vaticana. Resta intanto incerto, se le istituzioni tedesche di cultura e di ricerca possano riprendere le loro attività a Roma. L'Unione Internazionale degli Istituti di Archeologia, Storia e Storia dell'Arte in Roma, fondata nello stesso anno, ne assume la gestione fiduciaria. Nel 1948 lo stato italiano vaglia la possibilità di espropriarli. Si riesce a fermare il piano con il sostegno da parte di studiosi italiani.
Nel 1953 il cancelliere tedesco Konrad Adenauer e il presidente del consiglio dei ministri italiano concordano la riapertura degli istituti tedeschi in Italia. Il 30 aprile 1953 gli alleati occidentali, Italia e la Repubblica federale di Germania ratificano un accordo in questo senso.
 

Il 30 ottobre 1953 l'Istituto Storico Germanico in Roma riapre le sue porte in corso Vittorio Emanuele II. Il primo direttore è Walther Holtzmann fino al 1961. Egli conosce bene l'Istituto fin dagli anni Venti, quando è stato assistente di Paul Fridolin Kehr, e fa rivivere i grandi progetti del periodo prebellico: si riprendono i lavori al "Repertorium Germanicum" e ai "Nuntiaturberichte" e si conclude temporaneamente l'edizione dell'"Italia Pontificia".
Nel 1960 si costituisce la Sezione di Storia della Musica del DHI. Il suo scopo è, in un primo momento, di indagare le relazioni musicali italo-tedesche nell'epoca barocca. Successivamente lo sguardo si allarga e copre il periodo che va dal tardo medioevo al presente. La sezione pubblica volumi collettanei e monografie nella collana "Analecta musicologica" ed edizioni di opere musicali nella collana "Concentus musicus". Già dopo poco tempo conquista un ruolo centrale nella musicologia tedesca e italiana.
Nel 1961 si affianca all'Istituto Storico Germanico un Consiglio scientifico costituito da nove membri. Esso assiste la direzione in questioni scientifiche, organizzative e relative al personale.
 

In parallelo con il crescente interesse del mondo scientifico, della politica e della stampa, l'Istituto Storico Germanico allarga i suoi orizzonti di ricerca alla storia del XIX e XX secolo. In particolare con le sue competenze relative alla storia del nazionalsocialismo e del fascismo acquista una solida reputazione sul piano internazionale: i progetti di ricerca, ad esempio sull'occupazione tedesca dell'Italia o sulle conseguenze della Seconda guerra mondiale per la politica della storia e la cultura della memoria in Italia e Germania, trovano grande risonanza. Le collaboratrici e i collaboratori scientifici del DHI redigono inoltre regolarmente pareri richiesti dal mondo politico e la magistratura e fanno parte di commissioni d'inchiesta e organismi consultivi. Anche nei media l'Istituto è ben presente con tali tematiche.
A partire dagli anni Settanta del XX secolo l'allargamento del profilo si rispecchia nelle pubblicazioni dell'Istituto. Nascono due collane relative alla storia contemporanea: a partire dal 1974 le "Informazioni bibliografiche sulla storia contemporanea italiana", consultabili dal 2009 anche online in una banca dati, e tra il 1979 e il 1999 la rassegna stampa "Storia e Critica".
L'Istituto estende le sue cooperazioni con le istituzioni italiane e internazionali e le consolida. Nel 1974 si trasferisce nella sede attuale sulla via Aurelia Antica 391. Nello stesso anno partono i "Seminari romani" in collaborazione con le università tedesche che a partire dal 1988 continuano a ritmo annuale come "Corsi di studi romani" per studenti avanzati e dottorandi. Altre iniziative e offerte formative si aggiungono fino ad oggi. La promozione di giovani riercatori e ricercatrici diventa uno dei compiti centrali del DHI.
 

Nel 2002 l'Istituto Storico Germanico di Roma si fonde con altre istituzioni di ricerca umanistica della Repubblica federale di Germania nella Stiftung Deutsche Geisteswissenschaftliche Institute im Ausland. Nel 2012 viene aggiunto il nome di "Max Weber". Nuove tendenze di ricerca e le attività della fondazione dànno importanti impulsi: ben oltre l'orizzonte italo-tedesco il DHI arricchisce gli attuali discorsi scientifici con approcci comparativi e transnazionali, nonché con prospettive di storia intrecciata.
Un maggiore carattere internazionale assumono anche lo scambio e la promozione di scienziate e scienziati. L'Istituto organizza numerose manifestazioni per diversi gruppi di riferimento e offre ampie possibilità di sostegno per giovani ricercatrici e ricercatori. Si rafforza inoltre la collaborazione interdisciplinare, in particolare tra musicologia e storia all'interno dell'Istituto stesso e tra gli istituti di storia, archeologia e storia dell'arte tedeschi e internazionali con sede a Roma.
Ben presto il DHI comprende tutto il potenziale della digitalizzazione. A partire dal 2004 apre ai Digital Humanities, le scienze umanistiche digitali. Edizioni digitali e banche dati stimolano nuovi quesiti e prospettano nuove possibilità di applicazione. Esse sono in gran parte liberamente accessibili in rete, come pure molte altre pubblicazioni dell'Istituto.
Italia, e Roma in special modo, esercita tuttora un grande fascino come luogo di ricerca, in particolare per le discipline di indirizzo storico. Resteranno quindi importanti sia le competenze, maturate durante un percorso a lungo termine, sia una stabile cooperazione con la scientific community internazionale.
 

1888–1890 Konrad Schottmüller
1890–1892 Ludwig Quidde
1892–1901 Walter Friedensburg
1901–1903 Aloys Schulte
1903–1936 Paul Fridolin Kehr
1936–1937 Wilhelm Engel (nella qualità di presidente del "Reichsinstituts für ältere deutsche Geschichtskunde")
1937–1942 Edmund E. Stengel (nella qualità di presidente del "Reichsinstitut")
1942–1945 Theodor Mayer (nella qualità di presidente del "Reichsinstitut")
1953–1961 Walther Holtzmann
1962–1972 Gerd Tellenbach
1972–1988 Reinhard Elze
1988–2001 Arnold Esch
2001–2002 Alexander Koller (direttore ad interim)
2002–2012 Michael Matheus
2012–2024 Martin Baumeister
a partire dal 2024 Petra Terhoeven