Als Teil des Kaiserlich-Deutschen Archäologischen Instituts, heute Deutsches Archäologisches Institut, nahm die Römisch-Germanische Kommission (RGK) am 1. Oktober 1902 unter dem Gründungsdirektor Hans Dragendorff (1870–1941) ihre Tätigkeit in Frankfurt am Main auf.
Während im 19. Jahrhundert archäologische Feldforschungen und Veröffentlichungen vor allem von verschiedenen lokal ausgerichteten Vereinen getragen wurden, entstand mit Gründung der RGK eine Institution, die ganz wesentlich zur Verbreitung wissenschaftlicher Methodik und der Systematisierung der Forschungen beitrug. Die wissenschaftlichen Kontakte nach West- und Osteuropa wurden gezielt intensiviert. War der Arbeitsbereich der RGK zunächst auf die Nordwestprovinzen Roms und die Spuren des römischen Ausgreifens in die ‚germanischen‘ Gebiete – daher auch der Name der RGK – ausgerichtet, wurde das Arbeitsgebiet bald ausgedehnt, um auch archäologische Phänomene anderer Zeitstellungen zu untersuchen. Die Kooperation mit in- und ausländischen Instituten und damit der internationale Wissensaustausch wurde zu einem Kernanliegen der RGK.

Nach dem Zweiten Weltkrieg mussten diese europaweiten Verbindungen neu geknüpft werden. Während der Eiserne Vorhang Europa teilte, war die RGK ein geschätzter Treffpunkt und Ort des Austausches für zahlreiche mittel- und osteuropäische Archäolog:innen.
Die Ausgrabungen der RGK konzentrierten sich zunächst auf Deutschland, einerseits auf die ‚keltische‘ Epoche und andererseits auf die Römerzeit. Die ab 1956 durch die RGK durchgeführten Ausgrabungen unter Leitung des neuen Ersten Direktors Werner Krämer (1917–2017) im keltischen Oppidum von Manching in Bayern führten zu einem langfristigen Engagement in der Erforschung eisenzeitlicher Großsiedlungen. So war die RGK in den 1990er Jahren an den Ausgrabungen in und um das französische Oppidum von Alesia beteiligt, ein Projekt, das Fragen zur keltischen Besiedlung und frührömischen Militäranlagen zusammenführte. Im Mittelpunkt der Forschungen zur Römerzeit stand seit 1993 die um Christi Geburt gegründete Siedlung bei Waldgirmes im hessischen Lahntal. Zur selben Zeit wurde Fragen zur Völkerwanderungs- und Merowingerzeit anhand von Gräberfeldern nachgegangen.
Seit Öffnung des Eisernen Vorhangs wurden vermehrt Forschungen im östlichen Mitteleuropa durchgeführt, z. B. bei Okolište (Bosnien-Herzegowina), Vráble (Slowakei), Staré Hradiško und Mušov (Tschechien), Gamzigrad (Serbien) und Szólád (Ungarn). Zum Teil wurden und werden hierbei auch Projekte des ehemaligen „Zentralinstituts für Alte Geschichte und Archäologie“ der Akademie der Wissenschaften der DDR fortgeführt, wie das Ausgrabunsgprojekt Iatrus-Krivina (1992-2008) und das laufende Publikationsprojekt „Corpus der römischen Funde im Barbaricum“.
Insbesondere seit der Jahrtausendwende engagiert sich die RGK verstärkt in multinationalen und interdisziplinären Projekten. Ein Hauptfokus liegt dabei auf minimalinvasiven Prospektionsverfahren und anderen naturwissenschaftlichen Methoden, das Arbeitsgebiet reicht vom Nordatlantik bis zum Schwarzen Meer. Dabei werden übergeordnete Themen wie Grenz- und Kontakträume, Kulturwandel, Mobilität von Personen und Dingen, Mensch-Umwelt-Beziehungen sowie Landschafts- und Besiedlungsentwicklungen behandelt.