Den ursprünglichen Namen „Friedrichschule“ trägt die Schule heute noch sichtbar hoch über dem Hauptportal. Am 8. Januar 1896 wurde das von Stadtbaumeister Strieder geplante Gebäude in der Kaiserallee 6 in Anwesenheit des Großherzogs und Namensgebers Friedrich I. als „Oberrealschule“ eingeweiht. 551 Schüler in 16 Klassen wurden damals durch 29 Lehrkräfte unterrichtet. Besondere Aufmerksamkeit galt dem naturwissenschaflichen Unterricht. Sichtbarer Ausdruck dessen war die Ausstattung der Schule mit Fachräumen. Die verkehrsgünstige Lage am Knotenpunkt von Bahn- und Straßenbahnlinien brachte auch auswärtige Schüler in das neue Schulhaus. Als erste Fremdsprache wurde ab Klasse fünf Französisch unterrichtet und im Sinne der Reformpädagogik auch zum Unterrichtsgespräch verwendet. Englisch folgte in der siebten Klasse. In der Oberstufe konnte freiwillig Italienisch gelernt werden.

Ab 1907 wurden an allen badischen Oberrealschulen fakultative Lateinzüge eingerichtet, um den Zugang zu allen höheren Staatsprüfungen zu ermöglichen. In der Weimarer Republik wurde die Schule 1922 in „Helmholtz-Oberrealschule“ umbenannt und damit die mathematisch-naturwissenschaftliche Ausrichtung unterstrichen.

Nach dem Zweiten Weltkrieg wurde das -auch durch den unerschrockenen Einsatz des Hausmeisters Karl Leimenstoll- nahezu unversehrt gebliebene Schulgebäude 1945 zunächst für die Klassen U I und O I aller höheren Schulen der Stadt mit sieben Lehrern wieder in Betrieb genommen. 1947/48 wurden „Kriegsteilnehmer-Förderkurse“ eingerichtet.

1948 wurde als Lehrerbildungseinrichtung das “Seminar für Studienreferendare” im Helmholtz-Gymnasium ins Leben gerufen. Die ehemaligen „Oberschulen“ hießen nun „Realgymnasien“ mit den Sprachen Englisch, Latein und Französisch.

1954 wurde die einheitliche Bezeichnung „Gymnasium“ eingeführt, das Helmholtz-Gymnasium war „neusprachlich“ und „mathematisch-naturwissenschaftlich“. Die höchsten Schülerzahlen erreichte die Schule 1968/69 mit 1374 Schülern in 42 Klassen mit 62 Lehrern. Waren damals auf Klassenbildern nur vereinzelt Mädchen in dieser Schule zu finden, wurde ab 1973 in den Karlsruher Gymnasien die Koedukation eingeführt, auch im benachbarten ehemaligen Mädchen-Gymnasium, der Lessing-Schule. Der Mädchenanteil im Helmholtz-Gymnasium wuchs schnell an, nicht zuletzt aufgrund des 1971 neu eingeführten Musikzuges.