Nachdem der Landkreis nicht zu einer Gründung bewegt werden konnte, beschloss der Stadtrat im November 1958 die Eröffnung eines Gymnasiums. Geplant war ein Beginn zu Ostern 1959 mit 5.-7. Klasse. 1959 gab der niedersächsische Finanzminister grünes Licht für einen Unterrichtsbeginn zu Ostern 1960.
Am 21. April 1960 nahm das Gymnasium in den Räumen der ehemaligen Mittelschule (Bahnhofstraße 36, gemeinsam mit der Sonderschule) seinen Betrieb auf. Sieben Lehrkräfte starteten mit 23 Mädchen und 57 Jungen in einer 5. und einer 7. Klasse. 1962 einigten sich Stadt und Landkreis, dass der Landkreis nach erfolgtem Neubau an der Loger Str. die Trägerschaft übernehmen würde, da die Mehrzahl der Schüler von außerhalb des Stadtgebietes kam. 1962 wurde das Gymnasium zweizügig.
Am 5.11.1965 bezog das Gymnasium, das in der Bahnhofstraße nur über 10 Räume für mittlerweile 15 Klassen verfügte, den 1. Abschnitt des Neubaus an der Loger Straße. 1966 haben die ersten zwölf Abiturienten (3 Frauen und 9 Männer) das Gymnasium verlassen. Bereits 1968 reichte der Platz in der Loger Straße für die mittlerweile 31 Klassen nicht mehr, 1969 mussten bei insgesamt über 800 Schülern vier Mobilklassen aufgestellt werden. 1972 wurde der 4. Bauabschnitt eingeweiht, bei jetzt 10 Anfängerklassen besuchten mittlerweile rund 1.400 Schüler das Gymnasium und 56 Schüler bestanden das Abitur. 1976 wurden bereits 98 Abiturientinnen und Abiturienten gezählt, 1978 waren es 146. (Quelle: Chronik von Osterholz-Scharmbeck Bd. II, R. Meenkhoff, 2009) 2010 wurden 144 Abiturientinnen und Abiturienten verabschiedet. (Quelle: Osterholzer Kreisblatt 21.6.2010) Im Jahr 2011 legten die ersten Schüler bereits nach 12 Schuljahren ihr Abitur ab, was in Folge des „Doppeljahrgangs“ zur Rekordzahl von 211 Abiturientinnen und Abiturienten führte. (Quelle: Osterholzer Kreisblatt 27.6.2011)
Als das Gymnasium in den 1970er-Jahren aus allen Nähten platzte, wurde 1975 in Lilienthal eine Filiale eingerichtet, die seit 1976 als Gymnasium Lilienthal eigenständig ist. 1976 eröffnete auch in Ritterhude im zwei Jahre zuvor errichteten Schulzentrum eine Außenstelle, die seit August 2005 als Gymnasium Ritterhude eigenständig ist.
Schulleiter in Osterholz-Scharmbeck
1960-1970 Reinhard Schirmer
1970-1991 Rudolf Rechtmann
1993- Robert Just
2007-2014 Gerd Schmidt
2014-2018 Stefan Stamp-Focke
