Im April des Jahres 1948 wurde das Akkordeon-Orchester an der Musikschule Neukölln durch den Akkordeonlehrer Johannes Geisler gegründet. Aus heutiger Sicht war es damals ein großes Wagnis, da die Menschen noch sehr unter den Folgen des Weltkrieges litten. Erschwerend kam bereits einen Monat nach der Gründung der Beginn der Berliner Blockade hinzu; und so war es damals für die Spieler Pflicht, zu den Proben im Winter ein Stück Holz oder Kohlen mitzubringen, damit die Finger beim Spielen nicht zu klamm wurden. Gespielt wurde auf Instrumenten, die man irgendwie über die Kriegszeit hatte retten können und die deshalb auch in einem entsprechenden Zustand waren.

Die Situation verbesserte sich aber allmählich und das Orchester wuchs in den 50er Jahren. Die politische Situation sollte jedoch das junge Ensemble sehr bald einholen.

Mit dem 13. August 1961 kam ein schwerer Rückschlag, denn die Spieler, die aus dem Ostteil der Stadt kamen, standen wegen des Mauerbaus von einem auf den anderen Tag nicht mehr zur Verfügung. Johannes Geisler mußte noch einmal von Neuem das Orchester aufbauen. Durch sein Lehrertätigkeit an den Musikschulen Neukölln und Kreuzberg schaffte er es, eine recht große Zahl von Schülern in den einzelnen Vorstufen auszubilden, von denen die jeweils besten sich durch ihr Spiel bis zum Orchester qualifizieren konnten. Geprägt durch die Eindrücke der Vergangenheit versuchte Johannes Geisler den Gedanken der Völkerverständigung an seine Schüler weiterzugeben. Es entwickelte sich Mitte der 60er Jahre ein ständiger Austausch mit dem Akkordeon-Orchester "Les Amis du Foyer" aus Paris, der bis 1972 anhielt. Persönliche Freundschaften einzelner Spieler zu ihren damaligen Gastgebern bestehen bis heute.

Neben den eigenen Orchesterkonzerten und Auftritten bei diversen öffentlichen Veranstaltungen wurden immer auch Schülervorspiele durchgeführt. Sie waren bei den Spielern besonders gefürchtet, weil jeder Spieler sich einzeln auf der Bühne solistisch präsentieren "durfte".

1978 war ein besonders erfolgreiches Jahr. Auf Einladung der Organisation "Friendship Force", die vom damaligen US-Präsidenten Jimmy Carter gegründet wurde, reiste das Orchester nach Minneapolis/USA, wo es auf einer 10tägigen Konzerttournee als musikalische Botschafter Berlins spielte. Auch hier waren die Spieler bei Gastfamilie untergebracht.

Im Jahre 1980 gab Johannes Geisler sein letztes Konzert mit dem Orchester. Bei seinem letzten Auftritt übergab er das Dirigat an seinen Sohn Peter, der fortan die Geschicke des Orchesters in der Hand hatte. Unter seiner Leitung trat das Orchester im ZDF in der Sendung "Früh übt sich" auf. Es folgten Konzertreisen nach Stolberg und Herne, sowie die Gegenbesuche der beiden Partnerorchester.

1986 führte das Orchester auf Einladung des Bezirksamtes Neukölln und der Böhmischen Brüdergemeine eine Konzertreise nach Usti nad Orlici durch. Hier konnte das Orchester in vielen Gesprächen mit den damaligen Funktionären erreichen, dass bereits ein Jahr später die tschechische Folkloregruppe die Erlaubnis erhielt in West-Berlin aufzutreten und dass die Tänzer und Musikanten sogar bei unseren Spielern privat untergebracht werden konnten. Auch mit diesem Ensemble besteht weiterhin ein sehr freundschaftlicher Kontakt.

1992 nahm das damalige Jugendorchester, verstärkt durch einige Spieler aus dem Erwachsenenorchester, am 4. Internationalen Akkordeon-Festival in Innsbruck teil. Es erspielte sich den 1.Preis in der Kategorie "Hauptstufe Erwachsene".

1993 übernahm Detlef Quaas das Dirigat von Peter Geisler. Es folgten eine Konzertreise nach Frankfurt/Oder, diverse Probenwochenenden in Weißenstadt/Franken, sowie 1996 eine Reise nach Cottbus, wo das Orchester beim dortigen Treffen des DHV Brandenburg das Abschlußkonzert bestreiten durfte. 

Im Jahre 1996 wurde das Orchester unter dem Namen "Akkordeon-Orchester Berlin e.V." in das Vereinsregister eingetragen. Fortan findet jährlich eine Mitgliederversammlung mit Vorstandswahlen statt.

Auch 1995 und 1998 nahm das Orchester erfolgreich am Internationalen Akkordeon-Festival in Innsbruck teil und erspielte sich dort jeweils in der Kategorie "Oberstufe Erwachsene" die Note "ausgezeichnet".

Im Herbst des Jahres 1998 feierte das Orchester sein 50jähriges Bestehen mit einem großen Festkonzert. Dieses wurde von der AVS-Band Schönaich unter der Leitung von Wolfgang Russ musikalisch umrahmt. Ein Gegenbesuch beim Akkordeonverein Schönaich und ein weiterer Besuch der befreundeten Folkloregruppe aus Usti nad Orlici in Tschechien standen im Jahr 2000 auf dem Programm.

Danach folgten weitere Probenwochenenden in Weißack (mit Konzert im Schloss Fürstlich Drehna), Rheinsberg (mit Konzert im Schlosstheater) und Groß-Pinnow sowie regelmäßige Auftritte im Berliner Raum. Die nächste Konzertreise führte das AOB im Oktober 2007 nach Bad Krozingen zum dortigen Akkordeonverein, mit dem schon länger enge Freundschaften gepflegt werden.

Das Repertoire des Orchesters und auch des Ensembles ist über die Jahre sehr vielfältig geworden: Von klassischen Bearbeitungen über Akkordeonorchester-Originalmusik und argentinischen Tango bis hin zu Arrangements aus den Bereichen Musical, Filmmusik, Jazz, Rock und Pop. Etwa einmal jährlich lädt sich das AOB zur Weiterbildung einen namhaften Gast-Dozenten ein, so z.B. Wolfgang Russ, Thomas Bauer, Stefan Hippe, Christine Fischer-Fahs und Gerhard Koschel. Des Weiteren spielen etliche Mitglieder im Landes-Akkordeonorchester Berlin und nehmen regelmäßig an Seminaren, wie z.B. der Pfingst-Arbeitswoche in Remscheid, teil.

Ein großer Erfolg des Orchesters war die Qualifikation im Landesausscheid zum Deutschen Orchester Wettbewerb 2008 und der zehnte Platz beim Bundeswettbwerb im Mai 2008 in Wuppertal, bei dem das Orchester auch dem Vergleich mit Höchststufen-Orchestern standhalten konnte.

In den folgenden Jahren wurde an der Tradition der Probenwochenenden im Herbst festgehalten. So konnte das Orchester übungsreiche und fröhliche Tage in der näheren und weiteren Umgebung von Berlin verbringen. Die Kultur-Jugendherberge Wernigerode, Plauer See, Zinnowitz und das Jugendbildungszentrum Blossin waren nur einige der schönen Orte, die das Orchester dadurch kennenlernen durfte.

Freundschaften konnten mit vielen weiteren Orchestern und Dirigenten geschlossen werden, woraus erlebnisreiche Konzertreisen nach Passau (2009), Vechta (2012) und Ludwigshafen (2015) resultierten. Für die erfahrene Gastfreundschaft bedankte sich das Orchester jeweils beim Gegenbesuch in der Hauptstadt. Dadurch konnten dem Berliner Publikum immer wieder eindrucksvolle gemeinsame Konzerte präsentiert werden.

Für das 11. World Music Festival in Innsbruck im Mai 2013 schlossen sich Spieler des Akkordeon-Orchesters Berlin und der Akkordia 1935 Berlin zum Projektorchester Berlin zusammen. Unter der Leitung von Detlef Quaas erreichte das Projektorchester Berlin einen ausgezeichneten 8. Platz in der Kategorie "Oberstufe A" im Wettbewerb mit insgesamt 28 Orchestern. Beim 12. World Music Festival im Mai 2016 übernahm dann der Stammdirigent der Akkordia Hartmut von Zander die Führung des Projektorchesters Berlin. Erneut erreichte das Orchester die Bewertung "ausgezeichnet".

Im Herbst 2018 feiert das Orchester sein 70jähriges Bestehen mit einem großen Jubiläumskonzert. Dabei zeigt sich, wie aktuell das Repertoire und wie jung das Orchester geblieben ist, da immer wieder neue Mitspieler für ein Studium oder aus beruflichen Gründen den Weg nach Berlin finden. Der Dirigent Detlef Quaas darf nun stolz auf 25 Jahre Orchesterleitung zurückblicken, in denen er jedes Jahr zwei Konzertprogramme und zusätzliche Wettwerbsstücke erfolgreich einstudiert hat.