Jak w Kwartecie g-moll op. 25, początki opus 26 sięgają lat 50. XIX wieku. Ostateczny kształt przybrał jednak dopiero latem i jesienią 1861 r. Podczas pierwszej oceny dzieła Clara Schumann miała wrażenie, że utwór „wzrośnie na słuchaczu, gdy doskonale go zna i często słyszy”, przyjaciel Brahmsa, Josepha Joachim napisał do niego po pośpiesznym przejrzeniu, że „stawał się coraz bardziej przychylny wobec Kwartetu A-dur. Ton wielkiej intymności i delikatności przeplata się pięknie ze świeżą miłością życia. ” Dzięki zastosowaniu „jaśniejszego” klucza opus 26 jest wyraźnie bardziej dostępny z dwóch sąsiadujących kwartetów fortepianowych.
