In R hast Du natürlich ein Überangebot an Rechenmöglichkeiten. Ich habe keine Erfahrung in dem Bereich aber mein Eindruck ist, dass man den Bayes-Teil entweder mit rstanarm oder mit dem oben verlinkten brms rechnen sollte. Hierarchische Modelle ohne Bayes werden in der Regel mit nlme oder lme4 gerechnet. Die führen eine bestimmte Schreibweise zum Definieren von Regressionsmodellen ein und rstanarm versucht, diese eins-zu-eins zu übernehmen. Es ist also völlig realistisch, dass Du ein Nicht-Bayes-Modell mit lme4 rechnest und im Anschluss nur den Funktionsnamen änderst, um das als Bayes-Modell zu rechnen. brms sieht das wohl im Grundsatz genauso, findet die eigenen Möglichkeiten aber so umfangreich, dass diese Beschreibungsmethode nicht mehr flexibel genug ist und erweitert wird. Wie auch immer, man findet vieles zum Lesen im Netz aber nicht unbedingt immer leicht heraus, was zum eigenen Wissenstand passt und in welcher Reihenfolge man was lesen sollte.
Viel Erfolg,
Bernhard