Réfugié avec sa famille en France en 1933, il s’y installe définitivement l’année suivante. Son expérience franco-allemande personnelle l’a conduit à s’engager en faveur du rapprochement entre les deux pays. Plus qu’un médiateur entre la France et l’Allemagne, Alfred Grosser était un acteur de la relation franco-allemande, ardent défenseur de l’idée européenne, qui préfèrait parler de travail de pédagogie plutôt que d’amitié franco-allemande. Une pédagogie qu’il a mise en application à travers de nombreuses publications, chroniques, interventions dans des colloques ou des établissements scolaires.

Grand Officier de la Légion d’honneur et de l’Ordre du Mérite de la République Fédérale d’Allemagne, il a également été récompensé en 2012 par le Grand Prix Franco-Allemand des médias.