Arthur Grumiaux est né le 21 mars 1921 à Villers-Perwin, en Belgique. Arthur Grumiaux est enfant unique. Et le couple de ses parents est fragile. Son père est absent. Et sa mère, Juliette doit beaucoup travailler pour assurer leur subsistance. Elle est souvent à l’extérieur de maison. Arthur Grumiaux racontera plus tard : "Un jour, je me trouvais tout seul dans mon berceau, en train de crier très fort. J’avais sur le nombril une araignée qui ne partait pas et qui était énorme. La porte de la maison était ouverte et ma grand-mère, qui passait à l’improviste, est rentrée. Devant la scène, elle a décidé de me prendre chez elle à quatre kilomètres de mon village natal".
Arthur Grumiaux est élevé par ses grands-parents. Son grand-père a un sens exceptionnel de la musique. Il joue de plusieurs instruments. Comme on peut le lire sur le site de la Fondation Arthur Grumiaux, il raconte au cours d’une émission télévisée : "Je n’avais pas cinq ans, mon grand-père maternel donnait des leçons privées ; et lorsqu’un jeune élève violoniste venait pour sa leçon, je m’arrangeais pour entrer derrière lui dans la pièce en catimini. Je me cachais sous l’escalier et j’avais trouvé deux bâtons à peu près d’égale longueur et je faisais comme tous les enfants peuvent faire, je faisais le geste de jouer du violon. Mais mon grand-père avait remarqué que, si c’était une ronde, je le gardais plus longtemps, une noire, j’allais plus vite, une double croche, encore plus vite, etc.… Alors, il a pensé que j’avais un certain sens du rythme. Il a décidé de m’apprendre les notes. Je ne savais pas encore lire, bien sûr. Trois semaines plus tard, j’étais dans la cour de la maison, assis par terre, et les cloches de l’église sonnaient. Je dis à mon grand-père : "Est-ce que tu pourrais dire le nom des notes de ces cloches ?" – "Non, dit-il, et toi ?" – "Moi, oui, bien sûr !". Il est allé au piano, a joué les notes que j’avais dites et c’était exact. C’est de là qu’est venue l’idée de me faire apprendre le violon, puisque j’avais l’oreille absolue".
Plus tard, Arthur Grumiaux est inscrit au conservatoire Royal de Bruxelles. Il entre dans la classe d’Alfred Dubois, le plus remarquable des violonistes et pédagogues du conservatoire à ce moment-là. Arthur fait les trajets en train avec son grand-père. Et pendant ce temps-là, on travaille, il apprend l’anglais, l’espagnol, et il travaille ses partitions de violon. Arthur Grumiaux obtient notamment le premier prix avec grande distinction de violon et le premier prix avec distinction de musique de chambre. Cela le passionne. Il apprécie la complicité qui peut se créer avec ses partenaires de musique de chambre. Comme l’écrivent Laurence et Michel Winthrop dans le livre qu’ils consacrent à Arthur Grumiaux, avec Clara Haskil, ce sera l’osmose parfaite.