C’est en 1968 qu’il a commencé à travailler avec Ralf Hütter, un autre étudiant du conservatoire de Düsseldorf. Ils ont d’abord fondé un groupe d'improvisation appelé Organisation, puis, en 1970, Kraftwerk. Au début Florian y joue de la flûte et crée même par la suite une flûte électronique. Après l'album " Autobahn " qui les a révélés au grand public, il délaissera cet instrument pour se consacrer entièrement aux instruments électroniques, en perfectionnant notamment le Vocodeur.
En 1998, Florian Schneider est devenu professeur dans les arts de la communication à l'université des arts et du design de Karlsruhe en Allemagne. A partir de 2008 il n’était plus sur scène avec Kraftwerk. Il est alors remplacé par Stefan Pfaffe, puis par Falk Grieffenhagen.
