El grupo surgió a raíz de unas canciones que escribió Dave Grohl mientras era batería de Nirvana, que iba a grabar como PocketWatch Late! bajo un sello propio.
Tras el suicidio de Kurt Cobain, Grohl siguió adelante con la música dando inicio a los Foo Fighters, banda a la que puso nombre porque de esta forma llamaban los alemanes a los objetos voladores no identificados (OVNI) durante la segunda guerra mundial.
Su primer disco homónimo fue grabado casi en su totalidad por él, grabando el bajo, la batería, las voces y las (con excepción de cuatro), demostrando así su experiencia ganada en Nirvana y en Scream cuando era un poco más joven. Para tocar en vivo reclutó diferentes músicos. El disco cosechó buenos comentarios por una parte de la crítica profesional, y en el plano comercial no le fue mal, consiguiendo disco de platino.
Algunas canciones de este álbum fueron compuestas mientras era miembro de Nirvana, siendo por ejemplo Big Me (mejor video del 95 según Mtv) tocada en algunas ocasiones, con Kurt Cobain en la batería.
Tras un tiempo empiezan a grabar lo que sería el segundo disco, The Colour And The Shape, con grandes éxitos como Monkey wrench, My hero, Hey Jonnhy Park y Everlong. La formación en este disco sería Dave Grohl en guitarra voz y batería, Pat Smear (que había sido segundo guitarrista de Nirvana durante los shows en vivo) en la guitarra, Nate Mandel en el bajo y William Goldsmith en batería en Doll y Up in arms. Cabe destacar que este disco, no tuvo éxito comercial, aunque una parte de la crítica lo proclamó como uno de los mejores discos de rock de la década de los `90.
Luego del The Colour And The Shape, Pat Smear, el guitarrista de The Germs y para esa época guitarra de los Foo Fighters, anunciaría su retiro de la banda.
A finales de 1997 entraría a la banda el batería Taylor Hawkins, ex miembro de la banda de Alanis Morissette. Con él ya en el grupo llegaría el disco There is nothing left to lose con Breakout (que sería banda sonora de Yo, yo mismo e Irene), Next Year (banda sonora de la serie televisiva "ED"), Generator, Stacked actors y Learn to fly.
En 2002 sacan su disco One by one con canciones como All my life, Low, Overdrive, Comeback, Have it all y Times like these, descartando la canción The One porque los integrantes sentían que no encajaba con el estilo del disco. Sin embargo, esta última fue incluida en el soundtrack de Orange County.