Paramore viajó de regreso a Orlando, Florida, pero poco después de llegar, Jeremy Davis dejó la banda, citando razones personales para hacerlo. Los restantes cuatro miembros de Paramore continuaron con la composición del álbum, cuyo nombre All We Know Is Falling fue inspirado por Jeremy. La carátula del álbum refleja el dolor de la banda con respecto a la partida de este, a lo que que Hayley explica : "El sofá en la portada de All We Know Is Falling con nadie allí, y la sombra que se va, es acerca de Jeremy y como a nosotros nos deja sentir que hay un espacio vacío. Las grabaciones del álbum tardaron solo tres semanas, y antes de comenzar con la promoción, la banda integro a John Hembree para así reeplazar a Jeremy Después de 5 meses de haber dejado la banda, Davis se reintegro a esta a pedido de sus compañeros, sustituyendo a Hembree All We Know Is Falling fue lanzado el 24 de julio de 2005, y alcanzó el número 30 en la Heatseekers Billboard Chart, pero no logró entrar en el US Billboard 200. El primer sencillo fue "Pressure", con un vídeo dirigido por Shane Drake, pero la canción no tuvo el éxito esperado. En julio "Emergency" fue lanzado como segundo sencillo, cuyo vídeo fue nuevamente dirigido por Shane Drake, además de contar con la aparición de Hunter Lamb (guitarra rítmica), quien reemplazó a Jason Bynum.[6] El tercer y último sencillo fue "All We Know", cuyo vídeo consiste en un conjunto de actuaciones en vivo y escenas tras bambalinas. Tras participar en giras y festivales durante el 2006, en 2007 Hunter Lamb decide abandonar la banda para casarse, dejando a Paramore con cuatro integrantes...

El 20 de octubre de 2009 All We Know Is Falling fue certificado con el Disco de Oro en Los Estados Unidos tras vender 500,000 copias...