Barnier, en veteranpolitiker som tidigare var EU:s Brexit-förhandlare, kommer att bli den premiärminister som suttit kortast tid i modern fransk historia. Ingen fransk regering hade förlorat en förtroendeomröstning sedan Georges Pompidous 1962.
Den hårda vänstern och den extrema högern straffade Barnier för att ha drivit igenom en impopulär budget genom ett oroligt parlament utan omröstning. Budgetförslaget innehöll besparingar på 60 miljarder euro (63,07 miljarder dollar) i syfte att krympa det gapande underskottet.
Barniers avgång kommer att avsluta veckor av spänningar över budgeten, som Marine Le Pens högerextrema National Rally sa var för hård mot arbetande människor. Det försvagar också ytterligare president Emmanuel Macrons ställning, som utlöste den nuvarande krisen med ett olyckligt beslut att utlysa ett extraval före sommar-OS i Paris.
Macron möter allt fler krav på att avgå, men han har ett mandat fram till 2027 och kan inte knuffas ut. Det långvariga politiska debaclet har ändå gjort honom till en försvagad figur.
Frankrike riskerar nu att avsluta året utan en stabil regering eller en budget för 2025, även om konstitutionen tillåter särskilda åtgärder som skulle avvärja en nedstängning av regeringen i amerikansk stil.
Frankrikes politiska turbulens kommer att ytterligare försvaga en europeisk union som redan skakas av den tyska koalitionsregeringens implosion, och veckor innan USA:s tillträdande president Donald Trump återvänder till Vita huset.
Trump ska besöka Paris på lördag för invigningen av den renoverade Notre Dame-katedralen, och Macron vill utse en premiärminister innan dess, rapporterade Reuters på onsdagen.
Frankrike står nu inför en period av djup politisk osäkerhet som redan oroar investerare i franska statsobligationer och aktier. Tidigare i veckan översteg Frankrikes lånekostnader kort de grekiska, som i allmänhet anses vara mycket mer riskfyllda.
En ny premiärminister skulle stå inför samma utmaningar som Barnier när det gäller att få lagförslag, inklusive budgeten för 2025, antagna av ett splittrat parlament. Det kan inte hållas något nytt parlamentsval före juli.