Baumann houdt zich bezig met een breed scala aan onderwerpen binnen de theoretische kosmologie. Een van de belangrijkste doelstellingen van zijn onderzoek is het blootleggen van de fundamentele oorsprong van de structuur van het heelal. Hij is een expert op het gebied van de kosmologische inflatietheorie die stelt dat kosmologische structuren door kwantumfluctuaties tot stand zijn gebracht in een periode van snelle expansie. 

Hoewel de inflatietheorie zeer succesvol is gebleken als fenomenologisch model van het vroege universum, is er nog steeds geen fundamenteel inzicht in de fysica van inflatie. Baumann heeft belangrijke bijdragen geleverd aan de onderlinge koppeling van inflatie en deeltjesfysica op een manier die verder gaat dan het standaardmodel. Samen met prof. McAllister (Cornell) heeft Baumann met name de eerste expliciete inflatiemodellen in de snaartheorie geconstrueerd. Daarnaast hebben Baumann en prof. Green (Berkeley) aangetoond hoe de inflatoire niet-Gaussianiteit gebruikt kan worden om supersymmetrie in het vroege heelal te testen. Bovendien heeft hij een significante bijdrage geleverd aan de studie van de gravitatieclustering door een nieuwe effectieve veldtheorie voor te stellen voor de benadering van niet-lineariteiten in de kosmologische perturbatietheorie. Hij heeft tevens een belangrijke rol gespeeld bij het ontwikkelen van de wetenschappelijke motivatie voor een toekomstige CMB-satelliet. Als hoogleraar Theoretische Kosmologie aan de UvA zal Baumann een nieuwe kosmologiegroep vormen om de fysica van het vroege heelal te onderzoeken en nieuwe manieren te creëren waarop deze ideeën via toekomstige observaties getest kunnen worden.

Baumann is in 2008 aan Princeton University gepromoveerd waarna hij als postdoctoraal onderzoeker aan Harvard University en bij het Institute for Advanced Study in Princeton heeft gewerkt. Sinds 2011 is hij faculteitslid van het Department of Applied Mathematics and Theoretical Physics (DAMTP) aan Cambridge University.

Naast zijn werk als onderzoeker is Baumann ook een bevlogen docent. In Cambridge gaf hij de populaire cursus 'Concepts in Theoretical Physics': een kennismaking voor eerstejaarsbachelorstudenten met de belangrijkste thema's in de moderne theoretische fysica.  Baumann doceert ook regelmatig aan opleidingen voor masterstudenten en jonge onderzoekers. Aan de UvA zal hij de mastercursussen over kosmologie en kwantumveldentheorie verzorgen.

Gedurende zijn loopbaan heeft Baumann verschillende prijzen en subsidies ontvangen, waaronder de prestigieuze ERC Starting Grant (2012).