Baumgartner ha quedado descartado para el torneo tras sufrir una lesión en el muslo antes de la victoria en un partido amistoso por 1-0 del lunes ante Túnez.
La baja del jugador de RB Leipzig, de 26 años, se considera un duro golpe para Austria.
"Por supuesto, esta es una noticia muy amarga tanto para Christoph como para nosotros como equipo", afirmó Rangnick.
La plantilla viaja a Estados Unidos el jueves, antes de su debut en el Grupo J ante Jordania el 16 de junio, y después se enfrentará a Argentina y Argelia.