Al día siguiente del alzamiento militar, el gobierno republicano se encontró en esta situación: por un lado, tenía que hacer frente al movimiento que desde las capitales y provincias ocupadas (al noroeste y el centro de la península y buena parte de Andalucía) tomaba la ofensiva contra Madrid; y por otro, a la insurrección de las masas proletarias, que sin atacar directamente al gobierno, no le obedecían. Para combatir el fascismo, querían hacer una revolución sindical. La amenaza más fuerte era sin duda el alzamiento militar, pero su fuerza principal venía, por el momento, de que las masas desmandadas dejaban inerme al gobierno frente a los enemigos de la República. Reducir aquellas masas a la disciplina, hacerlas entrar en una organización militar del Estado, con mandos dependientes del gobierno, para sostener la guerra conforme a los planes de un Estado Mayor, ha constituido el problema capital de la República. En el curso de la campaña se han logrado, merced al esfuerzo de algunos hombres de mérito y a las rudas lecciones de la experiencia, grandes progresos en punto a organización y disciplina, pero los hechos han probado que el problema no se había resuelto satisfactoriamente y a fondo.
El gobierno desligó de la obediencia a sus jefes de todos los soldados, pensando dejar sin tropas a los directores del movimiento. Este decreto, naturalmente, no fue obedecido en las ciudades ya dominadas por los militares, pero sí en las importantes plazas en poder del gobierno (Madrid, Barcelona, Cartagena, Valencia, etcétera). Los soldados abandonaron los cuarteles y casi todos se marcharon a sus casas. Bastantes se sumaron a las columnas de voluntarios que, con jefes improvisados y con escasos medios, iban a combatir a los frentes. Las pocas unidades que pudieron ser retenidas en los cuarteles eran casi inútiles. La rebelión había relajado en todas partes la disciplina. Los oficiales profesionales eran sospechosos, y la tropa, formada en su mayoría por proletarios, se inclinaba a escuchar las consignas de sus sindicatos y de sus partidos, con preferencia a la de sus jefes. En Madrid, cuya guarnición era de trece regimientos, costó trabajo organizar en los primeros días cuatro o seis compañías de Infantería y un batallón de Ingenieros, para enviarlos a la sierra.
El gobierno republicano dio armas al pueblo para defender los accesos a la capital. Se repartieron algunos miles de fusiles. Pero en Madrid mismo, y sobre todo en Barcelona, Valencia y otros puntos, las masas asaltaron los cuarteles y se llevaron las armas. En Barcelona ocuparon todos los establecimientos militares. El material, ya escaso, desapareció. Quemaron los registros de movilización, quemaron las monturas. En Valencia, los caballos de un regimiento de Caballería fueron vendidos a los gitanos a razón de cinco o diez pesetas cada caballo. Al comienzo de una guerra que se anunciaba terrible, las masas alucinadas destruían los restos de la máquina militar, que iba a hacer tanta falta. Estos hechos, y otros no menos deplorables, procedían de las siguientes causas: pocas personas medían la importancia del alzamiento y la gravedad de la situación. Muchos la recibían como una coyuntura favorable. Aún no se había convertido en guerra campal, y creyendo ciegamente en su inmediato término, pensaban que debía aprovecharse para liquidar de una vez todas las cuestiones políticas pendientes en España desde muchos años atrás, entre ellas, la cuestión del ejército. Hacían esta cuenta: puesto que los militares se han sublevado, no más ejército en España, no más organización militar. El espíritu revolucionario de ciertos grupos sociales, ante el Estado impotente, creyó llegada su hora, y aunque no se apoderó del mando, a fuerza de indisciplina lo paralizó.
El gobierno decretó el alistamiento de veinte batallones de voluntarios, con una organización militar adecuada. Para estimular la recluta, asignó a cada soldado diez pesetas diarias, paga cinco veces mayor que la concedida habitualmente a la tropa en España. Esta determinación fijo para toda la campaña el nivel de los sueldos para los combatientes, y cuando el ejército de la República se acercaba al millón de hombres, representó para el Tesoro público una carga exorbitante. Era casi imposible encontrar material y mandos para los veinte batallones. Su alistamiento y otras medidas del gobierno encaminadas a formar un ejército regular, eran mal recibidas por los sindicatos y por algunos partidos obreros. En uno de sus periódicos se hizo campaña contra el propósito de organizar un ejército, que sería «el ejército de la contrarrevolución». Millares y millares de combatientes voluntarios prefirieron alistarse en las milicias populares, organizadas espontáneamente por los sindicatos y los partidos. Hubo batallones y brigadas de republicanos, socialistas, comunistas, de la CNT, de la UGT, de la FAI, etcétera, e incluso unidades formadas por obreros de un mismo oficio. Sin conexión entre unas y otras, sin jefes superiores comunes, sin plan, acudiendo cada una a la guerra alegremente, con mandos improvisados por los mismos milicianos, y con objetivos políticos y estratégicos de su propia invención. Nadie estaba sujeto a disciplina militar.