En 1824 José Zapiola viajó a Buenos Aires acompañado de Manuel Robles, con el fin de visitar a su tío José Matías Zapiola y, especialmente, buscar a su padre Bonifacio Zapiola. En su prólogo a los Recuerdos de 30 años, Ventura Blanco señala acerca de José Luis que "cuando a las 12 de la noche de un día de marzo del año de 1824 pasaba por la plazuela de la Recoleta, en camino para la cordillera, no llevaba en el bolsillo sino un real, y por todo equipaje la ropa que vestía y dos pares de espuelas, que de mil amores habría cambiado por unas estriberas, pues ya no las tenía su montura" (Pereira Salas, Eugenio. Prólogo, Recuerdos de treinta años, p. 43). Portales asegura que para obtener un caballo para el viaje, tuvo que trocarlo por su clarinete.

Sin embargo, luego de los pesares, pudo establecerse en la ciudad y conseguir un puesto como clarinetista profesional en la orquesta de Massoni, un famoso director de la época, cuando había recién llegado la ópera a Argentina con El Barbero de Sevilla de Rossini. Tuvo tanto éxito como intérprete de clarinete, que terminó por desplazar al clarinetista argentino al año siguiente de su llegada.

Zapiola también trabajó en Argentina musicalizando teatro. Así, conoció de cerca el ambiente teatral argentino. Se hizo de un círculo cercano de amigos al participar de las tertulias y eventos musicales de la ciudad de Buenos Aires, como las hermanas Tani, Rosquellas y Viera. También aprendió rápidamente a tocar violín, lo que posteriormente le daría un puesto como músico en la Catedral de Santiago en 1847.