Gracias a su visita y estadía en importantes archivos americanos en Chile, Perú y Argentina, además de los europeos como el Archivo General de Indias, de Simancas y el Escorial en España o en las bibliotecas de Francia, Gran Bretaña y Estados Unidos, José Toribio Medina pudo acopiar una gran cantidad de fuentes históricas inéditas, las que utilizó para publicar trabajos historiográficos de su autoría. La metodología de trabajo de Medina, en este ámbito fue, marcadamente positivista, ya que, como la mayoría de los historiadores de su época, creía que la Historia podía ser entendida como una ciencia, y las pruebas empíricas para la comprobación de los hechos eran las fuentes y registros dejados por las mujeres y hombres del pasado. Su positivismo científico se debió, sobre todo, a sus tempranas pretensiones de desarrollar una carrera en las ciencias naturales, principalmente en la entomología y el naturalismo, gracias a la influencia que ejerció sobre él uno de sus profesores en el Instituto Nacional, Rudolfo Philippi.

En el ámbito de la Historia, su mayor influencia fue Diego Barros Arana, quien también ejerció la docencia en el Instituto Nacional. Sin embargo, a pesar de esa fuerte influencia de Barros Arana, Arthur P. Whitaker señaló sobre Medina como historiador que "no heredó el amplio criterio filosófico respecto a la historia y a la función del historiador, que fue propio de la Ilustración, ni tuvo interés continuo en la filosofía o la historia de las ideas", y sus campos de desarrollo fueron las historia de la Inquisición en América, la geografía histórica y la historia cultural, además de tener una marcada inclinación literaria hacia el romanticismo, lo que se vio reflejado en algunas de sus traducciones (Whitaker, Arthur P., "Medina y su concepto de la Historia", en Bromsen, Maury A., José Toribio Medina, Humanista de América, Santiago: Editorial Andres Bello, 1969, p. 140-141). Posteriormente, cuando ya había ganado la fama de bibliófilo, coleccionista y de exhaustivo revisor de los más importantes archivos hispanoamericanos, Medina pudo compartir sus conocimientos y experiencias con personajes como Benjamín Vicuña Mackenna y Miguel Luis Amunategui.

El aporte a la historia desarrollado por este intelectual se puede dividir en dos grandes áreas: por un lado, sus publicaciones historiográficas centradas principalmente en la época colonial; y por otro, la recopilación y catalogación de fuentes históricas que heredó a los historiadores nacionales. El primer estudio historiográfico fue Los aboríjenes de Chile, publicado en 1882 con la intención de entregar un relato sobre los pueblos originarios de Chile basado en las fuentes coloniales, además de entregar información sobre algunos hallazgos arqueológicos hechos por el mismo Medina mientras compartía labores con su mentor Philippi. Con posterioridad, y tras visitar el archivo de Simancas en España donde pudo revisar y copiar los expedientes de los procesos inquisitoriales, comenzó a planificar de uno de sus más grandes proyectos historiográficos: la historia de la Inquisición en Chile y América. Dicha labor lo mantuvo ocupado entre 1887 y 1914, período en que publicó dos estudios generales sobre el Santo Oficio en América, además de los volúmenes particulares de la Inquisición en Chile, Perú, Argentina, Colombia, México y Filipinas.

Su metodología de análisis y redacción fue meramente expositiva, ya que para él no era necesario realizar un juicio crítico o de valor a una institución que ya no existía y que, además, ya había sido fuertemente criticada en años anteriores por la opinión pública y por historiadores como Vicuña Mackenna, quien participó en una polémica al respecto (Whitaker, Arthur P., "Medina y su concepto de la Historia", en Bromsen, Maury A., José Toribio Medina, Humanista de América, Santiago: Editorial Andres Bello, 1969, p.141).

En el ámbito de las recopilaciones de fuentes históricas que formaron parte de la Biblioteca Americana, destaca por su gran valor la Colección de documentos inéditos para la historia de Chile desde el viaje de Magallanes hasta la batalla de Maipú, 1518-1818, constituida por treinta tomos de documentos publicados entre 1888 y 1902, junto con la Colección de Historiadores de Chile y de documentos relativos a la Historia Nacional que había sido iniciado en 1861 por otros historiadores y que Medina continuó en 1888, llegando hasta la publicación del Tomo XVI, junto con el Diccionario biográfico colonial de Chile en 1906 que sirvió como guía para la búsqueda de nombres específicos de personajes del Chile colonial. En los últimos años de su vida tuvo amplia influencia sobre jóvenes historiadores como Guillermo Feliú Cruz, Domingo Amunátegui Solar - hijo de Miguel Luis Amunategui-, el escritor Raúl Silva Castro quien posteriormente fue el primer conservador de la Sala Medina, y en historiadores extranjeros como Maury A. Bromsen y Arthur P. Whitaker.