Cómo predecir el impacto futuro de tus publicaciones

Seguro que no puedes esperar, pues conéctate ahora mismo a la página web H-index Predictor  y predice el que será tu índice de impacto en los próximos años (el estudio se ha realizado con biólogos evolutivos y especialistas en Drosophila, luego podría ser fiable en Ciencias de la Vida en general, aunque en otros campos no lo parece tanto; en mi caso es demasiado optimista). Daniel E. Acuña (Universidad de Northwestern, Evanston, Illinois, EEUU) y dos colegas publican en Nature una fórmula capaz de predecir el impacto de las publicaciones de un investigador que haya publicado al menos durante cinco años. Su método se basa en el uso de técnicas de aprendizaje automático y algoritmos de regresión lineal. El resultado muestra una estimación del futuro índice-h del autor en los próximos 10 años.  que es posible predecir la evolución del índice-h de un autor durante al menos los próximos 5 años. Las características con mayor valor predictivo son el número de artículos publicados, el número de revistas diferentes en las que se ha publicado, el número de revistas en el top de índice de impacto y el número de años desde el primer artículo. Según Acuña y sus colegas, su fórmula debería ser muy útil para los organismos que evalúan investigadores (como la ANECA en España), así como para comisiones de contratación. El artículo técnico es Daniel E. Acuña, Stefano Allesina & Konrad P. Kording, “Future impact: Predicting scientific success,” Nature 489: 201–202, 13 September 2012 (los detalles técnicos están en la información suplementaria). El editor de Nature también comenta sobre este artículo en “Count on me,” Nature 489: 177, 13 September 2012.

En un mundo ideal, los científicos nunca serían evaluados utilizando métricas bibliométricas, sino juzgando su currículum vitae mediante una evaluación por pares. Sin embargo, el coste de una evalución por pares rigurosa obliga, con frecuencia, a recurrir a la vía rápida y barata. Lo interesante del nuevo artículo es que, como se ha publicado en Nature, acabará generando un gran número de secuelas (como ya pasó con el artículo de Hirsch que se publicó en PNAS), nuevas métricas cada vez más precisas para facilitar la ingrata labor de los evaluadores. El problema de cualquier métrica es que hecha la ley, hecha la trampa.

PS (30 abr 2013): El artículo de Acuña y sus colegas es criticado en Orion Penner et al., “Commentary: The case for caution in predicting scientists’ future impact,” Physics Today 66: 8, April 2013 [copia gratis]. Predecir el éxito futuro de un investigador es muy difícil. Para ilustrarlo se aplicó el modelo de Acuña a 2 profesores asistentes de física de los 50 mejores departamentos de física de EEUU (es decir, a 100 profesores). El coeficiente de determinación R²(t, Δt) es una medida estadística de lo bien que predice un modelo con un horizonte de Δt años. Se aplicó dicho análisis al índice h. El resultado muestra que la predicción es buena (curva negra), pero mirando por grupos de edad (los que llevan 1, 2, y 3 años como asistentes) se observa que la predicción es mejor para los que llevan más tiempo.

Dibujo20130330 predictability - future horizon - scientist career evolution

Esta limitación es importante porque se espera que el algoritmo de Acuña et al se aplique antes del primer año de profesión, para seleccionar al personal en función de su proyección futura, y es en dicho caso cuando más falla la predicción. La predicción es mejor cuando se aplica a quienes ya han sido seleccionados y llevan cierto tiempo demostrando su valía.

Este resultado está de acuerdo con muchos otros estudios que apuntan a que el impacto de los artículos publicados en el pasado no está correlacionado con el impacto de los artículos publicados en el futuro. Usar medidas bibliométricas, aunque no sea una sola, sino 5, como en el caso de Acuña et al., no mejora el poder predictivo de estas medidas. Este hecho debe ser tomado con mucho cuidado. Nunca se debe abusar de la cienciometría. 

Anuncios

9 pensamientos en “Cómo predecir el impacto futuro de tus publicaciones

  1. No tengo acceso al artículo, pero por lo que puedo ver, y lo que puedo ver de la información suplementaria, no puedo dejar de estar sorprendido por lo aparentemente simple del trabajo, estadístico al menos. ¿Estoy en lo correcto o peco de precipitado?¿Regresión lineal regularizada?¿Nomás? Saludos.

    • Freddy, tienes toda la razón. Básicamente es solo eso. En temas bibliométricos lo que más vende en revistas del top son algoritmos muy pero que muy sencillos.

  2. Buenas:
    Creo que en la frase “Sin embargo, el coste de una evalución por pares es tan algo que con frecuencia se recurre a la vía rápida y barata”, debe de haber un error.
    En donde va la palabra “algo” debe de ir la palabra “caro”, ¿no?

    • Mucha gente … ya hay muchas variantes para corregir dicho efecto (pero menos populares).

Los comentarios están cerrados.