Males de la ciencia en una jornada de la UV

 En la Universidad de Valencia organizan la jornada "Emociónate con los datos" desde hace 4 ediciones. En la última, el 6 de mayo de 2026 nos invitaron a hablar sobre los males de la ciencia. La jornada tiene una parte on line importante, así que la presentación fue en vídeo, el que dejo a continuación: 

Males de la ciencia para doctorandos logroñeses

 Las responsables de la Escuela de Master y Doctorado de la Universidad de La Rioja (la buena, ¡rechace imitaciones!) tuvieron la amabilidad de invitarme a dar una charla a sus estudiantes sobre males de la ciencia. Gracias Pilar y Fayna!! 

Ya estuve por allí hace año y medio o así con temas parecidos, pero cambia el auditorio. Los asistentes se mostraron interesados e hicieron muchas preguntas. Además fue estupendo encontrarse con viejos amigos.

Dejo la presentación en ESTE enlace (al pinchar se abre en otra ventana)

En realidad hago estas presentaciones "de autobombo" en el blog para que (me) quede constancia de qué cosas cuento en cada momento. 

 

 

Revisiones (engañando su automatización)

 Últimamente la IA se mete en todo tipo de actividades. Una de ellas: las revisiones de artículos científicos que conforman la famosa “revisión por pares” (peer review).

Estas revisiones las realizan científicos por encargo de los editores de las revistas científicas. Estos editores conocen el campo y cuando llega un artículo buscan a otros científicos que trabajen en temas análogos y que puedan juzgar la solidez del trabajo en cuestión.

Esa tarea de revisión, bien hecha, resulta costosa, hay que leer el original, repasar algún cálculo, comprobar referencias, etc. Ese esfuerzo no está remunerado de ninguna forma, ni se paga por hacerlo ni contribuye al currículum del revisor, o si lo hace, es con un valor minúsculo.

No es raro pues que muchos científicos “senior” hayan ido rechazando participar en este tipo de revisiones (dada la problemática del sector de las editoriales científicas que sería larga de comentar aquí). Los editores tienen cada vez más dificultades en encontrar revisores, y las personas que revisan (quizá) lo hacen con más desgana. Ahí es donde ha entrado la IA. Parece ser que muchas revisiones se encargan a CharGPT y similares (ver artículo de Nature). Digo parece por que todo lo que tiene que ver con las revisión por pares es oscuro. Las revisiones son anónimas, sólo los editores saben quiénes son los temibles “revisor 1, 2 y 3”, por eso hay muy pocos estudios (e información fiable) sobre el proceso. 

El que hayan aparecido preprints con “instrucciones ocultas” para que las IAs den revisiones positivas ha destapado la cuestión. Las instrucciones ocultas son prompts incluidos en el trabajo, en el preprint, pero de forma que los humanos no las veamos (por ejemplo en blanco sobre blanco o con tipografías mínimas).

Para mi lo más llamativo de que se hayan encontrado estos “prompts escondidos” es que evidencian que las revisiones se hacen (o al menos se apoyan) en resultados de IA. Seguramente los autores de esos prompts ocultos lo saben porque ellos mismos o compañeros cercanos actúan así como revisores.
En fin, cada vez más vamos a un sistema de ciencia en que las IAs escriben los artículos, los revisan y los leen… Esperemos que, al menos, no inventen el contenido.