Uso responsable de la IA en la investigación académica

premisa. El nivel de riesgo no debe asignarse únicamente a la herramienta de IA ni únicamente a la actividad que realiza el investigador; debe determinarse por la combinación entre finalidad, tipo de tratamiento, información que se proporciona, impacto potencial y grado de intervención de la IA en el resultado científico.

El uso de herramientas de inteligencia artificial (IA) en la investigación académica debe abordarse desde una perspectiva ética, jurídica y metodológica que considere no solamente los beneficios de estas tecnologías, sino también los riesgos asociados con su utilización. En este sentido, principios como transparencia, legalidad, protección de la propiedad intelectual, confidencialidad, trazabilidad, privacidad, seguridad y responsabilidad humana deben constituir elementos transversales durante todo el proceso de investigación.

La evaluación del uso de IA debe realizarse bajo un enfoque basado en riesgos, considerando principalmente el posible impacto de la aplicación sobre las personas, la información, la privacidad, la seguridad y la integridad científica. Por ello, la regulación y las medidas de control no deberían determinarse exclusivamente por la cantidad o frecuencia con que se utiliza una herramienta de IA, sino por la finalidad de su utilización, el tipo de información procesada, el grado de intervención de la IA y las consecuencias que podría generar su resultado.

Dentro del proceso de investigación pueden distinguirse tres niveles generales de riesgo:

• El riesgo bajo corresponde a usos asistenciales en los que la IA funciona como herramienta de apoyo y no modifica sustancialmente el contenido científico ni toma decisiones críticas. Entre ellos se encuentran la generación preliminar de ideas, organización de referencias, elaboración de esquemas, diseño de presentaciones, corrección gramatical, ortográfica y mejora de estilo. Aunque estos usos presentan riesgos relativamente limitados, requieren revisión humana y conservación de la autoría intelectual del investigador.

• El riesgo medio se presenta cuando la IA interviene en actividades que pueden influir en la comprensión, selección, análisis o interpretación de información científica. Ejemplos de ello son la búsqueda de antecedentes, resumen y comparación de literatura, categorización temática o traducción académica especializada. En estos casos existe mayor posibilidad de sesgos, omisiones, interpretaciones incorrectas o utilización de información no verificable, por lo que es indispensable contrastar los resultados con las fuentes originales y mantener supervisión metodológica.

• El riesgo alto se relaciona con usos que pueden comprometer directamente la integridad, validez o confiabilidad de la investigación, como la generación no validada de resultados o conclusiones, manipulación de datos, generación de referencias inexistentes, análisis estadísticos sin verificación o automatización de decisiones científicas. También adquiere esta consideración el tratamiento de información sensible, confidencial, inédita o susceptible de protección jurídica. En estos escenarios se requiere supervisión humana obligatoria, validación metodológica rigurosa, protección de los datos y trazabilidad del uso de IA.

  
  

Sin embargo, es necesario establecer una distinción fundamental entre el riesgo derivado de la función que realiza la IA y el riesgo asociado con la información que se proporciona a la herramienta.

Por ejemplo, solicitar a una IA la corrección gramatical, ortográfica, semántica, de estilo, tiempos verbales o detección de muletillas puede constituir un uso de bajo riesgo desde el punto de vista funcional. No obstante, cargar un trabajo de investigación completo e inédito en una plataforma de IA puede generar un riesgo considerable, aun cuando la finalidad sea únicamente mejorar su redacción. El riesgo no proviene necesariamente de la corrección de estilo, sino del tratamiento posterior de la información: dónde se almacena, quién puede acceder a ella, durante cuánto tiempo se conserva, bajo qué condiciones puede ser procesada y si puede utilizarse para otros fines

Por tanto, un fragmento aislado y previamente anonimizado puede representar un riesgo relativamente bajo, mientras que una tesis completa inédita, un artículo próximo a publicación, datos de investigación no protegidos, información institucional, resultados originales o información patentable pueden representar un riesgo medio-alto o alto, independientemente de que la IA se utilice únicamente para corregir la redacción.

En consecuencia, el uso responsable de IA en investigación requiere evaluar no solo qué hace la herramienta, sino también qué información recibe y qué impacto puede generar su utilización.

La regla fundamental debe ser: a mayor sensibilidad, valor, confidencialidad o impacto de la información y del resultado, mayores deben ser las medidas de protección, supervisión, transparencia y trazabilidad.

La IA puede ser un recurso valioso para apoyar la investigación, pero no debe sustituir la responsabilidad intelectual, ética y metodológica del investigador.

Esta última distinción es, en mi opinión, la clave de todo el planteamiento: no debemos decir simplemente “esta herramienta es de riesgo bajo”. Debemos preguntar “¿para qué se utiliza?, ¿qué información se introduce?, ¿qué hace la IA con ella?, ¿qué impacto tiene el resultado y quién asume la responsabilidad?”.

Esa lógica te permitirá construir después una clasificación mucho más sólida y defendible académicamente.

Carolina Ortega

Impulsora de la simbiosis entre el Derecho y las TIC´s

02/09/2026