Apertura
Diapositiva 1Ética de la Inteligencia Artificial en la Investigación
Tiempo sugerido: 2 minutos
Muy buenas noches con todos. En primer lugar, quiero agradecer a Dios por permitirme compartir este espacio. También expreso mi agradecimiento a la Red Latinoamericana de Investigaciones Cualitativas, RELATIC, por la invitación, y a cada una de las personas que se encuentra conectada desde distintos lugares.
Durante esta conferencia no vamos a discutir si la inteligencia artificial debe incorporarse o no a la investigación científica. Esa discusión ya fue superada por la realidad. Actualmente, estas herramientas intervienen en la búsqueda de literatura, la organización de información, el análisis de datos, la programación, la traducción, la redacción y la comunicación de resultados.
Por eso, la pregunta verdaderamente importante no es si debemos utilizar inteligencia artificial, sino cómo aprovechar sus posibilidades sin debilitar la confianza, la transparencia y la responsabilidad que sostienen a la ciencia.
A lo largo de esta hora revisaremos decisiones muy concretas: qué tareas podemos apoyar mediante inteligencia artificial, cuáles no deberían delegarse, qué resultados necesitan verificación, cómo proteger información confidencial, cuándo declarar el uso de una herramienta y por qué un sistema de inteligencia artificial no puede aparecer como autor de una publicación científica.
Mi propósito es que esta conferencia no se quede únicamente en principios generales. Quiero que salgamos de aquí con criterios que podamos aplicar desde mañana al revisar un artículo, desarrollar una tesis, analizar información o preparar una nueva investigación.
Al final contaremos con una lista de comprobación sencilla para evaluar cualquier uso de inteligencia artificial dentro de un proyecto.
Les propongo una regla que acompañará toda la sesión: cada vez que una herramienta nos permita ahorrar tiempo, preguntémonos también qué nueva responsabilidad genera para nosotros como investigadores.
Transición. Con esta idea pasamos a la diapositiva 2: Propósito de la conferencia.
Diapositiva 2Propósito de la conferencia
Tiempo sugerido: 1 minuto 30 segundos
El objetivo central es sencillo: convertir la ética en un método de trabajo. Una investigación responsable con IA debe cumplir tres condiciones. Primero, utilidad real: la herramienta resuelve una tarea definida y no se usa solo por novedad. Segundo, trazabilidad: podemos explicar qué herramienta usamos, con qué datos, en qué momento y qué modificaciones realizamos. Tercero, responsabilidad humana: una persona competente revisa y responde por el resultado. Estas condiciones acompañarán todos los ejemplos. No buscan frenar la innovación. Buscan que la velocidad no sustituya el juicio y que la automatización no oculte decisiones que afectan a participantes, datos, autores o lectores.
Transición. Con esta idea pasamos a la diapositiva 3: Pregunta inicial.
Diapositiva 3Pregunta inicial
Tiempo sugerido: 2 minutos 30 segundos
Antes de entrar en el contenido, les propongo hacer un diagnóstico personal. Piensen por unos segundos en el último proyecto de investigación en el que participaron y traten de identificar en qué momentos intervino alguna herramienta de inteligencia artificial.
Tal vez la utilizaron para explorar un tema, localizar posibles referencias, resumir documentos, traducir textos o mejorar la redacción. También pudieron emplearla para generar código, organizar información, analizar datos, transcribir entrevistas, diseñar imágenes o preparar una presentación. Incluso es posible que hayan utilizado inteligencia artificial sin reconocerla expresamente, porque actualmente muchos buscadores, correctores ortográficos, traductores y programas de edición incorporan funciones automatizadas.
Este reconocimiento inicial es importante porque, antes de evaluar éticamente una herramienta, necesitamos saber dónde interviene y qué función cumple. No todos los usos producen el mismo nivel de riesgo. Corregir la ortografía de un párrafo no equivale a interpretar testimonios de personas víctimas de violencia. Traducir un título tampoco representa el mismo riesgo que generar datos, modificar una imagen científica o decidir qué resultados deben excluirse de un análisis.
También debemos considerar el tipo de información procesada. Una solicitud general sobre un tema académico puede implicar un riesgo reducido, mientras que cargar historias clínicas, entrevistas identificables, datos de estudiantes o manuscritos confidenciales puede generar consecuencias graves.
Por eso, durante esta conferencia no clasificaremos la inteligencia artificial simplemente como buena o mala. Analizaremos cada uso según su finalidad, los datos empleados, el grado de intervención de la herramienta y las consecuencias que podría producir un error.
La primera responsabilidad de quien investiga es hacer visible esa intervención. Si no reconocemos dónde utilizamos inteligencia artificial, tampoco podremos verificar sus resultados, declarar su uso ni asumir adecuadamente la responsabilidad científica.
Este diagnóstico nos deja una pregunta que acompañará toda la sesión: ¿estamos utilizando la inteligencia artificial como una herramienta de apoyo o le estamos entregando decisiones que corresponden al investigador?.
Transición. Con esta idea pasamos a la diapositiva 4: Ruta de la sesión.
Diapositiva 4Ruta de la sesión
Tiempo sugerido: 2 minutos
La conferencia se organiza alrededor de los cuatro ejes anunciados, pero no quiero que los entendamos como temas aislados. En realidad, forman una secuencia de decisiones que acompaña todo el proceso de investigación.
Primero revisaremos cómo puede utilizarse la inteligencia artificial durante el ciclo investigativo: desde la exploración inicial de un problema y la búsqueda de literatura hasta el análisis de información, la redacción y la comunicación de resultados. Aquí diferenciaremos claramente entre apoyo tecnológico y sustitución del criterio científico.
Después abordaremos los principales riesgos. Hablaremos de privacidad, confidencialidad, sesgos, errores y respuestas inventadas que pueden parecer convincentes, aunque no tengan respaldo verificable. También veremos qué controles humanos permiten reducir esos riesgos.
El tercer bloque estará dedicado a la integridad científica y la transparencia. Analizaremos por qué no basta con obtener rápidamente un resultado; también debemos poder explicar cómo fue producido, qué datos se utilizaron y cómo se verificó.
El cuarto eje se centrará en la autoría, la citación y la declaración del uso de inteligencia artificial. Precisaremos qué contribuciones corresponden realmente a una persona autora y por qué una herramienta no puede asumir responsabilidad ética, jurídica o científica.
Finalmente, aplicaremos estos principios a casos concretos. En cada bloque responderemos dos preguntas: ¿qué puede hacer la herramienta y qué responsabilidad debe conservar la persona investigadora? La respuesta dependerá de la disciplina, la sensibilidad de los datos y las normas de cada revista o institución.
Transición. Con esta idea pasamos a la diapositiva 5: IA en el ciclo de investigación.
Aplicación
Diapositiva 5IA en el ciclo de investigación
Tiempo sugerido: 1 minuto 30 segundos
La IA puede intervenir en casi todo el ciclo científico. Puede ayudar a delimitar preguntas, proponer términos de búsqueda, explicar métodos, depurar código, resumir textos, sugerir estructuras y adaptar resultados para distintas audiencias. Pero su presencia en muchas fases también puede acumular errores. Una referencia inventada al inicio puede contaminar el marco teórico. Un código no revisado puede cambiar el análisis. Una interpretación convincente pero falsa puede llegar a la discusión. Por eso conviene registrar cada uso desde el comienzo, no reconstruirlo al enviar el manuscrito. La bitácora de IA debe anotar herramienta, versión o fecha, tarea, información introducida, resultado aceptado o rechazado y verificación humana.
Transición. Con esta idea pasamos a la diapositiva 6: Dónde aporta valor.
Diapositiva 6Dónde aporta valor
Tiempo sugerido: 1 minuto 30 segundos
La IA aporta más valor cuando amplía opciones o reduce tareas repetitivas, sin sustituir la decisión científica. Es útil para generar sinónimos de una búsqueda, comparar posibles estructuras de un cuestionario, explicar un fragmento de código o transformar un resumen técnico en lenguaje accesible. También puede ayudar a detectar inconsistencias que luego verificamos. El criterio es usarla como asistente de exploración y producción, no como fuente automática de verdad. Cuando el investigador conoce el dominio, puede reconocer errores y mejorar el resultado. Cuando no domina la tarea, el texto fluido puede crear una falsa sensación de seguridad. La eficiencia solo cuenta como ganancia cuando mantenemos la calidad y podemos justificar el procedimiento.
Transición. Con esta idea pasamos a la diapositiva 7: Riesgos principales.
Riesgos
Diapositiva 7Riesgos principales
Tiempo sugerido: 1 minuto 30 segundos
Los riesgos no se reducen al plagio. Un modelo puede producir información falsa con apariencia académica. Puede reproducir sesgos presentes en sus datos de entrenamiento y perjudicar grupos poco representados. Puede exponer información confidencial si copiamos datos personales en una plataforma sin garantías. También puede dificultar la trazabilidad porque desconocemos parte del proceso interno. Finalmente, la dependencia cognitiva aparece cuando aceptamos respuestas sin reconstruir el razonamiento. Estos riesgos se combinan. Por ejemplo, un resumen automático de entrevistas sensibles puede afectar privacidad, perder matices culturales y generar categorías sesgadas. La evaluación ética debe considerar la tarea completa, los datos utilizados y las consecuencias de un error.
Transición. Con esta idea pasamos a la diapositiva 8: Un marco ético práctico.
Diapositiva 8Un marco ético práctico
Tiempo sugerido: 1 minuto 30 segundos
Podemos convertir los principios de UNESCO en cinco preguntas prácticas. ¿La finalidad del uso es legítima y necesaria? ¿Qué daño podría producir y cómo lo reducimos? ¿Quiénes podrían quedar mal representados o excluidos? ¿Podemos explicar la intervención de la herramienta? ¿Quién revisa y asume la decisión final? La supervisión humana no significa mirar rápidamente el resultado. Significa tener competencia para evaluarlo, autoridad para rechazarlo y evidencia de la revisión. La intensidad del control debe crecer con el riesgo. Una sugerencia de título requiere menos control que la clasificación de testimonios sobre violencia o una recomendación clínica.
Transición. Con esta idea pasamos a la diapositiva 9: Privacidad y datos sensibles.
Diapositiva 9Privacidad y datos sensibles
Tiempo sugerido: 1 minuto 30 segundos
La regla más preventiva de toda la conferencia es esta: no copie datos identificables o confidenciales en una herramienta pública solo porque resulta conveniente. Nombres, correos, historias clínicas, audios, respuestas abiertas y documentos institucionales pueden contener información sensible. Antes de usar IA, revise el consentimiento, el protocolo aprobado, el contrato de la plataforma, la política de retención y la posibilidad de entrenamiento con los datos. Cuando sea adecuado, anonimice o trabaje con datos sintéticos. Pero recuerde que quitar nombres no siempre elimina el riesgo de reidentificación. En investigaciones con menores, salud, violencia o poblaciones pequeñas, el umbral de precaución debe ser mayor.
Transición. Con esta idea pasamos a la diapositiva 10: Sesgo algorítmico.
Diapositiva 10Sesgo algorítmico
Tiempo sugerido: 1 minuto 30 segundos
Un sistema no es neutral por presentarse como automático. Sus respuestas reflejan datos de entrenamiento, decisiones de quienes lo desarrollaron y la forma en que formulamos la solicitud. Los sesgos pueden aparecer como invisibilidad de autores latinoamericanos, traducciones que pierden sentido local, categorías que no representan identidades o recomendaciones que favorecen un grupo. Para reducirlos, compare resultados entre formulaciones, incluya fuentes regionales, revise el lenguaje y examine errores por subgrupos. La pregunta ética no es solo si el promedio funciona. También debemos preguntar para quién falla, con qué frecuencia y con qué consecuencias. La diversidad del equipo investigador mejora la capacidad de detectar estos problemas.
Transición. Con esta idea pasamos a la diapositiva 11: Alucinaciones.
Diapositiva 11Alucinaciones
Tiempo sugerido: 1 minuto 30 segundos
Los modelos generativos producen secuencias probables de lenguaje. No consultan necesariamente una base de verdad y pueden inventar autores, DOI, resultados, conceptos o citas textuales. El tono seguro no demuestra exactitud. Por eso nunca debemos copiar referencias generadas sin abrir la fuente original. Verifique título, autores, año, revista, volumen, páginas y DOI en la editorial o en una base confiable. Si el modelo resume un artículo, compare el resumen con el texto. Si explica un resultado estadístico, reproduzca el cálculo. La IA puede proponer una pista, pero la evidencia debe existir fuera de su respuesta.
Transición. Con esta idea pasamos a la diapositiva 12: Protocolo de verificación.
Diapositiva 12Protocolo de verificación
Tiempo sugerido: 1 minuto 30 segundos
Propongo un protocolo de cuatro pasos. Primero, localizar la fuente real en una base o sitio oficial. Segundo, abrir el documento original, no confiar en una cita secundaria ni en el resumen generado. Tercero, contrastar el dato con el contexto y comprobar si realmente respalda la afirmación. Cuarto, registrar la comprobación en la matriz de literatura o en la bitácora. Este proceso parece lento, pero evita correcciones costosas y protege la credibilidad. Para datos críticos, conviene una segunda revisión independiente. La regla operativa es clara: ninguna afirmación importante entra al manuscrito solo porque la IA la formuló bien.
Transición. Con esta idea pasamos a la diapositiva 13: Prompts responsables.
Diapositiva 13Prompts responsables
Tiempo sugerido: 1 minuto 30 segundos
Un buen prompt mejora la utilidad, pero no elimina la obligación de verificar. Indique el papel de la herramienta, la tarea, el contexto, las restricciones y el formato esperado. Pida que diferencie hechos, inferencias y dudas. Prohíba inventar referencias y solicite señalar cuando no dispone de evidencia. Evite incluir información personal. Por ejemplo: “Propón términos de búsqueda para esta pregunta; separa descriptores controlados y palabras libres; no generes referencias; identifica ambigüedades”. Este tipo de instrucción delimita la tarea. Aun así, el investigador decide qué términos usar y documenta los cambios. El prompt forma parte del procedimiento cuando influye materialmente en el resultado.
Transición. Con esta idea pasamos a la diapositiva 14: Búsqueda de literatura.
Diapositiva 14Búsqueda de literatura
Tiempo sugerido: 1 minuto 30 segundos
La IA puede sugerir conceptos y relaciones, pero no sustituye una búsqueda reproducible. En una revisión sistemática debemos informar bases consultadas, cadenas completas, campos, fechas, filtros y proceso de selección. Un chatbot puede omitir estudios, inventar referencias o cambiar resultados sin aviso. Úselo para ampliar vocabulario y probar combinaciones, luego ejecute la búsqueda en fuentes documentables. Conserve las estrategias exactas y exporte los resultados. Si una herramienta con IA participa en cribado o extracción, describa su función, el umbral y la validación humana. Transparencia significa que otra persona pueda entender qué hizo la herramienta y evaluar el riesgo de error.
Transición. Con esta idea pasamos a la diapositiva 15: Análisis cualitativo.
Diapositiva 15Análisis cualitativo
Tiempo sugerido: 1 minuto 30 segundos
En investigación cualitativa, la IA puede sugerir códigos, agrupar fragmentos o comparar patrones. El riesgo surge cuando transforma una interpretación situada en una clasificación aparentemente objetiva. Antes de subir transcripciones, resuelva la privacidad. Después, contraste los códigos con el texto original, revise casos negativos y documente decisiones. La reflexividad sigue siendo humana: debemos reconocer cómo nuestras posiciones y las del sistema influyen en las categorías. Una práctica útil es comparar una codificación humana inicial con la propuesta automática y discutir divergencias. No use la IA para borrar tensiones o uniformar voces. La riqueza cualitativa depende del contexto que un resumen puede perder.
Transición. Con esta idea pasamos a la diapositiva 16: Análisis cuantitativo y código.
Diapositiva 16Análisis cuantitativo y código
Tiempo sugerido: 1 minuto 30 segundos
La IA acelera la escritura de código, pero puede elegir una prueba incorrecta, cambiar nombres de variables, tratar mal valores perdidos o producir una gráfica engañosa. Revise cada línea, ejecute pruebas con datos controlados y compare resultados con otro procedimiento cuando la conclusión dependa del cálculo. Conserve el código final, la versión del software y las decisiones analíticas. Si no comprende el código, no puede asumir responsabilidad por él. En datos sensibles, use entornos autorizados y evite enviar la base a servicios externos. La automatización debe aumentar la reproducibilidad, no crear una caja negra adicional.
Transición. Con esta idea pasamos a la diapositiva 17: Redacción y traducción.
Diapositiva 17Redacción y traducción
Tiempo sugerido: 1 minuto 30 segundos
La IA puede mejorar claridad, traducir o adaptar el tono. Sin embargo, puede cambiar el significado, exagerar resultados o eliminar cautelas. Compare siempre la versión editada con el texto original, especialmente en resultados, limitaciones y consentimiento. No permita que agregue citas que no verificó. Mantenga una copia de las versiones y describa el uso cuando la política editorial lo requiera. La voz científica no depende de escribir cada palabra sin apoyo, sino de conservar el control intelectual sobre argumentos, evidencias y conclusiones. El autor responde incluso cuando una herramienta propuso la frase.
Transición. Con esta idea pasamos a la diapositiva 18: Supervisión humana significativa.
Integridad
Diapositiva 18Supervisión humana significativa
Tiempo sugerido: 1 minuto 30 segundos
La supervisión humana solo es significativa cuando cumple cuatro verbos. Comprender la tarea y el límite del sistema. Comprobar la salida con evidencia o pruebas. Decidir qué se acepta, modifica o rechaza. Responder públicamente por el resultado. Un clic de aprobación no basta. Tampoco basta afirmar que “un humano estuvo en el proceso” si nadie podía detectar el error. Las instituciones deben definir quién revisa, con qué criterios y qué evidencia conserva. Este enfoque evita trasladar la responsabilidad a una tecnología que no puede responder ante participantes, comités, editores o lectores.
Transición. Con esta idea pasamos a la diapositiva 19: Integridad científica.
Diapositiva 19Integridad científica
Tiempo sugerido: 1 minuto 30 segundos
La integridad científica exige honestidad en todo el proceso. La IA no cambia las prohibiciones básicas: no fabricar datos, no falsificar resultados, no ocultar procedimientos y no atribuirse contribuciones ajenas. Sí crea nuevas formas de cometer errores a gran velocidad. Por eso necesitamos controles antes, durante y después del uso. Antes: definir propósito y riesgo. Durante: registrar prompts, salidas y decisiones relevantes. Después: verificar, declarar y corregir si aparece un problema. La transparencia no convierte una práctica incorrecta en aceptable, pero permite evaluar una práctica legítima. Declarar que se usó IA no autoriza inventar información.
Transición. Con esta idea pasamos a la diapositiva 20: Criterios de autoría.
Autoría
Diapositiva 20Criterios de autoría
Tiempo sugerido: 1 minuto 30 segundos
La autoría científica implica más que producir texto. Los criterios editoriales exigen contribución intelectual sustantiva, revisión o redacción crítica, aprobación de la versión final y responsabilidad por el trabajo. Una herramienta de IA no puede aprobar un manuscrito, declarar conflictos, transferir derechos, responder a una acusación ni asumir consecuencias. Por eso no debe aparecer como autora. Las personas que firman deben revisar la totalidad del contenido pertinente y responder por la exactitud. Si alguien solo operó una herramienta sin contribución intelectual suficiente, eso tampoco convierte automáticamente a esa persona en autora.
Transición. Con esta idea pasamos a la diapositiva 21: Por qué la IA no es autora.
Diapositiva 21Por qué la IA no es autora
Tiempo sugerido: 1 minuto 30 segundos
A veces se argumenta que, si la IA produjo mucho texto, debería recibir autoría. Esa conclusión confunde generación con responsabilidad. La autoría no es un premio por cantidad de palabras. Es una relación de responsabilidad y rendición de cuentas. El sistema no puede aceptar la versión final, explicar una decisión metodológica bajo interrogación, proteger confidencialidad ni corregir el registro científico por iniciativa propia. Podemos reconocer la herramienta y describir su función, pero no convertirla en sujeto responsable. La atribución correcta recae en las personas que diseñaron, verificaron y aprobaron el trabajo.
Transición. Con esta idea pasamos a la diapositiva 22: Declaración del uso de IA.
Transparencia
Diapositiva 22Declaración del uso de IA
Tiempo sugerido: 1 minuto 30 segundos
Una declaración útil permite comprender la intervención de la IA. Incluya el nombre de la herramienta, versión o fecha de acceso cuando sea relevante, propósito, partes afectadas y procedimiento de revisión. Un ejemplo breve sería: “Los autores utilizaron [herramienta] el [fecha] para mejorar claridad lingüística en la introducción. Verificaron y editaron todas las salidas y asumen responsabilidad por el contenido final”. Si la IA intervino en análisis, métodos o recolección, la descripción debe ser suficientemente detallada para evaluar o reproducir el procedimiento. Consulte siempre la política de la revista, porque las ubicaciones y requisitos varían.
Transición. Con esta idea pasamos a la diapositiva 23: Citación y reconocimiento.
Diapositiva 23Citación y reconocimiento
Tiempo sugerido: 1 minuto 30 segundos
La IA no debe reemplazar la cita de la fuente que respalda una afirmación. Si una respuesta menciona un estudio, cite el estudio original después de verificarlo. Cuando el contenido de una conversación con IA sea objeto de análisis o deba recuperarse, siga el estilo y la política correspondiente, considerando que muchas conversaciones no son accesibles para el lector. Para usos instrumentales, suele ser más apropiada una declaración metodológica o de agradecimiento que tratar al chatbot como fuente académica. La norma esencial es evitar dos confusiones: atribuir evidencia a la IA cuando proviene de otra fuente, y ocultar una intervención material que el lector necesita conocer.
Transición. Con esta idea pasamos a la diapositiva 24: Plagio y paráfrasis automática.
Diapositiva 24Plagio y paráfrasis automática
Tiempo sugerido: 1 minuto 30 segundos
La paráfrasis automática puede ocultar similitudes superficiales, pero no resuelve la atribución intelectual. Si una idea, método o hallazgo procede de otra obra, necesita cita aunque la redacción cambie. También existe autoplagio cuando se reutiliza material propio sin transparencia. Los detectores de IA y similitud tienen límites y no deben convertirse en jueces automáticos. La prevención más sólida consiste en tomar notas con fuentes, separar citas textuales, escribir desde la comprensión y verificar la atribución antes de enviar. La ética se demuestra en el proceso, no en lograr que un texto pase un detector.
Transición. Con esta idea pasamos a la diapositiva 25: Imágenes, tablas y datos sintéticos.
Diapositiva 25Imágenes, tablas y datos sintéticos
Tiempo sugerido: 1 minuto 30 segundos
Las imágenes generadas pueden ilustrar conceptos, pero no deben presentarse como evidencia observada. En figuras científicas, una modificación puede alterar la interpretación. Declare generación o edición y conserve los archivos originales. Los datos sintéticos pueden servir para enseñar, probar código o proteger privacidad, pero deben distinguirse claramente de datos empíricos. Nunca rellene observaciones faltantes inventando participantes plausibles. En tablas y gráficos, revise etiquetas, escalas y correspondencia con la base. Una apariencia profesional no garantiza autenticidad.
Transición. Con esta idea pasamos a la diapositiva 26: Revisión por pares y confidencialidad.
Diapositiva 26Revisión por pares y confidencialidad
Tiempo sugerido: 1 minuto 30 segundos
Quien revisa un manuscrito recibe información confidencial. Copiarlo en un chatbot externo puede violar acuerdos, propiedad intelectual y anonimato. Los revisores deben seguir la política de la revista y no delegar su juicio. Si una editorial ofrece una herramienta autorizada, también debe quedar claro qué datos procesa y qué función cumple. Los editores enfrentan el mismo deber de confidencialidad y equidad. La IA puede apoyar tareas administrativas, pero las decisiones editoriales requieren responsabilidad humana y mecanismos de apelación.
Transición. Con esta idea pasamos a la diapositiva 27: Caso 1: referencias perfectas.
Casos
Diapositiva 27Caso 1: referencias perfectas
Tiempo sugerido: 2 minutos 30 segundos
Analicemos ahora un caso muy frecuente. Un investigador solicita a una herramienta de inteligencia artificial diez referencias recientes para construir el marco teórico de su estudio. La respuesta parece excelente: aparecen autores, títulos de revistas, años de publicación y DOI con una apariencia completamente académica. Como todo parece correcto, copia la lista y redacta el apartado.
Sin embargo, cuando se realiza la comprobación, descubre que tres de los DOI no existen. Además, otros dos artículos sí son reales, pero no sostienen las afirmaciones que la herramienta les atribuyó. En otras palabras, la mitad de las referencias presenta algún problema.
¿Dónde estuvo el fallo? No estuvo necesariamente en emplear la inteligencia artificial para explorar posibles fuentes. El error consistió en transformar una respuesta generada en evidencia científica sin verificarla. La herramienta produjo información plausible, pero plausibilidad no significa autenticidad.
La actuación correcta habría sido comprobar cada título, autor, revista, año y DOI; abrir los documentos originales; confirmar que realmente respaldan las afirmaciones realizadas y registrar la estrategia de búsqueda utilizada en las bases académicas.
Ahora les planteo una pregunta: si ustedes detectaran cinco referencias problemáticas, ¿eliminarían únicamente esas cinco o revisarían todo el marco teórico?
La decisión prudente sería revisar todas las referencias y las afirmaciones asociadas. Si el mismo procedimiento produjo la lista completa, no podemos asumir que los demás registros son correctos solamente porque parecen creíbles.
Este caso nos deja una regla sencilla: la IA puede ayudarnos a descubrir posibles fuentes, pero ninguna referencia debe incorporarse sin verificar el documento original.
Transición. Con esta idea pasamos a la diapositiva 28: Caso 2: entrevistas sensibles.
Diapositiva 28Caso 2: entrevistas sensibles
Tiempo sugerido: 2 minutos 30 segundos
Veamos un segundo caso, ahora relacionado con información especialmente sensible. Un equipo investiga experiencias de violencia mediante entrevistas. Para agilizar el análisis cualitativo, decide cargar las transcripciones completas en una plataforma pública de inteligencia artificial y le solicita que identifique categorías, patrones y temas recurrentes.
El resultado parece muy útil. La herramienta organiza rápidamente la información, propone categorías coherentes y encuentra relaciones que pueden orientar el análisis. Sin embargo, la calidad del resultado no elimina el problema ético producido durante el procedimiento.
Estas transcripciones pueden contener nombres, lugares, relaciones familiares, experiencias personales y otros detalles que permitan identificar directa o indirectamente a quienes participaron. Aunque se elimine el nombre de una persona, la combinación de edad, ocupación, localidad y acontecimientos específicos podría revelar su identidad.
Además, debemos preguntarnos si el consentimiento informado autorizaba el procesamiento mediante inteligencia artificial, si la información fue transferida a servidores externos, cuánto tiempo podría conservarse y si la plataforma utiliza los contenidos para mejorar sus sistemas. También existe el riesgo de que la herramienta simplifique testimonios complejos, reproduzca sesgos o elimine elementos esenciales del contexto.
Antes de cargar la información, el equipo debía revisar el protocolo aprobado, las políticas institucionales, las condiciones de privacidad de la plataforma y el alcance real del consentimiento. También debía aplicar una anonimización rigurosa y considerar alternativas locales, institucionales o expresamente autorizadas.
Ahora imaginemos que las transcripciones ya fueron cargadas. La respuesta correcta no sería ocultarlo ni continuar como si nada hubiera ocurrido. El equipo debe detener el procesamiento, impedir nuevas cargas, informar el incidente de acuerdo con el protocolo institucional y evaluar qué información pudo quedar expuesta. Después tendrá que documentar las medidas adoptadas y determinar si los resultados obtenidos pueden utilizarse legítimamente o deben descartarse.
La enseñanza central es clara: un resultado técnicamente útil puede proceder de una práctica éticamente inaceptable. En investigaciones con información sensible, la protección de las personas debe decidirse antes de utilizar la herramienta, no después de que los datos hayan sido compartidos.
Transición. Con esta idea pasamos a la diapositiva 29: Lista de comprobación antes de usar IA.
Cierre
Diapositiva 29Lista de comprobación antes de usar IA
Tiempo sugerido: 2 minutos
Antes de utilizar inteligencia artificial en una investigación, conviene detenernos y responder ocho preguntas básicas. No se trata de completar un requisito burocrático, sino de anticipar problemas antes de que afecten a las personas, los datos o la credibilidad del estudio.
La primera pregunta es: ¿cuál es la finalidad concreta? Debemos definir exactamente para qué utilizaremos la herramienta y evitar emplearla simplemente porque está disponible.
La segunda pregunta es: ¿qué datos vamos a introducir? Necesitamos saber si contienen información personal, confidencial, inédita o protegida.
La tercera es: ¿qué daño podría producir un error, una filtración o una interpretación incorrecta? El nivel de precaución debe aumentar cuando las posibles consecuencias sean mayores.
La cuarta pregunta es: ¿cómo verificaremos el resultado? Toda salida relevante debe contrastarse con fuentes originales, datos conocidos o procedimientos reproducibles.
En quinto lugar, debemos preguntarnos: ¿qué sesgos, grupos o perspectivas podría excluir la herramienta? Una respuesta aparentemente neutral puede reproducir desigualdades presentes en los datos utilizados para construir el sistema.
La sexta pregunta es: ¿qué debemos registrar? Conviene documentar la herramienta, su versión o fecha de uso, la tarea realizada y la revisión humana aplicada.
La séptima es: ¿cómo declararemos su utilización? La transparencia debe ajustarse a las normas de la institución, la revista o el proyecto.
Finalmente: ¿quién asume la responsabilidad? La respuesta siempre debe señalar a una persona o a un equipo humano capaz de justificar las decisiones tomadas.
Si alguna respuesta es “no lo sé”, eso no significa una prohibición automática. Significa que debemos detenernos, buscar la información necesaria y resolver la incertidumbre antes de continuar.
Esta lista puede incorporarse a un protocolo, a la dirección de una tesis o a la política de un grupo de investigación. La ética funciona mejor cuando deja de ser una reacción ante el problema y se convierte en una rutina visible de trabajo.
Transición. Con esta idea pasamos a la diapositiva 30: Compromiso final.
Diapositiva 30Compromiso final
Tiempo sugerido: 2 minutos 30 segundos
Quisiera cerrar esta conferencia con una idea fundamental. La inteligencia artificial puede acelerar tareas, ampliar las alternativas disponibles y facilitar la búsqueda, el análisis y la comunicación de información. Sin embargo, la rapidez no garantiza la calidad y un resultado convincente no siempre es un resultado correcto.
La confianza científica continúa dependiendo de decisiones humanas que puedan explicarse, verificarse y documentarse. Cada investigador debe estar en capacidad de responder cuatro preguntas: ¿qué hice con la herramienta?, ¿por qué decidí utilizarla?, ¿cómo comprobé el resultado? y ¿quién asume la responsabilidad por la decisión final?
La inteligencia artificial puede proponer una referencia, pero nosotros debemos confirmar que exista. Puede generar un código, pero debemos ejecutarlo y validar sus resultados. Puede sugerir categorías para una entrevista, pero corresponde al investigador conservar el contexto y proteger a los participantes. También puede mejorar la claridad de un texto, pero no reemplazar la contribución intelectual ni la voz de sus autores.
Por eso, el compromiso que les propongo no consiste en rechazar estas herramientas ni en aceptarlas sin condiciones. Consiste en utilizarlas con propósito, prudencia, transparencia y supervisión humana significativa.
Para su próximo proyecto, elijan al menos una práctica concreta: crear una bitácora del uso de inteligencia artificial, revisar las condiciones de privacidad antes de introducir información, verificar cada referencia en su fuente original, declarar las herramientas utilizadas o establecer una política común dentro del equipo de investigación.
Una acción pequeña, aplicada de manera constante, puede prevenir problemas de confidencialidad, errores en las referencias, resultados no reproducibles y dudas sobre la autoría.
La inteligencia artificial seguirá evolucionando y las herramientas que hoy utilizamos probablemente cambiarán. Por eso, nuestra responsabilidad no puede depender de una plataforma específica. Debe apoyarse en principios científicos permanentes: verificar la evidencia, proteger a las personas, reconocer las contribuciones, explicar los procedimientos y responder por las decisiones.
La IA puede ayudarnos a avanzar con mayor rapidez, pero somos nosotros quienes debemos asegurar que ese avance conserve la confianza de la comunidad científica y de la sociedad.
Agradezco sinceramente a Dios, a RELATIC por esta invitación y a cada uno de ustedes por acompañarme. Muchas gracias. Abrazos y bendiciones.