Alrededor de la Inteligencia Artificial, es muy habitual hablar y citar los sesgos. ¿Qué tan claro se habla de los sesgos y en qué consisten? Mostrar ejemplos sueltos o búsquedas con respuestas sesgadas, es el método habitual. Pero el problema parece ser mayor que hechos anecdóticos. Un estudio de varios investigadores de la Universidad de Michigan expone un sesgo de género realmente preocupante.
Según Alex Rayón Jerez un aspecto clave en el prompting es definir el rol con el que actuará el agente conversacional. Pues bien, cuando este rol es definido de forma masculina o neutral, ofrece mejores respuestas (en términos de acierto) que cuando es definido para actuar con rol femenino. ¿Por qué? Al definir roles como “mentor”, “socio” o “chatbot” (masculinos), son realmente eficientes en dar respuestas. No tanto roles como “asesora”, “guía” o “mentora”. Esto nos lleva a la conclusión de siempre: los algoritmos regurgitan lo que estudian/aprenden. Es decir, el problema lo tenemos en la materia prima, en los datos. Si llevamos anclados importantes sesgos por décadas, tenemos trabajo por delante en expresar y llevar los datos a una mayor neutralidad. Y esto empieza por ser consciente de esta limitación que tenemos.
El plagio y las alucinaciones de la IA… y de los humanos
Si se hace una rápida búsqueda en Google, se puede observar cómo hay numerosas web hablando de que la IA “plagia” o “alucina”. Con independencia de la opinión que tenga de estos manifiestos (se la puede imaginar), pensaba en que claro, los humanos no cometemos tales fechorías. He pensado mucho en esta semana en ello tras saber que la Presidenta (Rectora) de la Universidad de Harvard ha tenido que dimitir. No directamente por su aparente plagio en serie, pero sí parece que siendo éste un elemento importante. ¿Qué es plagiar?
Detalles
- Definir el plagio en el mundo académico es complicado, por básico que parezca. ¿Qué es plagiar en la práctica? Por ejemplo, parafrasear (que para la IA Generativa es básicamente decirle que lo redacte con un estilo distinto). ¿Es plagio? Es un tema debatido en la ciencia de la ética académica. En este estudio se habla mucho de ello.
- ¿Cómo citar algo técnico o un hecho histórico? Es complicado. Los que hemos escrito una tesis doctoral, sabemos que muchas veces es complicado describir algo complejo pensado o diseñado por un tercero. Muchas veces entrecomillamos y atribuimos.
- La atribución o cita: ¿poner entrecomillado es suficiente? En la literatura muchas veces se dice que estás siendo “vago” en la interpretación y explicación. Es decir, que no entiendes lo que citas. Entonces, ¿lo parafraseo? Volvemos al punto inicial.
¿Por qué es relevante?
Sarah Elaine Eaton, de la Universidad de Calgary (Canadá), que lleva años estudiando la ética académica de las universidades y tiene numerosas publicaciones en el tema, dice que éste es el mayor debate ahora mismo en la ciencia académica: la disyuntiva entre citar explícitamente sin entender vs. parafrasear. Esto, en la era de la IA Generativa, va a generar aún más debates.
Otras consideraciones*
El estudio mencionado, liderado por el profesor Douglas Oard que se basó en un análisis de 100.000 respuestas de ChatGPT, publicado en la revista ACM Transactions on Information Systems en el que analizaban si lo que hace ChatGPT, un modelo de lenguaje grande (LLM) desarrollado por OpenAI, se puede considerar plagio. El estudio encontró que ChatGPT a menudo copiaba texto de fuentes sin citarlas, y que en algunos casos incluso cambiaba ligeramente el texto para evitar ser detectado.
Los investigadores del estudio definieron el plagio como «la apropiación de la propiedad intelectual de otra persona sin su permiso o reconocimiento». En este sentido, el estudio encontró que ChatGPT sí comete plagio, ya que copia contenido de fuentes externas sin citarlas.
El estudio también encontró que el riesgo de plagio aumenta cuando ChatGPT se le pide que genere texto sobre temas que son familiares para el modelo. Por ejemplo, el estudio encontró que ChatGPT tenía un mayor riesgo de plagiar contenido cuando se le pedía que generara texto sobre temas de actualidad o sobre temas que había discutido previamente.
Los investigadores del estudio concluyen que ChatGPT es una herramienta poderosa que puede ser utilizada para generar texto creativo y informativo. Sin embargo, los usuarios de ChatGPT deben ser conscientes del riesgo de plagio y deben tomar medidas para evitarlo.
Algunas recomendaciones para evitar el plagio al usar ChatGPT*:
- Siempre cite las fuentes de las que obtienes el texto.
- Usa una herramienta de detección de plagio para comprobar si tu texto contiene contenido plagiado.
- Revisa cuidadosamente tu texto para detectar cualquier contenido plagiado.
El estudio de la Universidad de Michigan es un importante aporte al debate sobre el plagio en la era de la inteligencia artificial. Los resultados del estudio sugieren que los usuarios de LLM deben ser conscientes del riesgo de plagio y deben tomar medidas para evitarlo.
Fuente: * Bard de Google
Editado con IA y publicado por Contenidos Digitales de Ingenieros de Marketing IMKGlobal
Te invitamos a visitar nuestros sitios web donde encontrarás recursos y artículos interesantes
Portales United States
Portales Latinoamérica
www.ingenierosdemarketing.com.co
