SciELO - Scientific Electronic Library Online

 
vol.5 número11Ejecución de obras por administración directa y presupuesto por resultados en un gobierno local del PerúConstructo multidimensional de gestión del riesgo municipal para grupos vulnerables: Revisión teórico-conceptual en el contexto latinoamericano índice de autoresíndice de materiabúsqueda de artículos
Home Pagelista alfabética de revistas  

Servicios Personalizados

Revista

Articulo

Indicadores

Links relacionados

  • No hay articulos similaresSimilares en SciELO

Compartir


Revista Impulso

versión impresa ISSN 2959-9040versión On-line ISSN 2959-9040

Impulso vol.5 no.11 Potosí jul. 2025  Epub 02-Jul-2025

https://doi.org/10.59659/impulso.v.5i11.138 

ARTICULO DE INVESTIGACION

La importancia de la ética en la investigación en inteligencia artificial: Implicaciones y perspectivas

The importance of ethics in Artificial Intelligence research: Implications and perspectives

A Importância da Ética na Investigação em Inteligência Artificial: Implicações e Perspectivas

Betty Elizabeth Lázaro Soto1 
http://orcid.org/0000-0002-3758-0817

Roberth Julio Contreras Rivera1 
http://orcid.org/0000-0003-3188-3662

Arístides Alfonso Tejada Arana1 
http://orcid.org/0000-0002-8905-3082

Carlos Andrés Cesar Incasoller Vilca1 
http://orcid.org/0000-0001-5145-2101

1Universidad César Vallejo. Lima, Perú


RESUMEN

La inteligencia artificial (IA) ha revolucionado múltiples campos, desde la medicina hasta la economía, prometiendo mejoras significativas en eficiencia y capacidades. Sin embargo, este avance tecnológico trae consigo una serie de desafíos éticos que deben ser abordados para asegurar un desarrollo y aplicación responsable de la IA. De esta forma, se realizó una revisión sistemática, con el objetivo de argumentar la importancia de la ética en la investigación en inteligencia artificial necesidad fundamental para garantizar que esta tecnología beneficie a la humanidad en su conjunto. Se definieron algunos artículos para la construcción de la introducción, para una mejor comprensión del tema y, como material de discusión, se seleccionaron ocho estudios, que abordan la problemática que se investiga. En este contexto, fue posible inferir, los procederes, implicaciones y perspectivas sobre la importancia de la ética en la investigación en inteligencia artificial.

Palabras clave: Avance tecnológico; Ética; Inteligencia artificial; Investigación; Perspectivas

ABSTRACT

Artificial intelligence (AI) has revolutionized multiple fields, from medicine to economics, promising significant improvements in efficiency and capabilities. However, this technological advancement brings with it a series of ethical challenges that must be addressed to ensure the responsible development and application of AI. A systematic review was conducted to argue the importance of ethics in artificial intelligence research, a fundamental need to ensure that this technology benefits humanity as a whole. Several articles were selected for the introduction, providing a better understanding of the topic, and eight studies were selected as discussion material, addressing the issue under investigation. In this context, it was possible to infer the procedures, implications, and perspectives on the importance of ethics in artificial intelligence research.

Keywords: Technological advancement; Ethics; Artificial intelligence; Research; Perspectives

RESUMO

A inteligência artificial (IA) revolucionou diversos campos, desde a medicina à economia, prometendo melhorias significativas na eficiência e nas capacidades. No entanto, este avanço tecnológico traz consigo uma série de desafios éticos que devem ser enfrentados para garantir o desenvolvimento e a aplicação responsáveis da IA. Foi conduzida uma revisão sistemática para discutir a importância da ética na investigação em inteligência artificial, uma necessidade fundamental para garantir que esta tecnologia beneficia a humanidade como um todo. Foram selecionados vários artigos para a introdução, proporcionando uma melhor compreensão do tema, e foram selecionados oito estudos como material de discussão, abordando a questão em investigação. Neste contexto, foi possível inferir os procedimentos, as implicações e as perspetivas sobre a importância da ética na investigação em inteligência artificial.

Palavras-chave: Avanço tecnológico; Ética; Inteligência artificial; Pesquisa; Perspectivas

INTRODUCCIÓN

Durante los últimos tres siglos, se suele hablar de tres grandes revoluciones industriales. La primera vinculada al desarrollo del ferrocarril y al motor de vapor para mecanizar la producción. La segunda relacionada a la energía eléctrica y la cadena de montaje para desarrollar la producción en masa. La tercera revolución se ubica a partir del surgimiento de la electrónica, los ordenadores y la tecnología de la información para automatizar la producción.

Actualmente transitamos una nueva revolución que se vincula con varios fenómenos (nanotecnología, biotecnología, robótica, internet de las cosas, impresión 3d). El más disruptivo de todos, es producto del desarrollo de la inteligencia artificial, que se presenta como una innovación vinculada a los avances tecnológicos relacionados con el procesamiento de información y de los datos (también en esta área se encuentran otras invenciones del siglo pasado como el ordenador, internet, la world wide web -www-, los motores de búsqueda, etc.). La “Cuarta Revolución Industrial” tiene su epicentro en el aumento exponencial de dos factores: capacidad de almacenamiento y velocidad de procesamiento de la información y de los datos.

El avance de la tecnología alcanza el pico más alto en el campo educativo, especialmente en la educación universitaria, donde la implementación de la Inteligencia Artificial (IA) exhibe un crecimiento significativo, lo cual plantea retos importantes, pero al mismo tiempo abre grandes oportunidades (Zamora y Mendoza, 2023).

La ética en la investigación engloba un conjunto de principios y directrices diseñados para guiar el comportamiento de los investigadores, asegurando que sus estudios se lleven a cabo de manera equitativa, honesta y respetuosa tanto con los participantes como con la sociedad en general. Este concepto abarca varias dimensiones, como la integridad científica, el respeto por los derechos y la dignidad de los seres humanos y los animales, la transparencia, y la responsabilidad social (Zamora y Mendoza, 2023).

El respeto hacia los individuos implica que los participantes sean considerados como seres autónomos, mientras que aquellos con limitaciones en su autonomía deben recibir salvaguardias adicionales. La beneficencia implica buscar maximizar los aspectos positivos y reducir al mínimo los riesgos potenciales. La justicia, por su parte, demanda que los beneficios y las responsabilidades derivadas de la investigación se distribuyan de manera justa y equitativa entre todos los involucrados (Marzal y Vivarelli, 2024).

Es de vital importancia que el consentimiento del individuo sea otorgado de manera voluntaria. Esto implica que la persona en cuestión debe tener la capacidad legal para dar su consentimiento y debe estar en una posición donde pueda ejercer su libre albedrío sin ser influenciada por la fuerza, el fraude, el engaño, la coerción o cualquier otro tipo de restricción (Zamora y Mendoza, 2023, p. 4).

La ética en la investigación en inteligencia artificial implica más que cumplir con estándares mínimos; requiere un enfoque proactivo que aborde los desafíos emergentes, desarrolle modelos sólidos y establezca políticas para garantizar la transparencia y la equidad en el ciclo de vida de los proyectos. Esto asegura que la IA avance en línea con los valores éticos y contribuya al bienestar humano y social. (Terrones y Rocha, 2024).

La ética en la investigación en inteligencia artificial es crucial para construir sistemas sensibles y responsables socialmente. Requiere considerar no sólo la eficacia de los algoritmos, sino también su impacto en la sociedad y los derechos humanos. Esto exige un enfoque multidisciplinario que integre conocimientos técnicos, éticos y legales, promoviendo una cultura ética en la comunidad de IA para maximizar sus beneficios y minimizar sus riesgos. (Del Pilar et al., 2022.).

La aplicación de la inteligencia artificial en la preservación de la integridad académica de manera ética tiene su seguimiento en los procedimientos de enseñanza y evaluación en cursos de Derecho a nivel universitario (Navarro, 2023). Está concebida como disciplina orientada hacia el aprovechamiento de tecnologías digitales para poder desarrollar funciones cognitivas humanas, compresión y adaptación hacia un margen ético. (Parra y Concha, 2021).

La inteligencia artificial ha avanzado de una manera rápida en estos últimos años y ha generado un cambio radical en la manera de ver su entorno y en la toma de decisiones (Castellanos, 2023). Para otras personas ayudándolas mucho en el ámbito educativo, como en la manera administrativa de llevar un cronograma de enseñanza para los estudiantes, esta IA puede ser de mucha utilidad si se usa de la manera correcta. (Goenechea y Valero, 2024).

Sin embrago puede tener otras implicaciones como en el ámbito de la justica, que en este entorno hay una gran discrepancia sobre sus veredictos dictado en un corte, ya que, como este recurso, aún está en mejora, puede que por el momento no se su mejor ámbito (Jiménez, 2023). Desde que se hizo público unas de las derivaciones de la IA (chat GPT), influyó en muchos ámbitos, las más recurrente fueron la educación y la investigación (Lindín, 2024).

Este artículo ofrece un resumen amplio de la investigación que examina cómo se aplica la Inteligencia Artificial en la educación universitaria mediante un análisis detallado y organizado. (Zawacki et al., 2019)

Este estudio se justifica por la necesidad imperante de abordar los dilemas éticos y sociales que acompañan al desarrollo y la adopción de esta tecnología. Al profundizar en las ramificaciones éticas de la IA, podemos identificar y enfrentar de manera proactiva los posibles riesgos y desafíos éticos asociados. Este análisis permite promover la responsabilidad y la transparencia en todas las fases del proceso de desarrollo y aplicación de la IA, desde su concepción hasta su integración en la sociedad.

Además, al explorar la ética en la IA, también permite examinar cómo garantizar que esta tecnología beneficie a toda la sociedad de manera equitativa y justa. Esto implica abordar preocupaciones como el sesgo algorítmico, la equidad en el acceso y las repercusiones socioeconómicas de la automatización impulsada por la IA. Al comprender mejor estos aspectos éticos, se avanza sin dudas hacia un futuro en el que la IA se utilice para mejorar la calidad de vida y promover el bienestar colectivo.

Por ello, el propósito de esta investigación es argumentar la importancia de la ética en la investigación en inteligencia artificial necesidad fundamental para garantizar que esta tecnología beneficie a la humanidad en su conjunto, ya sea de manera intencional o no, al llevar a cabo el uso de la inteligencia artificial. Además, la importancia de esta investigación ha surgido por la alta tendencia que tiene su uso en los estudiantes y de cómo suelen sacarle provecho a esta herramienta de una manera no ética.

MÉTODO

Esta investigación fue desarrollada bajo una revisión sistemática en bases de datos que contenían literatura científica entre 2020 y 2024. Se utilizó un enfoque cualitativo, básico, de diseño teórico de revisión sistemática. En la etapa de identificación, se lleva a cabo una búsqueda exhaustiva de literatura relevante en diversas fuentes para identificar todos los estudios pertinentes. Mientras que, en la etapa de selección, se realiza una evaluación inicial de los estudios identificados para determinar su relevancia, revisando títulos y resúmenes para aplicar criterios de inclusión y exclusión.

Después de esta fase, en la etapa de elegibilidad, se lleva a cabo una evaluación detallada de los textos completos de los estudios seleccionados, con el objetivo de confirmar su idoneidad y pertinencia. Finalmente, en la etapa de inclusión, se incluyen los estudios que cumplen con los criterios de elegibilidad en la revisión sistemática, utilizando estos como base para el análisis y la síntesis de la revisión.

Para la búsqueda de los artículos científicos se aplicaron los siguientes criterios de inclusión:

Artículos que aborden el tema investigado sobre la importancia de la ética en la inteligencia artificial.

Artículos publicados recientemente del 2020 al 2024.

Artículos que sean buscados en Scopus y Scielo.

Para el criterio de exclusión se tuvo en cuenta los siguientes pasos:

Documentos primarios, Informes, Publicaciones profesionales, Críticas, Materiales de conferencias.

Textos protegidos y sin acceso abierto.

Investigaciones que se centren exclusivamente en el ámbito ético sin considerar a la inteligencia artificial.

Artículos científicos escritos en idiomas distintos al español e inglés.

Cabe señalar aquí que la selección de artículos para el estudio partió de la interpretación y análisis crítico personal del autor, quien optó por materiales con informaciones más convenientes para el estudio aquí presentado y que van en contra de las perspectivas del mismo. Como criterios de inclusión, se consideraron artículos originales, que abordaran el tema investigado y permitieran el acceso completo al contenido del estudio. Como criterios de exclusión, se consideraron artículos repetidos en las bases de datos investigadas, con un enfoque diferente al buscado, fecha de publicación anterior a 2020, no pertinencia del artículo después de la lectura completa y que no estuvieran disponibles en su totalidad.

Para rescatar artículos científicos importantes para el estudio, se realizó un plan de búsqueda en la base de datos SCOPUS y Scielo. La búsqueda se realizó hasta el 02 de junio del 2024, fijando que se seleccionó la información más actualizada. Para una mejor operatividad de la búsqueda, se usaron descriptores específicos relacionados con las categorías inteligencia artificial, importación de la ética en la investigación, perspectiva de la ética. Estos descriptores y con la ayuda de operadores booleanos, ayudaron a refinar los resultados de búsqueda y enriquecieron los hallazgos generales de la búsqueda. Al utilizar este enfoque, durante la investigación se puedo mejorar la recuperación de datos convenientes, fijando un análisis completo y firme del tema de investigación.

Durante el proceso de selección, la indagación se realizó con procedencia en descriptores predeterminados en las bases de datos SCOPUS y Scielo, se utilizó como fuente elemental de información. Para mejorar la indagación, se utilizó una combinación de descriptores y palabras clave, acompañado de operadores booleanos como AND y NOT. Los descriptores y palabras claves empleadas abarcaron las categorías inteligencia artificial, importación de la ética en la investigación y, implicaciones y perspectiva de la ética, siendo la ruta de búsqueda en español: (“inteligencia artificial”) AND (“ética en la investigación”) OR (“moralidad en la investigación”))). Asimismo, la ruta de búsqueda in inglés fue: (“artificial intelligence”) AND (“ethics in research”) OR (“morality in research”).

Además, mientras en el proceso de indagación, se sostuvieron registros minuciosos de datos preliminares y fuentes seleccionadas en un formulario pleno de recaudación de datos. Se especificaron diligentemente datos clave como el año de su difusión, país de origen, título de la publicación, nombre de la revista, así como los objetivos del estudio y aspectos metodológicos. Esta visión sistemática sostuvo que toda la información destacada se registrara correctamente, lo que favoreció el posterior análisis y evaluación de las fuentes escogidas. Siguiendo este estricto procedimiento, la investigación tuvo como objetivo recaudar una extensa y diversa gama de literatura para apoyar sus objetivos y garantizar una base sólida para un examen y una síntesis más profundos.

Los artículos fueron analizados según año de publicación, objetivos, país donde se realizó el estudio, población y selección de la muestra, diseño del estudio, instrumentos de recolección de datos, principales resultados y limitaciones identificadas.

Figura 1 Diagrama de flujo de proceso de selección de artículos científicos 

En esta primera fase de identificación se obtuvo un total de 80 artículos que continuaron a la fase de cribado, donde 48 fueron destacados de acuerdo a sus objetivos, metodología y resultados. Quedaron 19 artículos en la fase de idoneidad para la realización de lecturas completas, pudiéndose hallar 5 artículos no relevantes para el estudio en desarrollo y, finalmente, 8 artículos para los análisis respectivos en los que se busca determinar la importancia de la ética en la investigación, perspectiva de la ética.

DESARROLLO Y DISCUSIÓN

Una vez realizada la selección con base en criterios de inclusión y exclusión, se organizaron de la siguiente manera:

Tabla 1 Artículos analizados 

En cuanto al origen de los artículos científicos seleccionados, 2 artículos fueron de Colombia, España, Perú, y 1 fue publicado en el país de Chile, 4 artículos de fueron publicados en el año 2024, 1 artículo el 2021, 2 artículo el 2023, 1 artículo de 2021, siendo un total de 8 artículos durante el periodo 2020-2024 y la media 2 artículos. Así mismo los autores destacaron los beneficios potenciales del enfoque de aula invertida para mejorar los resultados del aprendizaje de idiomas.

En relación con las investigaciones sobre la importancia de la ética en la investigación, perspectiva de la ética, se identificó que el mayor número de investigaciones halladas datan del 2024. Asimismo, estas investigaciones se habrían realizado en España. Destaca una predominancia de estudios cuantitativos, como se muestra en la Tabla 1.

Dentro de las perspectivas de la ética y su implicación en la IA que contribuyen en la calidad educativa de acuerdo con los hallazgos de la Tabla 1, es importante considerar el aprendizaje en el estudiante como un fin en la calidad educativa. Prince, (2024) plantea que la IA y la innovación del docente destacan como competencias esenciales para mejorar la calidad educativa universitaria, pues facilitan los procesos de aprendizaje.

El citado autor platea que sugiere que las empresas que adoptan metas específicas de cambio climático tienden a mejorar su desempeño ambiental. Esto puede interpretarse como un beneficio potencial significativo para tu estudio, ya que resalta cómo las empresas éticas no solo establecen objetivos ambientales, sino que también los cumplen, contribuyendo así a la mitigación del cambio climático de manera efectiva. Podrías explorar cómo estas metas están alineadas con principios éticos y cómo las prácticas de RSE pueden fortalecer el compromiso de las empresas con la sostenibilidad ambiental.

En ese sentido, (Vera y Pico, 2024) plantean que la IA, la participación activa y la observación reflexiva en el rendimiento del aprendizaje de los estudiantes guardan una estrecha relación entre sí y, por lo tanto, deben ser atendidas, aunque presenta ventajas significativas, también conlleva retos.

Contextualización de la inteligencia artificial

El término “inteligencia artificial” (IA) fue acuñado por John McCarthy en 1956 haciendo alusión a “la ciencia e ingenio de hacer máquinas inteligentes”. Coloquialmente, el término inteligencia artificial se aplica cuando una máquina imita las funciones cognitivas que los humanos asocian con otras mentes humanas, como, por ejemplo: percibir, razonar, aprender y resolver problemas.

La informática y la digitalización de los procesos tecnológicos lleva entre nosotros decenas de años de haberse inventado. En particular, el uso de algoritmos y modelos matemáticos para procesar bastos archivos de datos registrados digitalmente tiene solo algunos quinquenios. Los tecnólogos y científicos informáticos lo han venido llamando a este proceso: inteligencia artificial, término controversial, pues se consideraba la inteligencia como cualidad exclusiva del ser humano, sin embargo, el mencionado término es disuasivo para nuestros tiempos. A continuación, presentamos las posturas de algunos doctrinarios al definir qué es la Inteligencia Artificial.

Zamora y Mendoza (2023) señalan que, la Inteligencia Artificial puede ser definida hoy como una simulación de la inteligencia humana en una máquina, con el objetivo de hacerla eficiente para identificar y usar los fragmentos correctos del conocimiento para solucionar un problema.

Padilla, (2019), en su artículo denominado, “La inteligencia artificial y su impacto en la enseñanza y el ejercicio del derecho”, proponen el concepto siguiente: la inteligencia artificial (IA), puede ser entendida como la utilización de tecnologías para imitar a la inteligencia humana, a través de máquinas o sistemas programados para ejercitar acciones humanas, como usar información, razonar, corregir, validar, entre otros”. (Ferreira, 2022, pág. 116)

Asimismo, (Ocaña; Valenzuela, y Garro, 2019), sostiene: Que la “IA es una herramienta poderosa en la toma de decisiones y la automatización del big data o metadata”.

(…) IA tiende a ser un machine learning, una maquina con capacidad de aprender, imitar, crear, entender, con cierta sensibilidad desarrollada, uso de un lenguaje y capacidad para la percepción del ambiente. Para su estudio la subdividimos en inteligencia artificial predictiva (IAP) e inteligencia artificial generativa (IAG). (p.127)

Por ende, la IA facilitará el desarrollo de la educación a nivel superior siempre y cuando todos estén en la misma sincronía de conocimiento o mínimamente se consolide un conocimiento constructivo.

Las herramientas y sistemas de gestión de proyectos en los módulos o funcionalidades que destinan a la gestión de los procesos de recursos humanos y a las tareas asociadas a estos tramitan un volumen considerable de información que puede ser utilizada para ayudar a los administradores o gestores de proyectos en la formación de los miembros de los equipos (Merino, 2021, pág. 43).

De las anteriores definiciones, podemos señalar que la IA es considerada como una herramienta tecnológica que ayuda al ser humano a desarrollar con mayor rapidez a procesar la información obtenida, lo que resulta benéfico por que ahorra tiempo, facilita la organización de datos y, a su vez, ofrece diferentes propuestas para la solución de algún problema o conflicto.

Ahora bien, si actualmente el uso de la IA en el ámbito laboral tiene gran relevancia pues ofrece oportunidades de desarrollo que benefician en gran medida a la actividad económica, surge la interrogante sí la implementación de las IA puede reemplazar al ser humano especialmente en sus actividades laborales, y si en verdad, puede provocar un mayor índice de desempleo.

En ese sentido, uno de los elementos importantes a destacar es que, en nuestra opinión, la Inteligencia Artificial no puede sustituir o reemplazar al ser humano, pues carece del razonamiento lógico del hombre y de sus motivaciones emocionales que le permiten expresar su diversidad de capacidades y habilidades intelectivas (Goleman, 2006), en cambio, la IA procesa datos en gran cantidad y presenta respuestas, a veces superficiales, que le impiden estar al mismo nivel con los humanos en tareas o actividades.

En la siguiente tabla, se enlistan las características de la Inteligencia Artificial y la Inteligencia Humana:

Tabla 2 Características de la Inteligencia Artificial y la Inteligencia Humana 

Beneficios de la aplicación de la IA para la investigación en la ética educativa

La Inteligencia artificial es una herramienta muy útil para la ética en el ámbito educativo. En este apartado analizamos los beneficios que ofrece al hacer uso de ella, por ejemplo: la personalización del aprendizaje, la realización de actividades o tareas administrativas con mayor eficiencia y facilita la evaluación desempeño de los estudiantes, ahorrando tiempo en procesos repetitivos.

El primero de ellos, la personalización del aprendizaje: la inteligencia artificial puede ayudar a los profesores a entender mejor cómo aprenden los estudiantes y qué necesitan para obtener logros en su proceso de enseñanza, de tal manera que les puedan ofrecer materiales y métodos de enseñanza que se ajusten a cada uno, conforme a sus capacidades y habilidades, haciendo que el aprendizaje sea más significativo, efectivo y personalizado.

El análisis de datos educativos a través de la IA permite identificar patrones y tendencias en el rendimiento y los resultados educativos. Esta información es valiosa para tomar decisiones basadas en datos y adaptar y mejorar los programas de estudio y la enseñanza de manera más efectiva. (Cruz, 2024, págs. 87-88).

Segundo, la realización de tareas administrativas o realizarlas con mayor rapidez: el uso de la inteligencia artificial puede encargarse de realizar tareas administrativas, tales como gestionar los registros de alumnos, del registro de asistencia y notas, hacer horarios de forma automática, calificar exámenes, revisar actividades, hacer pases de lista, entre otros aspectos de la gestión académica administrativa.

Por otro lado, la automatización de estas tareas administrativas y la corrección de exámenes liberan tiempo para que los profesores puedan dedicarse más a la enseñanza y al apoyo individualizado a los estudiantes. Esto facilita una atención más personalizada y una mayor interacción en el proceso educativo (Cruz, 2024, págs. 87-88).

Con la utilización de la IA, los profesores tendrán más tiempo para estar frente a clases y ayudar a los estudiantes, pues podrán concentrarse en planificar actividades que permitan desarrollar habilidades cognitivas en sus estudiantes y ejercitar incluso actividades de tutoría con apoyo de la IA, dando como resultado mayor rendimiento académico.

Tercero y último, mejora del proceso de retroalimentación y evaluación: la IA puede analizar datos sobre el rendimiento de los estudiantes durante su formación profesional, a partir de estos resultados puede ayudar a los alumnos a identificar futuros contextos laborales y entender en qué aspectos académicos o cognitivos necesitan mejorar y en qué áreas deben fortalecer sus habilidades.

Los sistemas de IA permiten proporcionar retroalimentación rápida y precisa en evaluaciones y correcciones, lo que ayuda a los estudiantes a comprender sus fortalezas y áreas de mejora de manera más efectiva. Esta retroalimentación personalizada contribuye a un aprendizaje más significativo y orientado al crecimiento (Cruz, 2024, pág. 12).

Otro de los aspectos positivos que benefician a los docentes al obtener esta información, pueden identificar los puntos a mejorar y establecer mecanismos o métodos de enseñanza y ofrecer apoyo a cada estudiante.

Son innegables los beneficios de la IA en la enseñanza superior, entre los que se destacan: despertar interés en el aprendizaje, ayudar en la producción de textos, realizar la retroalimentación personalizada, generar mayor participación, promover el aprendizaje personalizado y oportuno, mejorar el rendimiento académico, brindar asistencia a disposición del estudiante, entre otros.

Discusión

La revisión sistemática arrojó que el uso de la IA trae preocupaciones éticas relacionadas con respecto a quien asumen la responsabilidad, la toma de decisiones y la rendición de cuentas, cuando un sistema basado en IA presenta errores o peligros para el ser humano y la sociedad en general. Al respecto, Morcela (2022) señala que, si bien es cierto que la IA puede mejorar la eficiencia y productividad en el sitio de trabajo, también existe el riesgo de inconvenientes de equidad y ausencia de control humano. Por consiguiente, es importante que las organizaciones analicen cuidadosamente las implicaciones de la automatización antes de implementarla. Tomando en cuenta, que la posibilidad actual de sustituir el criterio humano por el de la IA para la toma de decisiones es limitada, aunque para actividades rutinarias puede ser un buen complemento para optimizar el trabajo.

Los resultados indican la existencia de un nuevo revuelo sobre la importancia de la ética en la investigación en inteligencia artificial, pero se tiene que ser consciente de sus límites reales, que generan un desafío a los docentes (Zavala y Alfaro, 2020), aunque luego aluden a que desde hace varias décadas ha estado experimentando la irrupción de las Tecnologías de la Información y la Comunicación y al mismo tiempo ha sido testigo de su evolución, así como de cuánto puede aportar en la conformación de un proceso educativo mucho más atractivo, motivador y desarrollador.

Respecto a las limitaciones del proceso de revisión, la dependencia de estudios publicados en bases de datos académicas podría haber introducido un sesgo de publicación. Es posible que estudios con resultados negativos o neutrales no hayan sido publicados o incluidos en la revisión, sesgando los resultados hacia interpretaciones más positivas de la ética en la IA. Para mitigar este sesgo potencial, se podría haber considerado la inclusión de informes técnicos, tesis y otros tipos de literatura no publicada formalmente.

Los resultados de la revisión tienen importantes implicaciones para la práctica y las políticas relacionadas con la ética en la IA. Los hallazgos subrayan la necesidad de implementar marcos éticos sólidos y flexibles que guíen el desarrollo y uso responsable de la IA. Esto sugiere que los desarrolladores, legisladores y educadores deben integrar la ética como un componente esencial en la IA para asegurar su alineación con los valores y principios sociales y humanos.

Para investigaciones futuras, sería beneficioso realizar estudios comparativos que examinen el impacto de la ética en la IA en diferentes contextos culturales y normativos. Esto permitiría identificar las mejores prácticas y considerar adaptaciones a necesidades específicas. Sin embargo, es crucial abordar las limitaciones señaladas y continuar investigando para obtener una comprensión más profunda y completa de las implicaciones éticas en el contexto de la inteligencia artificial.

La lucha contra los sesgos y la búsqueda de la equidad son fundamentales para asegurar que la IA no perpetúe las injusticias existentes. La protección de la privacidad y de los datos no solo son derechos fundamentales, sino también la base de la confianza en la tecnología (Orengo, 2022).

CONCLUSIONES

Los resultados obtenidos en este artículo, han revelado una notable diversidad de valoraciones y criterios sobre la variable objeto de estudio que impactan en la importancia de la ética en la investigación en inteligencia artificial. El estudio indica que la importancia de la ética en la investigación en la IA, la ética juega un papel fundamental en la investigación en Inteligencia Artificial (IA), ya que guía el desarrollo, implementación y uso de estas tecnologías emergentes. La ética orienta el diseño de IA para maximizar los beneficios sociales y minimizar los riesgos y efectos adversos.

La tecnología influye en ámbitos que tienen como uno de sus máximos componentes la moralidad y la ética, la tecnología debe adaptarse al ritmo de los mismos, para no exacerbar la discriminación y la desigualdad. Hoy la revolución es sesgada, por el rápido ritmo que lleva, por quienes la controlan y por el uso que se le da. Reproduce estereotipos que excluyen a minorías, y, sino se adaptan estas tecnologías a los nuevos valores, solo se fomentará la fracción de la sociedad, una sociedad menos humana, menos democrática, y, en definitiva, en retroceso.

Finalmente, es importante destacar que la ética en la investigación de IA también impulsa la creación de normas y regulaciones adecuadas para guiar su desarrollo y aplicación ética en la sociedad, para concluir la ética en la investigación en IA es esencial para garantizar que estas tecnologías avancen de manera responsable, beneficiando a la sociedad en su conjunto y minimizando riesgos potenciales. Integrar principios éticos desde las etapas iniciales de investigación es fundamental para un futuro de IA ética y sostenible.

REFERENCIAS BIBLIOGRÁFICAS

Argandoña, A. (2019). Ética e inteligencia artificial (I). Obtenido de IESE: https://blog.iese.edu/antonioargandona/2019/03/25/etica-e-inteligenciaartificial-i/Links ]

Bolaño-García, M. y Duarte-Acosta, N. (2024). Una revisión sistemática del uso de la inteligencia artificial en la educación. Revista Colombiana de Cirugía, 39(1), 51-63. https://doi.org/10.30944/20117582.2365. [ Links ]

Castellanos Claramunt, J. (2023). Sobre los desafíos constitucionales ante el avance de la Inteligencia Artificial. Una perspectiva nacional y comparada. Revista de Derecho Político, (118), 261-287. https://doi.org/10.5944/rdp.118.2023.39105. [ Links ]

Flores-Vivar, J., y García-Peñalvo, F. (2023). Reflections on the ethics, potential, and challenges of artificial intelligence in the framework of quality education (SDG4). [Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad (ODS4)]. Comunicar, 74, 37-47. https://doi.org/10.3916/C74-2023-03. [ Links ]

Goenechea, C., y Valero-Franco, C. (2024). Educación e Inteligencia Artificial: Un Análisis desde la Perspectiva de los Docentes en Formación. REICE. Revista Iberoamericana Sobre Calidad, Eficacia Y Cambio En Educación, 22(2), 33-50. https://doi.org/10.15366/reice2024.22.2.002. [ Links ]

Garcia-Lopez, A., Girón-Luque, F., y Rosselli, D. (2023). La integración de la inteligencia artificial en la atención médica: desafíos éticos y de implementación. Universitaria Medica, 64(3). https://doi.org/10.11144/Javeriana.umed64-3.inte. [ Links ]

Gallent Torres, C., Zapata González, A., y Ortego Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. RELIEVE - Revista Electrónica De Investigación Y Evaluación Educativa, 29(2). https://doi.org/10.30827/relieve.v29i2.29134. [ Links ]

González -Campos, J., López - Núñez, J., y Araya - Pérez, C. (2024). Educación superior e inteligencia artificial: desafíos para la universidad del siglo XXI. Aloma: Revista De Psicologia, Ciències De l’Educació I De l’Esport, 42(1), 79-90. https://doi.org/10.51698/aloma.2024.42.1.79-90. [ Links ]

Jia, X-H, Tu, J-C (2024). Towards a New Conceptual Model of AI-Enhanced Learning for College Students: The Roles of Artificial Intelligence Capabilities, General Self-Efficacy, Learning Motivation, and Critical Thinking Awareness. Systems, 12(3), 74. https://doi.org/10.3390/systems12030074. [ Links ]

Jiménez Cardona, N. (2023). Aplicación de la inteligencia artificial en la toma de decisiones jurisdiccionales (España). REVISTA QUAESTIO IURIS, 16(3), 1612-1630. https://doi.org/10.12957/rqi.2023.74187. [ Links ]

Morcela, O. A. (2022). ChatGPT: La IA está aquí y nos desafía. AACINI - Revista Internacional de Ingeniería Industrial, 3(6). http://www3.fi.mdp.edu.ar/otec/ revista/index.php/AACINI-RIII/article/view/67Links ]

Orengo, K. (2022). La Inteligencia artificial desde la perspectiva de los desafíos éticos, el transhumanismo y la lucha por el totalitarismo tecnológico. Revista Umbral, 1(18). https://revistas.upr.edu/index.php/umbral/article/view/20686Links ]

Vera, F. (2023). Integración de la Inteligencia Artificial en la Educación superior: Desafíos y oportunidades. Transformar, 4(1). https://www.revistatransformar.cl/index.php/transformar/article/view/84Links ]

Recibido: 02 de Abril de 2025; Aprobado: 19 de Mayo de 2025; Publicado: 02 de Julio de 2025

Creative Commons License Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons