Español (pdf)
Articulo en XML
Referencias del artículo
Traducción automática
Enviar articulo por email
Citado por SciELO 
Similares en
SciELO 
Permalink
INTRODUCCIÓN
La inteligencia artificial (IA) ha irrumpido en la esfera jurídica y social con una velocidad que desafía la capacidad de adaptación de los marcos normativos existentes. Esta disrupción tecnológica, aunque promete avances significativos en eficiencia y acceso a servicios, genera tensiones sustanciales con el sistema de derechos humanos, particularmente en contextos como el peruano donde la regulación es incipiente. La ausencia de una legislación específica crea un vacío peligroso donde los derechos fundamentales a la privacidad, la no discriminación y el debido proceso pueden verse seriamente comprometidos por el uso de algoritmos opacos y sistemas de aprendizaje automático, tal como advierten Arroyo, (2021) y Carvajal, (2020) en sus análisis sobre los riesgos de la minería de datos y la falta de límites constitucionales.
Además, el panorama regulatorio global muestra esfuerzos fragmentados por gobernar estas tecnologías, destacándose el enfoque preventivo y de derechos impulsado por la Unión Europea. En el ámbito educativo, Fraguío, (2024) subraya la necesidad de una innovación jurídica y docente paralela para mitigar los riesgos de la IA generativa, un llamado que resulta extrapolable a otros sectores. Esta perspectiva preventiva es crucial para no repetir los errores de regulaciones tardías que han permitido la violación sistemática de derechos, especialmente en materia de protección de datos personales y vigilancia masiva, problemáticas ya identificadas en el Perú por (Chávez, 2019).
Por otra parte, la implementación de la IA en el sistema de justicia peruano presenta una dualidad significativa. Mientras que Zuniga et al., (2025) demuestran su potencial para agilizar procesos legales específicos, como los de alimentos, reduciendo errores humanos mediante el análisis predictivo, surgen alertas sobre la sustitución de funciones judiciales críticas. As su vez, Castellano, (2021) y Quispe, (2021) advierten sobre los límites éticos de delegar la valoración de pruebas o la adjudicación de justicia a sistemas automatizados, enfatizando la indispensable preservación del control humano en las instancias superiores.
En este contexto, la opacidad algorítmica se erige como uno de los desafíos centrales para la garantía de los derechos humanos. Al respecto, Ccoriñaupa, (2025) y Miyagusuku y León, (2019) identifican cómo la falta de transparencia en los algoritmos, ya sea en sistemas de prevención delictiva o en herramientas de gestión laboral, puede perpetuar y amplificar sesgos discriminatorios existentes. Esta caja negra dificulta el escrutinio público y judicial, socavando el derecho a un debido proceso y a la igualdad ante la ley, exigiendo por tanto marcos regulatorios que impongan estándares de auditoría y explicabilidad.
Asimismo, la intersección entre la IA y los derechos colectivos introduce capas de complejidad adicional. En este sentido, Mamani y Pacco, (2022) alertan sobre el riesgo de apropiación cultural y de conocimientos tradicionales por parte de sistemas de IA, lo que vulnera los derechos de los pueblos indígenas. Su investigación resalta la imperiosa necesidad de mecanismos de participación comunitaria en el diseño y despliegue de estas tecnologías, asegurando que el desarrollo tecnológico no consolide nuevas formas de colonialismo digital ni margine aún más a estas comunidades.
Del mismo modo, la seguridad nacional y la ciberseguridad emergen como ámbitos críticos donde la IA plantea tanto oportunidades como amenazas sin precedentes. Sobre este particular, Cuba, (2022) explora los límites legales de su uso en seguridad nacional, mientras que Garcia et al., (2025) identifican debilidades en los marcos legales peruanos para proteger a los ciudadanos frente a ciberamenazas. La IA puede ser un arma de doble filo: una herramienta poderosa para la defensa nacional y, simultáneamente, un instrumento para cometer fraudes informáticos que afecten derechos patrimoniales, como analiza (Tuesta, 2022).
Por consiguiente, la desinformación potenciada por IA representa una amenaza directa a la democracia y los derechos políticos. En relación a esto, Astudillo, (2024) analizan cómo la generación y difusión masiva de fake news mediante IA, observable durante la pandemia, erosiona la deliberación pública y la salud democrática. Abordar este fenómeno exige un enfoque multidisciplinario que, sin vulnerar la libertad de expresión, desarrolle remedios legales y educativos basados en parámetros internacionales para contrarrestar su impacto.
Además, la gobernanza corporativa también se ve transformada por la inteligencia artificial. Sobre el particular, Castillo, (2023) y Ramos, (2025) investigan cómo la IA puede apoyar el cumplimiento del deber de diligencia en la identificación de riesgos, pero simultáneamente exige una actualización de los deberes fiduciarios de los directivos para incluir una supervisión activa de estos sistemas. Esto implica que las empresas no solo deben usar la IA de forma ética, sino también ser responsables por las decisiones automatizadas que toman en su nombre.
Al respecto, la evidencia académica revisada pinta un panorama complejo donde la IA actúa como un catalizador de eficiencias, pero también como un amplificador de riesgos para los derechos humanos en el Perú. Por lo tanto, esta revisión sistemática se guía por las siguientes preguntas de investigación: 1) ¿Cuáles son los impactos específicos y los desafíos normativos identificados en la literatura académica respecto a la aplicación de la inteligencia artificial sobre los derechos humanos en el contexto peruano? y 2) ¿Qué propuestas de gobernanza y marcos regulatorios se proponen en la literatura para mitigar los riesgos y potenciar los beneficios de la IA en Perú, garantizando la protección de los derechos humanos? La sistematización crítica de este corpus busca responder estos interrogantes para construir una base sólida para la acción legislativa y políticas públicas informadas.
Por tanto, el objetivo de la presente investigación es analizar críticamente la evidencia académica existente sobre los impactos, desafíos normativos y propuestas de gobernanza de la Inteligencia Artificial en relación con los derechos humanos en el contexto peruano.
METODOLOGÍA
La presente investigación se desarrolló bajo un enfoque cualitativo, con un diseño no experimental de corte longitudinal, enfocado en el análisis documental. Se desarrolla en el ámbito académico-jurídico peruano, examinando la producción científica sobre inteligencia artificial y derechos humanos. El diseño se enmarca en la metodología de revisión sistemática, siguiendo los lineamientos PRISMA para garantizar exhaustividad y transparencia en el proceso de selección y síntesis de literatura. Este enfoque permite identificar, evaluar e interpretar la evidencia disponible sobre el problema de investigación, minimizando sesgos de selección y facilitando conclusiones robustas desde un corpus académico definido.
Para ello, la población de estudio comprendió la totalidad de documentos académicos, artículos de investigación, tesis y ponencias, publicados entre 2018 y 2025, que abordaran la intersección entre inteligencia artificial y derechos humanos en el Perú. La muestra final, compuesta por 30 estudios (Figura 1), se seleccionó mediante un muestreo no probabilístico por juicio, dada la centralidad del criterio de pertinencia temática y la capacidad de respuesta a las preguntas de investigación. Dicho método posibilita una selección deliberada de unidades de análisis ricas en información.
Como siguiente fase, se aplicaron criterios de inclusión específicos: estudios disponibles a texto completo, en español o inglés, que analizaran impactos, desafíos normativos o propuestas de gobernanza de la IA en Perú. Quedaron excluidos documentos de opinión no sustentados en evidencia, publicaciones anteriores a 2018 y estudios que, mencionando la IA, no la vinculaban explícitamente con el sistema de derechos humanos. La búsqueda se ejecutó en repositorios institucionales y bases de datos especializadas, empleando descriptores controlados y operadores booleanos.
En cuanto a las técnicas de recolección, se utilizó una ficha sistemática de matriz de análisis, que permitió la extracción de datos estructurados sobre autores, metodología, resultados y conclusiones. Dichos instrumentos garantizaron la captura de información cualitativa y cuantitativa pertinente para el análisis temático. Respecto al análisis de datos, se implementó una estrategia de análisis de frecuencia. Mediante un análisis estadístico descriptivo univariado para caracterizar la producción científica. Posteriormente, el análisis cualitativo de contenido temático posibilitó identificar categorías emergentes, patrones y relaciones conceptuales en los resultados.
Bajo estos parámetros, el estudio se rigió por estrictos preceptos éticos en investigación, garantizando la integridad académica mediante la citación rigurosa de todas las fuentes consultadas. Si bien no requirió evaluación por comité de ética por tratarse de revisión documental, se respetaron escrupulosamente los derechos de propiedad intelectual y se mantuvo una conducta investigativa objetiva y transparente durante todo el proceso de síntesis de la evidencia.
DESARROLLO Y DISCUSIÓN
La Figura 1, muestra el flujograma PRISMA, donde se ilustra de manera rigurosa y transparente el proceso de selección de la muestra documental. Partiendo de 478 registros identificados, se aplicaron criterios sistemáticos que permitieron depurar duplicados (n=102), exclusiones automatizadas (n=150) y otras razones (n=33), resultando en 193 estudios evaluados. Tras el cribado y la verificación de elegibilidad, se consolidó una muestra final de 30 investigaciones. Este procedimiento metódico garantiza la reproducibilidad y validez de la revisión, minimizando sesgos de selección y asegurando que el análisis se sustente en literatura pertinente y de calidad para el ámbito jurídico peruano.
Por otra parte, la Tabla 1 sistematiza los 30 estudios que conforman el corpus documental de esta revisión sistemática sobre inteligencia artificial (IA) y derechos humanos en el Perú. El análisis de frecuencia absoluta y relativa demuestra una clara concentración temática e institucional en la literatura especializada. Cabe destacar que el 66.6% de la producción científica (20 estudios) se distribuye entre dos revistas jurídicas líderes: Derecho PUCP con 11 contribuciones (36.6%) y THEMIS Revista de Derecho con 9 estudios (30.0%), lo que confirma el carácter predominantemente jurídico del debate académico analizado.
Respecto a la indexación, se identifica que Latindex concentra el 63.3% de los estudios (19 trabajos), mientras que SciELO alberga el 40% restante (12 investigaciones). Esta distribución refleja la utilización de bases de datos consolidadas en el ámbito académico regional. Temporalmente, se observa un notable incremento en la producción entre 2021 y 2023, período que agrupa el 58.1% de las publicaciones (18 estudios), sugiriendo una aceleración del interés investigativo durante el contexto postpandémico (Tabla 1).
En cuanto al análisis temático de los títulos, se constata que conceptos como regulación, derechos fundamentales y desafíos normativos presentan una frecuencia relativa superior al 60%, apareciendo explícita o implícitamente en la mayoría de los trabajos examinados. Esta recurrencia terminológica establece una coherencia sustancial con el objetivo general de la investigación, validando la pertinencia del corpus documental seleccionado para el análisis propuesto Tabla 1.
Además, la procedencia institucional de los autores refuerza el carácter académico de la evidencia revisada, con predominio de investigaciones adscritas a universidades peruanas. La distribución temática y temporal cuantificada mediante frecuencias relativas no solo valida metodológicamente la selección muestral, sino que delimita con precisión el alcance analítico del estudio, creando un sólido hilo conductor entre el título, los objetivos y los resultados presentados Tabla 1.
Tabla 1 Sistematización de estudios sobre inteligencia artificial (IA) y derechos humanos en el Perú
La Tabla 2 sistematiza los resultados centrales de los 30 estudios analizados, identificando patrones significativos en los riesgos de la IA para los derechos humanos en el Perú. El análisis cuantitativo revela que la opacidad algorítmica constituye el principal desafío, presente en el 36.6% de las investigaciones (11 estudios), seguido por los vacíos regulatorios (33.3%, 10 estudios). Complementariamente, las amenazas a la privacidad (30%, 9 estudios) y los riesgos de discriminación (23.3%, 7 estudios) configuran un panorama de vulnerabilidades interconectadas que demandan intervención normativa urgente.
Cabe destacar que las conclusiones de los estudios muestran una clara orientación propositiva. La necesidad de un marco regulatorio específico representa la solución más frecuente (40%, 12 estudios), mientras que el control humano en procesos automatizados (16.6%, 5 estudios) y la actualización de deberes fiduciarios (10%, 3 estudios) emergen como medidas complementarias esenciales. Esta distribución evidencia que la academia peruana transita desde el diagnóstico crítico hacia la construcción de propuestas de gobernanza concretas, Tabla 2.
Por consiguiente, se observa una notable coherencia entre los problemas identificados y las soluciones planteadas. Conceptos como transparencia algorítmica, participación comunitaria y armonización con estándares internacionales aparecen recurrentemente en el 76.6% de las conclusiones (23 estudios), demostrando un enfoque basado en derechos humanos. Esta consistencia temática valida la correspondencia entre los resultados empíricos y el marco conceptual de la investigación, Tabla 2
Sin embargo, el análisis detecta una brecha significativa entre la identificación de problemas y la formulación de mecanismos implementables. Solo el 20% de los estudios (6 investigaciones) propone instrumentos de política pública concretos, mientras que el 26.6% restante (8 trabajos) se limita a señalar principios generales. Esta disparidad revela un área crítica para desarrollo futuro, particularmente en lo concerniente a protocolos de auditoría algorítmica y sistemas de supervisión institucional, Tabla 2.
Asimismo, la distribución temática y frecuencia de los resultados valida empíricamente la pertinencia de la investigación. La recurrencia de riesgos sobre privacidad, igualdad y debido proceso, junto con las propuestas de regulación específica, establece una narrativa coherente que conecta orgánicamente el título, objetivos y resultados del estudio, fundamentando sólidamente la necesidad de acción normativa en el Perú, Tabla 2.
La evidencia analizada demuestra que los impactos de la IA en los derechos humanos peruanos se manifiestan predominantemente en la vulneración de derechos fundamentales mediante patrones recurrentes. La opacidad algorítmica erosiona el derecho al debido proceso y la igualdad ante la ley, mientras que los vacíos regulatorios generan un entorno de impunidad que afecta la privacidad y no discriminación. Estos resultados profundizan el análisis al demostrar la multifactorialidad de los riesgos, donde los desafíos normativos se caracterizan por la ausencia de marcos específicos que aborden la naturaleza transversal de la IA, la insuficiencia de mecanismos de supervisión independiente y la falta de estándares de transparencia algorítmica, problemáticas que requieren intervención legislativa inmediata.
Por otra parte, las propuestas de gobernanza identificadas enfatizan la construcción de un marco regulatorio integral como solución priorizada. Esta evidencia valida la necesidad de enfoques preventivos y desarrolla planteamientos respecto a la integración de estándares internacionales. Las soluciones se orientan hacia modelos basados en principios de transparencia, rendición de cuentas y participación ciudadana, incorporando además mecanismos de control humano y actualización de deberes fiduciarios. No obstante, la literatura evidencia significativas brechas implementativas, pues solo una minoría de estudios propone instrumentos concretos de política pública, coincidiendo con la necesidad de protocolos específicos de supervisión y auditoría algorítmica adaptados al contexto peruano.
Discusión
Los resultados de esta revisión sistemática confirman la existencia de riesgos sustanciales en la implementación de la inteligencia artificial para los derechos humanos en el Perú, particularmente en lo concerniente a la opacidad algorítmica. Los resultados de Ccoriñaupa, (2025) respecto a la ausencia de transparencia en sistemas de prevención delictiva coinciden con las advertencias de Arroyo, (2021) sobre la necesidad de límites constitucionales. No obstante, esta investigación profundiza al cuantificar que el 35.5% de los estudios identifican esta problemática como central, superando el análisis individual previo y estableciendo un patrón recurrente en la literatura jurídica peruana.
Además, los vacíos regulatorios detectados revelan una situación crítica que excede las advertencias iniciales de Carvajal, (2020). Mientras este autor alertaba sobre riesgos específicos en minería de datos, la evidencia actual demuestra que la ausencia de marco normativo afecta múltiples dimensiones de derechos humanos. Esta ampliación del problema corrobora la hipótesis de Fraguío, (2024) sobre la necesidad de enfoques preventivos integrales, aunque evidencia que en el contexto peruano persiste una brecha significativa entre diagnóstico y acción legislativa.
Por otra parte, la identificación de amenazas a la privacidad en la literatura analizada refuerza los resultados previos de Chávez, (2019) sobre vacíos en protección de datos. Sin embargo, mientras este autor se concentraba en videovigilancia, los estudios recientes como Garcia et al., (2025) demuestran que el problema se ha diversificado hacia ámbitos como la ciberseguridad y el manejo de datos biométricos, requiriendo por tanto soluciones normativas más comprehensivas que las originalmente planteadas.
Cabe destacar que los riesgos de discriminación algorítmica, presentes en los estudios, amplían sustancialmente el alcance de las investigaciones pioneras de Miyagusuku y León, (2019). Mientras estos autores analizaban específicamente el ámbito laboral, los resultados actuales revelan patrones discriminatorios en sistemas de justicia, financieros y de seguridad, corroborando así la naturaleza transversal de esta problemática y la urgencia de medidas regulatorias específicas.
En contraste con la literatura internacional citada por Fraguío, (2024), que destaca avances regulatorios en la Unión Europea, los resultados demuestran que el Perú mantiene un enfoque fragmentado. Esta divergencia evidencia la necesidad de adaptar los modelos de gobernanza global a las particularidades del sistema jurídico nacional, tal como sugieren Franco et al., (2024) al enfatizar la integración de estándares internacionales con mecanismos de exigibilidad local.
Respecto a las propuestas de solución, la recurrencia de marcos regulatorios específicos coincide con las conclusiones de Arroyo, (2021) sobre la obligación estatal de regular prácticas tecnológicas. No obstante, se advierte una evolución conceptual desde enfoques prohibitivos hacia modelos de gobernanza basados en principios de transparencia y responsabilidad, reflejando así la maduración del debate académico en los últimos años.
Al comparar los resultados sobre control humano en procesos automatizados con las investigaciones de Castellano, (2021) y Quispe, (2021), se constata una notable consistencia en la preservación de la autonomía humana en instancias judiciales superiores. Esta convergencia sugiere la existencia de consenso académico sobre los límites éticos de la automatización, particularmente en ámbitos que requieren discrecionalidad y valoración contextual.
Sin embargo, la identificación de estudios que proponen mecanismos implementables concretos revela una limitación significativa frente a investigaciones como las de Ramos, (2025), quien desarrolla protocolos específicos para supervisión de IA en gobiernos corporativos. Esta disparidad señala la necesidad de transitar desde principios abstractos hacia instrumentos aplicables, especialmente en sectores de alto impacto.
En relación con los derechos colectivos, los resultados confirman y amplían las alertas de Mamani y Pacco, (2022) sobre apropiación cultural. La identificación de este riesgo en múltiples estudios subsequentes valida la persistencia de esta vulnerabilidad y la insuficiencia de medidas protectoras, requiriendo mayor desarrollo de mecanismos de participación comunitaria en el diseño tecnológico.
Por otro lado, los resultados sobre desinformación potenciada por IA coinciden con los análisis de Astudillo, (2024), pero evidencian una mayor complejidad en las soluciones requeridas. Mientras estos autores proponen enfoques multidisciplinarios, la evidencia actual sugiere la necesidad de combinar regulación específica con educación digital y fortalecimiento institucional.
Al analizar las propuestas de sandbox regulatorio, se observa consonancia con los planteamientos de Barcia, (2021); Rezqallah, (2021). No obstante, los resultados demuestran que estas herramientas requieren adaptación a realidades sectoriales específicas, particularmente en ámbitos sensibles como salud y justicia, donde los riesgos para derechos humanos son más acentuados.
Cabe señalar que los resultados sobre necesaria actualización de deberes fiduciarios amplían el alcance original de las investigaciones de Castillo, (2023). La identificación de esta necesidad en múltiples sectores sugiere que la responsabilidad por decisiones automatizadas trasciende el ámbito corporativo, extendiéndose a servidores públicos y profesionales diversos.
Paralelamente, la identificación de brechas entre diagnóstico y soluciones implementables coincide con las limitaciones señaladas por Franco et al., (2024) respecto a mecanismos de exigibilidad. Esta consistencia sugiere la existencia de obstáculos estructurales en el sistema jurídico peruano que trascienden la regulación de IA y afectan la efectividad de derechos humanos en múltiples ámbitos.
CONCLUSION
La presente investigación demuestra que la implementación de inteligencia artificial en el Perú genera tensiones sustanciales con el sistema de derechos humanos, manifestadas en desafíos normativos críticos que requieren atención inmediata. La evidencia recopilada establece que la opacidad algorítmica, los vacíos regulatorios y las amenazas a la privacidad constituyen patrones recurrentes que comprometen garantías fundamentales. Estos resultados validan la premisa inicial sobre la urgencia de desarrollar marcos de gobernanza específicos, confirmando así la relación directamente proporcional entre el vacío normativo y la vulneración de derechos en contextos de implementación tecnológica no supervisada.
Por lo tanto, se corrobora que la construcción de un modelo regulatorio integral emerge como imperativo jurídico para armonizar el desarrollo tecnológico con la protección de derechos humanos. La síntesis del conocimiento disponible evidencia que las soluciones deben integrar estándares de transparencia, mecanismos de supervisión independiente y participación ciudadana, constituyendo así una hoja de ruta para la acción legislativa. Estas conclusiones establecen las bases para futuras investigaciones sobre implementación concreta de salvaguardas, cerrando la brecha entre principios abstractos y protección efectiva en la cuarta revolución industrial.
