Espanhol (pdf)
Artigo em XML
Referências do artigo
Tradução automática
Enviar este artigo por email
Citado por SciELO 
Similares em
SciELO 
Permalink
1. INTRODUCCIÓN
Estamos presenciando una total adopción e integración de proyectos tecnológicos de Inteligencia Artificial (IA) en las organizaciones, lo cual ha conllevado a convertirse en un imperativo estratégico en la era digital [1]. La IA promete transformar la forma en que las empresas operan, mejorando la toma de decisiones, aumentando la eficiencia y generando ventajas competitivas [2]. Sin embargo, esta adopción no está exenta de desafíos significativos, particularmente en lo que respecta a la gobernanza de la Tecnología de la Información (Gobernanza de TI).
Teniendo en cuenta el contexto anterior, el Gobierno de Tecnologías de Información según [3] es un conjunto de prácticas y procesos diseñados para garantizar que la tecnología de la información respalde y promueva los objetivos y estrategias de la organización. Este desempeña un papel crítico en la gestión de los riesgos y la alineación de proyectos de TI con los objetivos empresariales [4]. Debido a la situación de adopción de nuevas tecnologías se puede decir que sin una sólida gobernanza de TI puede dar lugar a problemas de seguridad, ética y cumplimiento normativo, entre otros [5].
Teniendo en cuenta estos desafíos que enfrentan las aplicaciones y proyectos de TI, no son diferentes de la IA, una comprensión profunda de los factores de éxito de la adopción de la IA tendrá implicaciones para los académicos asociados, los posibles adoptantes de la IA, el gobierno y los proveedores de IA. Por lo que, examinando el proceso de cómo las organizaciones adoptan las innovaciones de TI, no sabemos con exactitud si los marcos regulatorios están adaptados para los actuales proyectos de tecnologías de IA, y si estos se vienen implementando responsablemente teniendo en cuenta los factores que involucran una adopción responsable.
Según [6] estudios anteriores sobre IA se centran principalmente en técnicas y aplicaciones. Sin embargo, se analizan las cuestiones organizativas o de gestión relacionadas con la IA, en particular los factores de éxito que afectan la adopción de la IA. No se encuentran disponibles estudios que validen empíricamente los efectos directos e indirectos de las características de la IA, así como el impacto de los contextos tecnológicos, organizativos y ambientales subyacentes. En consecuencia, esta revisión sistemática se enfoca en el análisis exhaustivo y la síntesis de la literatura actual relacionada con el impacto de la integración de la gobernanza de TI en la adopción de la Inteligencia Artificial. Por lo que el objetivo actual de nuestra revisión sistemática es responder las siguientes cuestiones: ¿De qué manera impacta la integración del gobierno de TI en la adopción de la inteligencia artificial? ¿Qué marcos y enfoques de Gobierno de TI son más relevantes para la adopción de la IA? ¿Cuáles son los enfoques éticos que se han discutido en relación con la IA en la literatura? ¿Cuáles son las lecciones aprendidas y las mejores prácticas en este ámbito?
Nuestro objetivo es proporcionar una visión panorámica de los avances actuales de los últimos 5 años, los enfoques prometedores y las lagunas críticas en la literatura sobre este tema. Además, identificaremos tendencias emergentes y desafíos pendientes que requieren una atención más detallada y una investigación futura.
A medida que las organizaciones aceleran su adopción de IA para impulsar la innovación y la eficiencia, la consideración de la gobernanza de TI se convierte en un pilar esencial para garantizar que los beneficios de la IA se alcancen de manera responsable y sostenible.
2. METODOLOGÍA
2.1. Tipo de estudio
La siguiente revisión sistemática se está llevando a cabo de la mano de la metodología PRISMA (Preferred Reporting Items for Systematic reviews and Meta-Analyses). Para lo cual llevar el proceso metodológico adecuado, fue necesario hacernos las siguientes preguntas:
Q1: ¿De qué manera impacta la integración del gobierno de TI en la adopción responsable de la inteligencia artificial?
Q2: ¿Qué marcos y enfoques de Gobierno de TI son más relevantes para la adopción de la IA?
Q3: ¿Cuáles son los enfoques éticos que se han discutido en relación con la IA en la literatura?
Q4: ¿Cuáles son las lecciones aprendidas y las mejores prácticas en este ámbito?
2.2. Fundamentos de la metodología
Las revisiones sistemáticas actualmente han emergido como pilares fundamentales en la investigación contemporánea [7]. Estos enfoques, que obedecen a rigurosos procedimientos metodológicos, no solo establecen una base sólida para la generación de directrices y políticas, sino que también fomentan un corpus de conocimiento sustentado tanto teórica como conceptualmente.
La revisión sistemática es crucial en distintas áreas de trabajo de investigación. Permite obtener conclusiones basadas en evidencia sólida al analizar de manera exhaustiva y representativa los estudios relevantes [8].
Las revisiones sistemáticas ayudan a identificar áreas donde se necesita más investigación al resaltar las lagunas en la base de evidencia existente. Además, brindan a los formuladores de políticas, profesionales e investigadores, información basada en evidencia para tomar decisiones informadas y desarrollar pautas o intervenciones [9]. Es por eso que, al seguir un enfoque sistemático y transparente, las revisiones sistemáticas tienen como objetivo minimizar el sesgo y proporcionar una evaluación objetiva de la evidencia disponible.
Entonces podemos decir que, al sintetizar la evidencia existente, las revisiones sistemáticas pueden ahorrar tiempo y recursos al evitar la duplicación de esfuerzos de investigación y proporcionar una descripción general completa del tema [10].
La metodología se lleva a cabo de acuerdo a los siguientes pasos: planificación, búsqueda de la literatura, selección de los artículos, extracción de datos, evaluación de calidad, síntesis de los datos e informe de resultados.
2.3. Estrategia de búsqueda
Para comenzar, la metodología se ha desarrollado de la siguiente manera:
(1) Se identificaron bases de datos como Scopus y Science Direct para hacer la búsqueda de los artículos de investigación con las palabras claves seleccionadas.
(2) Las palabras claves que definimos como: “Gobierno de Tecnologías de Información”, “Gobierno de TI”, “Inteligencia Artificial”, “Aprendizaje automático”.
(3) Se han establecido criterios de selección y análisis de artículos de investigación.
(4) Se clasificó los artículos y agrupándolos en temas en común.
(5) Destacar lagunas de investigación y establecer agendas para investigaciones futuras.
2.4. Criterios de inclusión y exclusión
Se tienen identificadas las bases de datos, según [11] te proporciona acceso a la evidencia relevante y de alta calidad, lo que es esencial para llevar a cabo una revisión rigurosa y confiable. Se hizo la búsqueda con las palabras claves y se establecieron criterios de inclusión y exclusión en la selección de artículos se establecieron dos capas de selección.
En la primera capa se definió lo siguiente:
(1) Los artículos solo se obtienen si son indexados con Scopus o Science Direct, esto debido a que da una credibilidad más alta; así también las probabilidades de obtener resultados óptimos son altas.
(2) Es importante establecer fechas determinadas, en este caso hemos establecido las fechas desde 2019 al 2023.
(3) Los tipos de documentos académicos establecidos fueron artículos, tesis y artículos de revisión.
Después de la primera capa se pudo obtener las fórmulas de búsqueda en las bases de datos las cuales fueron las siguientes:
SCOPUS: TITLE-ABS-KEY ((“Information Technology Governance” OR “IT Governance") AND (“Artificial Intelligence" OR "Machine Learning”)) AND PUBYEAR > 2018 AND PUBYEAR < 2024
SCIENCE DIRECT: (“Information Technology Governance” OR "IT governance") AND "integration" AND ("Artificial Intelligence" OR "AI") Year: 2019 - 2023 Title, abstract, keywords: (“Information Technology Governance” OR "IT Governance") AND (“Artificial Intelligence" OR "AI")
Para la segunda capa se tiene:
(1) El artículo debe estar disponible en línea para aumentar la posibilidad de poder encontrar resultados, si es así se pasa al siguiente criterio.
(2) Se puede excluir estudios que no cumplan con ciertos criterios de calidad metodológica, con un alto riesgo de sesgo o falta de informes adecuados
(3) Por último, se determinó excluir aquellos documentos con temas no relevantes o sin ningún tipo de relación a la investigación actual.
3. RESULTADOS
Luego de haber aplicado los filtros correctamente (Ver Figura 1) y haber obtenido un total de 31 artículos de investigación relevantes al tema de investigación, se procedió a sacar un esquema de coocurrencia de palabras claves o palabras que identifiquen los artículos y que coincidan con las palabras claves que identificaran a nuestra actual investigación, Figura 2.
Como se puede observar en la Figura 2, las palabras con más coocurrencia son las de “artificial intelligence” y las de “it governance”, seguidas por “cobit” e “information systems”, por lo que queda en evidencia que los artículos seleccionados son muy relevantes para nuestra investigación.
Teniendo en cuenta lo anterior se rescató lo más importante y relevante de cada artículo para luego agruparlos por temas en común.
3.1. Evaluación de enfoques y referencias de Gobernanza de TI
La evaluación de los enfoques y referencias en el ámbito de la Gobernanza de Tecnología de la Información (TI) desempeña un papel esencial en la toma de decisiones estratégicas de las organizaciones. En este contexto, [12] proponen un análisis que se basa en diez criterios de comparación para evaluar diferentes enfoques de gobierno de TI. Además, presentan el Método de la Suma Ponderada (WSM) como una herramienta de análisis multicriterio que permite una evaluación más precisa y objetiva. Este enfoque proporciona a los tomadores de decisiones una base sólida para identificar y seleccionar la estrategia de gobierno de TI más adecuada.
En una línea similar, [13] llevaron a cabo un estudio comparativo exhaustivo entre diversas referencias de gobernanza de TI ampliamente reconocidas, como COBIT, ISO 38500, CMMI, ITIL, TOGAF, PMBOK, PRINCE2 y SCRUM. El principal objetivo de este estudio fue identificar las fortalezas y debilidades de cada referencia y proporcionar un análisis multicriterio detallado para compararlas. Esta investigación arrojó luz sobre la importancia de seleccionar la referencia más adecuada de gobernanza de TI, especialmente en el contexto de la adopción de la inteligencia artificial. Los resultados de estos dos estudios enfatizan la necesidad de una evaluación meticulosa para garantizar la elección acertada de enfoques y referencias de gobernanza de TI en el entorno empresarial en constante evolución.
Por otro lado, [14] tiene como objetivo desarrollar una ontología que permita una comprensión más profunda y estructurada de cómo COBIT se relaciona con la integración del gobierno de TI basado en COBIT, lo cual ayudo a clarificar y estandarizar los conceptos y términos relacionados con el gobierno de TI y la inteligencia artificial, así también permitió la comunicación entre diferentes partes interesadas, como los expertos en gobierno de TI y los profesionales de la inteligencia artificial. Ellos identificaron que al tener una ontología que represente claramente los elementos de gobierno de TI y su relación con la inteligencia artificial, las organizaciones pueden mejorar su gobernanza alineando sus estrategias y procesos con esta representación ontológica, y con el enfoque de desarrollar herramientas de apoyo a la toma de decisiones con el fin de tomar decisiones informadas.
3.2. Políticas y valores en la toma de decisiones con IA
La adopción cada vez más extendida de la Inteligencia Artificial (IA) en diversos campos, incluida la toma de decisiones políticas, plantea desafíos significativos en términos de ética y gobernanza. [15] aborda esta cuestión al resaltar la necesidad crítica de establecer políticas y valores fundamentales que guíen el uso de la IA en la toma de decisiones políticas. En un mundo impulsado por la automatización y los algoritmos, la reflexión sobre los valores éticos y la dirección de la sociedad se convierte en un imperativo.
El autor argumenta que el diseño de un sistema en el que los seres humanos mantengan el control sobre la dirección y los objetivos fundamentales de la sociedad es esencial para garantizar una adopción responsable de la IA. Esto implica una profunda reflexión sobre los valores que guiarán el desarrollo y la implementación de sistemas de IA en el ámbito político. La transparencia, la rendición de cuentas y la participación ciudadana se convierten en componentes esenciales de un enfoque ético y equitativo.
En un mundo donde la IA puede influir en la formulación de políticas y decisiones críticas para la sociedad, la importancia de establecer políticas sólidas que reflejen los valores humanos y el control democrático no puede subestimarse. [16] resaltan la urgencia de este tema y subrayan la necesidad de un diálogo continuo y la implementación de políticas efectivas para guiar el uso de la IA en la toma de decisiones políticas.
3.3. Desarrollo de plataforma IT-GRC y Gestión del Conocimiento en Gobierno de TI
En un mundo impulsado por la tecnología, la gestión efectiva de la Tecnología de la Información (TI) se ha vuelto esencial para el éxito de las organizaciones. El Gobierno de TI, abreviado como IT-GRC, ha emergido como un enfoque integral para garantizar que las operaciones de TI estén alineadas con los objetivos de negocio y cumplan con las regulaciones. En este contexto, [17] han desarrollado una plataforma global inteligente de IT-GRC que ofrece a los administradores de TI la capacidad de diseñar repositorios personalizados basados en las mejores prácticas y las necesidades específicas de sus organizaciones.
Esta plataforma va más allá de la mera gestión de la infraestructura de TI; se enfoca en la integración de actualizaciones continuas en la base de conocimientos de IT-GRC. Esto garantiza que la información esté siempre actualizada y refleje las últimas tendencias y desarrollos en el campo de la tecnología. Al proporcionar a los profesionales de TI acceso a información actualizada, esta plataforma mejora la toma de decisiones y la eficiencia en la gestión de recursos de inteligencia artificial en el contexto de TI.
No obstante, la gestión efectiva de TI no se trata solo de herramientas y plataformas. También involucra la gestión del conocimiento relacionado con el Gobierno de TI. La capacidad de buscar, crear y utilizar este conocimiento es crucial para tomar decisiones informadas. Un sistema que facilite la búsqueda, creación y uso del conocimiento relacionado con el Gobierno de TI mejora aún más la toma de decisiones y la gestión de recursos de inteligencia artificial en TI [18].
Para potenciar aún más el Gobierno de TI, se ha introducido un asesor GRC de TI inteligente basado en inteligencia artificial y gestión del conocimiento. Este asesor analiza la integración de marcos de Gobierno de TI, como COBIT, y los aplica para igualar y optimizar las estrategias de TI en el sistema de información. La importancia de utilizar herramientas digitales para facilitar el Gobierno de TI se convierte en un factor clave en esta ecuación [19].
3.4. Integración de Gobierno de TI y adopción de la IA
Esta sinergia entre dos disciplinas aparentemente dispares permite abordar de manera efectiva los desafíos y oportunidades que la IA presenta en el entorno empresarial. A través de la revisión de investigaciones clave, se identifican tres aspectos esenciales para comprender esta convergencia.
Enfoque de Búsqueda de Problemas: [20], [21] y [22] destacan la importancia de adoptar un enfoque de búsqueda de problemas en la integración del Gobierno de TI y la IA. Más allá de la resolución de problemas específicos, este enfoque promueve una comprensión más amplia de los desafíos de gobierno relacionados con la IA. Esto implica la formulación de estrategias a largo plazo que sean efectivas y adaptables, lo que es esencial en un campo tecnológico en constante evolución.
Protección de la Privacidad y Responsabilidad: La adopción de IA plantea desafíos éticos y de privacidad. [23] y [24] subrayan que los tomadores de decisiones deben abordar la incertidumbre y la urgencia, al tiempo que protegen la información del usuario y garantizan su privacidad. El Gobierno de TI juega un papel crucial al establecer políticas, regulaciones y tecnologías que aseguren la protección de la privacidad y el bienestar de los usuarios.
Transparencia y Ética en la IA: La transparencia organizacional es un factor clave en la mejora de la adopción de la IA. [25] y [26] señalan que el monitoreo del rendimiento de TI, los procesos de control interno y la planificación estratégica son fundamentales para garantizar que los procesos de IA sean transparentes, éticos y responsables. Estos factores son igualmente relevantes en el contexto más amplio del Gobierno de TI, donde la transparencia y la ética son valores fundamentales.
Según [20] y [27] la forma en que se está abordando el tema en los diferentes países y o regiones es a través de regulaciones éticas y gobernanza para la IA como la Unión Europea, estableciendo el Reglamento General de Protección de Datos (GDPR) y las “Directrices éticas para la IA confiable” en donde ambos buscan la protección de la privacidad y la garantía de una IA confiable. Así también, el Gobierno de China ha lanzado iniciativas nacionales para una gobernanza ética de la IA, incluyendo un Comité Nacional de Gobernanza y principios éticos para la nueva generación de IA por venir, también se incluye la participación de empresas tecnológicas chinas tales como, Tencent y Baidu tanto en iniciativas de ética como de gobernanza.
Por otro lado [28], [29] mencionan como es que Estados Unidos emitió una orden ejecutiva con el objetivo de mantener el liderazgo en cuanto a inteligencia artificial y también ha solicitado al Instituto Nacional de Normas y Tecnologías (NIST) que desarrolle estándares técnicos para sistemas de IA confiables y robustos, el cual nos da a entender que su enfoque es más competitivo y con intenciones de reforzar la seguridad.
3.5. Marco de Gobernanza de la IA
Diversos estudios destacan la necesidad de establecer marcos efectivos para regular la interpretación, procedencia y forensia de la IA, así como para promover soluciones maduras en la práctica generalizada de esta tecnología [27]. Además, se identifican tres dimensiones clave en las prácticas de gobernanza de la IA: procedimental, relacional y estructural, enfatizando la importancia de procesos que alineen las aplicaciones de IA con los requisitos empresariales y que garanticen la responsabilidad humana en las decisiones de IA [30]. Las formas de gobernanza colaborativa, organizacional, de servicios y ética también emergen como relevantes para la integración del gobierno de TI en la adopción de la IA [31]. Sin embargo, la implementación de estas políticas éticas plantea cuestiones sobre legitimidad, inclusión y mecanismos de control [32]. Además, es crucial considerar los diferentes contextos de aplicación de la IA, incluido su impacto en la fuerza laboral y los valores éticos, para diseñar políticas efectivas y regulaciones [28]. La capacitación de empleados en habilidades de IA, la consideración de múltiples contextos y la participación activa de partes interesadas son elementos clave en la gobernanza de la IA [33]. La falta de legislación internacional destaca la necesidad de autorregulación basada en estándares éticos y marcos de gobernanza para garantizar la gestión responsable de la IA [34].
La integración de la IA en la gobernanza tiene implicaciones significativas en la eficiencia y sostenibilidad de las ciudades energéticas [35]. Además, se resalta la importancia de considerar los desafíos y riesgos en sectores como la salud pública y la predicción política al adoptar la IA en organizaciones públicas [36]. Un marco de gobernanza integral basado en riesgos y directrices emerge como una forma efectiva de gestionar la IA de manera ética [37]. La seguridad y confiabilidad de la IA en aplicaciones espaciales se destaca como un área en la que el gobierno de TI juega un papel crucial [38]. Por último, se enfatiza la importancia de una gobernanza híbrida en la adopción de la IA en movilidad sostenible, que involucre a actores humanos y algoritmos y se base en valores públicos y sostenibilidad [29]. En este contexto, la ética, las regulaciones y la gobernanza de TI desempeñan un papel fundamental en la adopción responsable y ética de la IA [39], [40].
Según [30], una empresa líder en la industria de la energía en Noruega, con más de 60 años de experiencia, enfrentó el desafío de implementar inteligencia artificial (IA) para obtener ventajas operativas, pero experimentó dificultades en la obtención rápida de beneficios. Para abordar esto, la empresa adoptó un enfoque estratégico implementando un marco de gobierno de IA que combinaba prácticas estructurales, relacionales y procedimentales. Iniciaron unificando y estandarizando herramientas en el desarrollo (prácticas estructurales), abordaron temores de empleados mediante charlas informativas (prácticas relacionales) y establecieron procesos documentados para el desarrollo de productos de IA (prácticas procedimentales). A pesar de desafíos en la estructura y resistencia al cambio, lograron eficiencia mejorada, aceptación de empleados a través de comunicación proactiva, y cumplimiento regulatorio al abordar preocupaciones legales sobre datos sensibles.
3.6. Aspectos y desafíos éticos
Los aspectos éticos, la coordinación de múltiples partes interesadas, la gestión del cambio y la gestión de costos son cruciales para la implementación exitosa de la IA, garantizando la alineación estratégica y la gobernanza de datos adecuada [41]. Se puede decir que la integración del gobierno de TI en la adopción de la IA es un proceso multidimensional que involucra cuestiones éticas, legales, técnicas y sociales, y su éxito requiere una consideración exhaustiva de todas estas facetas para garantizar la adopción responsable y beneficiosa de la IA en diversas aplicaciones.
Esto debido a los diversos desafíos éticos a lo que se enfrentan las organizaciones al momento de la adopción de una IA. Según [38] dentro de los desafíos que más preocupación causan son los siguientes: Falta de estandarización para medir los sesgos algorítmicos, es decir no se tienen en cuenta o se desconoce de estándares ampliamente aceptados o pruebas en las que se pueda evaluar un algoritmo de IA antes de implementarlo públicamente. Otro de los riesgos es la alineación de valores humanos, es decir, que los programadores ponen todos sus recursos por mantener los sistemas de IA seguros codificando reglas las cuales no deben violarse. Pero, los sistemas de IA que son autogestionados se dan en muchos casos en las que encuentran formas de burlar o “hackear” las reglas puestas. Y por último se tiene los desafíos de control humano, es decir la enorme capacidad de la IA para la toma de decisiones plantea desafíos sobre la supervisión y control humano para evitar consecuencias no deseadas o catastróficas.
Según [37] se viene manejando de la siguiente manera, el desarrollo de hojas de datos para conjunto de datos que documenten los posibles sesgos o limitaciones antes de utilizarlos en el entrenamiento de modelos IA; luego para el desafío de valores humanos se plantea un diseño de IA ético pero incluyéndolo desde la primera etapa; y por último, para manejar los desafíos de control humano se trata de mantener humanos monitoreando decisiones críticas, especialmente aquellas que afectan vidas o libertades.
Por otro lado, el artículo [27] explica cómo es que en China en el 2017 se desarrolló el “Development Plan of the New Generation Artificial Intelligence” en donde se destaca la importancia de gestionar cuidadosamente los aspectos técnicos y sociales de la IA para garantizar la confiabilidad y fiabilidad. Años después en el 2019 el Ministerio de Ciencias y Tecnología de la República Popular de China estableció un comité y publicó los “Principios de Gobernanza para la Nueva Generación de Inteligencia Artificial - Desarrollando una Inteligencia Artificial responsable”.
Se establece que se debe contar con un trabajo en conjunto de los marcos de gobernanza y los principios éticos, donde mencionan cinco principios éticos comunes relacionados con la IA, la seguridad y privacidad, seguridad y confiabilidad, transparencia, responsabilidad y equidad. Estos principios éticos exigen marcos técnicos y soluciones más integrales al momento de implementar restricciones éticas en los modelos, algoritmos y soluciones de IA.
4. DISCUSIÓN
La integración del gobierno de TI desempeña un papel fundamental en la adopción responsable de la IA, los estudios revisados resaltan que esta integración facilita la toma de decisiones estratégicas al alinear las operaciones de TI con los objetivos empresariales y las regulaciones vigentes. Específicamente, se ha identificado que adoptar un enfoque de búsqueda de problemas en la integración de Gobierno de TI y IA permite una comprensión más amplia de los desafíos relacionados con la IA. La IA, al ser una tecnología en constante evolución, requiere estrategias a largo plazo que sean efectivas y adaptables. Además, el Gobierno de TI desempeña un papel crucial al establecer políticas y regulaciones para proteger la privacidad de los usuarios y garantizar la responsabilidad en las decisiones de IA.
Por otro lado, varios marcos y enfoques de Gobierno de TI han sido evaluados para su relevancia en la adopción de la IA. Estos incluyen COBIT, ISO 38500, CMMI, ITIL, TOGAF, PMBOK, PRINCE2 y SCRUM. Los estudios comparativos han destacado a COBIT como una de las más utilizadas en el contexto planteado de la adopción de la inteligencia artificial al momento de establecer la relevancia de los artículos encontrados se pudo ver la palabra COBIT como una de ellas, de hecho, se encuentra en 5 de los artículos encontrados, el resto no menciona específicamente, pero dentro de otros marcos esta ITIL seguido de TOGAF proporcionando como referencias para el desarrollo de gobierno de TI. Esto subraya la importancia de una evaluación meticulosa al seleccionar la referencia más adecuada de gobernanza de TI, especialmente en el contexto de la IA.
La adopción de la IA plantea desafíos éticos significativos. Se ha enfatizado la necesidad de establecer políticas y valores fundamentales que guíen el uso ético de la IA en la toma de decisiones políticas y empresariales. La transparencia, la rendición de cuentas y la participación ciudadana se consideran esenciales para un enfoque ético y equitativo en la IA. Además, la IA debe ser desarrollada y utilizada de manera que refleje los valores humanos y el control democrático sobre la dirección de la sociedad. Se menciona que es importante la capacitación e inclusión de los empleados en cuanto a los diferentes miedos y prejuicios que suelen tener en cuanto a la adopción actual de la inteligencia artificial, como el miedo de ser reemplazado por el mismo, lo cual no es cierto, las regulaciones éticas y políticas de un gobierno de TI establece siempre la supervisión de resultados de una IA antes de tomar decisiones. Además, en el caso de la empresa líder de la industria de la energía en Noruega, se menciona como es que ellos manejaron el temor a la automatización de sus empleados, que fue implementando prácticas relacionales de un marco de gobierno diseñado exactamente para casos como estos, en donde implicaba la conversación por parte del gerente con sus empleados, dándoles a entender que la IA no viene a reemplazar, sino a complementar.
Algunos sectores como la industria manufacturera, se emplea para optimizar la cadena de suministro, predecir fallas en equipos, mejorar la eficiencia operativa y la calidad del producto. En el sector de transporte, para la gestión del tráfico, la optimización de rutas, la conducción autónoma y el mantenimiento predictivo de vehículos. En el ámbito educativo, la IA se usa para personalizar la enseñanza, analizar el progreso del estudiante y mejorar la eficiencia administrativa. En cada uno de estos sectores y muchos más, la implementación de la IA bajo la gobernanza de TI implica la colaboración entre equipos de tecnología, expertos en ética, profesionales del sector y reguladores para garantizar que se cumplan estándares éticos, legales y operativos. Por lo que, se necesitara personal para supervisar cada IA para los distintos procesos dentro de una organización.
En cuanto a como se está abordando en los diferentes países y regiones del mundo la gobernanza de TI en la actual adopción de la IA, esto varía significativamente entre países y regiones, y las estrategias adoptadas reflejan sus enfoques culturales, éticos, legales y económicos. Algunos países han establecido marcos regulatorios y éticos específicos para la IA, mientras que otros dependen de normativas generales de privacidad y protección de datos. Por ejemplo, la Unión Europea ha propuesto regulaciones específicas para la IA que abarcan desde sistemas de alto riesgo hasta el reconocimiento facial. En China, hay un énfasis en el desarrollo y despliegue de la IA con un enfoque menos restrictivo en términos de regulación. Estados Unidos ha adoptado un enfoque más descentralizado, con algunas iniciativas estatales y propuestas de legislación a nivel federal. La diversidad en la gobernanza de la IA también se refleja en la percepción y la aceptación pública de la tecnología en diferentes partes del mundo, lo que influye en la dirección que toman las políticas. En general, la falta de estandarización global en la gobernanza de la IA destaca la necesidad de colaboración internacional para abordar los desafíos éticos y legales emergentes.
A través de los estudios revisados, se pueden extraer lecciones valiosas. La gestión efectiva de TI no se trata solo de herramientas y plataformas, sino también de la gestión del conocimiento relacionado con el Gobierno de TI. La capacidad de buscar, crear y utilizar este conocimiento es crucial para tomar decisiones informadas.
5. CONCLUSIONES
Entonces, se puede concluir en que la integración del gobierno de TI en la adopción de la IA es un proceso multidimensional que involucra cuestiones éticas, legales, técnicas y sociales. La adopción responsable de la IA requiere una consideración exhaustiva de todas estas facetas para garantizar su éxito en diversas aplicaciones. Los marcos y enfoques de Gobierno de TI desempeñan un papel crucial en esta integración al proporcionar directrices y estructuras para una gobernanza efectiva. Además, los valores éticos y la transparencia son fundamentales para guiar el desarrollo y la implementación ética de la IA en la sociedad. Las lecciones aprendidas y las mejores prácticas identificadas en estos estudios proporcionan orientación valiosa para abordar estos desafíos de manera efectiva en un mundo impulsado por la tecnología.
Por otro lado, como áreas de investigación futuras que podrían ser prometedoras siguiendo la línea de investigación y muy poco vistas son: El desarrollo de marcos específicos para la gobernanza de la IA, debido a la importancia de abordar desafíos y oportunidades únicas que presenta la IA; luego está la Evaluación de riesgos y cumplimientos, tales como los sesgos algorítmicos y la privacidad de los datos, enfocarse en el desarrollo de métodos y herramientas para evaluar y mitigar esos riesgos; y por ultimo un tema el cual está causando miedo en la sociedad debido a la tendencia de la misma es el impacto de la IA en la fuerza laboral, el concentrarse en comprender como afecta a los trabajadores y como las organizaciones pueden hacer para gestionarlo de forma ética.
