Aproximaciones sobre algoritmos, su cuestionable empleo y sus proyecciones admisibles como reto del estado constitucional

Luis Fernando Concha Flores [1]
Presentado: 08 de agosto de 2019 Aceptado: 10 de septiembre de 2020

Los algoritmos y el mundo del internet cada día se compenetran más en la vida diaria de la gente, nos brindan un mundo de infinidad de posibilidades desde el mero acceso a páginas de ocio y entretenimiento, pasando por otras para el relacionamiento con las redes sociales hasta la idea de predecir nuestra vida más allá que se crea en el destino o en el futuro. En el presente ensayo se aproximará al problema de los algoritmos predictivos y su empleo en las relaciones intersubjetivas que no se halla exenta de cuestionamientos de distintas índoles, así como su proyección como reto de un Estado Constitucional de Derecho, el que busca o se identifica el Estado Boliviano.

Algoritmo, Predicción, Etica, Utilidad, Constitución.

Abstract

Every day, algorithms and the world of the Internet in people’s daily life are more and more interwoven. They give us a world of infinite possibilities from the mere Access to leisure and entertainment websites, through others to be connected to social networks and the idea of predicting our life beyond that we can imagine our destiny or even the future. In this essay, we will approach the problema of predictive algorithms and their use in intersubjective relationships that are not exemplt from questions of different kinds, as well as the challenge of a Constitutional State of Law, which seeks or identifies the Bolivian State.

key words

Algorithm, Prediction, Ethics, Utility, Constitution.

INTRODUCCIÓN

Existe una frase que resulta muy ilustrativa para el mundo actual: el software se está comiendo al mundo (“Software is eating the world”), y no dista mucho de lo literal, por cuanto el mundo de los algoritmos y la programación continua que se desarrolla en el ciberespacio absorben una cantidad ilimitada de información de los miles de millones de usuarios a nivel mundial cada segundo.

El Internet y la Inteligencia Artificial llegaron para quedarse – hasta que aparezca algo mejor -y sus capacidades están llegando a niveles insospechados: no sólo es entretenimiento, sino una ventana para incluso juzgar a la gente y muchas veces dejarse llevar por información que se registra a partir de sus pensamientos, gustos, opiniones etc. Acá la primera impresión no sólo es la que cuenta, sino que es la que puede conducir a determinar si una persona es eficiente, bienhechora o confiable.

El debate en Bolivia es incipiente, esperando que éste ensayo pueda contribuir a concientizar la importancia de los datos de la población y la preservación de sus derechos.

UNA APROXIMACIÓN CONCEPTUAL

El algoritmo (según la RAE quizá del lat. tardío algobarismus, y este abrev. del ár. cl ás. ḥisābu lḡubār “cálculo mediante cifras arábigas”) [2] , se refiere a un conjunto sistémico de instrucciones, pasos y reglas  definidas y limitadas, para dar lugar a un resultado. Según la Real Academia Española se trata de un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema [3] . Implica una serie de operaciones no ambiguas para ejecutarse paso a paso que conducen a un resultado y se representa mediante una herramienta o técnica [4] . Se trata de un procedimiento lógico formal: Problema (Entrada) y Solución (Salida) en un Procesamiento.

Como categoría propia de las matemáticas e informática y pese a la falta de una uniforme concepción, han resultado admisibles tres características de los algoritmos [5] : a) Debe ser preciso e indicar el orden de realización de cada paso, b) Debe ser definido; si se sigue un algoritmo dos veces, se debe obtener el mismo resultado cada vez, c) Debe ser finito, si se sigue un algoritmo se debe terminar en algún momento; o sea debe tener un número finito de pasos [6] . También dependen de formas de expresión que van desde el lenguaje natural, diagramas de flujo hasta pseudocódigos y el lenguaje de programación. No obstante, el lenguaje natural o común adolece de problemas semánticos, por lo que en materia de informática se emplean los otros métodos.

En su contenido, existen elementos como ser: las Variables (a los que les asigna valores y datos concretos), Estructura Secuencial (que orienta la existencia de acciones unas precedentes y posteriores a otras donde la salida de una es la entrada de otra hasta el fin del proceso) y los Datos.

Los algoritmos guardan una relación íntima en la actualidad con la inteligencia artificial (IA) para el procesamiento de datos mediante técnicas avanzadas como es el denominado “machine learning” o aprendizaje automático. A decir de Juli Ponce: “La IA se desarrolla mediante el uso de algoritmos y datos. En la cocina de la IA, los primeros serían las recetas y los segundos los ingredientes” [7] .

ALGORITMOS, GRANDES DATOS Y PREDICCIÓN

Inicialmente el análisis predictivo fue concebido para que las empresas herramientas orienten sus campañas para un mayor éxito en sus servicios [8] . Ahora con los macro datos  se crean modelos de tendencias a futuro considerando comportamientos antiguos que sirven  –de algún modo- a futuros patrones de conducta ya sea en contextos de Finanzas, Marketing, Salud, Deportes, Administración [9] . Esta  información no opera instantáneamente, sino que requieren un análisis de contenido para su clasificación y contacto con los usuarios (personas como proveedores de datos [10] ).

LOS ALGORITMOS Y LA VIDA ACTUAL

La relación de los algoritmos con la vida diaria de la población a la fecha es bastante estrecha; como algunos ejemplos tenemos los siguientes que han tenido incidencia en varios países como es el caso de Estados Unidos [11] :

a) Decisiones algorítmicas sobre pasajeros de avión: en abril del año 2017, la empresa U. Airways en el aeropuerto O,Hare de Chicago, a través de sus empleados, procedió a desocupar violentamente el asiento ocupado por un médico para dársela a un piloto de la empresa. El resultado fue que el pasajero elegido sufrió lesiones corporales además de su perjuicio en el vuelo [12] .

b) Calificaciones de autores de delitos: En febrero de 2013, Eric Loomis fue capturado bajo sospecha de ser parte en un tiroteo en la ciudad de La Crosse. El aprehendido reconoció que condujo el vehículo, no obstante, el Juez lo condenó a seis años de prisión. Empero en el fundamento esencial del razonamiento judicial fue que según los algoritmos que conforman al programa “Análisis Compas” (Correctional Offender Management Profiling for Alternative Sanctions o Administraci ón de Perfiles de Criminales para Sanciones Alternativas del Sistema de Prisiones de Estados Unidos), lo calificó al individuo como “de alto riesgo para la comunidad” [13] .

c) Actuaciones preventivas policiales: La policía de Chicago empleó algoritmos que asignan puntuaciones en base a arrestos, disparos, pandillas y otros datos de los registros policiales para predecir futuros hechos violentos, en la ciudad que en 2016 habría superado la violencia de Nueva York y Los Angeles: "Si Chicago no resuelve la horrible “carnicería” que está ocurriendo, 228 tiroteos con 42 muertos (un 24 % más que en 2016), enviaré a los federales", expresó Donald Trump en un mensaje en su cuenta de Twitter. El empleo de algoritmos es actual y se realizan revisiones para la generación de las listas predictivas (Lista Estratégica de Sujetos) [14] .  

En el caso de Latinoamérica la cosa es aún incipiente, aunque existen ejemplos [16] :

a) En Argentina se extraen dos casos: el Gobierno de Salta implementó un sistema para predecir embarazos adolescentes y deserción escolar, aunque generó interés también motivó críticas sobre la legitimidad de la técnica. En materia de inversión, en la Ciudad de Buenos Aires se desarrolló un algoritmo que construye visualizaciones de las oportunidades comerciales que ofrecen los distintos barrios de la Ciudad y así direccionar inversiones adonde se presume que generarán más valor.

b) El otro caso es el de Uruguay, que experimentó el software Predpol para predecir delitos. Este sistema, mediante los datos reservados que contaba del Ministerio del Interior, estableció un mapa y zonas para distribuir efectivos policiales. Las variables empleadas fueron tres: tipo de delito, ubicación, fecha y hora. Por la configuración de las decisiones e interpretación de outputs, tenían mayor predisposición de ser consideradas como obligatorias más que meras sugerencias.  

No obstante, el sistema no resultó exitoso por los efectos de exclusión y discriminación sin contar la falta de claridad del método.  A menos de 3 años el Ministerio del Interior descontinuó el programa y lo reemplazó por herramientas de estadística. Dentro del Informe publicado el 2016 por Human Rights Data Anaysis Group (HRDAG) sugiere que este tipo de programas generan un circulo: a más presencia policial, más probabilidad de detectar un ilícito; si bien se detectó la reducción de delitos en las áreas focalizadas, pero no se descartaron desplazamientos a otros lugares.

OTRAS INCIDENCIAS ETICO-JURIDICAS DE LOS ALGORITMOS

En mayo de 2018, a propósito de la celebración del Simposio en Toronto (Canadá), se generó la Declaración de Toronto de mayo de 2018 que aglutinó organizaciones como Amnistía Internacional, Access Now, la Fundación Wikipedia o el Observatorio Internacional para los Derechos Humanos. Se fundamenta sobre la responsabilidad estatal y privada bajo un protocolo común de buenas prácticas y transparencia. Convoca a garantizar que las herramientas de inteligencia artificial respeten los Principios de Igualdad y No Discriminación, para su empleo equitativo y justo, protegiendo los derechos de todos los individuos y grupos, la diversidad e inclusión [17] .

A decir de Jordi Cabot: “En muchos casos, no basta con liberar el código fuente de esos algoritmos sino también de dotar al algoritmo de capacidades autoexplicativas que le permitan justificar sus decisiones ya que muchos de los algoritmos más usados hoy en día se basan en el uso de técnicas de big data y machine learning donde justamente es muy difícil saber el porqué y el cómo el algoritmo ha llegado a esa conclusión” [19] .

La Association for Computing Machinery ha establecido en 2017 [20] unos principios que orienten a la Inteligencia Artificial, los Algoritmos y el Big Data entre otros: a) Conciencia, b) Acceso y Corrección, c) Responsabilidad, d) Explicación, e) Procedencia de Datos, f) Auditoría, g) Validación y Testeo

En el plano formal, en la Unión Europea, el Reglamento General de Protección de Datos (Reglamento UE 2016/679) dispone: “Artículo 22 1. Todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar. 2. El apartado 1 no se aplicará si la decisión: a) es necesaria para la celebración o la ejecución de un contrato entre el interesado y un responsable del tratamiento; b) está autorizada por el Derecho de la Unión o de los Estados miembros que se aplique al responsable del tratamiento y que establezca asimismo medidas adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del interesado, o c) se basa en el consentimiento explícito del interesado” [21] ..

En España, la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales señala:  “Artículo 11. Transparencia e información al afectado. 1.Cuando los datos personales sean obtenidos del afectado el responsable del tratamiento podrá dar cumplimiento al deber de información establecido en el artículo 13 del Reglamento (UE) 2016/679 facilitando al afectado la información básica a la que se refiere el apartado siguiente e indicándole una dirección electrónica u otro medio que permita acceder de forma sencilla e inmediata a la restante información. También contempla que el afectado deberá ser informado de su derecho a oponerse a la adopción de decisiones individuales automatizadas que produzcan efectos jurídicos sobre él o le afecten significativamente de modo similar, cuando concurra este derecho de acuerdo con lo previsto en el artículo 22 del Reglamento (UE) 2016/679 [22] .

Las anteriores son muestras de que a nivel internacional existen disposiciones jurídicas limitadoras para el uso de los algoritmos, por un lado, por el otro, el interés de exploración por éstas técnicas para fines públicos. Se toma conciencia que no es suficiente el tratamiento automatizado como motivo único para efectuar decisiones sobre la población y que el consentimiento para su uso adquiere un rol fundamental y legitimador.

LA SITUACIÓN EN MATERIA INFORMÁTICA Y TECNOLOGÍAS EN BOLIVIA

En Bolivia aún no se tienen datos oficiales ni disposiciones puntuales sobre los algoritmos predictivos y la inteligencia artificial por parte de las autoridades gubernamentales, legislativas y jurisdiccionales o en el sector privado. Empero las Tecnologías de la Información y Comunicación llegaron para quedarse y ahora no resulta descabellado conjeturar que se empleen a la fecha los algoritmos de manera no informada en algún sector del país.

A propósito de la legislación informática y de tecnologías de la información, existen algunas expresiones que a continuación se muestran como parte del orden constituido del Estado Boliviano [23] :

a.     Constitución Política del Estado, de 9 de febrero de 2009.

b.     Decisión de la Comunidad Andina N° 351: Régimen sobre Derecho de Autor y Derechos Conexos de 17 de diciembre de 1993.

c.     Ley N° 1322 de 13 de abril de 1992 sobre Derechos de Autor.

d.     Ley N° 164 de 8 de agosto de 2011, Telecomunicaciones, Tecnologías de Información y Comunicación.

e.     Código Penal  (Ley N° 1768 de 10 de marzo de 1997 y demás disposiciones modificatorias) [24] .

f.      Decreto Supremo Nº 24582 de 25 de abril de 1997. Reglamento del Soporte Lógico o Software.

g.     Decreto Supremo Nº 26553 de 19 de marzo de 2002. Implementación de Nuevas Tecnologías de Información y Comunicación (NTIC).

h.     Decreto Supremo Nº 26624 de 14/05/2002. Reglamenta el registro de nombres de dominio.

]]> i.       Decreto Nº 28168, de 17 de mayo de 2005. Acceso a la información pública.

j.       Decreto Supremo Nº 353 de 4 de noviembre de 2009. Registro de los celulares.

k.     Decreto Supremo Nº 1391 de 24 de octubre de 2012, Reglamento General a la Ley N° 164.

l.       Decreto Supremo Nº 1828 de 11 de diciembre de 2013, complementa el Decreto Supremo Nº 1391.

m.   Decreto Supremo N° 1793 de 13 de noviembre de 2013, Reglamento de acceso, uso y desarrollo de las Tecnologías de Información y Comunicación.

n.     Decreto Supremo N° 3251 del 12 de Julio de 2017, Aprueba el Plan de implementación de Gobierno Electrónico. Software Libre y Estándares Abiertos.

o.     Decreto Supremo N° 3762 de 23 de diciembre de 2018, relativa a la Autoridad Certificadora Firma País.

Ahondando en la parte sustancial, es importante tener en cuenta dos aspectos: el deber del Estado en el desarrollo tecnológico de la información y comunicación para sus fines y el derecho de privacidad y la autodeterminación informática emergentes de la dignidad humana. Veamos el primer aspecto.

El Estado Boliviano es un Estado Constitucional de Derecho [25] . La Constitución refiere en artículo 20 parágrafo I que “toda persona tiene derecho al acceso universal y equitativo a los servicios básicos de agua potable, alcantarillado, electricidad, gas domiciliario, postal y telecomunicaciones”, y también en el parágrafo II de su artículo 103 dispone que “el Estado asumirá como política la implementación de estrategias para incorporar el conocimiento y aplicación de nuevas tecnologías de información y comunicación”.

De manera adicional, adquiere relevancia la Ley Nº 650 de 15 de enero de 2015, que eleva a rango de Ley la Agenda Patriótica del Bicentenario 2025, misma que determina como sus pilares 4 y 11: la “Soberanía científica y tecnológica con identidad propia” y la “Soberanía y transparencia en la gestión pública bajo los principios del no robar, no mentir y no ser flojo”.

Si hablamos de entidades públicas en Bolivia es posible mencionar de manera especial a las siguientes que tiene por lo menos ahora una potencial relevancia en materia de algoritmos e inteligencia artificial, sin perjuicio de que el resto del aparato gubernamental tenga relación estrecha en sus actividades con las tecnologías de la información tanto en su funcionamiento como en sus actividades institucionales: la Agencia para el Desarrollo de la Sociedad de la Información en Bolivia ADSIB creada mediante el Decreto Supremo N.º 26553, de fecha 19 de marzo de 2002, para desarrollar políticas, estrategias y acciones para brindar servicios fiables, innovadores y de calidad en el ámbito de las Tecnologías de la Información y la Comunicación, avanzando en la soberanía tecnológica y la inclusión de la población en el uso de la información y la tecnología.

Por el otro lado, el Decreto Supremo Nº 2514, de 9 de septiembre del 2015, creó la Agencia de Gobierno Electrónico y Tecnologías de Información y Comunicación que tiene como función elaborar, proponer, promover, gestionar, articular y actualizar el Plan de Implementación de Gobierno Electrónico y el Plan de Implementación de Software Libre y Estándares Abiertos para las entidades del sector público; y otros planes relacionados con el ámbito de gobierno electrónico y seguridad informática.

No obstante, estas prerrogativas estatales también se sujetan al resto del cuerpo constitucional, principalmente sin perder de vista los Principios Jurídicos y Derechos Fundamentales que se proclaman constitucional y convencionalmente, puntualmente el derecho a la intimidad y privacidad, honor, imagen y autodeterminación informática. En ése caso adquiere relevancia la relación proporcional de los medios con los fines.

Con estas connotaciones, la Constitución reconoce la Acción Tutelar denominada “Acción de Protección de Privacidad” (antes Habeas Data), cuando en su artículo 130 dispone que: “I. Toda persona individual o colectiva que crea estar indebida o ilegalmente impedida de conocer, objetar u obtener la eliminación o rectificación de los datos registrados por cualquier medio físico, electrónico, magnético o informático, en archivos o bancos de datos públicos o privados, o que afecten a su derecho fundamental a la intimidad y privacidad personal o familiar, o a su propia imagen, honra y reputación, podrá interponer la Acción de Protección de Privacidad”, cuyo sujeto con legitimación pasiva, recae en el responsable de los archivos o bancos de datos públicos o privados donde se encuentra la información. Incluso la legitimación comprende a las personas que compilen datos personales en un registro, que independientemente de tener o no una finalidad comercial, esté destinado a producir informes, aunque no los circule o difunda [26] .

La Jurisprudencia del Tribunal Constitucional Boliviano no quedó indiferente en la protección de los datos de la población, de ahí que en Sentencias como la SC 0965/2004-R de 23 de junio, citada por la SCP 0440/2016-S3 de 13 de abril, estableció el ámbito de aplicación de esta acción que tiene la finalidad de brindar tutela efectiva en el ejercicio del derecho a la autodeterminación informática: a) acceso a la información o registro de datos, b) Derecho a la actualización de la información, c) Derecho de corrección o modificación de la información, d) Derecho a la confidencialidad de cierta información, e) Derecho de exclusión de “información sensible‟, tales como las ideas religiosas, políticas o gremiales, comportamiento sexual; información que potencialmente podría generar discriminación o que podría romper la privacidad del registrado [27] .

En cuanto al internet, también el Tribunal Constitucional [28] realizó los siguientes razonamientos:

1) Hoy en día el uso de internet se encuentra presente en casi todos los aspectos de las relaciones y actividades sociales, así, cabe destacar la proliferación de instrumentos de recopilación de datos tanto por entidades públicas como privadas, lo que implica que muchas veces una persona no conozca a plenitud los fines, alcances y distribución de su información personal.

]]> 2) Mediante los avances y herramientas tecnológicas, los actos que vulneran derechos fundamentales como los de privacidad, intimidad, honra, honor, propia imagen y dignidad también se incrementan en distintas esferas; en ese sentido, el deber del Estado de garantizar la protección y vigencia de tales derechos.

3) Sobre los derechos fundamentales en la web, en la actualidad el usuario no tiene un papel pasivo a quien le llegue solo la información, sino que se convirtió también en un generador de información, pasando de ser mero consumidor a creador de contenido.

4) El Estado no cuenta con normas adecuadas para la protección de datos de carácter personal ni con políticas públicas claras en la materia, pese a que la era digital actual así lo demanda, donde el acceso a la información fue el puntal de su propia evolución.

5) El Derecho a la Autodeterminación Informática es la prerrogativa que toda persona posee frente a cualquier persona, por la cual nadie debe introducirse, sin autorización expresa (de él mismo o la ley), en aspectos que no sean públicos y se refieran a su vida personal y familiar, para que pueda procesarlos y/o difundirlos como vea conveniente, independientemente de la existencia de daño alguno.

 

ALGORITMOS Y SU PROYECCIÓN CONSTITUCIONAL EN BOLIVIA

Los algoritmos y otros aspectos de la inteligencia artificial han ingresado hace bastante tiempo a la esfera de las relaciones sociales y las experiencias de empleo para predicciones sobre conductas para su prevención o aplicación de medidas públicas no han estado exentas de controversia.

Básicamente el empleo de los algoritmos en las relaciones sociales -puede decirse- que descansa en la Seguridad (como es el caso de evasiones o riesgos), Prevención, la idea de la Objetividad y la Utilidad o Economía; principalmente en los primeros aspectos (aunque resulta contradictorio al ser meras probabilidades sin genuina certeza pero al tenerse a la seguridad como finalidad) porque con la búsqueda de predecir conductas y anticiparse a las mismas bajo la probable certeza de que ocurrirán, permite otorgar control de las circunstancias. A su vez, los algoritmos y su empleo en sí mismos implican reducción de gastos temporales, humanos y pecuniarios en investigaciones, logística y otros que habitualmente requieren invertirse, además que al ser adscritos a las matemáticas y la informática, el empleo de la técnica implicaría nuevamente una confianza al método la reducción de subjetivismo con la menor intervención emocional o de interés que todo ser humano tiene. Si se analizan los anteriores, se tratan de principios con notorios enfoques utilitarios.

Empero, las críticas y cuestionamientos también descansan en otros principios y derechos humanos en contraposición sin perjuicio de las limitaciones o cuestionamientos intrínsecos propios de las técnicas: los sesgos de la información, así como la inevitable aparición de la subjetividad en la elección de variables en los algoritmos o en la interpretación de los datos predispuestos en el programa. Así adquiere relevancia la crítica fundada de la falta de imparcialidad, igualdad jurídica material y no discriminación, presunción de inocencia, transparencia, proporcionalidad y la publicidad de los datos obtenidos o resultados de las operaciones. Sintetizando a todo lo anterior: la injusticia ante la consciente o inconsciente inclinación de asociar ciertos criterios que pueden entenderse como prejuzgamiento con sectores sociales.

En los elementos antes esbozados se expresan los fundamentos principales en los que descansan la oposición al empleo utilitario en los escenarios morales y jurídicos. Desde calificaciones de “armamento inmoral”, “dictadura robótica” hasta aspectos como la falta de consideración psicológica y moral de los algoritmos y la inteligencia artificial en las relaciones morales que pueden ser determinantes para dilucidar lo bueno de lo malo, de lo justo e injusto [29]

Lo evidente es que confiar en el procedimiento olvidando las otras causas que pueden configurar un fenómeno determinado con la idea de objetividad, son propias del positivismo jurídico, el cual ha sido superado a partir de las corrientes neoconstitucionales y que reivindica en una u otra las ideas iusnaturalistas de justicia [30] . No es posible olvidar que las ciencias éticas buscan el Bien como otro valor fundamental, y la técnica la utilidad.

Si solamente nos avocamos a la idea de utilidad de los algoritmos: ¿esta será sustitutiva de la idea del bien? Los algoritmos reflejan un método, pero los resultados predictivos son sólo posibilidades de repetición. Su empleo como razón única para dirigir o abordar las relaciones humanas no resulta proporcional ni racional para limitar derechos de las personas no sólo en el ámbito de la gestión de los datos que producen en el ciberespacio, sino que terceros se valgan de éstos para optimizar sus recursos a cambio de decidir el destino de otros mediante una negación de un trabajo o peor aún determinar una idea manifiestamente contraria a un Estado Constitucional de Derecho en el que resulta inadmisible la presunción de culpabilidad o de un Derecho Penal de Autor.

Los Derechos Humanos son indivisibles e interdependientes y al determinarse decisiones sobre éstos mediante el empleo de algoritmos computarizados, éstos se enfrentan no solo a la irreductible crítica del sesgo de la información, sino al momento de otorgar un resultado que puede ser procedimentalmente válido pero manifiestamente injusto.

Por la configuración neoconstitucional de los derechos fundamentales en Bolivia, el empleo de algoritmos predictivos in malam partem a la población no cuentan con suficiente peso para que determinen derechos ajenos o los reduzcan por los valores comprometidos y las limitaciones exhibidas. Sin embargo, esto no resulta que, a pesar de la cuestionable licitud de su empleo o consentimiento aparente en contratos de adhesión, puedan ser, lamentablemente, empleados clandestinamente en el ámbito público o privado en la actualidad o en un futuro próximo.

Los algoritmos son instrumentales y aportarían para el bien común como herramienta adicional para desarrollo de los derechos fundamentales; podrían contribuir para desarrollar mayores políticas en beneficios de los derechos fundamentales más que por la seguridad del Estado o de utilidad privada.  En éste caso si la finalidad resulta Pro Libertatis u Homine, ésta no resultaría suficiente sin que sea también transparentado y socializado el empleo de los algoritmos y sus resultados admitiendo que no podría generar el fundamento esencial en la toma de decisiones. Por mucho que se empleen técnicas predictivas mediante ordenadores, los resultados exhiben el empleo de la lógica formal en el procedimiento, pero ésta propia del mecanicismo no sustituye los razonamientos y ponderaciones en una lógica material.

Como se ha visto, el empleo de algoritmos en la vida social es variado y tiende en adentrar en más ámbitos, por lo que el empleo de los mismos de manera discreta o encubierta no causa sorpresa y que se podría legitimar con el empleo aparente de otras medidas. Pero en vista de las limitaciones de resultados y que siempre resultan proyecciones sobre aspectos pasadas no resulta demasiado dificultoso descubrir su empleo. Es por esta razón complementaria que resultaría admisible como política pública que ante decisiones sin que cuenten con la razón suficiente para tomar una medida restrictiva de derechos fundamentales y que puedan ser sospecha de empleo de algoritmos, pueda instituirse la Inversión de la Prueba en materia de Inteligencia Artificial, es decir que el ciudadano o la población afectada no quede en la obligación de demostrar el empleo de los algoritmos como motivo en las decisiones, sino que la carga de la prueba sea del emisor o responsable de la base de datos sin perjuicio de la invalidez de las determinaciones si se sustentan solo en la decisión de algoritmos.

Los datos de las personas en una gran parte pueden ser disponibles para que opere el consentimiento, es decir que sean de orden privado. Pero disponer los datos para decidir sobre otros derechos de la misma persona generadora de los datos repercute en toda la colectividad. El Interés Público adquiere relevancia y no resultaría irracional que al momento de instituir legislación interna se pueda reconocer este carácter para la activación de las políticas pública para un empleo racional y su preservación judicial que resulta admisible con las condiciones que reúne la acción tutelar de privacidad en Bolivia y sin perjuicio de reconocer otras en sedes ordinarias como es el Caso de la Petición de Hábeas Data en el Decreto Supremo N° 28168 empleado en sede administrativo pero con mayor fortalecimiento con el reconocimiento de los Principios Éticos para la Inteligencia Artificial y la Declaración de Toronto.

Sigue latente la discusión: ¿una proyección resultaría racional tenerla como causalidad con resultado inevitable? Esta pregunta también resultaría relevante si al momento de buscar la inversión en el empleo de algoritmos, pueda contaminarse el uso de recursos, sobre todo públicos, ante una finalidad que resulte adversa a los principios jurídicos y los derechos humanos.

La tecnología no se queda estancada y el empleo de los algoritmos no es la expresión cúspide de las técnicas. Sin embargo, los problemas éticos siguen respondiendo a problemas filosóficos, la idea de la verdad y el bien con lo útil, la justicia y la objetividad, los cuales reaparecen y no se limitan a ser meras lecciones históricas. No nos olvidemos que el trasfondo utilitario no resulta extraño si se revisa la postura positivista utilitaria de Bentham y que también encuentra sus resabios en éstas técnicas. El empleo limitado, indiciario y en un escenario adscrito al Principio Pro Homine de los algoritmos predictivos y con reserva de control permanente no sustitutivo de los razonamientos humanos puede llegar a contribuir a una sociedad mejor, pero como una herramienta más y no así como un reemplazo de la ética al perseguir finalidades distintas.

CONCLUSIONES

El debate de los algoritmos predictivos y la inteligencia artificial no ha hecho más que empezar. El empleo y su experimentación en alguno de ellos no ha resultado suficiente y satisfactoriamente justificado, lo cual no implica que por ése hecho se vaya a erradicar, sino todo lo contrario, existen tendencias de mayor empleo. No se trata de restringir el desarrollo tecnológico, sino en tomar conciencia y adoptar posturas racionales en las que no es admisible aceptar un reemplazo de la técnica por la ética en problemas de éste último contexto. La técnica es útil, pero como herramienta.

Los resultados injustos o prejuzgamientos de las personas para anticiparse a hechos contravencionales, ilícitos o delictuales o para restringir acceso a otros derechos como el trabajo o salud, serán consecuencias con el empleo abusivo que busque sustituir la prudencia humana. En un Estado Constitucional de Derecho la dignidad y los derechos fundamentales no se exhiben como mera proclama programática, por lo que el desarrollo tecnológico debe fomentar la profundización y su extensión para el bien común.

El reto de un Estado Constitucional de Derecho es el gestionar el desarrollo tecnológico y de la información sin que implique un menoscabo de los derechos fundamentales, evitando el empleo clandestino desde el sector público y privado, por lo que un empleo proporcional y justo será admisible si contribuye al desarrollo de los derechos humanos más que para restringirlos, mediante el reconocimiento del interés público en materia de datos informáticos de las personas, la inversión probatoria sobre decisiones que afecte a la población entre otras políticas públicas y sobretodo el fomento tecnológico pro homine sin olvidar las lecciones del pasado para una búsqueda constante del bien común.  

Notas

[1] Es Magister Scientiarum en Derecho Constitucional y Derecho Procesal Constitucional, grado otorgado por la Universidad Mayor de San Andrés, abogado y actualmente servidor público en la Defensoría del Pueblo. Correo Electrónico: luisfernandoconchaflores@gmail.com

[2] Aunque otras fuentes convencionales afirman que proviene del latín dixit algorithmus y del griego arithmos que significa “número”: https://es.wikipedia.org/wiki/Algoritmo, consultado en fecha 3 de julio de 2019.

[3]   En otra acepción y de la misma fuente puede consultarse en https://dle.rae.es/?id=1nmLTsh,

[5]   Pinales, Francisco; Velásquez, Cesar. Ob Cit. Los autores sostienen que este conjunto de pasos que se denomina algoritmo, debe tener como característica final la posibilidad de transcribirlo fácilmente a un lenguaje de programación, para esto se utilizan herramientas de programación.

[6] Balderrama, Carlos. ALGORITMOS, METODOLOGÍA DE LA PROGRAMACIÓN I extractable en https://moodle2.unid.edu.mx/dts_cursos_mdl/lic/IC/EA/AM/06/Algoritmos.pdf

[7] Manifiesta el autor que para que los algoritmos funcionen, necesitan ingentes cantidades de datos o big data, datos masivos caracterizados por su volumen, variedad y velocidad, las llamadas “tres V”. “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”

[8] Espino, Carlos Ibid, pág 25 y ss. En ése contexto Thomas Shimada y Fabián López identificaron las áreas de aplicación de la analítica predictiva: a) Segmentación de clientes, b) Personalización de la oferta, c) Detectar el riesgo de abandono de la relación comercial, d) Conocer los clientes propensos a responder iniciativas de comunicación publicitaria, e) Conocer la tasa de deserción, de clientes y para evitar desvío de competencia (se encuentra su artículo en http://www.il-latam.com/images/articulos/articulo-revista-109-como-convertir-la-informacion-en-ventaja-competitiva.pdf).

[9] Prf. Big Data y Análisis Predictivo Esteban Moro (UC3M+IIC), Instituto de Ingeniería del Conocimiento de la Universidad Carlos III de Madrid, también extractable en http://sgfm.elcorteingles.es/SGFM/FRA/recursos/conferencias/ppt/1941211786_1572014105515.pdf, consultado en fecha 18 de julio de 2019

[10] Espino, Carlos. ANÁLISIS PREDICTIVO: TÉCNICAS Y MODELOS UTILIZADOS Y APLICACIONES DEL MISMO - HERRAMIENTAS OPEN SOURCE QUE PERMITEN SU USO. Universitat Oberta de Catalunya. Espa ña, 2017, en http://openaccess.uoc.edu/webapps/o2/bitstream/10609/59565/6/caresptimTFG0117mem%C3%B2ria.pdf

[11] Según la BBC, en EE.UU. se estima que el 70% de las solicitudes de empleo son filtradas antes de ser analizadas por humanos y en un artículo de la Harvard Business Review, los académicos Gideon Mann y Cathy O'Neil argumentan que estos programas no est án desprovistos de los prejuicios y sesgos propios de los humanos, lo que podría hacer que la inteligencia artificial no sea realmente objetiva.“5 algoritmos que ya están tomando decisiones sobre tu vida y que quizás tú no sabías” en  https://www.bbc.com/mundo/noticias-42916502,3 febrero 2018

[12] Véase más alcances del hecho en https://www.efe.com/efe/america/sociedad/united-modifica-sus-politicas-tras-la-violenta-expulsion-de-un-pasajero/20000013-3239275

[13] Al margen de los serios cuestionamientos en razón a condiciones de raza, Julia Angwin de la organización de periodismo de investigación ProPublica indagò y sostuvo que "Compas es básicamente un cuestionario que se le da a las personas cuando son arrestadas. Y se les pregunta un montón de cosas que terminan concluyendo si esa persona en el futuro podría cometer un crimen (…) las preguntas incluyen aspectos como "tu historia criminal, si algún miembro de tu familia ha cometido un crimen o ha sido arrestado, si vives en un barrio peligroso, si tienes amigos que pertenecen a una pandilla, tu historial laboral y académico". Con esta investigación se infirió que a partir de una escala del 1 al 10, se determina si la persona involucrada puede ser enviada a prisión, salir mediante fianza o libertad condicional. Para acceder a dicha investigación por Simon Maybin, véase https://www.bbc.com/mundo/noticias-37679463 ¿Cómo en Estados Unidos las matemáticas te pueden meter en prisión? 17 octubre 2016

[15] Boletín Oficial del Estado Núm. 20, de Martes 23 de enero de 2018 Sec. I. Pág. 8139, recuperado en https://www.boe.es/boe/dias/2018/01/23/pdfs/BOE-A-2018-792.pdf

[16] Los estudios metódicamente confiables consultados son los trabajos de Juan Ortiz Freuler, J y Carlos Iglesias  (2018). “Algorithms e Inteligencia Artificial en Latin America: Un Estudio de implementaciones por parte de Gobiernos en Argentina y Uruguay”, de World Wide Web Foundation. El informe tiene como objetivo ayudar a organizar el debate en torno a la efectividad y legitimidad de la implementación de estas herramientas por parte del sector público. Recomienda para el aprovechamiento de algoritmos el Desarrollo de Infraestructura y experticia gubernamental, ofrecer un marco teórico basado en principios democráticos y DDHH ante la implementación de herramientas, incorporando Transparencia, Participación y Rendición de Cuentas, así como los mecanismos de evaluación de riesgo previo a la implementación.

[17] https://www.accessnow.org/cms/ assets/uploads/2018/05/Toronto-Declaration-D0V2.pdf

[18] Ponce Juli “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico” El artículo refleja con el detalle necesario en la temática se publicó en el número 50 de la Revista General de Derecho Administrativo (Iustel, enero 2019) 11/04/2019, http://laadministracionaldia.inap.es/noticia.asp?id=1509505. 

[19] Jordi Cabot 7 PRINCIPIOS PARA LA TRANSPARENCIA Y RESPOSABILIDAD DE LOS ALGORITMOS:  https://ingenieriadesoftware.es/transparencia-resposabilidad-algoritmos/

[20] Paralelamente al uso creciente de los algoritmos, también existe una corriente creciente para su uso ético mediante grupos colectivos de investigación e interés: “DeepMind Ethics & Society” para ayudar a evaluar y reducir los posibles problemas éticos de la IA o la “Liga de la Justicia algorítmica”.

[21] L 119/46 ES Diario Oficial de la Unión Europea 4.5.2016: https://www.boe.es/doue/2016/119/L00001-00088.pdf

[22] Boletín Oficial de España, Núm. 294 Jueves 6 de diciembre de 2018 Sec. I. Pág. 119804, rescatable en https://www.boe.es/boe/dias/2018/12/06/pdfs/BOE-A-2018-16673.pdf

[23] Gaceta Oficial de Bolivia. http://www.gacetaoficialdebolivia.gob.bo/

[25] Con el reconocimiento en la jurisprudencia constitucional, como es el caso de la SC 0258/2011-R de 16 de marzo.

[26] Artículo 60 del Código Procesal Constitucional Boliviano, de 5 de julio de 2012.

[27] Sentencia Constitucional Plurinacional 1084/2016-S3 de 4 de octubre de 2016. Por su parte, la SCP 1445/2013 de 19 de agosto, precisó que deben concurrir dos presupuestos: a) La existencia de un banco de datos, que tengan como finalidad proveer informes, b) Que ese banco de datos contenga información vinculada a los derechos protegidos por la acción. Finalmente, la SC 0965/2004-R de 23 de junio reconoció tipos de esta acción: informático, exhibitorio, finalista, autoral, aditivo, rectificador, reservador y cancelatorio o exclusorio (por el que se logra que se borren datos conocidos como “información sensible”).

[28] Sentencia Constitucional Plurinacional 0819/2015-S3 de 10 de agosto de 2015

[29] Resulta a colación e ilustrativa la importancia de la valoración humana como fue el caso ocurrido en el año 1983, en el que el oficial soviético Stanislav Petrov estaba al mando cuando los sistemas inform áticos detectaron que un ataque nuclear contra la URSS. Según sus procedimientos legales, se debía informar del ataque a sus superiores para la aplicación inmediata de las represalias nucleares, no obstante, Petrov con un razonamiento “humano” no informó y en efecto, resultó una falsa alarma, evitando de esta manera un conflicto nuclear.

[30] Vigo, Rodolfo. ¿DOS O TRES NEOCONSTITUCIONALISMOS? Recuperado en https://www.derecho.unam.mx/cultura-juridica/eventos/Dos-tres-neoconstitucionalismos.pdf

Agencia EFE. UNITED MODIFICA SUS POLITICAS TRAS LA VIOLENTA EXPULSIÓN DE UN PASAJERO. Obtenido en https://www.efe.com/efe/america/sociedad/united-modifica-sus-politicas-tras-la-violenta-expulsion-de-un-pasajero/20000013-3239275        [ Links ]

Balderrama, Carlos. ALGORITMOS, METODOLOGÍA DE LA PROGRAMACIÓN I. Obtenido de https://moodle2.unid.edu.mx/dts_cursos_mdl/lic/IC/EA/AM/06/algoritmos.pdf        [ Links ]

Boletín Oficial del Estado. L 119/46 ES Diario Oficial de la Unión Europea 4.5. España, 2016. rescatado en  https://www.boe.es/doue/2016/119/L00001-00088.pdf         [ Links ]

Boletín Oficial del Estado. Núm. 20, de Martes 23 de enero. España, 2018, obtenido en https://www.boe.es/boe/dias/2018/01/23/pdfs/BOE-A-2018-792.pdf

Boletín Oficial del Estado. Núm. 294. España, 2018. Obtenido en https://www.boe.es/boe/dias/2018/12/06/pdfs/BOE-A-2018-16673.pdf

British Broadcasting Corporation. ¿ES POSIBLE PREDECIR UN DELITO?: EL CONTROVERSIAL ALGORITMO USADO POR LA POLICÍA DE CHICAGO, LA CIUDAD CON MÁS CRIMINALIDAD DE ESTADOS UNIDOS. Obtenido en https://www.bbc.com/mundo/noticias-39883234        [ Links ]

British Broadcasting Corporation; Duarte Fernando. 5 ALGORITMOS QUE YA ESTÁN TOMANDO DECISIONES SOBRE TU VIDA Y QUE QUIZÁS TÚ NO SABÍAS. Obtenido en https://www.bbc.com/mundo/noticias-42916502        [ Links ]

British Broadcasting Corporation; Maybin, Simon. ¿CÓMO EN ESTADOS UNIDOS LAS MATEMÁTICAS TE PUEDEN METER EN PRISIÓN?. Obtenido en https://www.bbc.com/mundo/noticias-37679463.        [ Links ]

Cabot, Jordi. 7 PRINCIPIOS PARA LA TRANSPARENCIA Y RESPOSABILIDAD DE LOS ALGORITMOS. 2017. Obtenido en https://ingenieriadesoftware.es/transparencia-resposabilidad-algoritmos/        [ Links ]

Espino, Carlos. ANÁLISIS PREDICTIVO: TÉCNICAS Y MODELOS UTILIZADOS Y APLICACIONES DEL MISMO - HERRAMIENTAS OPEN SOURCE QUE PERMITEN SU USO. Universitat Oberta de Catalunya. España, 2017. Obtenido en http://openaccess.uoc.edu/webapps/o2/bitstream/10609/59565/6/caresptimTFG0117mem%C3%B2ria.pdf        [ Links ]

Gaceta Oficial de Bolivia. Obtenida en http://www.gacetaoficialdebolivia.gob.bo/

Joyanes, Luis. METODOLOGÍA DE LA PROGRAMACIÓN, DIAGRAMAS DE FLUJO, ALGORITMOS Y PROGRAMACIÓN ESTRUCTURADA. Mc Graw Hill. España, 1993.        [ Links ]

Moro, Esteban.   BIG DATA Y AN ÁLISIS PREDICTIVO. Universidad Carlos III de Madrid. Obtenido:sgfm.elcorteingles.es/SGFM/FRA/recursos/conferencias/ppt/1941211786_1572014105515.pdf.        [ Links ]

Ponce, Juli. INTELIGENCIA ARTIFICIAL, DERECHO ADMINISTRATIVO Y RESERVA DE HUMANIDAD: ALGORITMOS Y PROCEDIMIENTO ADMINISTRATIVO DEBIDO TECNOLÓGICO. de la Revista General de Derecho Administrativo. España, 2019. Obtenido en http://laadministracionaldia.inap.es/noticia.asp?id=1509505.          [ Links ]

Pinales, Francisco; Velázquez, César. PROBLEMARIO DE ALGORITMOS RESUELTOS CON DIAGRAMAS DE FLUJO Y PSEUDOCÓDIGO. Departamento Editorial de la Dirección General de Difusión y Vinculación de la Universidad Autónoma de Aguascalientes. México, 2014.         [ Links ]

Real Academia Española. DICCIONARIO DE LA LENGUA ESPAÑOLA. Obtenido de https://dle.rae.es/?id=1nmLTsh.        [ Links ]

Tribunal Constitucional Plurinacional. Sentencia Constitucional Plurinacional 1445/2013 de 19 de agosto. Bolivia, 2013.

Tribunal Constitucional Plurinacional.  Sentencia Constitucional Plurinacional 0819/2015-S3 de 10 de agosto. Bolivia, 2015.

Tribunal Constitucional Plurinacional.   Sentencia Constitucional Plurinacional 1084/2016-S3 de 4 de octubre. Bolivia, 2016.

Vigo, Rodolfo Vigo. ¿DOS O TRES NEOCONSTITUCIONALISMOS? Obtenido en recuperado en https://www.derecho.unam.mx/cultura-juridica/eventos/Dos-tres-neoconstitucionalismos.pdf.        [ Links ]

Wikimedia, Inc. WIKIPEDIA. Obtenido de https://es.wikipedia.org/wiki/Algoritmo.        [ Links ]

World Wide Web Foundation; Ortiz, Juan; Iglesias, Carlos. ALGORITMOS E INTELIGENCIA ARTIFICIAL EN LATINOAMÉRICA. 2018. Obtenido en: www.webfoundation.org.         [ Links ]