Marta de Miguel dice: Empecé como tecnóloga, continué desde la sociología y no sé donde terminaré. Actualmente en transparencia en la Universidad de Zaragoza. Mi vocación divulgadora me lleva a publicar artículos y dar cursos de formación en terrenos relacionados con la modernización de la administración y más concretamente la innovación. Esto me ha proporcionado interesantes oportunidades como la participación como asesora en la estrategia de modernización del sistema universitario en la Secretaría General de Universidades.
Impacto del cambio
A los que trabajamos en la administración la innovación puedegustarnos más o menos en función de si pesa más nuestra capacidad de entusiasmoante la novedad o la prevención ante los fuegos artificiales en la gestión delo público pero incluso entre los más reacios pocas veces ha sido detectadacomo una amenaza personal.
Hasta ahora el escenario en el que se planteaba el impacto del cambio en la sustitución de tareas y por tanto de puestos de trabajo quedaba en el terreno de la robótica con la sustitución de trabajos manuales y/o en el de la extensión de tecnologías de automatización capaz de realizar tareas repetitivas. Bueno, no íbamos mal, en la administración no hay mucho trabajo manual y la perspectiva de liberarnos cada uno de nosotros de esa carga diaria de trabajo repetitivo viene a ser como la promesa de un mundo mejor.
Pero llegan los sistemas expertos y la inteligencia artificial a nuestras vidas y con ellos un nuevo horizonte.
En un lado de la balanza tenemos que uno de los tipos más generales y extendidos de la inteligencia artificial son los sistemas basados en reglas. En el otro que la administración es un campo donde la aplicación de un sistema de reglas tiene el camino hecho. Las normativas y los procesos administrativos que contemplan supuestos son el sueño de cualquier analista informático que tenga que diseñar una herramienta tecnológica de este tipo apoyada en conocimiento estructurado.
Una tecnología para sustituir al “cerebro” de la administración
Es en este momento cuando todos los que trabajamos en este mundo pensamos “esto es lo que tú te crees”. La experiencia nos ha enseñado que por muy sencillo que parezca que puede ser un proceso administrativo siempre hay una decisión que tomar que exige una flexibilidad que un algoritmo no tiene y es necesario una intervención más inteligente y por lo tanto humana que salve la situación o al menos que la resuelva de forma más eficiente. Además, esto no lo aprendes en los libros de teoría, es el poso que te queda de años en los que te vas encontrando ese tipos de casos y que hacen que sea la experiencia la que conforme el criterio de toma de decisiones.
Malas noticias. Esta vez nos encontramos con que la inteligencia artificial es una solución tecnológica que precisamente tiene sentido para aquellas tareas donde es necesario aplicar un criterio. Ahora tenemos una herramienta que no sustituye al músculo de la administración sino a su cerebro y aquí sí, podemos vernos envueltos en un auténtico vuelco en la estructura del futuro que proporciona servicios públicos.
Criterios morales
Que no cunda el pánico, siempre hay un pero, también en la IA. Puede que ya se hayan reducido drásticamente las tareas manuales, quizá hoy sea perfectamente posible sustituir las tareas repetitivas, y puede que mañana mismo se llegue a sustituir a las personas que toman decisiones analizando información pero….
Ahora el quiz se sitúa en que es muy difícil que se pueda sustituir a las personas que añaden criterios morales en sus decisiones. Digo muy difícil porque a estas alturas ya deberíamos darnos cuenta que la palabra imposible debe ser desterrada.
Sesgo algorítmico
Para exponer el problema de la ética en la inteligencia artificial se suele acudir a varios casos prácticos.
El más “sonado” es el del dilema de los coches autónomos que se recoge por ejemplo en http://moralmachine.mit.edu donde nos proponen elegir entre matar a 2 pasajeros o a 5 peatones, ¿cuál juzgas que es el resultado más aceptable?
Pero hay otro ejemplo de aplicación real que ha levantado ampollas: COMPAS, una herramienta de inteligencia artificial diseñada para asistir a los jueces estadounidenses para apoyar sus decisiones. En 2016 ProPublica analizó la herramienta. Sus conclusiones fueron que por lo general, el algoritmo era preciso. Pero cuando fallaba, lo hacía otorgándole mucha más probabilidad de reincidencia a las personas de raza negra que a las de raza blanca.
¿Por qué pasa esto?
- Es posible que el “padre” o “madre” del programa actúe (de forma intencionada o no) introduciendo algún sesgo propio
- Puede haber algún error en el proceso lógico. Las decisiones que toman los algoritmos se basan en datos e información pero el proceso de decisión no siempre es obvio ni trazable. Se llega a perder el control.
- Pero además, los datos usados para entrenar al software pueden contener sesgos de un lado u otro, y eso condicionar el resultado. El parámetro de la raza no formaba parte del diseño de COMPAS pero si las sentencias dictadas en el sistema judicial de Estados Unidos tienen un sesgo racial el algoritmo lo reproducirá. Muy sonado ha sido también el programa de contratación de Amazon y la discriminación de género. El peligro de que la supuesta imparcialidad de un algoritmo perpetúe los sesgos está servido.
Menos mal que esto aún tardará, con un poco de suerte me pilla jubilado/a.
Lo siento, ya nos ha pillado. Como suele decirse el futuro ya está aquí.
A día de hoy los asistentes virtuales o chatbots, que soncapaces de responder a preguntas sobre temas específicos son una realidad. Desdela implantación recientemente en la AEAT al que tendremos “en casa” parafacilitar al usuario los datos disponibles de Aragón Open Data.
Su uso como respuesta a la interacción con el ciudadano o en asistentes personales que guíen en la relación con la administración no parece muy conflictiva. Sí lo es un poco más los asistentes aplicados en el terreno sanitario capaces de procesar una cantidad ingente de imágenes o por ejemplo el caso que está en marcha para la clasificación de riesgo en los casos de violencia de género.
Nuestro sitio
¿Cuál es entonces el lugar de las instituciones públicas y de sus trabajadores en un mundo como el que avanza la IA?
El de la ética.
Sí o sí necesitamos sistemas y personas que generen confianza, prevengan y persigan la corrupción y actúen como garantes de derechos.
Solo el fortalecimiento de la integridad de nuestras instituciones nos hará ganar un lugar que ahora está cuestionado y que como vemos cada vez es y será más necesario para nuestra propia supervivencia.
