Fiabilito
Fiabilito
Tiempo estimado de lectura: 4 minutos

1. I+D Legal en acción: ingenieros y abogados crean Fiabilito

Fiabilito es el resultado de la colaboración entre la Universidad Internacional de la Rioja (UNIR) y la firma de abogados Algoritmo Legal. Los ingenieros especializados en inteligencia artificial Yaiza Argudín Pérez, Alberto Martín Montero, Alejandro Núñez Valle y Carlos Simón Gallego junto con los expertos abogados de nuestra firma Ricardo Oliva León (director del proyecto) y Elena Almazán Salazar, han creado el chatbot Fiabilito.

El objetivo de este chatbot es el de permitir a las empresas del sector financiero (particularmente a los bancos) realizar un diagnóstico preliminar acerca de si sus productos o servicios que incorporan algoritmos de inteligencia artificial (IA) garantizan el uso de una inteligencia artificial ética y fiable. Para ello simplemente se debe iniciar una conversación con el chatbot pinchando la opción “Evaluar mi algoritmo (sector financiero)”. La evaluación se lleva a cabo por medio de un cuestionario de preguntas. Al finalizar la conversación, Fiabilito emite un informe en formato PDF con el resultado de la evaluación realizada. El chatbot se ubica en la parte inferior derecha de la web.

El ideólogo del proyecto ha sido Ricardo Oliva León. Los cuatro ingenieros se han encargado de la parte técnica del proyecto (la programación, el diseño y desarrollo en Dialogflow y lenguaje Python, y su posterior despliegue e integración en la página web). Por su parte, los abogados Ricardo Oliva León y Elena Almazán Salazar se han centrado en todos los aspectos jurídicos del proyecto (estudio a profundidad de la normativa europea e internacional sobre IA) y de alimentar al chatbot con suficiente información jurídica acerca de la inteligencia artificial lícita, ética y robusta. Abogados e ingenieros crearon el índice de fiabilidad del chatbot para medir el nivel de fiabilidad de los algorítmicos de IA en el sistema financiero.  El desarrollo de la página web ha corrido a cargo del experto programador Óscar Domínguez Merino.

El equipo multidisciplinar ha trabajado durante seis meses ininterrumpidos en este proyecto. Algoritmo Legal proporcionó a los ingenieros la documentación necesaria para identificar los requisitos que debe cumplir un sistema de IA fiable en el sector financiero y elaboró una serie de preguntas clasificadas según el uso de la IA en el seno de los bancos. Estas preguntas han sido elaboradas siguiendo, particularmente, las Directrices Éticas para una Inteligencia Artificial fiable, publicadas por la Comisión Europea en junio de 2018, la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial de abril de 2021, y la Recomendación sobre la Ética de la Inteligencia Artificial aprobada por la UNESCO el 18 de noviembre de 2021.

¿Por qué Fiabilito evalúa algoritmos de inteligencia artificial aplicados al sector financiero? Una de las primeras cuestiones que se tuvo que decidir al inicio fue el sector concreto en el que el chatbot debía operar. Finalmente, se optó por el sector financiero debido a que el uso de algoritmos de IA en dicho sector es cada vez más común y la interacción directa con los usuarios resulta recurrente. Los principales usos de la IA en el sector bancario que se han analizado para la confección de las preguntas que el chatbot realiza a los usuarios, son los siguientes:

  1. Robo advisors.
  2. Trading algorítmico.
  3. Scoring crediticio.
  4. Onboarding financiero.
  5. Sistemas de gestión de riesgo.
  6. Compliance en materia de prevención del blanqueo de capitales.

¿Cómo funciona Fiabilito? Para determinar si un algoritmo puede considerarse fiable, el chatbot procede a calcular un índice que mide el grado de fiabilidad y ética de los sistemas de IA implantados por una empresa del sector financiero. A cada una de las preguntas que realiza el chatbot se le ha asignado un peso de importancia, de manera objetiva, teniendo en cuenta las posibles vulneraciones a derechos fundamentales que podrían darse.

El chatbot distingue así entre preguntas de importancia alta, media y baja. Las preguntas cuya importancia se considera alta tienen un valor asignado de 1, las de importancia media tienen un valor de 0,6 y las de importancia baja puntúan con 0,25. Este valor asignado a cada una de las preguntas en función de su importancia será utilizado a modo de penalización en caso de que la respuesta correspondiente sea negativa. Por lo tanto, si se responde con un NO, el chatbot calcula el índice sumando el valor correspondiente a la importancia de esa pregunta. Al final, el índice se calcula sumando todas las penalizaciones obtenidas de las respuestas negativas y, si el resultado es mayor o igual que 1, significará que el algoritmo evaluado no supera el test, por lo que no podrá considerarse ético. Obsérvese que las respuestas a todas las preguntas consideradas de importancia alta deben ser siempre SÍ para poder hablar de IA fiable. Fiabilito, finalmente, resume los resultados del cuestionario en un PDF que se genera automáticamente conforme registra las preguntas que son enviadas en el propio cuadro conversacional, de manera que queda disponible para su descarga inmediata por el usuario.

Fiabilito es un proyecto pionero de I+D legal que demuestra las potentes sinergias que pueden surgir cuando los abogados trabajan de la mano con los ingenieros y científicos de datos.

 

2. Nace la primera firma de abogados española especializada en Derecho de la Inteligencia Artificial

Con Fiabilito, Algoritmo Legal predica con el ejemplo, refuerza su área de Derecho de la IA y se posiciona como una firma pionera e internacional de abogados especializados en Inteligencia Artificial.

Algoritmo Legal cuenta en su equipo con experimentados abogados expertos en Derecho de la Propiedad Intelectual, Derecho del Software, Protección de Datos y Privacidad, Derechos Humanos y Derecho Mercantil, todos los cuales poseen experiencia nacional e internacional. A diferencia de las perspectivas reduccionistas, esta firma aborda la problemática de la IA y diseña sus soluciones jurídicas desde una visión holística. Ricardo Oliva León, Elena Almazán Salazar, Anne-Sophie Firion, Lorena Pérez-Campillo y Alejandro Sánchez del Campo Redonet integran el equipo de abogados especialistas en Derecho e Inteligencia Artificial de la firma, todos ellos además de competentes juristas, buenas personas.

La firma cuenta también con un cualificado equipo de ingenieros y científicos de datos especializados en Big Data e IA españoles que serán los responsables de la parte técnica del servicio de auditorías algorítmicas.

¡Vota este artículo!

Licencia de Creative Commons

Artículo bajo licencia de Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0 Internacional.

 

"NO REPRODUZCAS SIN CITAR LA FUENTE"

Estimado lector: dispones del permiso del titular de Algoritmo Legal y del autor de este artículo para reproducir todo o una parte del mismo siempre que cites la fuente de origen. Simplemente indica lo siguiente:
Algoritmo Legal. Algoritmo Legal crea Fiabilito, el chatbot que diagnostica la fiabilidad de los algoritmos de inteligencia artificial en los bancos [online]. Algoritmo Legal. 03/05/2022. https://www.algoritmolegal.com/noticias-y-novedades-algoritmo-legal/el-chatbot-fiabilito/. Consulta: [indicar la fecha en que has consultado el artículo]

 

Un artículo de Algoritmo Legal.

Firma de abogados española especializada en el asesoramiento legal de los negocios y la innovación. Ayudamos a startups y empresas consolidadas en asuntos relacionados con el derecho de sociedades y la contratación mercantil. Somos especialistas en propiedad intelectual y protección de datos personales. Asesoramos negocios y proyectos que utilizan tecnología blockchain e inteligencia artificial. Asimismo, asistimos legalmente a personas que vean afectados sus derechos por el uso de tales tecnología. Más información: www.algoritmolegal.com. Puede escribirnos a info@algoritmolegal.com

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

error: Este contenido está protegido.
× ¿Cómo podemos ayudarte?