Arranca en España GuIA, la iniciativa que aterriza en la práctica la ética en la Inteligencia Artificial

GuIA, es una iniciativa impulsada por OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial) que pretende aterrizar, de forma realista, las medidas necesarias para conseguir un uso responsable y ético de la Inteligencia Artificial en España.

OdiseIA, the Secretaría de Estado de Digitalización e inteligencia artificial, IBM, Google, Microsoft y Telefónica se han unido en un evento único celebrado el pasado viernes que supone el inicio de un proceso para establecer medidas reales y concretas.

La Inteligencia Artificial (IA) ya es una realidad presente en productos y servicios que consumimos diariamente. La IA se usa cuando compramos por Internet, cuando nos recomiendan películas o canciones, cuando traducimos automáticamente un texto, o cuando hablamos con nuestros dispositivos. Pero también hace predicciones o participa de decisiones que tienen un impacto más importante en nuestras vidas, como cuando queremos contratar un producto financiero o un seguro. En un futuro cercano, incluso la tendremos cuando nos hagan un diagnóstico médico o participemos en un proceso judicial, y un largo etcétera que irá aumentando a medida que se incremente la apuesta por esta tecnología en las empresas y organismos españoles.

Pero la IA conlleva también consecuencias poco deseables. Por ejemplo, la perpetuación de estereotipos o malas prácticas sociales, como la discriminación de minorías, razas o géneros. También la opacidad de algunos de sus algoritmos, o la excesiva autonomía que le damos a estos sistemas. Por estos motivos es tan necesario el desarrollo, paralelo a la evolución de la técnica, de la ética asociada a dichas aplicaciones. En un mundo en el que los prejuicios de ciencia ficción, asociados a estas tecnologías, hacen soñar con robots que sustituyen y superan a la humanidad, son necesarias iniciativas que aterricen los conceptos y utilidades reales de la IA para cada sector, y que aseguren su uso responsable con el fin de prevenir estas consecuencias negativas.

Con este objetivo nace OdiseIA, una organización española creada por un grupo de expertos independientes y reconocidos profesionales, a nivel internacional, en Inteligencia Artificial, movidos por el propósito de impulsar la IA en España teniendo en cuenta la ética y la responsabilidad.

Richard Benjamins, cofundador de OdiseIA, ha destacado que “en los últimos años ha habido una proliferación de principios éticos de AI y para muchas organizaciones es difícil saber qué principios son más adecuados para su sector. Además, existe poca experiencia compartida sobre cómo aterrizar estos principios en el día a día. Difundir estas experiencias al tejido empresarial y administración pública es el objetivo de la iniciativa GuIA”.

Esta será “una plataforma colaborativa, verticalizada en todos los sectores, que integrará ética, tecnología y negocio frente a la percepción negativa de la IA en una aproximación práctica para que estos principios puedan ser aplicados”, ha añadido.

Este tema es especialmente importante ahora que vivimos la eclosión de la inteligencia artificial y la mayoría de las disciplinas aún no están maduras y son vulnerables, como cualquier niño o adolescente que empieza a tomar decisiones relevantes. “OdiseIA nace con el objetivo de pasar a la acción en el uso responsable de la IA. Queremos ayudar a impulsar la IA España, pero fomentando la concienciación de empresas y organizaciones sobre la necesidad de tomar medidas reales éticas en su aplicación. Sólo así se conseguirá la aceptación social y minimizar los riesgos, señala Idoia Salazar, presidenta de OdiseIA.

Salazar ha recordado que el objetivo “es trabajar por el uso responsable de la IA creando comunidad, generando concienciación social, promoviendo la investigación, planteando acciones concretas y realistas o elaborando barómetros de la realidad de la IA en España. Con GUIA lo que se pretende es aterrizar medidas, que sean acciones concretas”.

La iniciativa de OdiseIAGuIA (Guía de Mejores Prácticas para el uso ético de la inteligencia artificial), nace con esta filosofía. Tiene como objetivo integrar de manera aterrizada una visión tecnológica, de negocio y ética en los sistemas de Inteligencia Artificial. Así, ha arrancado este viernes en un evento on-line dirigido a ejecutivos y profesionales de todos los sectores empresariales.

For Carmen Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial, subraya que la integración de la IA en la sociedad supone importantes retos, no solo desde un punto de vista tecnológico, sino también a nivel normativo, ético y social. En este sentido, la Secretaria de Estado ha destacado la necesidad de impulsar una IA que sitúe a la persona en el centro, avanzando hacia un modelo que permita explorar al máximo todas las posibilidades que ofrece la IA a través de un marco ético que garantice los derechos fundamentales de la ciudadanía y un entorno de confianza en la nueva era digital.

En el evento todos los actores consensuaron la necesidad, que se materializa en GuIA, de aterrizar los conceptos éticos que envuelven a la Inteligencia Artificial. La importancia de cubrir el espacio vacío que existe entre las declaraciones de principios globales que sirvieron para arrancar las reflexiones éticas en la IA, y la realidad aterrizada en casos de uso y procesos de negocio concretos. Resuelta además a través de tecnologías concretas.

En su intervención Artigas aseguró que es necesario un marco de confianza para el desarrollo de tecnologías clave en la recuperación económica de nuestro país. Esta “es una oportunidad histórica para reconstruir nuestra economía” para poder, a través de la digitalización, ser una economía más modera e inclusiva, estar en una posición de ventaja en nuevas tecnologías y generar empleo de calidad, es “una oportunidad, una revolución tecnológica, que no debemos dejar pasar como país”.

“Hay un diagnóstico y una hoja de ruta con el Plan España Digital 2025”, ha afirmado, en el que la IA será clave y que, a día de hoy, la economía digital podría representar el 19% del PIB nacional, siendo el segundo sector por detrás de la construcción. Nos enfrentamos en estos momentos a distintos retos, ha explicado, que son el “tecnológico” (una IA robusta, segura, auditable y explicable), “ético” (que encaje con nuestros principios y valores sociales, que los datos sean de los ciudadanos y no de empresas o gobiernos), “normativo” (cumplimiento) y “social” (gobernanza, con implicación de la sociedad). Además considera que, poniendo a la persona en el centro, hay que aprovechar esta oportunidad para cerrar brechas y que, para ello, se está trabajando en una herramienta como es la carta de derechos digitales de la ciudadanía, actualmente en consulta pública hasta comienzos de diciembre.

La Secretaria de Estado ha destacado la importancia del español en la IA y ha adelantado la próxima presentación de la nueva estrategia nacional de Inteligencia Artificial, que será revisada continuamente para que siempre esté actualizada, o de otros proyectos como la “Oficina del dato” o el “programa nacional de algoritmos verdes”, para que los algoritmos sean sostenibles desde su concepción. En su conclusión ha afirmado que tenemos una oportunidad única para la reconstrucción, para rediseñar el país digitalmente, sobre pilares más robustos y que, para ello, “hay recursos”.

Compromiso de las tecnológicas

Las tecnológicas están poniendo un gran esfuerzo. Su compromiso en esta disciplina es público e importante, conscientes de su relevancia. Muchos de ellos publican sus estudios y herramientas para que las empresas que hacen uso de su tecnología lo hagan de una manera responsable.

Pilar Manchón, Senior Director of AI ResearchStrategy de Google, destacó que “es extremadamente importante que haya un diálogo como este donde queden reflejados tanto los distintos retos y oportunidades en IA, como un rango amplio y diverso de perspectivas que enriquezcan el debate y garanticen un uso ético de estas herramientas. Esperamos que el resultado del estudio consiga ayudar a todo tipo de organizaciones públicas y privadas a hacer un uso responsable, ético y seguro de la tecnología, sin que ello inhiba su capacidad de innovación y su posicionamiento y competitividad en el mercado global. Para ello es imprescindible educar a la ciudadanía, desmentir mitos y alcanzar un estándar de transparencia y prácticas éticas que generen confianza. Esto nos permitirá avanzar con paso firme hacia metas aspiracionales, por ejemplo en precisión y ‘explicabilidad’, que a día de hoy están más allá del estado del arte. En definitiva, queremos aportar nuestro granito de arena para democratizar el acceso a la IA, y que cada vez sean más las personas que contribuyan a crear herramientas de IA en beneficio de la sociedad.”

De igual manera, Enric Delgado Samper (CTO de IBM Spain, Portugal, Greece and Israel), comentó que “En IBM solo defendemos, trabajamos y colaboramos por una IA en el que valores como la equidad, la transparencia y la confianza estén siempre en el centro de su desarrollo y aplicación. El valor de un sistema de IA no está en su potencia tecnológica per se, sino en su capacidad para contribuir al progreso justo de las personas y servir al bien común. Desde esa base ética, su potencial para ayudarnos y potenciar las mejores capacidades y los mejores valores del ser humano es inmenso.”

También David Carmona (Artificial Intelligence&Innovation General Manager en Microsoft) declaró que “El desarrollo de inteligencia artificial responsable va más allá de identificar los desafíos y establecer unos principios; requiere también implantar nuevas prácticas en el ciclo completo de desarrollo así como herramientas y tecnologías especificas en áreas como privacidad, transparencia o control de los algoritmos”.

La otra parte, las empresas sectoriales también están muy concienciadas a sabiendas de su fundamental responsabilidad social con sus clientes. Además de que un uso éticamente correcto de estas tecnologías podría impactar positivamente en la percepción que de ellos pudieran acabar teniendo los mismos.

En el evento participó Francisco José Montalvo, Chief Data Officer de Telefónica, que señaló: “Desde la publicación de sus principios de IA en 2018, Telefónica está trabajando en su implementación en el día a día de la compañía. Ha definido programas de formación para los empleados, herramientas técnicas, un cuestionario ético y un modelo de gobernanza. Además, el uso de la IA se engloba dentro de un marco más amplio de “diseño responsable” cubriendo la privacidad, la seguridad, la sostenibilidad, la ética, la accesibilidad y el cliente.”

Juan Manuel Belloto, director de la iniciativa GuIA, ha recalcado en sus conclusiones la amplia presencia de profesionales españoles en puestos de importancia en grandes empresas internacionales y ha recordado que hay mucho trabajo por hacer y la importancia de que sea colaborativo. Un buen ejemplo es OdiseIA, en la que se puede participar como particular o como institución, y que, tiene previsto presentar las conclusiones de GuIA a finales de 2021, incluyendo las buenas prácticas existentes de empresas y organismos públicos de distintos sectores junto a casos de usos prácticos y coherentes.

Por último, Mar Cabra, periodista ganadora del Premio Pulitzer y cofundadora de OdiseIA, ha sido la encargada de conducir este acto y como cierre, un titular: “este es tan solo el principio”.

Continúa el Proceso GuIA

Como próximos pasos, el objetivo es aglutinar a los principales actores que conforman el ecosistema de la Inteligencia Artificial. Un necesario ejercicio de colaboración Publico-Privada que dinamice la asimilación de la Inteligencia Artificial de una manera ética en todos los sectores empresariales, algo tan importante para la sociedad.

Una iniciativa que además coincide en el tiempo con la presentación de la Estrategia Nacional de Inteligencia Artificial de la mano del actual gobierno, un hecho de especial relevancia para España.

Tras el evento del pasado viernes a lo largo del primer trimestre de 2021 se llevará a cabo la publicación de las conclusiones, tras un análisis exhaustivo de cada una de las estrategias presentadas.

En el segundo trimestre 2021, se procederá a un análisis colaborativo entre expertos de distintas áreas (diferenciados por sectores), los cuales aportarán su punto de vista y necesidades reales al documento. Se realizarán workshops específicos con representantes de dichas empresas y organismos. El proceso de edición del documento estará liderado por reconocidos expertos.

Por último, en octubre 2021 tendrá lugar un evento en el que se presentará la GuIA al público con participación del Gobierno y de las empresas e instituciones participantes.

Other articles on IBM, Microsoft, OdiseIA, Telefónica