Entrevista a Ulises Cortés – Responsable del grupo de IA – Alto rendimiento «Supercomputing Center»

Página 1 de 2

Biografía

Ulises Cortés es Catedrático de Universidad e Investigador de la Universitat Politècnica de Catalunya (UPC). Ha estado en la UPC desde 1982 trabajando en varias áreas de Inteligencia Artificial (IA) en el Departamento de Ciencias de la Computación, incluidas la adquisición de conocimiento y la formación de conceptos en sistemas basados en el conocimiento, así como en machine learning y en agentes inteligentes autónomos.

Desde 2017, el profesor Cortés es el responsable científico del grupo de Inteligencia Artificial de Alto Rendimiento del Barcelona Supercomputing Center. Es miembro fundador del Comité Ético de la Universitat Politècnica de Catalunya (2019), designado hasta 2027. Desde 1989 el profesor Cortés y su grupo aplican su trabajo en Inteligencia Artificial a las Ciencias Ambientales, en particular a las Plantas de Tratamiento de Aguas Residuales, con el apoyo financiero del CICyT, CIRIT y la Unión Europea. Fue cofundador de SISLTECH y miembro de su Junta Directiva desde 2011 hasta 2016.

Desde 1991 hasta 2011 fue coordinador del programa de doctorado en Inteligencia Artificial de la Universitat Politècnica de Catalunya.

Desde 2012, Ulises es miembro del Sistema Nacional de Investigadores de México con un Nivel III (renovado en 2022). Obtuvo la Acreditación de Investigación Avanzada de la Agència per a la Qualitat del Sistema Universitari de Catalunya en 2004 y fue designado como titular de la cátedra CLUSTER en la École Polytechnique Fédérale de Laussane (EPFL) durante el curso académico 1998-1999.

El profesor Cortés asesoró a 24 PhD. Dos tesis de ellas han sido galardonadas con el premio EurAI AI Dissertation Award, y más de 20 tesis de maestría en el campo de la inteligencia artificial, y cuenta con más de 70 artículos en revistas internacionales y más de 200 artículos en conferencias y talleres en el mismo período. Varios de sus antiguos estudiantes de doctorado ahora son científicos de IA de renombre internacional.

Desde 2020 es miembro del Comité de Ética de la Universitat Politècnica de Catalunya y miembro del Observatori d’Ética de l’Intel.ligencia Artificial de Catalunya. Desde 2021 es miembro del Consejo de EurAi, miembro de la junta directiva de AEPIA y miembro de GPAI: Global Partnership on Artificial Intelligence.

BSC (Centro nacional de supercomputación de España)

MareNostrum es el nombre genérico que utiliza el BSC para referirse a las diferentes actualizaciones realizadas en su superordenador más emblemático y el superordenador más potente de España. Hasta el momento, se han instalado cuatro versiones. BSC está al servicio de la comunidad científica internacional y de la industria que requiere recursos de HPC. Nuestro equipo de investigación multidisciplinar y nuestras instalaciones computacionales –incluyendo MareNostrum– hacen del BSC un centro internacional de excelencia en e-Ciencia.

BSC está al servicio de la comunidad científica internacional y de la industria que requiere recursos de HPC. Nuestro equipo de investigación multidisciplinar y nuestras instalaciones computacionales –incluyendo MareNostrum– hacen del BSC un centro internacional de excelencia en e-Ciencia. Desde su creación en 2005, el BSC ha desarrollado un papel activo en la promoción de la HPC en España y Europa como herramienta fundamental para la competitividad internacional en ciencia e ingeniería. El centro gestiona la Red Española de Supercomputación (RES) , y es miembro anfitrión de la iniciativa Partnership for Advanced Computing in Europe (PRACE) donde trabajan en estrecha en estrecha colaboración con otros centros de supercomputación europeos.

BSC ha tenido éxito en la atracción de talento, y nuestra investigación se centra en cuatro campos: Ciencias de la Computación, Ciencias de la Vida, Ciencias de la Tierra y Aplicaciones Informáticas en Ciencias e Ingeniería . Nuestras líneas de investigación se desarrollan en el marco de los programas de financiación de la investigación de la Unión Europea, convocatorias públicas de investigación españolas y catalanas y colaboraciones con empresas líderes.

Misión

La misión del BSC-CNS es investigar, implementar, gestionar y transferir tecnología y conocimiento en el área de HPC con el objetivo de facilitar el progreso en una variedad de campos científicos, y con especial énfasis en Computación, Vida, Tierra e Ingeniería. Ciencias.

Los principales objetivos del centro son: la excelencia científica y técnica, fomentar la cooperaciónner talento nacional e internacional, proporcionar recursos de HPC competitivos en toda Europa, ser el líder español en dar soporte para el acceso a infraestructuras de supercomputación. participar activamente en el escenario de la supercomputación a nivel internacional, facilitar la transferencia tecnológica, así como impulsar el desarrollo de la sociedad del conocimiento.

ENTREVISTA

Análisis de la situación

Las TIC integran un conjunto de sistemas y tecnologías que nos ayudan a gestionar la información. Hoy representan más de la mitad del crecimiento de la productividad de las economías modernas y brindan soluciones viables para abordar desafíos económicos y sociales clave. Con la introducción de las TIC estamos sujetos a un fenómeno que no parece tener límites en cuanto a los constantes avances tecnológicos, afectando transversalmente a todas las disciplinas científicas, las comunicaciones y los medios de comunicación. Estas TIC que han irrumpido en nuestras vidas gracias a Internet también nos está provocando insatisfacción, decepción, inseguridad en general por la gran cantidad de abusos, hackeos, publicidad engañosa, falta de privacidad, spam, noticias falsas, cookies no transparentes, algoritmos interesados…

1. ¿Está de acuerdo con este planteamiento?

– De acuerdo, sí, pero con algunos matices. En particular, me refiero a que la tecnología es un medio instrumental. Han sido las compañías que abusando de un poder asimétrico han usado las TIC, en particular, las basadas en la Inteligencia Artificial para vulnerar los derechos humanos y enriquecerse. También, hay una parte de responsabilidad, no menor, en los gobiernos que no han querido o no han sabido legislar. Por el lado positivo de la tecnología están todas facilidades y ayudas que proporciona.

2. ¿En caso afirmativo como cree usted que se podría mejorar esta situación?

– Con una mejor regulación. Este es el caso de la reciente AI Act. Además, es necesaria una gran dosis de educación tecnológica. La educación cívica también es necesaria.

Evolución

Desde que la red internet apareció, los avances tecnológicos no dejan de cesar. Desde los navegadores Mosaic, Navigator, Internet Explorer 1995, Explorer de microsoft, Safari de Apple, Mozila (FireFox y Chrome (Google). Desde navegadores como infoseek, Lycos, Altavista, Yahoo, MSN y BING. Otras tecnologías como VoIP, que desde el año 1970 es posible hablar por internet (Skype). RSS, mensajes en tiempo, P2P, tecnología AJAX, SaaS (cloud computing), WIFI, diferentes lenguajes de programación (JAVA)… web 2.0, Big Data, etc.

En proceso de evolución constante de la informática desde la aparición de internet, ahora parece ser que es el turno del despliegue masivo del «Internet de las Cosas» (IoT), de la web 3.0, la tecnología Blockchain, los gemelos digitales y el Metaverso, que como tercera generación de servicios de internet, seguramente revolucionará la forma que compartimos la información, pero seguramente también la forma en la que vivimos.

Estas tecnologías emergentes por lo general acampan a sus anchas por todos los países en una red internet que hace de las suyas provocando situaciones que nos están afectando de una u otra forma a la forma y el modo que tradicionalmente nos hemos basado en nuestro desarrollo. Esto además está provocando una mayor brecha digital entre la ciudadanía en general y la Gobernanza en particular. El chat GPT es un ejemplo ilustrativo de todo esto.

3. ¿Cuál es su visión sobre esta evolución que parece no tener límites?

– El ChatGPT no es el mejor ejemplo de evolución sana de una tecnología. Es más bien un ejemplo de competición por un mercado de proporciones gigantes. Donde hay más testosterona que ciencia. Es cierto que tenemos más y mejores capacidades científicas y tecnológicas pero eso no significa que el techo sea alcanzable. Cada nueva tecnología o descubrimiento científico trae nuevos retos y nuevos horizontes.

No todas la tecnologías importantes están en las redes. Diría sin equivocarme que las mejores y más potentes NO están al alcance del ciudadano.

La Gobernanza digital se está convirtiendo en un auténtico protagonismo derivado de las tecnologías emergentes y del proceso de digitalización que conlleva, donde va ser clave la interacción entre los actores de la economía, sociedad y por supuesto de la política que debe velar por ello. Los objetivos comunes para la implantación de las TIC son la mejora de la eficiencia, el valor o la innovación, entre otros. Pero quizás no haya mejor innovación de esta transformación digital cuando la Gobernanza se convierte en el motor de esta transformación, todo en aras de alcanzar los objetivos y metas, en especial los ODS.

Se está produciendo en la red internet una auténtica revolución en el proceso de desarrollo económico y social que no es otra que los datos que se están expandiendo a un ritmo vertiginosa a lo largo de toda la red. Estos datos tienen consecuencias importantes en nuestra economía, sociedad, educación, redes sociales…incluso en la Gobernanza Institucional.

4.¿Cree que los Gobiernos han percibido con nitidez las enormes posibilidades que tienen los datos para el desarrollo económico y social?

– Si, los gobiernos que ya tenían muchos esos de datos ahora tienen la tecnología, no siempre propia, para explotar esos datos, información y conocimiento.

Tecnologías emergentes

Blockchain

Las tecnologías “blockchain” definida como un libro mayor de transacciones económicas que al programarse puede no solo registrar transacciones financieras sino también cualquier cosa con valor está teniendo un importante papel transformador de nuestras estructuras económicas, sociales medio ambientales y políticas, ya que permite ofrecer servicios descentralizados, confiables, transparentes y centrados en el usuario, lo que permitirá una mejora de nuestra economía y sociedad.

Pero esta misma tecnología quizá está teniendo mucha resistencia por parte de algunos Gobiernos a utilizarla como apoyo a la forma en la que despliega su eficacia a la hora de formular las políticas. Por otro lado, muchas instituciones de diferente tipo, incluida la Gobernanza, ven a esta esta tecnología como una forma de burlar el sistema, además de tener una mala prensa ya que algunos negocios llevados a cabo a través de esta tecnología obedece a prácticas no transparentes o ilícitas.

5. ¿Cuál es su visión general de esta tecnología, que por otra parte va a basarse en aplicaciones descentralizadas de las redes de cadena de bloques para el desarrollo de la web 3.0?

– Esta tecnología debería cambiar mucho para ser útil a los ciudadanos. El ejemplo de China se impondrá y serán los gobiernos y no los ciudadanos quienes controlen las tecnologías bockchain y las monedas electrónicas.

Creo que en un futuro próximo se extenderán para acabar con el blanqueo de capitales, el fraude fiscal y otros tipos de corrupción.

Gemelos digitales

Se puede definir un gemelo digital como la unión de los mundos virtuales y físicos mediante el análisis de datos y el monitoreo de sistemas para evitar y prevenir problemas antes de que puedan ocurrir, así como planificar mediante las simulaciones aquellos sistemas en los que se está actuando. Especial importancia tiene que puede abarcar el ciclo de vida del que utiliza y se aprovecha de los datos que son enviados por los sensores del objeto con el fin de simular el comportamiento y supervisar las operaciones. Un gemelo digital sería por tanto, una representación digital de un producto, sistema u objeto físico del mundo real previsto o real que sirve a efectos prácticos simulación, integración, prueba, monitoreo y mantenimiento que se procesa a través de IA

6. ¿Que opina sobre esta herramienta de visualización y simulación en la contribución de un desarrollo sostenible, inteligente e inclusivo de las ciudades?

– Los llamados gemelos digitales son solo una herramienta de simulación más desarrollada. Es evidente que sus resultados serán útiles para tomar mejores decisiones. Ahora bien, habrá que pensarse bien la inversión en sistemas de sensores y su mantenimiento y validar que la inversión compensa el gasto. Para una ciudad grande, que requiere miles de estos artilugios, se necesita que sean robustos, duraderos y fiables. Hay que pensar en la tasa de mantenimiento y reposición – por robo o deterioro-, los costos asociados al transporte y almacenamiento de datos y, también, el coste de cálculo ¿necesitamos todo esto? ¿a quién beneficia tener tanto control e información?

Como concepto los digital twins son interesantes pero quizá no aplicables a todos los problemas.

El Metaverso

Ahora me gustaría preguntarle sobre un concepto del que habla todo el mundo como es el Metaverso. Mark Zuckerberg anuncio ya hace tiempo la creación de su nuevo proyecto que con ese nombre quiere mostrarnos una experiencia de Realidad Virtual inmersiva que sea indistinguible de la propia realidad física a través de un visor que nos permita realizar diferentes actividades, ya sea realizar compras virtuales con las tecnologías de la realidad virtual y mix, etc.

Se ha definido el Metaverso como un espacio digital que combina espacios virtuales físicamente pero virtualmente aumentados. Construido sobre la web 3.0 necesita la tecnología Blockchain para su desarrollo.

7. ¿Cuál es su percepción sobre esta tecnología que nos aleja del concepto tradicional que tenemos de la vida humana?

– El metaverso es un concepto que ha evolucionado desde el second life hasta la fecha. Es una apuesta tecnológica importante y es la respuesta de Meta a la caída de su negocio en Facebook. La complejidad tecnológica de metaverse, si fallase, puede minar de forma definitiva el prestigio de Zuckerberger. En la incepción de esta tecnología hay un problema básico para mí y es la necesidad de un dispositivo caro de interfase: los lentes de realidad aumentada. Además, resulta extraño el objetivo de querer ofrecer (meta)realidades sociales.

De cara a los entornos de entrenamiento parecen una opción a explorar. Pero hay que recordar que muchas de estas son aplicaciones de tipo militar.

Página 2 de 2

La Inteligencia Artificial

La inteligencia artificial (IA) se puede definir como la simulación de procesos de la inteligencia humana realizado por las máquinas, especialmente a través de los sistemas informáticos. De esta forma la (IA) puede realizar tareas tales como identificar patrones en los datos de manera más eficiente que los seres humanos, lo que permite a las organizaciones de diferente tipo obtener más información sobre sus datos. La IA tiene el potencial de ser una poderosa herramienta para promover el desarrollo socioeconómico en el mundo en desarrollo. Los avances recientes en IA, como los modelos ChatGPT y DALLE-E de OpenAI, si bien brindan nuevas oportunidades para aprovechar el poder de la tecnología para el desarrollo están también provocando la necesidad de definir límites relacionados con las dimensiones sociales, éticas, derechos de autor y jurídicas, entre otras.

Usted es uno de los firmantes junto con otros expertos y personalidades de la Carta que postula suspender y regular los avances derivados de la Inteligencia Artificial

8. ¿Nos puede decir cuáles son las principales razones que les ha llevado a la firma de este manifiesto?

– El objetivo principal y que, además, se ha alcanzado con creces era el de provocar una llamada de atención general al público general y los gobiernos. Se ha creado un poco de conciencia, pero la gente, en general, prefiere entregar sus datos y tener esta herramienta u otras similares de forma gratuita.

El chat GPT y su relación con el verdadero conocimiento que debemos aprender. Las máquinas aprenden a través de los entrenamientos que realizan, pero la pregunta:

9. ¿Aprenden bien las máquinas lo correcto?

– Las máquinas basadas en tecnologías como las redes neuronales (aka Deep Learning) NO aprenden en el sentido humano. A estas máquinas se les entrena. El nivel de verosimilitud que exhiben depende del entrenamiento y las posibles correciones/modificaciones que se haga a estas máquinas. Se ve que la tarea es infinita y muy costosa. En general, no se realiza.

10.¿Quién supervisa esto?

– Lo hacen de forma parcial sus creadores. No hay pruebas estándar que puedan verificar todas las posibles combinaciones. Es un esfuerzo por demás inútil.

11.¿Hace falta normas de estandarización que permitan garantizar dicho conocimiento sea el adecuado?

– Si, pero no tenemos mecanismos sistemáticos de comprobación que permitan validar todo lo que se sabes y la respuesta a todas las preguntas.

12.¿Está en peligro la creatividad humana por los avances de la IA?

– Lo que está en peligro es la apreciación del esfuerzo creativo. Las máquinas son instrumentos que en buenas manos pueden potenciar o acelerar la capacidad creativa de ciertos individuos, pero es posible que la apreciación de esta tarea cambie si se piensa que puede ser obra de una máquina. Es un tema espinoso.

Entre tanto sucede todo esto, cada vez con mayor intensidad se producen a circular nuevas plataformas de chatbots que están impulsadas por IA. Un ejemplo de esto es ChatLLaMa de código abierto del modelo LLaMA de Meta que basada en RLHF quien ha creado un chatbot muy superior al ChatGPT.

Geoffrey Hinton, un informático británico que lleva toda su vida trabajando en redes neuronales artificiales, razón por la que es reconocido como uno de los padres de la inteligencia artificial (IA), ha asegurado que esta tecnología podría eliminar a la humanidad.

13.¿Cree usted que esto es una advertencia para que despertemos de nuestro letargo ante la inacción para enfrentarnos con este desafío, o cree por el contrario que esto es una hipótesis que puede suceder?

– El profesor Hinton ha hecho un cambio de posición de 180 grados. Ha sido uno de los mayores impulsores de la investigación en el área de la inteligencia artificial subsimbólica y, también, de sus aplicaciones industriales. En la industria ha ocupado posiciones relevantes en Google, ahora Alphabet, y ha estado en esas posiciones cuando han despidos a los equipos de ética. Su cambio, casi paulista, es bienvenido, claro.

Hemos conseguido hacernos un hueco entre las noticias que interesan al público general -mejor dicho por las que nos proporcionan los medios- ahora hace falta crear conciencia y educar mejor a las siguiente generaciones.

La IA es una disciplina científica no tiene entidad es incapaz de destruir nada. El uso de esta tecnología o de cualquier otra, en manos equivocadas o irresponsables, puede causar catástrofes. Por eso es necesario regularla y regular quién y cómo accede a ella.

La IA es una tecnología que nos puede ayudar en relación a la educación y a la ciencias en general. Pero también estamos viendo como esa misma tecnología es capaz de alterar imágenes, crear voces y textos que lo que están consiguiendo es desinformar así como crear situaciones de violencia y odio. Incluso un chatbol es capaz de escribir trabajos de investigación que ya no sabemos si un trabajo es real o no por las dificultades que ofrece su detección.

En relación con esto último algunos editores de revistas científicas han señalado que la no observancia de las reglas de transparencia en relación a los métodos e integridad y veracidad de los autores puede conducir al fraude científico y todo ello por utilizar la IA, máxime si partimos que la IA nunca puede ser autor de dichos trabajos.

14.¿Qué opina usted sobre esta cuestión?

– Como editor asociado de una revista científica estoy en contra de que se usen estas herramientas en la redacción de artículos científicos. Aún más de considerar a una máquina como un posible autor o coautor. Hacerlo es solo una forma de llamar la atención y crear polémicas y hacer correr ríos de tinta.

Usted ha trabajado también durante años en los sistemas de apoyo a la toma de decisiones ambientales a través de la IA.

15.¿Que problemas ha detectado con la información disponible y el impacto de las técnicas basadas en el conocimiento de la IA?

– En general, en los temas ambientales el uso de redes neuronales está limitado a las tareas para las que son eficientes. La necesidad de usar mecanismos y representaciones simbólicas para la comprensión de problemas complejos cuyas soluciones requieren explorar el largo plazo hace casi inviable el uso de sistemas basados en redes neuronales.

Los temas ambientales son tan sensibles, por ejemplo el cambio climático y sus consecuencias, que o deben dejarse en manos de compañías privadas.

A lo largo de la historia ha habido descubrimientos que han cambiado el rumbo de nuestras vidas, desde la rueda, la imprenta, el telégrafo, el teléfono, el ordenador, internet….Dentro de la red internet hemos visto como son múltiples las tecnologías las que están emergiendo como son la tecnología blockchain, los gemelos digitales, Inteligencia Artificial….

Entre estas tecnologías la Inteligencia Artificial es quizás sin duda alguna una de las más disruptivas que ha habido en muchos años, su misma evolución no hace más que plantearnos nuevos escenarios que amenazan a nuestra forma tradicional de entender el desarrollo, desde la educación, el empleo, la economía, salud, la ciencia, la tecnología….hasta la misma Gobernanza institucional.

Esto nos obliga a plantearnos algunas cuestiones, no sólo de funcionamiento de esta tecnología sino también nos hace que reflexionemos sobre las dimensiones sociales, éticas e incluso de seguridad, que hará que tengamos que sacar lo mejor de sí mismo para una mejor orientación de nuestras estrategias de desarrollo, donde ojalá encontremos soluciones relacionadas con Ciudades Inteligentes Centradas en las Personas.

16.Usted es un experto cualificado en la materia ¿Qué cree que va a ocurrir en los próximos años con esta tecnología que parece no tener límites?

– Creo que las ciudades inteligentes son solo una metáfora espléndida para que los gestores de las ciudades se hagan preguntas de formas distintas y busquen respuestas basadas en modelos cada vez más reales y complejos. Habría que decir que existenn grandes intereses económicos detrás de estos conceptos. Su aplicación es muy compleja y requiere inversiones que no se tiene claro que, a largo plazo, puedan resultar útiles.

Privacidad / Seguridad

En la actualidad hay una gran cantidad de dispositivos conectados en todo el mundo, siendo una tendencia que sigue avanzando a una gran velocidad. Ahora de lo que se trata es de encontrar el mejor camino para ello donde la seguridad de esos dispositivos nos preocupa a todos nosotros. Así por ejemplo, en la actualidad existen una gran cantidad de dispositivos conectados en todo el mundo, es el caso del internet de las cosas (IoT). Nos encontramos con un auténtico dilema, que de la mano de las tecnologías emergentes nos preocupa y que muchas veces no sabemos como actuar. Se trata de los conceptos de privacidad y seguridad en la red. Por una parte necesitamos que los datos sean fiables y nos proporcionen seguridad, por otra parte necesitamos la privacidad de nuestras actuaciones en la red.

17.¿Que cree usted que debiéramos hacer para encontrar una compatibilidad entre los avances de la tecnología y su relación con la seguridad y privacidad de la misma?

– Certificación, regulación y educación. No hay mucho más que hacer. La mayor parte de los problemas de seguridad son causados por los propios usuarios que ignoran las normas básicas o que no conocen los rudimento de la tecnología que usan, aunque sean usuarios experimentados.

Cibercrimen

Está siendo una constante que nos encontramos desprotegidos por los «Cibercrimen». Internet es un red muy basta donde caben muchas cosas buenas, pero también malas, donde muchos inrternautas utilizan los recursos de la red para acometer diferentes delitos en un contexto global como es Internet.

18.¿Cómo cree usted que debiéramos abordar esta figura del Cibercrimen?

– Antes de hablar de cibercrimen es importante tener en cuenta que los delitos informáticos pueden adoptar diferentes formas y afectar a la privacidad, identidad y seguridad de los individuos y organizaciones. Por lo tanto, es necesario actualizar de forma las nuevas modalidades que utilizan los infractores para delinquir y tomar medidas preventivas y de protección. Como en otras ocasiones a lo largo de esta entrevista es necesaria la educación de la población en temas tecnológicos y vigilancia de las infraestructuras por parte de las autoridades. Un gran paso sería acabar con TOR (The Onion Router) y así acabar con la llamada red profunda (Deep Weebing).

Hace poco tiempo un ingeniero de Google hizo pública su afirmación de que LaMDA (Modelo de lenguaje para aplicaciones de diálogo), un software gigante de IA (inteligencia artificial) desarrollado por la compañía, «es sensible, que posee conciencia».Por otra parte, Google así como otros expertos niegan que esas expresiones signifiquen que LaMDA tiene conciencia de sí misma, y deba ser considerada una «persona», en lugar de un software.

19.¿Cree usted que en un futuro alguna Inteligencia Artificial pueda tener conciencia?

– No. No hay posibilidades de ese futuro con la tecnología actual. Es parte del impacto de la ciencia ficción en el imaginario popular. Tan poco, de momento, está en la agenda científica de la comunidad que investiga en la Inteligencia Artificial. Algunos investigadores creen que los sistemas basados en la inteligencia artificial pueden alcanzar lo que se conoce inteligencia artificial general (AGI), pero esto no significa necesariamente que estos sistemas tengan o puedan desarrollar conciencia.

Desde la aparición de internet asistimos de forma constante como una tecnología reemplazada en un periodo corto de plazo a otra tecnología. Así, por ejemplo, se ha anunciado recientemente la aparición de un «Gadget» que consiste en una lente de contacto inteligente capaz de proyectar imágenes artificiales en la visión, una tecnología capaz de modificar la realidad añadiendo una capa de información que según sus creadores «matará» a los iPhone…

20.¿A dónde cree usted que nos dirigimos en este avance imparable de las tecnologías emergentes?

– No hay un avance imparable sino descontrolado de la tecnología. También se ha generado entre la población más joven la necesidad de ser el primero en probar un nuevo avance sin conocer ni considerar su impacto. Habría que preguntarse cuánto hay de avance y cuánto hay de publicidad en en este terreno.

Gobernanza a través de la IA

Como sabemos para 2030, todas las naciones y organizaciones internacionales deben formar un código de conducta global compartido para el desarrollo de software y algoritmos de IA para ser utilizados en Artificiales, y antes de implementar cualquier sistema de autoaprendizaje, deben considerar las implicaciones morales. Todas las naciones, empresas, desarrolladores e investigadores son responsables de cualquier tipo de proyecto artificial cuya funcionalidad y confiabilidad garantice los estándares éticos y de transparencia.

Tanto las Naciones Unidas, la UE y otras organizaciones internacionales vienen trabajando para el reforzamiento de una (IA) innovadora, ética y segura, bajo los principios Supervisión humana, Robustez, Privacidad y control de los datos, Transparencia, Diversidad y Responsabilidad.

Un colectivo de artistas daneses llamado «Computer Lars» ha creado el primer partido político dirigido íntegramente por inteligencia artificial (IA). Esta fiesta, “The Synthetic Party”, impulsada por la Fundación “MindFuture”, quiere involucrar a la ciudadanía en una reflexión colectiva que ayude a comprender mejor las implicaciones positivas que una IA dirigida “hacia el bien” puede tener sobre todos nosotros, sobre los ecosistemas. y en el planeta en definitiva.

En definitiva se trata de dar un cambio radical al proceso de legitimidad e incluso la forma de entender nuestras instituciones y nuestra democracia. Todo un mundo apasionante, que seguramente dará mucho que hablar en un futuro próximo, y que no es otro que asignar a los algoritmos una serie de instrucciones dentro de un marco ético y democrático.

Ahora bien, un proyecto tan innovador como el que pretende llevar este colectivo, en un escenario acostumbrado a no sufrir excesivos cambios, como es el de la política, la idea de poner en práctica una inteligencia artificial seguramente provocará controversia. Habrá quienes verán más un peligro que una ventaja competitiva, ya sea porque las máquinas no tienen la capacidad de razonamiento, o ya sea porque piensen que sólo sería un complemento en la tradicional toma de decisiones de la política.

21.Nos gustaría preguntarle, ¿cuál es desde su especial conocimiento de los algoritmos y de la tecnología que rodea a la IA, sobre el alcance y contenido que nos puede deparar una futura Gobernanza presidida por IA?

– Como toda tecnología que produce impactos sociales y económicos los sistemas basados en la inteligencia artificial debería estar controlados, es decir, certificados. La legislación es básica para armonizar los usos comerciales y militares con los derechos fundamentales y el respeto al medio ambiente.

El gobierno de los usos de las tecnologías basadas en la Inteligencia Artificial es un tema de actual interés para los ciudadanos, gobiernos, empresas y académicos. El gobierno de los usos de las tecnología basadas en la Inteligencia Artificial -no me gusta el término gobernanza-se refiere al proceso de definir un conjunto de leyes, normas y políticas para garantizar un uso seguro, justo y responsable de esta tecnología. El gobierno de los usos de las tecnología basadas en la Inteligencia Artificial pretende acabar con la desconfianza social que genera los impactos negativos de estas tecnologías y el aún incipiente marco regulatorio en este campo, en particular, en Europa.

El profesor norteamericano Edward 0. Wilson dijo: “El mayor problema de este mundo es que tenemos emociones del Paleolítico, instituciones medievales y tecnología propia de los dioses”

22.¿Está de acuerdo con este pensamiento?

– Es una frase ocurrente y una buena caricatura de una situación general. Creo que el problema está en la educación y la formación. Las familias han delegado en las escuelas -públicas o privadas- la educación en valores éticos y sociales, se ha descuidado, en general, la obligación de la patria potestad. Por otro lado, la formación está muy pensada para el mercado laboral, pero adolece de pensamiento crítico.

Nuestra tecnología es buena pero no divina. Una tecnología divina no contribuiría a destruir el mundo.

El Parlamento Europeo acaba de aprobar una negociación para abordar la primera legislación sobre la inteligencia artificial (IA). El objetivo es «garantizar que los sistemas de inteligencia artificial serán seguros, transparentes, rastreables, inclusivos y respetuosos con el medioambiente», además de que se va a restringir el uso del reconocimiento facial y social. En caso de que prospere esta negociación y posterior aprobación por el Parlamento Europeo las empresas dispondrán de un plazo de dos años para su cumplimiento.

En una entrevista con National Broadcasting Company (NBC), el ex CEO de Google, Eric Schmidt ha manifestado que cree que sólo las empresas entienden y son capaces de regular la inteligencia artificial ya que los gobiernos son estrictos. Concretamente le dice al gobierno «que deje la regulación de la IA a las grandes tecnológicas».

23.¿Cuál es su opinión sobre estas declaraciones?

– Es evidente la naturaleza interesada de las declaraciones del Sr Schmidt. Son contrarias al bien común. Debe quedar claro que es lícito intentar ganar dinero y posicionar una marca. Siempre y cuando esto se haga dentro de la estricta legalidad y cuando no haya leyes hacerlo de manera que no se lesiones los derechos fundamentales ni se atente contar el bien común ni el medio ambiente.

La pregunta que me ronda siempre es la que rodea a la inacción o lentitud de los gobiernos.

Las grandes tecnológicas, ante la inacción de la Gobernanza, han acampado a sus anchas mediante la utilización de los datos de la ciudadanía durante muchos años.

24.¿Cree que el camino que experimentará la IA en los próximos años será el mismo que ha tenido el de las redes sociales?

– Los fenómenos de sociales y económicos derivados de las redes sociales tienen esa magnitud porque la tecnología que subyace está basada en desarrollos y aplicaciones basada en la IA. Así que para mi son indistinguibles. Tenemos redes sociales porque se aplican sistemas basados en la IA de forma ilegal y, por otro lado, ciertos sistema basados en la IA se han desarrollado con la existencia de cantidades masivas de datos que provienen de los usuarios de las redes sociales y que han sido capturados de forma ilegítima.