¿Hemos descontrolado el desarrollo de la inteligencia artificial? ¿Puede llegar a ser negativa para la sociedad? Así lo creen los más de 1.000 firmantes -todos ellos líderes empresariales, entre los que figuran Elon Musk y Steve Wozniak– de un manifiesto en el que se reclama frenar el desarrollo de los modelos de IA más avanzados durante al menos medio año.
Lo cierto es que en los últimos meses hemos asistido a un crecimiento exponencial de esta tecnología a través de sistemas que se han popularizado rápidamente, como ChatGPT, que forman ya parte de nuestro día a día y, aunque hay opiniones para todos los gustos, incluidas las que ven con malos ojos limitar su uso, numerosos estudios llevan ya un tiempo alertando de las carencias de la IA en cuanto a sesgos raciales o sexistas e insistiendo en la necesidad de regularla antes de que sea demasiado tarde. Por ejemplo, un experimento de la consultora Biko alertó de que los algoritmos de los sistemas de reconocimiento de imágenes de Amazon o Google etiquetaban de forma diferente a mujeres y hombres. Así, si aparecía una mujer sosteniendo un martillo, la IA la calificaba como ‘hombre’. “En muchas ocasiones es ineficaz, discriminatoria, sexista y racista”, denunciaban los responsables del estudio. Y no es la única investigación que se ha hecho al respecto, en los últimos años diferentes informes han llegado a conclusiones similares. A ello se le añade la polémica más reciente sobre los derechos de autor, dado que las IAs aprenden con obras protegidas por copyright y sobre la falta de transparencia que se puede dar al presentar una creación de IA como si fuera humana. Todo ello ha ido incrementando el número de voces a favor de establecer un marco normativo para la inteligencia artificial.
El marco normativo para la inteligencia artificial en el Parlamento Europeo
Y esas voces, que se materializaron en un primer texto a través de la Comisión Europea, han llegado al Parlamento de la UE en forma de propuesta de ley. El objetivo es reforzar la normativa sobre el uso y desarrollo de la inteligencia artificial y, aunque aún le quedan varios meses de negociaciones por delante, supone el primer intento en el mundo de regular esta tecnología. Los eurodiputados han ampliado la propuesta original de la CE solicitando prohibir “los usos intrusivos y discriminatorios de la IA” y los sistemas de categorización biométrica que utilicen parámetros como el género, raza, orientación política o religión. Igualmente, también rechazan los de predicción de delitos y los de reconocimiento de emociones por parte de policías o agentes de fronteras. El último punto que se veta es el rastreo aleatorio de datos biométricos de redes sociales y de cámaras de vigilancia para bases de datos de reconocimiento facial.
Además, estiman que se considerarán de alto riesgo sistemas que puedan afectar la salud, la seguridad o el medioambiente, los que puedan influir a votantes en campañas políticas y los de recomendación que usan las plataformas sociales.
Otro punto en el que han coincidido es en la necesidad de que el marco normativo para la inteligencia artificial incluya transparencia, y con ese fin, establecen que los contenidos creados mediante tecnologías como ChatGPT y similares deberán advertir que han sido elaborados con inteligencia artificial. Además, han acordado que los desarrolladores tendrán que diseñar el modelo para proteger los derechos de autor y evitar que se genere contenido ilegal. Para ello deberán informar de los datos que se han usado para entrenar la IA.
Por último, también han dispuesto que deberán existir mecanismos para que los ciudadanos puedan presentar quejas y recibir explicaciones por decisiones basadas en el uso de modelos de IA que afecten a sus derechos fundamentales.
Control de la IA en España
España también está dando sus propios pasos para que la IA siga siendo una tecnología al servicio del ciudadano. Así, el Gobierno anunciaba el pasado mes de diciembre que A Coruña albergará la primera Agencia Estatal para el control de la IA. El objetivo es “el desarrollo, supervisión y seguimiento de los proyectos enmarcados dentro de la Estrategia Nacional de Inteligencia Artificial, así como aquellos impulsados por la Unión Europea, en particular, los relativos al desarrollo normativo sobre inteligencia artificial y sus posibles usos”.
La de A Coruña será la primera sede de este tipo que habrá en la Unión Europea, pero cuenta con precedentes fuera de sus fronteras: en EE. UU, la National Defense Authorization Act de 2021 determinó el establecimiento de un organismo, el National AI Initiative Office, para supervisar la estrategia nacional de Inteligencia Artificial.
Recomendaciones de la UNESCO
Un precedente de este intento de regulación es el de la UNESCO, que a finales de 2021 y con el fin de exprimir las muchas ventajas que la inteligencia artificial ofrece a la sociedad, anunció una serie de recomendaciones para su buen desarrollo:
- Protección de datos: para que los usuarios puedan controlar sus datos personales, pudiendo acceder a ellos o incluso borrarlos. Además, insta a las empresas tecnológicas y a los gobiernos a asegurar su transparencia.
- Prohibición de los marcadores sociales y la vigilancia masiva: condena el uso de sistemas de IA para la vigilancia masiva, al considerar que son invasivos y vulneran los derechos humanos y las libertades fundamentales. Además, destaca que los Estados miembros de la UNESCO deben tener en cuenta que la responsabilidad última ha de recaer siempre en las personas y no en la tecnología por sí misma.
- Ayudar a supervisar y evaluar: sienta las bases de las herramientas que contribuirán a vigilar la IA, para que los países y empresas que desarrollan y despliegan estos sistemas puedan calibrar su impacto en las personas, la sociedad y el medioambiente.
- Protección del medioambiente: solicita a los Gobiernos que evalúen el impacto medioambiental del ciclo de vida del sistema de IA. Lo que incluye su huella de carbono, el consumo de energía y las consecuencias de la extracción de materias primas.
No obstante, hay que recordar que estas recomendaciones de la UNESCO son únicamente consejos para un buen uso, sin que conlleve una obligación de cumplimiento.
Nos encontramos, por tanto, a las puertas de un marco normativo para la inteligencia artificial, una tecnología que conlleva múltiples ventajas, pero que necesita ser encauzada para que la sociedad pueda crecer y beneficiarse con ella. El visto bueno definitivo del PE vendrá seguido de negociaciones con la CE y el Consejo de la UE. La intención es tener lista la primera legislación del mundo antes de las próximas elecciones europeas.
