Un marco normativo para la IA

marco normativo para la IA

No hay duda de que la inteligencia artificial y su espectacular desarrollo ha sido protagonista de las tendencias de 2023 y no parece que 2024 vaya a seguir un camino diferente.

Lo cierto es que en los últimos meses hemos asistido a un crecimiento exponencial de esta tecnología a través de sistemas que se han popularizado rápidamente, como ChatGPT, que forman ya parte de nuestro día a día y, aunque hay opiniones para todos los gustos, incluidas las que ven con malos ojos limitar su uso, numerosos estudios llevan ya un tiempo alertando de las carencias de la IA en cuanto a sesgos raciales o sexistas e insistiendo en la necesidad de regularla antes de que sea demasiado tarde. Por ejemplo, un experimento de la consultora Biko alertó de que los algoritmos de los sistemas de reconocimiento de imágenes de Amazon o Google etiquetaban de forma diferente a mujeres y hombres. Así, si aparecía una mujer sosteniendo un martillo, la IA la calificaba como ‘hombre’. “En muchas ocasiones es ineficaz, discriminatoria, sexista y racista”, denunciaban los responsables del estudio. Y no es la única investigación que se ha hecho al respecto, en los últimos años diferentes informes han llegado a conclusiones similares. A ello se le añade la polémica sobre los derechos de autor, dado que las IAs aprenden con obras protegidas por copyright y sobre la falta de transparencia que se puede dar al presentar una creación de IA como si fuera humana. Todo ello ha ido incrementando el número de voces a favor de establecer un marco normativo para la IA.

El marco normativo para la IA en el Parlamento Europeo

Y esas voces, que se materializaron en un primer texto a través de la Comisión Europea, llegaron al Parlamento de la UE en forma de propuesta de ley y, tras meses de negociaciones, este pasado mes de diciembre el Consejo de la UE, junto al Parlamento Europeo, alcanzaron un acuerdo provisional histórico para avanzar hacia la aprobación definitiva del futuro reglamento que regulará la inteligencia artificial.

El objetivo, desde el principio, ha sido reforzar la normativa sobre el uso y desarrollo de la inteligencia artificial, vigilando el riesgo, pero a la vez permitiendo promover la innovación en el marco del respeto a los derechos fundamentales. Es el primer intento en el mundo de regular esta tecnología.

La propuesta se divide según el nivel de riesgo que conlleve, diferenciando entre: sistemas de IA de riesgo mínimo, de riesgo limitado, de alto riesgo y de riesgo inaceptable.

En los niveles más graves se situarían los usos intrusivos y discriminatorios de la IA y los sistemas de categorización biométrica que utilicen parámetros como el género, raza, orientación política o religión. Igualmente, también se rechazan los de predicción de delitos y los de reconocimiento de emociones. El último punto que se veta es el rastreo aleatorio de datos biométricos de redes sociales y de cámaras de vigilancia para bases de datos de reconocimiento facial.

Además, estiman que se considerarán de alto riesgo sistemas que puedan afectar la salud, la seguridad o el medioambiente, los que puedan influir a votantes en campañas políticas y los de recomendación que usan las plataformas sociales.

Otro punto en el que coinciden es en la necesidad de que el marco normativo para la inteligencia artificial incluya transparencia, y con ese fin, establecen que los contenidos creados mediante tecnologías como ChatGPT y similares deberán advertir que han sido elaborados con inteligencia artificial. Además, han acordado que los desarrolladores tendrán que diseñar el modelo para proteger los derechos de autor y evitar que se genere contenido ilegal. Para ello deberán informar de los datos que se han usado para entrenar a la IA.

Por último, otra de las novedades incluidas es que tendrá que existir una evaluación obligatoria del impacto en los derechos fundamentales, así como mecanismos para que los ciudadanos puedan presentar quejas y recibir explicaciones por decisiones basadas en el uso de modelos de IA que les afecten.

En cuanto a las posibles sanciones por incumplimiento, se establecerán multas de hasta 35 millones de euros o, dependiendo del caso, el 7 % de la facturación global.

Excepciones

Uno de los temas más polémicos y que más discusiones ha generado ha sido determinar la manera en la que las fuerzas del orden podrían utilizar sistemas de IA con fines policiales. Finalmente, la conclusión a la que se ha llegado es que se podrá incluir una excepción a la prohibición, ligada a procedimientos de emergencia. Es decir, solo en casos excepcionales y bajo autorización judicial, se podrán utilizar sistemas de identificación biométrica remota en espacios públicos: un ejemplo de esta aplicación sería la búsqueda de una persona condenada o sospechosa de haber cometido un delito grave.

Oficina Europea de Inteligencia Artificial

También se ha acordado la creación de la nueva Oficina Europea de Inteligencia Artificial dentro de la Comisión Europea, que se encargará de supervisar la aplicación y el cumplimiento de las normas relacionadas con la IA. Igualmente, a nivel local, tendrá que haber autoridades nacionales. En el caso de España, esta responsabilidad quedaría en manos de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), con sede en A Coruña. Su objetivo es “el desarrollo, supervisión y seguimiento de los proyectos enmarcados dentro de la Estrategia Nacional de Inteligencia Artificial, así como aquellos impulsados por la Unión Europea, en particular, los relativos al desarrollo normativo sobre inteligencia artificial y sus posibles usos”.

En cualquier caso, aún queda un poco para que todos los puntos de la legislación sean efectivos: lo siguiente será la ratificación, que se espera que se produzca durante el primer trimestre de este 2024, una vez ratificada, las prohibiciones podrán empezar a aplicarse 6 meses después y las normas de uso general 12 meses después. El resto se hará efectivo en 2026.

¿Qué es el brand safety?

brand safety

Construir una buena imagen de marca no es algo sencillo que se haga de un día para otro. Es una dura tarea que requiere de mucho trabajo, mimos y cuidada estrategia. Ese camino es largo y tedioso, pero si se hace correctamente conlleva grandes alegrías para la compañía.

El problema aquí es que cuesta mucho construirlo y muy poco arruinarlo: ¿sabías que una sencilla ráfaga de aire se puede llevar todo el esfuerzo de años en un abrir y cerrar de ojos?

Un simple error, como el que tu anuncio aparezca en el sitio equivocado, puede hacer saltar todas las alarmas y acabar con tu reputación en cuestión de segundos. Hace poco veíamos como la programática jugaba una mala pasada a un anunciante proveedor de energía y mostraba su publicidad en una noticia relacionada con la subida de la luz. Un error que puede parecer poca cosa, pero que para los consumidores de energía no pasa desapercibido. Esta acción ha dañado la imagen de la marca y le ha generado una crisis reputacional online. Aquí, es donde entra el brand safety y su misión: proteger a las marcas, proporcionándoles seguridad en el entorno digital.

Aplicar filtros

Dentro de las buenas prácticas del brand safety encontramos la idea de aplicar filtros. Una de las claves más importantes para evitar ese desastre monumental que hará temblar a tu compañía.

Por ello, es fundamental aplicar ciertos filtros a la hora de publicitarse en la red, sorteando aquellos espacios poco apropiados, como páginas web sobre política, religión, contenido para adultos, descargas ilegales… Además, dependiendo de a qué se dedique tu marca, habrá ciertos sitios aparentemente inofensivos que, al no estar alineados contigo, también será preferible evitarlos. Por ejemplo, si te dedicas a elaborar pasteles recubiertos de ingentes y deliciosas calorías, seguramente no querrás aparecer en una web dedicada a las dietas.

Una buena opción es crear las llamadas ‘listas blancas’, una agrupación de sitios seguros en los que tus campañas no correrán ningún peligro y conseguirán su propósito original. De la misma manera, también es posible elaborar ‘listas negras’ con las webs a evitar, así, la publicidad automatizada esquivará esos sitios no recomendados.

Estas ideas principales, unidas a las siguientes, harán del entorno web un lugar seguro para publicitarse:

  • Incluir palabras clave relacionadas con contenido inapropiado (se puede hacer a través de Google Ads).
  • Trabajar a conciencia en los valores asociados la marca: cuanto más definidos estén, más sencillo será identificar los lugares no deseados.
  • Segmentar la audiencia: no solo es indispensable para que tu mensaje llegue a la persona adecuada, sino que además te ayudará a seleccionar sitios de bajo riesgo.
  • Usar herramientas de ad verification que comprueben que los anuncios están distribuyéndose correctamente: ejemplos de ello son DoubleClick Campaing Manager de Google, Sizmek, Integral Ad Science (IAS) o MOAT.
  • Tener una estrategia de acción: por si finalmente se produjera el escenario menos deseado y tu anuncio se mostrará en un lugar dañino. Cuanto antes actúes (y mejor) menor será el perjuicio.
Publicidad personalizada

La clave, por tanto, ya no solo es cuidar extremadamente el lugar donde aparecen esos anuncios, sino también el mensaje y a quién va dirigido, para asegurarnos de que será bien recibido por un cliente potencial. En definitiva, se trata de poner al usuario en el centro, como prioridad para conseguir el ansiado éxito de nuestras campañas: si el contenido en sí le resulta atractivo, la página es la que se encuentra es apropiada y alineada con la empresa y entra de pleno en sus intereses, habrá muchas más posibilidades de que acabe clicando y finalmente adquiera el servicio o producto que se le oferta. Por el contrario, si el contenido no tiene ningún interés para él (e incluso le ofende al no entender porqué lo está viendo) lo más probable es que lo acabe bloqueando.

Y es que mucho ha cambiado el mundo de la publicidad en los últimos años, lejos quedaron aquellos tiempos en los que únicamente cabía la posibilidad de anunciarse en medios masivos con carísimas campañas al alcance de unos pocos. El abanico cada vez es mayor y día a día se puede afinar más dónde y a qué target llegar. Es indudable que las nuevas tecnologías han contribuido a hacer de la publicidad algo mucho más personalizable, una tendencia que sin duda es positiva si se sabe utilizar correctamente, ya que evita que nuestro mensaje se hunda en un océano inmenso donde la mayoría que lo navega no está interesada en él.

Siendo posible segmentar por edad, localización geográfica, sexo, e incluso intereses, ¿por qué no aprovecharlo? Esa capacidad de clasificar a nuestro público de una forma bastante detallada es oro puro para cualquier marca, por eso es tan importante conocerlo bien. Seguramente si las agencias de publicidad del pasado viesen la cantidad de opciones que existen hoy en día -y que abaratan muchísimo los costes- nos mirarían con auténtica envidia.

Precisamente, en Servinform somos especialistas en innovación tecnológica y estamos preparados para los retos a los que se enfrentan hoy en día las empresas. ¿Tu proyecto necesita adaptarse a los nuevos tiempos con servicios de calidad? Contáctanos y descubre todo lo que podemos hacer por ti.

La ciberseguridad y su importancia en el ámbito empresarial

ciberseguridad

Seguro que alguna vez te has enfrentado a un problema de ciberseguridad en tu trabajo. Una contraseña poco segura que ha sido hackeada, un email abierto con un remitente extraño que ha hecho que un malware ataque tu ordenador…Todo esto, puede producir una fuga de datos, pérdida de documentos e información confidencial que pueden poner en jaque a tu compañía y su reputación. Por ello, es muy importante conocer la importancia de la ciberseguridad tanto a nivel personal como en ámbito laboral. Porque todos podemos ser víctimas de algún ataque malintencionado a través de Internet en algún momento.

¿Qué es la ciberseguridad?

A estas alturas, cuando hablamos de ciberseguridad seguro que ya sabes a qué nos referimos, pero por si acaso, os dejamos una definición clara de ella:

Es el conjunto de sistemas que protege los activos de información, a través del tratamiento de amenazas que ponen en riesgo la información que es procesada, almacenada y transportada por los sistemas de información que se encuentran interconectados”.

¿Por qué es tan importante? Porque al mismo tiempo que las empresas online y con servicios relacionados con Internet van haciéndose hueco en #España, las amenazas digitales se multiplican ya que se abren muchas posibilidades para los ciberdelincuentes.

España recibe alrededor de unos 40.000 ciberataques diarios y las que salen peor paradas son las pymes y las administraciones según datos de marzo de 2021 de la compañía de seguridad en la nube Datos101. Por eso, la ciberseguridad es ahora más importante que nunca y las empresas lo saben.

Principales amenazas a las que se enfrenta la ciberseguridad

  • Phising: esta práctica ha aumentado en un 70% desde el inicio de la pandemia según datos de Phishing Insights 2021. Según la Asociación Española de Empresas contra el Fraudeel phishing es una técnica de estafa realizada a través de algún tipo de ingeniería social, manipulando a los individuos para conseguir que la persona realice un acto que le perjudica”.
  • Malware y Ransomware: Malwarees una palabra inglesa y literalmente significa “software malicioso”. Son programas informáticos diseñados para introducirse en los sistemas informáticos con el objetivo de obtener, destruir, copiar o robar información y realizar acciones no deseadas. El Ransomware es un tipo de malware que impide el acceso a ficheros, cifrando o encriptando todos los archivos. Actualmente, este “mal” se está distribuyendo con emails en los que para liberar esa información se solicita dinero a cambio.
  • Ataques a la cadena de suministro: los ciberataques han dejado de poner el foco en la empresa como algo individual. Ahora, buscan replicarse a lo largo de su cadena de suministro, incluyendo partners, proveedores, clientes…

Esta, es una de las principales amenazas para 2022 que los expertos prevén y que incluso podría llegar a los gobiernos a desarrollar leyes más estrictas.

  • DeepFake: los deepfakes se han vuelto cada vez más comunes y peligrosos ya que se han “profesionalizado” y es más difícil distinguirlos. Esto se debe a la sofisticación de programas y herramientas que permiten desarrollarlo. Los ciberdelincuentes ya han demostrado este año de lo que son capaces al utilizar esta tecnología: robar dinero, manipular la cotización en Bolsa de una empresa…Por eso, hay que estar muy alerta con este tipo de “ataques”.

 Principales consecuencias de un ciberataque

  • La pérdida de reputación: las grandes empresas pueden aplacar la pérdida de clientes tras un ciberataque, pero para las pymes puede ser devastador el daño causado e irreparable.
  • Cuando los datos personales han sido expuestos o robados, los clientes se sienten traicionados. Los clientes depositan su confianza en ti y tú debes hacer justicia a esto, sino pierdes la credibilidad.
  • Fuga de clientes: tras la filtración de datos las empresas que se han visto afectadas deciden cambiar sus negocios de lugar y rescindir contratos.
  • Dificultar la captación de nuevos clientes.

Naturalmente, se pueden tomar medidas para reducir la posibilidad de sufrir un ciberataque, desde realizar cursos de formación a tus empleados en ciberseguridad hasta multiplicar tus dispositivos para crear una red entramada de capas (la primera es el antivirus, la segunda el software antiejecutable y la tercera crear una tecnología que preserve la información del propio ordenador). Si bien es cierto, que, a pesar de tener un sistema lo más completo posible los problemas pueden surgir en cualquier momento y, de cualquier forma. Por eso, hay que tener claro que se pueden tomar medidas para limitar la pérdida de clientes, restaurar la reputación y recuperar la confianza del cliente, pero reparar el daño a una marca puede ser una tarea muy ardua que lleve mucho tiempo, esfuerzo y recursos.

 Es por ello, que, si hasta ahora no le has dado relevancia a la ciberseguridad, es el momento de hacerlo y blindarte ante ciberataques indeseados que pueden arruinar todo el trabajo realizado hasta al momento.