Entran en vigor las prohibiciones de la Ley Europea de IA

Hoy, 2 de febrero de 2025 entran el vigor los capítulos I y II de la Ley Europea de Inteligencia Artificial, el intento más serio y riguroso de prevenir los malos usos de una tecnología cuyas consecuencias cuesta trabajo imaginar. En esos capítulos se clasifican los sistemas de IA en sistemas de riesgo aceptable y sistemas de riesgo inaceptable, y se prohíbe la introducción en el mercado, puesta en servicio y utilización de éstos últimos. Los sistemas de riesgo inaceptable se definen como los realizan alguna de estas funciones:

1. Usen técnicas subliminales, que que trascienden la conciencia de una persona, o deliberadamente manipuladoras o engañosas, que tienen el objetivo de “alterar de manera sustancial el comportamiento.
2. Exploten las vulnerabilidades de una persona o colectivo, derivadas de su edad, de su discapacidad, de una situación social o económica específica, con el objetivo de alterar de manera sustancial el comportamiento.
3. Evalúen o clasifiquen a personas o colectivos atendiendo a su comportamiento social, a características personales o a su personalidad conocida, inferida o predicha que puedan producir un trato perjudicial o desfavorable que no guarde relación con los contextos donde se generaron o recabaron los datos o que sea injustificado o desproporcionado.
4. Evalúen el riesgo de que una persona cometa un delito basándose únicamente en la elaboración del perfil de una persona o la evaluación de los rasgos y características de su personalidad.
5. Creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes de internet o de circuitos cerrados de televisión.  
6. Infieran emociones de una persona física en los lugares de trabajo y en los centros educativos. Una IA puede hacer inferencias inexactas o tener sesgos, dada la diversidad de expresiones en diferentes culturas y situaciones. 
7. Clasifiquen a las personas según sus datos biométricos para deducir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual. 
8. Realicen identificación biométrica remota de personas en tiempo real en lugares de acceso público, excepto si se utilizan para la búsqueda selectiva de víctimas de secuestro, trata, explotación o desaparecidos, o para la previsión de amenazas específicas o localización de sospechosos.
   

Hay dos excepciones generales:

• La de los sistemas instalados por motivos médicos o de seguridad.
• La de los sistemas que se desarrollan únicamente con fines de seguridad nacional.

Se puede denunciar el uso de una IA prohibida a la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) que se encuentra en La Coruña, ya está operativa y tiene autoridad para investigar, inspeccionar y sancionar a los responsables, con multas de hasta 35 millones de euros o el 7 % de su facturación mundial anual. Para realizar una denuncia no hay más que rellenar un formulario que estará disponible en breve. España ha sido el primer país europeo en crear un organismo de ese tipo.

 

Menos mal que estamos en Europa.

Publicado por Antonio F. Rodríguez.

¿Tienen los robots crisis de creatividad?

 

Esta es una historia de un día de verano, con una vaca con sobrepeso, un coche rojo, un campo lleno de flores y un sauce llorón. Hablaremos sobre el amor, la lealtad, la confianza y la nostalgia.

Era un día cálido de verano, el sol brillante refulgía en el cielo despejado. La vaca con sobrepeso pastaba tranquilamente en el campo junto a una floración de colores. El aroma de la hierba y las flores llenaba el aire de tranquilidad.

De repente, el sonido de un coche rojo interrumpió la paz del día. Era un coche antiguo, con una pintura desgastada. El conductor salió del vehículo y caminó hacia el sauce llorón. El hombre se quedó parado debajo del árbol durante unos minutos, mirando a la vaca con tristeza. Se podía sentir el aire cargado de nostalgia y tristeza. El hombre se acercó a la vaca, le acarició el cuello y le habló suavemente. La vaca bajó la cabeza y el hombre colocó su cabeza sobre su hombro, como si fuera un hijo, un amigo o un compañero.

En ese momento, se podía sentir el amor de ese hombre hacia ese animal. Era el amor de un padre, de un amigo, de un confidente, de un compañero. Era la lealtad y la confianza entre dos seres vivos. La vaca entendió la tristeza de aquel hombre y se acercó a él, como si quisiera consolarlo. Y el hombre se sintió comprendido y comprendido. Comprendió que aquellos momentos no eran para llorar sino para agradecer y recordar.

Y así, los dos se quedaron un rato más en silencio, disfrutando de la calidez y la tranquilidad que el verano les regalaba. Y en ese momento, el hombre y la vaca comprendieron la verdadera magia de aquel día de verano, y de lo que la vida puede ofrecer.

Esas líneas que habéis leído son el resultado de pedirle a un bot —un programa informático que efectúa automáticamente tareas reiterativas en Internet, con capacidad de interacción y aplicando Inteligencia Artificial— que escriba un cuento con las instrucciones que hay en el primer párrafo. Habría que corregir varias repeticiones, añadir alguna cosita que otra, pero en líneas generales, el resultado es espectacular.

La aplicación utilizada es ChatGPT, una aplicación lanzada en noviembre de 2022 y disponible en la web, que aprende en cierto modo cada vez que alguien interactúa con ella. Está en esta dirección (https://chat.openai.com/chat) y solo hace falta rellenar algunos datos muy generales, introducir una dirección de correo electrónico y un número de móvil válidos, y ya se pueden probar sus habilidades, cosas como corregir y mejorar un correo, mantener una conversación, escribir un artículo, completar un texto, hacer un dibujo o mejorar uno ya hecho.

Aquí se puede leer, por ejemplo, un artículo en inglés de 1000 palabras sobre el futuro de la Inteligencia Artificial escrito por ChatGPT. Ya está empezando a aparecer el problema de estudiantes que encargan a esa aplicación que les redacte sus trabajos de clase o el Proyecto Fin de Carrera (véase este artículo). Dentro de poco, puede que los bots empiecen a ganar concursos de microrrelatos y relatos; parece que pronto veremos cosas asombrosas en este campo.

¿Acabarán los bots con el arte? Parece que de momento, no. Recientemente, un juez ha dictaminado que una obra de arte generada por un programa no tiene derechos de autor, porque una aplicación no es una persona jurídica y no puede poseer copyright (véase este enlace). Tenemos una tregua,

Publicado por Antonio F. Rodríguez.

Hay una gran presión económica para hacer obsoletos a los humanos - Max Tegmark

La Inteligencia Artificial (IA) ha progresado mucho en los últimos años: 

• Se dice que hay aplicaciones que han pasado el Test de Turing.
• Cada vez es más difícil darse cuenta de que uno está chateando con un chatbot y no con una persona.
• Watson, el sistema de IBM basado en una red neuronal que aprende sola, ha editado una revista, ha conseguido corregir varios diagnósticos médicos erróneos y ha participado de forma brillante en Jeopardy!, un concurso estadounidense que parece una mezcla de «Cifras y letras» y «Saber y ganar», en el que vapuleó a los dos mejores concursantes de la historia del programa.
• Hay sistemas de IA que aprenden solosa jugar y aplastan a los mejores campeones de ajedrez, póker y go.
• Hay una aplicación disponible a través de una app para móviles, llamada Replika, que pone los pelos de punta cuando construye un doble de tu personalidad y contesta como harías tú, si le facilitas todos tus correos, tus conversaciones en chats y el contenido de tus usuarios de redes sociales.    
• Hace tiempo que una red neuronal que adivina lo que piensas en veinte preguntas (www.20q.net) está disponible en la red y a veces da miedo. 

Max Tegmark está preocupado por la velocidad a la que avanza la Inteligencia Artificial sin que haya un control deontológico ni moral sobre su aplicación. Ese es el tema de esta interesante entrevista que ha aparecido en prensa este verano pasado: 

«Hay una gran presión económica para hacer obsoletos a los humanos».
               

Max Tegmark (1967) es un cosmólogo sueco-estadounidense que trabaja en el Instituto Tecnológico de Massachusetts (MIT). Es un especialista en las estructuras a gran escala del Universo, la radiación de fondo y ha formulado ideas tan curiosas como la que afirma que «todas las estructuras que existen matemáticamente también existen físicamente». Una mente privilegiada.

 

Otro artículo que vale la pena leer es este:  

 
https://thecxlead.com/tools/best-ai-chatbot-for-customer-service/

Publicado por Antonio F. Rodríguez.