Las abuelas descontroladas

Todavía no sabemos cómo usar la IA, y aprenderemos a tortas.

Hola,

He vuelto. Ha pasado mucho tiempo desde mi última publicación, en parte por falta de ánimo y, en gran medida, por falta de método. También estaba un poco cansado de la avalancha de newsletters sobre IA que han surgido últimamente. La mayoría se centran en la noticia del día, y seguir la actualidad empieza a ser algo repetitivo.

Voy a retomar la escritura intentando aportar un enfoque diferente. La estructura será sencilla: un tema del día para la reflexión y dos apartados adicionales. Uno repasando algunas temáticas relacionadas con la IA (cosas que me han llamado la atención) y otro más random de temática cambiante (a veces IA, a veces no).

Intentaré huir de la novedad y andar por territorios menos explorados, con cosas que me han resultado interesantes, aunque no sean temas de los que todo el mundo esté hablando.

Espero que os guste.

---

Se ha hecho más o menos viral una noticia sobre algo que al parecer ha puesto en marcha O2. Se trata de una forma para hacer perder el tiempo a los scammers telefónicos. Una entrañable abuela que se pone al habla con el scammer de turno para hacerle perder tiempo y que, a la larga, les salga poco rentable llamar a la gente para intentar estafarles. Lo que se llama un scambaiter.

También han hecho una campaña publicitaria mostrando a una abuela generada por IA haciendo el arduo trabajo de atender a los scammers.

He visto buena acogida de la idea de O2 en general, pero no he podido evitar ver muchos inconvenientes en la práctica.

Sí, la idea parece muy buena. Pero, si te paras a pensar, ves claramente que no lo es. Eso sí, la campaña de marketing para darla a conocer me parece cojonuda, pero no así el producto que representa.

El primer inconveniente que veo es que, aunque puedas engañar a un scammer una vez, no creo que funcione más allá de esa primera vez, sobre todo si el modelo de voz no cambia. Es fácil imaginar que terminarán detectándola.

El siguiente inconveniente es que se trata de una IA hablando con una persona con malas intenciones. Eso no puede salir bien en un momento en el que las IA's aún tienen problemas de fiabilidad y son relativamente fáciles de manipular. No sé cómo serán los scammers fuera de España, pero aquí suelen tener muchos de tus datos y necesitan poco para engañarte. ¿Cuántas veces te han cambiado (a ti o a tus padres o a tus abuelos) de compañía eléctrica o de operadora de telefonía sin saber cómo, por culpa de teleoperadores en busca de comisión?

Además, seguramente los scammers empezarán a aprender a hacer preguntas para averiguar si están hablando con una IA. Estas herramientas son vulnerables, y es solo cuestión de tiempo antes de que encuentren formas de identificarlas. Internet está inundada de tuits explicando cómo alguien a conseguido “jailbreakear” a ChatGPT.

Otro inconveniente es que este es un juego al que ambas partes pueden jugar. Ya se están usando IA's para realizar llamadas automáticas comerciales. Se sabe que se utilizan en el sector inmobiliario para hacer llamadas a puerta fría. ¿Alguien piensa que los scammers no están usando esto ya? Hay herramientas comerciales que permiten hacerlo, las puedes encontrar si buscas en nichos como AI Cold-Calling o AI Call Center (Callin.io, Synthflow.ai, Air.ai, etc.).

Mi enfoque aquí no es tanto en contra del uso de la IA en general, sino del uso sin sentido, sin sopesar pros y contras. En este momento, la IA generativa no está lista para aplicarse en procesos críticos. Es un excelente apoyo para muchas tareas y puede sustituir otras tantas en las que se pueda permitir cierta falibilidad.

---

Publicidad: Esta semana me topé con el anuncio que Honda hizo hace unos meses con vídeo creado con IA generativa. El resultado no está mal ya que se han centrado en los fondos y no sale más que el coche y fondos abstractos. No es la primera marca de coches en usar IA, he recordado que en una época previa a la IA generativa, allá por 2021, los de BMW también hicieron alguna acción promocional usando imágenes creadas con IA.

Música: Resulta que la portada del último disco de Tears for Fears está hecha usando IA generativa. La polémica estalló hace un par de meses. Creo que va a ser más habitual cada día que artistas usen esta tecnología como parte de su proceso creativo. Hace no mucho que Pink Floyd premió un video clip (uno de diez premiados) hecho también con IA generativa.

Educación: Si hay una tecnología disponible la gente la usará. Descubrí por casualidad un canal hecho por alguien que ha estado usando NotebookLM para hacer un canal de podcasts de libros de Ciberseguridad. El canal tiene más de 800 vídeos. ¿Cuánto hubiera costado hacer eso sin la IA generativa? No entro en lo ilegal que es usar un contenido (los libros de las diversas editoriales) sin permiso sino en lo barato que es hacerlo a gran escala ahora. Y el que piense que los podcasts generados no dan el pego está equivocado. En lo personal, el mes pasado tuve la posibilidad de seguir un curso de Google en Kaggle en el que parte de la formación se daba en podcast automático (la alternativa de leerse un paper de 75 páginas era escuchar su podcast automático hecho con NotebookLM de 30 minutos, subtitulado automático y traducido automático al español). Resulta más entretenido de lo que puede parecer.

Por si alguien no conoce NotebookLM, se trata de una herramienta experimental de Google que combina las capacidades de un modelo de lenguaje con las características de un notebook digital. Permite usarlo para hacer preguntas a documentos y generar podcasts de esos documentos de forma automática. El tapado de las herramientas con IA de Google.

---

Hoy se… pasa miedo

Como todo buen impacto tecnológico, la IA generativa está comenzando a reflejarse en productos de consumo y entretenimiento. Aunque el género de películas sobre IA que toma el poder no es un nuevo, este tipo de historias se han concretado más desde 2022, con la salida de ChatGPT.

A éste género pertenece "AFRAID", que aquí se ha traducido como "DIABÓLICA", aunque también he visto algunos carteles en español con el título "PARANOIA" (en francés han preferido evitar el juego de palabras con "L’I.A. du mal").

Es una película de este año 2024. La he podido ver hace poco y no puedo decir que sea la obra maestra del siglo XXI, pero es entretenida.

Comienza con imágenes "terroríficas" de vídeos generados con IA. Imágenes más del estilo de 2023 que de 2024, es decir, no tanto como Sora o Kling, sino más en la línea del meme de Will Smith comiendo espaguetis.

En general, el mensaje de la película es que la tecnología es perjudicial para las personas, y la IA es la gota que viene a colmar el vaso. Muy en la línea del filósofo Byung-Chul Han. Al final, no deja de ser la típica película de sustos aprovechando la tendencia. Me recuerda un poco a "TAU" de 2018 (esa sí que me pareció buena). Se menciona GPT-4 e incluso se habla de tecnología cuántica durante la película (que da para otro nicho de terror). Logra transmitir muy bien la idea de un ente superior que lo sabe todo y es capaz de hacerlo todo mejor que los humanos. Es una IA que condiciona y dirige, inevitable y destinada a gobernar a la gente. No es simplemente IA, sino la temida AGI. Terrorífico, vaya.

El tráiler por si os picó la curiosidad:

---

Despedida y cierre

Estoy probando una nueva forma de encarar la escritura de la newsletter. Algo más ordenada y teniendo como objetivo que no sea muy larga. No soy tan buen escritor como para haceros perder el tiempo :-)

Espero que os haya gustado. Si os ha gustado, asentid.