Ep. 22 — Marca de agua para el texto de la IA (con Guillermo, que Sergio está de vacaciones)

Sergio está de vacaciones, así que esta semana el episodio lo cuenta Guillermo, la voz que llevó el podcast hasta el episodio 20. El tema: Anthropic va a meter una marca de agua invisible en todo el texto que genera Claude, no solo en la UE sino a escala mundial, empujado por el artículo 50 del AI Act. Guillermo explica por qué marcar texto no es lo mismo que firmar un fichero —hay que tocar cómo el modelo elige cada palabra—, por qué el sesgo empeora justo en código y matemáticas, por qué no frena a quien de verdad quiere engañar, y por qué castiga a quien cumple: Anthropic y OpenAI firmaron el capítulo de transparencia del Code of Practice; xAI, la de Elon Musk, se descolgó justo de ese capítulo. Cierra con el efecto más contraintuitivo de todos: la falsa sensación de seguridad de pensar que lo no marcado es de fiar.