+ Innex Digest Agosto-25

Los modelos de IA Generativa deben ir al psiquiatra

Anthropic ha creado un equipo interdisciplinario para estudiar el comportamiento, personalidades y reacciones extrañas de sus modelos de IA. Un estudio ha demostrado que en escenarios simulados de riesgo, hasta un 96% de los LLMs (16) optaron por el chantaje, el espionaje o la manipulación para evitar ser apagados, aun sabiendo que era éticamente incorrecto.

No hablemos de un guion de ciencia ficción sino de una investigación formal.

"Medical AI - Diagnosis Orchestrator" (MAI-DxO) de Microsoft.

La herramienta combina varios modelos de IA especializados y los coordina como un equipo médico colaborativo. Se aplica un enfoque secuencial, en el que cada modelo resuelve una parte del problema, consulta los resultados anteriores y construye el diagnóstico paso a paso, imitando el razonamiento clínico experto. Aunque es necesario matizar las condiciones del experimento, los resultados son realmente impactantes.

El artículo  del equipo de Microsoft.

AWS abre el primer “mercado de agentes de IA” para empresas

Amazon Web Services ha lanzado el Agente Marketplace, un nuevo espacio donde empresas e instituciones pueden adquirir agentes de IA preconstruidos para automatizar tareas complejas. Ya existen cerca de 1.000 agentes disponibles, desde gestores documentales hasta asistentes capaces de generar informes o coordinar procesos.

Puedes explorar el catálogo.

Kimi K2: el modelo abierto más potente del mundo

Moonshot AI publica Kimi K2, un modelo Mixture-of-Experts de 1T parámetros con rendimiento superior a GPT-4o y Claude 3 en algunas pruebas (MMLU=89,5). Se puede descargar y utilizar libremente. Por primera vez, un modelo abierto y replicable se acerca a los líderes comerciales.

Puede verlo aquí.

¿Mejor no hablar de cómo controlar la superinteligencia? Nuevo debate ético.

Un artículo filosófico defiende que publicar estrategias para controlar una IA superinteligente (AGI) puede ser contraproducente: la AGI podría leerlas y protegerse. Además, hacerlo puede hacer que nos vea como una amenaza, aumentando el riesgo. Una propuesta radical: no hablar de ello en público.

Publicado en Philosophical Studies.

La IA comienza a cambiar el tráfico digital, y los medios lo pagan.

Google no está muriendo pero su papel como canal dominante de conocimiento se está transformando rápidamente. El reto ahora no es ser el primero en Google, sino ser digno de confianza en la mente de un modelo de IA.

Desde el lanzamiento de las respuestas con IA a Google, han subido mucho las búsquedas que no terminan en ningún clic. Los usuarios se quedan con la respuesta directa y los medios pierden visitas, ingresos e influencia. ChatGPT ha empezado a enviar más tráfico a las webs de noticias, pero no lo suficiente para compensar el bajón de Google.

Lo explica TechCrunch.

Tu barrio, visto por la IA: emociones urbanas en tiempo real

Un equipo de la Universidad de Missouri ha creado un sistema que mapea el estado de ánimo de una ciudad. Posts de Instagram e imágenes de Google Street View permiten asociar emociones como calma, estrés o felicidad en los distintos lugares de la ciudad. Esto puede ayudar a repensar el urbanismo con criterios de salud mental colectiva y bienestar social.

Publicado en Frontiers in Computer.

EBTs. Los transformers que piensan antes de hablar

Los Energy-Based Transformers (EBTs) son una nueva generación de modelos de IA que piensan como humanos. Inspirados en el pensamiento lento y reflexivo (Sistema 2 de Kahneman), los EBTs refinan sus respuestas de forma iterativa en lugar de reaccionar automáticamente. Este proceso mejora su capacidad para gestionar la incertidumbre, generalizar a nuevos contextos y actuar con más “criterio”. Un paso prometedor hacia una IA menos impulsiva y más deliberativa.

Los detalles en este artículo.

Representaciones latentes. La IA que piensa y explica por qué

Una investigación que combina aprendizaje por refuerzo, modelización probabilística y cognición humana, por tener agentes que actúan y explican qué piensan mientras lo hacen. Ver las "creencias internas" de los agentes mientras toman decisiones abre la puerta a sistemas más transparentes, interpretables y colaborativos.

Presentado en este artículo.

Se ha abierto el mercado: primer co-piloto médico con luz verde europea

Por 90€/mes se puede suscribir Prof. Valmed, un asistente clínico basado en IA generativa que recibe la aprobación oficial como dispositivo médico de clase IIb. Respuestas basadas en evidencia y fuentes validadas, para encontrar información relevante y fiable.

Web de la empresa que lo comercializa.

Cirugía de vesícula biliar ex vivo de robot-IA autónomo SRT-H

Un robot quirúrgico de Johns Hopkins ha completado de manera autónoma una colecistectomía (extracción de la vesícula biliar) en un modelo anatómico realista sin intervención humana. El procedimiento, que consta de 17 pasos, incluye la identificación de conductos y arterias, la colocación de clips y la sección de tejidos. El robot ha sido entrenado utilizando vídeos de cirugías reales con apuntes textuales.

El artículo que explica los detalles.

Europa se diferencia con un asistente de IA que no te espía: Lumo

Proton, con base en Suiza, ha lanzado Lumo, un asistente basado en IA que no guarda conversación alguna, no registra datos y se puede ejecutar localmente. Utiliza modelos de código abierto como Mistral, con una potencia similar a GPT-3.5 pero con un diseño radicalmente orientado a la privacidad.

Aquí se explica el modelo de privacidad.

El 50% de los proyectos con IA generativa fracasan después del piloto

Según Gartner, muchos proyectos de GenAI serán abandonados antes de llegar a producción. Datos fragmentados y de poca calidad, falta de alfabetización y gobernanza, costes que escalan y falta de alineación con los objetivos de negocio.

Gartner. (2025). Why Generative AI Projects Fail and How to Turn the Tide. Enlace.

Polémica en Vogue por su primera supermodelo generada con IA

La nueva modelo de Guess, diseñada por IA, ha abierto un intenso debate sobre el riesgo de la carencia de diversidad y del uso de cánones artificiales de perfección estética. La osadía de Vogue ha generado una ola de cancelaciones y críticas por parte de lectores y profesionales.

Esta noticia lo explica.

Máquinas de OpenAI y de Google ganan el oro en el IMO-25

Modelos precomerciales de GPT y de Gemini han resuelto problemas del International Mathematical Olympiad en condiciones humanas estrictas: 9 horas de examen, sin internet ni ayuda externa. Un hito simbólico y técnico que podría señalar un antes y un después en el razonamiento abstracto de los sistemas de IA Generativa.

Se explica en Reuters.

La promoción en Amazon no es por quien cumple el rol, sino por quien lo reinventa

Se promociona al empleado que demuestra con hechos que ha aplicado IA generativa para transformar procesos, mejorar la experiencia del cliente o reducir costes. El CEO Andy Jassy ha confirmado esta línea en su mensaje global: la IA no es un experimento, es el eje central del nuevo "Day 1": Equipos pequeños, ágiles y aumentados con IA, y anticipa que esta transformación reducirá la plantilla corporativa en los próximos años.

Se explica en Amazon Newsroom