+ Innex Digest Agost-25

Els models d’IA Generativa han d’anar al psiquiatra

Anthropic ha creat un equip interdisciplinari per estudiar el comportament, les personalitats i les reaccions estranyes dels seus models d’IA. Un estudi ha demostrat que en escenaris simulats de risc, fins a un 96 % dels LLMs (16) van optar pel xantatge, l’espionatge o la manipulació per evitar ser apagats,  tot i saber que era èticament incorrecte. 

No parlem d’un guió de ciència-ficció sinó d’una recerca formal

“Medical AI – Diagnosis Orchestrator” (MAI-DxO) de Microsoft

L’eina combina diversos models d’IA especialitzats i els coordina com si fossin un equip mèdic col·laboratiu. S’aplica un enfocament seqüencial, en què cada model resol una part del problema, consulta els resultats anteriors i construeix el diagnòstic pas a pas, imitant el raonament clínic expert. Tot i que cal matisar les condicions de l’experiment, els resultats són realment impactants.

L’article de l’equip de Microsoft

AWS obre el primer “mercat d’agents d’IA” per empreses

Amazon Web Services ha llançat l’Agent Marketplace, un nou espai on empreses i institucions poden adquirir agents d’IA preconstruïts per automatitzar tasques complexes. Ja hi ha prop de 1.000 agents disponibles, des de gestors documentals fins a assistents capaços de generar informes o coordinar processos.

Pots explorar el catàleg

Kimi K2: el model obert més potent del món

Moonshot AI publica Kimi K2, un model Mixture-of-Experts de 1T paràmetres amb rendiment superior a GPT-4o i Claude 3 en algunes proves (MMLU=89,5). Es pot descarregar i fer servir lliurement. Per primer cop, un model obert i replicable s’apropa als líders comercials.

Podeu veure-ho aquí

Millor no parlar de com controlar la superintel·ligència? Nou debat ètic

Un article filosòfic defensa que publicar estratègies per controlar una IA superintel·ligent (AGI) pot ser contraproduent: l’AGI podria llegir-les i protegir-se. A més, fer-ho pot fer que ens vegi com una amenaça, augmentant el risc. Una proposta radical: no parlar-ne en públic.

Publicat a Philosophical Studies

La IA comença a canviar el tràfic digital, i els mitjans ho paguen

Google no està morint, però el seu paper com a canal dominant de coneixement s’està transformant ràpidament. El repte ara no és ser el primer a Google, sinó ser digne de confiança dins la ment d’un model d’IA.

Des del llançament de les respostes amb IA a Google, han pujat molt les cerques que no acaben en cap clic. Els usuaris es queden amb la resposta directa, i els mitjans perden visites, ingressos i influència. ChatGPT ha començat a enviar més trànsit als webs de notícies, però no prou per compensar la davallada de Google. 

Ho explica TechCrunch 

El teu barri, vist per la IA: emocions urbanes en temps real

Un equip de la Universitat de Missouri ha creat un sistema que mapeja l’estat d’ànim d’una ciutat. Posts d’Instagram i imatges de Google Street View permeten associar emocions com calma, estrès o felicitat als diversos  indrets de la ciutat. Això pot ajudar a repensar l’urbanisme amb criteris de salut mental col·lectiva i benestar social.

Publicat a Frontiers in Computer

EBTs. Els transformers que pensen abans de parlar

Els Energy-Based Transformers (EBTs) són una nova generació de models d’IA que rumiem com humans. Inspirats en el pensament lent i reflexiu (Sistema 2 de Kahneman), els EBTs refinen les seves respostes de manera iterativa en lloc de reaccionar automàticament. Aquest procés millora la seva capacitat per gestionar la incertesa, generalitzar a contextos nous i actuar amb més “criteri”. Un pas prometedor cap a una IA menys impulsiva i més deliberativa.

Els detalls en aquest article

Representacions latents. La IA que pensa i explica per què

Una recerca que combina aprenentage per reforç, modelització probabilística i cognició humana, per tenir agents que actuen i expliquen què pensen mentre ho fan. Veure les “creences internes” dels agents mentre prenen decisions obre la porta a sistemes més transparents, interpretables i col·laboratius.

Presentat en aquest article

S’ha obert el mercat: primer co-pilot mèdic amb llum verda europea

Per 90 €/mes es pot subscriure Prof. Valmed, un assistent clínic basat en IA generativa que rep l’aprovació oficial com a dispositiu mèdic de classe IIb. Respostes basades en evidència i  fonts validades, per a trobar informació rellevant i fiable. Web de l’empresa que el comercialitza.  

Cirurgia de vesícula biliar ex vivo de robot-IA autònom SRT-H

Un robot quirúrgic de la Johns Hopkins ha completat de manera autònoma una colecistectomia (extracció de la vesícula biliar) en un model anatòmic realista sense intervenció humana.  El procediment, que consta de 17 passos, inclou la identificació de conductes i artèries, la col·locació de clips i la secció de teixits. El robot ha estat entrenat utilitzant vídeos de cirurgies reals amb anotacions textuals. 

L’article que explica els detalls. 

Europa es diferencia amb un assistent d’IA que no t’espia: Lumo

Proton, amb base a Suïssa,  ha llançat Lumo, un assistent basat en IA que no guarda cap conversa, no registra dades i es pot executar localment. Utilitza models de codi obert com Mistral, amb una potència similar a GPT-3.5, però amb un disseny radicalment orientat a la privacitat.

Aquí s’explica el model de privacitat

El 50% dels projectes amb IA generativa fracassen després del pilot

Segons Gartner  molts projectes de GenAI seran abandonats abans d’arribar a producció. Dades fragmentades i de poca qualitat, manca d'alfabetització i governança,  costos que escalen i manca d’alineació amb els objectius de negoci. 

Gartner. (2025). Why Generative AI Projects Fail and How to Turn the Tide. Enllaç

Polèmica a Vogue per la seva primera supermodel generada amb IA

La nova model de Guess, dissenyada per IA, ha obert un intens debat sobre el risc de la manca de diversitat i de l’ús de cànons artificials de perfecció estètica.  L’atreviment de Vogue ha generat una onada de cancel·lacions i crítiques per part de lectors i professionals.

Aquesta noticia ho explica 

Màquines d’OpenAI i de Google  guanyen l’or a l’IMO-25

Models precomercials de GPT i de Gemini han resolt problemes de l’International Mathematical Olympiad  en condicions humanes estrictes: 9 hores d’examen, sense internet ni ajuda externa. Una fita simbòlica i tècnica que podria assenyalar un abans i un després en el raonament abstracte dels sistemes d’IA Generativa.

S’explica a Reuters 

La promoció a Amazon no és per qui compleix el rol, sinó per qui el reinventa

Es promociona l’empleat que demostra amb fets que ha aplicat IA generativa per transformar processos, millorar l’experiència del client o reduir costos. El CEO Andy Jassy ha confirmat aquesta línia en el seu missatge global: la IA no és un experiment, és l’eix central del nou “Day 1”: Equips petits, àgils i augmentats amb IA, i anticipa que aquesta transformació reduirà la plantilla corporativa els propers anys.

S’explica a Amazon Newsroom