Innex Digest Desembre - 25

Un model de primària basat en telemedicina i IA diagnòstica.

Davant la manca estructural de metges als centres locals la Xina ha decidit no reforçar el model de primària clàssic. El govern xinès  està desplegant una combinació de telemedicina i IA diagnòstica com a porta d’entrada al sistema, amb l’objectiu d’aconseguir una cobertura del 100% abans del 2030.

Ho explica People's Daily Online

La recerca biomèdica: més velocitat però també més riscos

El descobriment de fàrmacs o vacunes s’ha accelerat, però el que ho fa possible també redueix el cost i el nivell d’expertesa necessaris per dur a terme tasques sensibles.  La resposta probablement no és prohibir, sinó governar millor, i no és fàcil en un context on la recerca és global però la regulació continua sent nacional.

S’explica a The Age of AI in the Life Sciences

El centre de gravetat de la recerca es podria desplaçar cap a la Xina.

L’ASPI és un “rànquing” que mira qui fa la recerca científica més influent  en 74 tecnologies considerades clau. Aquest desembre la Xina surt primera en 66 de 74 tecnologies i els EUA surten primers en les 8 restants. Més talent, més laboratoris i més capacitat científica puntera s’estan concentrant a la Xina.

Publicat a ASPI

Només el 8% de països tenen clar qui respon quan falla una IA mèdica segons alerta l’OMS

Només quatre països europeus disposen d’estàndards clars sobre responsabilitat quan una IA comet un error en un entorn clínic. L’ús de sistemes basats en IA ja és massiu, diagnòstic per imatge, chatbots assistencials o suport a la decisió, mentre la regulació avança amb retard.

Informe de l’OMS

Segons un informe del MIT només un 5% de projectes d’IA generativa crea valor

De l’anàlisi de més de 300 iniciatives corporatives d’IA generativa s’extreu que, malgrat una inversió de 30–40 mil milions de dòlars, el 95% de les organitzacions no obtenen retorn de negoci mesurable. Només un 5% dels pilots integrats aconsegueixen impacte real en ingressos o estalvis operatius. 

Ho explica MIT

La poesia pot burlar les barreres de seguretat dels LLM

Instruccions perilloses incrustades en poemes o metàfores poden enganyar els models de llenguatge en un 62% dels casos, superant àmpliament els filtres de seguretat. Els LLM interpreten el to literari com una invitació creativa i no identifiquen el risc subjacent.

Article a arXiv

Un estudi revela que alguns ciutadans confiarien més en un xatbot que en un diputat

El Collective Intelligence Project ha detectat un senyal inquietant: una part significativa dels participants afirma que un xatbot podria prendre decisions millors que el seu representant electe. Els investigadors avisen que la mostra no és representativa, i que el resultat no demana substituir polítics per algoritmes; demana institucions que funcionin millor que un xatbot.

Ho explica el Collective Intelligence Project

La IA entra en una nova fase hibrida que va més enllà dels LLM

La IA comença a abandonar la idea que escalar els LLM sigui l’únic camí cap al progrés. Les limitacions persistents dels LLM en al·lucinacions, poca fiabilitat i rendiments decreixents, estan reobrint l’interès per enfocaments alternatius com els world models i la IA neurosimbòlica. El canvi apunta a una etapa més plural i pragmàtica, centrada en sistemes híbrids i verificables.

És una opinió rellevant a Marcus on AI

IA que pot transformar l’operativa de les policies locals

Als EUA s’estan desplegant plataformes d’analítica de dades per a departaments de policia municipals, integrant múltiples dades en temps quasi real. Els sistemes s’utilitzen ja per prioritzar incidents, coordinar recursos i donar suport a centres de comandament. S’entra en una nova fase d’IA aplicada com a infraestructura crítica del sector públic.

L’oferta d’una startup 

Alumnes des dels 7 anys poden aprendre IA amb Minecraft Education

Una de les 100 activitats gratuïtes per educació primària i secundària. permet a nens i nenes des dels 7 anys, programar un agent d’IA que els ajuda a sobreviure en un joc. La iniciativa Hour of AI és impulsada per Code.org i CSforALL, amb el suport de Microsoft i de LEGO. 

Ho explica Minecraft

La denúncia d’Amazon a Perplexity exposa l’escenari emergent del comerç automatitzat.

Amazon demanda a Perplexity per que el seu agent Comet fa compres automàtiques dins d’Amazon fent-se passar per un usuari humà. S’acusa l’agent d’IA de violar els Termes de Servei i d’accedir a comptes reals per executar cerques, seleccionar productes i iniciar processos de pagament. 

S’explica a Reuters

El robatori al Louvre reobre el debat sobre vigilància amb IA

El robatori de les joies de la corona francesa al Louvre, fet en vuit minuts per falsos operaris, ha desencadenat un debat sobre reforçar la seguretat amb sistemes de detecció d’anomalies basats en IA per analitzar patrons de moviment i accessos no autoritzats per identificar riscos abans que actuïn. S’estudia integrar aquestes tecnologies en museus i espais públics sensibles.

Ho explica Securitysales

La publicitat feta amb IA, de moment, no acaba de convèncer.

Hi ha una certa reacció popular, i professional, contra alguns anuncis fets amb IA, sobretot quan el resultat es percep “estrany”, “fred” o “poc autèntic”. McDonald’s als Països Baixos ha retirat un anunci nadalenc i el mateix ha hagut de fer Coca-Cola. 

Ho explica The Wall Street Journal 

L’excés de confiança en els retrats robot fets amb IA. 

Alguns cossos policials estan provant models generatius per convertir descripcions, o esbossos, en imatges “foto-realistes” de sospitosos. El problema és que, com més “sembla una foto”, més pot induir a creure que és una identificació segura, i això pot incrementar falses identificacions.

Publicat a Phoenix

Dev / Amazon obre Agent SOPs, l’estàndard intern per agents d’IA

AWS ha fet públics els seus Agent SOPs, un format estructurat en markdown que Amazon utilitza per definir com han d’actuar els agents d’IA en processos complexos. El sistema s’executa sobre models com Amazon Titan i altres LLM de Bedrock, i ja impulsa milers d’automatitzacions internes amb passos i condicions clarament definits. Obrir aquest estàndard permet crear agents més fiables, repetibles i segurs en qualsevol entorn professional.

Ho explica AWS

Dev / HippoRAG replica la memòria humana per millorar el record dels LLM

HippoRAG funciona de forma semblant a com ho fa el cervell: l’hipocamp identifica i organitza la informació nova, mentre el neocòrtex en consolida el significat. El sistema crea un mapa de coneixement que s’amplia amb cada document i permet recuperar dades de forma més precisa i coherent. Aquest mecanisme fa que la IA respongui millor preguntes complexes i integri coneixement nou sense reentrenament.

Article a arXiv

Dev / Demanda d’enginyers GTM (Go-To Market)

Un perfil híbrid entre enginyer, dades i vendes que dissenya, automatitza i optimitza els sistemes comercials d’una empresa, cada cop més amb IA generativa. Enganxats al CRM, a les dades i a les eines d’IA, el seu objectiu central és fer cicles de venda més eficients. 

Ho explica Clay

Dev / L’escalat dels LLM podria estar arribant al límit

Ilya Sutskever (ex-OpenAI) reconeix que els LLM ja no milloren només amb més dades i GPUs. Els models “generalitzen molt pitjor que les persones”, un límit estructural que obliga a una nova etapa basada en arquitectures híbrides i enfocaments neurosimbòlics.

S’explica a Effective Altruism Forum