top of page

Innex Digest Novembre 26

15 hours ago
11 min de lectura

Anàlisi

La mateixa IA ajuda a crear la IA de demà, mentre els hospitals posen les bases per governar la d’avui

“La pregunta ja no és si la IA entrarà als hospitals. És com es governa una tecnologia que canvia més de pressa que les normes que l’han d’acompanyar.”

L’adopció ja ha passat

Gairebé un milió de clínics dels Estats Units han fet 271 milions de consultes a OpenEvidence, una IA mèdica que cita fonts científiques. Ningú no els ho va encarregar: la van incorporar perquè els resolia dubtes. La despesa sanitària en IA s’ha multiplicat per 2,5 en un any i ja no es limita a transcriure visites. Google s’afegeix a OpenAI i Anthropic amb un agent que prepara visites i tramita autoritzacions. La IA ja és dins dels hospitals.

Governar el que ja es fa servir

El repte de les direccions podria passar de decidir si s’adopta una eina a decidir com es governa la que ja fan servir els professionals. Monument Health va bloquejar OpenEvidence en descobrir que un metge hi tenia desats més de cent historials; Northwestern Medicine, en canvi, l’ha integrat a la història clínica. Dues respostes a la mateixa pregunta.

La responsabilitat també es redefineix. Hospitals i metges demanen que els fabricants responguin de la seguretat dels models, perquè no en poden veure el funcionament intern. L’AMA hi afegeix que qui desplega una eina també ha de respondre de com l’avalua i en fa el seguiment.

El perímetre s’eixampla fins al pacient

La IA ja no es queda a la consulta. Els agents poden reservar visites a Zocdoc i, per llei, els pacients podran enviar la història clínica a l’app que triïn, incloses les d’IA. Apple estudia amb milers de persones si confiem en els seus consells de salut, i Utah ha autoritzat una IA a fer receptes per a l’acne sense visita prèvia. Governar la IA sanitària també vol dir governar el que passa fora de l’hospital.

L’evidència va més lenta que la capacitat

Un sistema de Microsoft encerta el 83 % de diagnòstics complexos, davant del 36 % dels metges generalistes, però amb casos escrits, no amb pacients reals. La FDA tot just obre el debat sobre com autoritzar robots mèdics autònoms. Estudis clínics, criteris de responsabilitat i regles d’autorització són les bases que permetran confiar en aquestes eines.

Mentrestant, la IA ja ajuda a fer IA

Hi ha un senyal que convé no perdre de vista. METR, una organització que avalua models, calcula que Anthropic millora els seus models gairebé el doble de ràpid que abans, sobretot gràcies a la mateixa IA. Els models d’OpenAI han fet en menys de cinc mesos la feina d’un any en el disseny dels xips d’AMD. AlphaGenome 2 ja prediu com afecten les variants genètiques a cada tipus de cèl·lula. Les eines que arribaran als hospitals d’aquí a pocs anys ja es dissenyen, en part, amb IA.

El ritme no l’escollim

Els hospitals no poden controlar la velocitat de la tecnologia, però sí decidir amb quins criteris la incorporen: quines dades comparteixen, quines decisions deleguen, com en mesuren l’impacte i qui respon si alguna cosa falla. Les bases que es posin ara permetran aprofitar la IA que vindrà.

Salut

Gairebé un milió de clínics dels EUA han fet 271 milions de consultes a OpenEvidence: el coneixement mèdic passa de la memòria a la cerca

Un estudi publicat a JAMA analitza l'ús d'OpenEvidence entre gener del 2024 i juny del 2026: 952.008 clínics verificats, 556.200 dels quals metges. El 33 % de les preguntes dels metges tracten de tractament i el 14 % de diagnòstic, i entre el 35 % i el 88 % surten de l'especialitat de qui pregunta.

Un panell de «metges virtuals» encerta més del doble de diagnòstics complexos que els generalistes

Science ha publicat l'avaluació del MAI-DxO, un sistema que fa debatre diversos agents com si fossin especialistes i demana proves pas a pas. En 304 casos complexos del NEJM va encertar el 83 % dels diagnòstics, davant del 36 % de metges generalistes amb materials de consulta. Encara són casos escrits, no pacients reals.

Utah autoritza una IA a fer receptes noves per a l'acne sense visita mèdica prèvia

L'oficina de política d'IA d'Utah ha aprovat tres pilots clínics. Nolla Health podrà emetre receptes de tractaments tòpics per a l'acne a partir de fotografies: primer amb revisió de dos metges i després amb revisió retrospectiva. August AI renovarà medicació crònica i Expect Fitness farà plans de fisioteràpia. El col·legi de metges hi va expressar reserves i els acords no eximeixen de responsabilitat.

Anthropic compra una biotec unipersonal i entra en el desenvolupament de fàrmacs

Equips molt petits poden gestionar programes que abans requerien una organització. Anthropic ha adquirit Mithril Medicine, una empresa d'una sola persona que, coordinant amb Claude contractes i experiments amb 11 laboratoris externs, va portar un tractament per a una distròfia muscular rara de la idea a resultats prometedors en ratolins en menys de 18 mesos. També col·labora amb sis empreses del sector per planificar assajos clínics. Tot és preclínic i autoinformat, i els primers assajos en humans no arribarien abans de finals del 2028.

Un consorci de 18 institucions sobre l'Alzheimer adopta un «coinvestigador» d'IA de codi obert per explotar dades que no es publiquen

C-BRAIN, consorci liderat per la Facultat de Medicina de la Universitat de Washington, ha presentat OpenScientist, un agent que rep una pregunta i unes dades, genera hipòtesis, fa les anàlisis i documenta cada pas perquè es pugui auditar. Segons els casos publicats, completa en minuts anàlisis que els científics estimaven en setmanes, per menys de 10 dòlars per execució. Encara no hi ha validació independent.

Primer pacient tractat amb bacteriòfags dissenyats per IA contra una infecció resistent als antibiòtics, encara sense resultats clínics

Les teràpies antiinfeccioses a mida facilitades per IA. Radical Numerics ha administrat per ús compassiu, a un pacient amb una infecció resistent als antibiòtics, una combinació de bacteriòfags modificats amb el seu model Omnii-1, després d'eliminar al laboratori la soca aïllada. Són dades de l'empresa i no s'ha publicat l'evolució del pacient.

UK prova trucades de seguiment fetes per una IA generativa a pacients amb osteoporosi

Ufonia ha engegat un projecte en què l'assistent de veu Dora Care fa trucades rutinàries de seguiment a pacients dels serveis britànics de fractures per osteoporosi. Abans, lingüistes van analitzar com els clínics transmeten empatia per traslladar-ho al diàleg. La participació és voluntària i complementa l'atenció habitual.

Zocdoc obre la seva plataforma perquè els agents d'IA reservin visites mèdiques

Zocdoc, el principal cercador de cites mèdiques dels EUA, permet que agents d'IA registrats consultin disponibilitat i reservin o anul·lin visites, sempre amb el consentiment del pacient. Gemini i Amazon Health AI ja hi estan connectats. No s'ha explicat com es controlarà ni qui respon d'un error.

Una app que analitza la veu anticipa més del 70 % dels episodis d'insuficiència cardíaca

L'estudi DETECT-HF ha seguit 563 pacients que gravaven frases curtes cada dia amb el mòbil. HearO, de Cordio Medical, construeix un model de veu per a cada pacient i avisa l'equip assistencial uns 24 dies abans de l'episodi. No s'ha publicat la taxa de falses alarmes.

Una IA calcula l'edat biològica a partir de la història clínica

Un estudi publicat a The Lancet Digital Health presenta ClinicalAge, un model que llegeix visites, diagnòstics i prescripcions de la història clínica i n'estima l'edat biològica. Validat amb 4,7 milions de pacients del Regne Unit, mostra que com més s'allunya de l'edat real, més risc de mort i de càncer. Encara és una prova de concepte.

Apple estudia si confiem en els consells de salut d'una IA

Apple ha llançat als EUA un estudi amb una app per a iPhone en què els participants fan preguntes de salut i reben respostes d'OpenEvidence, una IA mèdica que cita fonts científiques. Analitzarà la confiança, la comprensió i si les respostes canvien hàbits. La mostra no serà representativa.


Societat

Dues de cada tres converses amb ChatGPT ja no tenen a veure amb la feina

OpenAI ha publicat Signals 3.0, amb dades obertes sobre l'ús de ChatGPT des del juliol del 2024. Les consultes de feina han baixat del 51,6 % al 32,2 %, i l'orientació pràctica (com fer coses, aprendre, cura personal) ja supera l'escriptura. La classificació és automàtica sobre converses anonimitzades.

2.200 ciutadans escriuen els criteris per avaluar com una IA tracta la llibertat d'expressió

El Collective Intelligence Project i Anthropic han demanat a unes 2.200 persones dels EUA, el Regne Unit i l'Índia que proposessin criteris per avaluar les respostes dels models. Els més valorats demanen informació basada en evidència i explicitar la incertesa. Claude és el model que afegeix més advertiments, i Anthropic diu que ho canviarà.



Organitzacions

Els hospitals han de decidir què fan amb el xatbot que ja fan servir els seus metges

Les direccions han de governar l'eina abans que ho facin els metges pel seu compte. Monument Health ha bloquejat OpenEvidence, un xatbot de consulta mèdica, després de descobrir que un metge hi tenia desats més de cent historials de pacients. Altres centres, com Northwestern Medicine, l'han integrat a la història clínica electrònica.

Google també vol fer la paperassa dels hospitals

Google prova als EUA Gemini for healthcare, un agent que consulta la història clínica i els sistemes administratius per preparar visites, resumir l'historial del pacient i tramitar autoritzacions amb les asseguradores. Amb OpenAI i Anthropic, les tres grans de la IA ja competeixen per la burocràcia sanitària.


Mercat

Els hospitals dels EUA ja no compren IA només per transcriure visites

La despesa sanitària en IA als EUA s'ha multiplicat per 2,5 en un any, segons Menlo Ventures, i la fan sobretot hospitals i consultes. La transcripció de visites va obrir la porta; ara creixen els copilots clínics i l'atenció administrativa al pacient. Són dades d'enquesta d'un fons inversor.

El Banc d'Anglaterra calcula que la IA només ha afegit un 0,5 % de productivitat en tres anys

Segons l'Informe de Política Monetària de novembre, les empreses consultades pel banc estimen que la IA ha elevat la productivitat al voltant d'un 0,5 % des del 2024. L'efecte sobre l'ocupació és gairebé nul, però algunes empreses ja contracten menys o no cobreixen les baixes.

Anthropic protagonitza la sortida a borsa més gran de la història

Anthropic, creadora de Claude, ha captat uns 81.000 milions de dòlars en sortir al Nasdaq, la xifra més alta mai aconseguida en una sortida a borsa, amb una valoració d'1,5 bilions. És el primer gran laboratori d'IA que cotitza.


Regulació

Hospitals i metges dels EUA demanen que la responsabilitat de la IA mèdica recaigui en els fabricants

En resposta a un document de debat de la FDA, les principals associacions d'hospitals i metges dels EUA defensen que els desenvolupadors responguin de la seguretat i el rendiment de la IA generativa, perquè els hospitals no poden veure com funcionen els models. L'AMA hi afegeix que hospitals i consultes també han de respondre de l'avaluació i el seguiment de les eines.

El Regne Unit acceptarà indefinidament el marcatge CE dels dispositius mèdics

El Govern britànic reconeixerà sense data límit els dispositius mèdics amb marcatge CE i elimina l'obligació d'obtenir el segell britànic UKCA. Per a les empreses europees de tecnologia sanitària, el mercat britànic deixa de requerir una certificació paral·lela, tot i que cal confirmar com afecta el programari mèdic.

Tres nous governadors dels EUA volen aturar la construcció de centres de dades d'IA

L'acceptació social de la infraestructura ja és un límit polític per a la IA. Els nous governadors de Texas, Ohio i Geòrgia van guanyar amb promeses de moratòria per als centres de dades, per l'impacte en la factura elèctrica i l'aigua. L'endemà, les accions d'operadors joves com CoreWeave i Nebius van caure.

La FDA obre el debat sobre com autoritzar robots mèdics autònoms i teleoperats

La FDA demana comentaris fins al 5 de gener sobre robots mèdics autònoms o teleoperats, de la cirurgia a distància a extraccions de sang sense flebotomista. Hi planteja beneficis, riscos i mesures de mitigació. No és guia ni norma, i fins al juliol cap dispositiu d'aquest tipus tenia autorització.

La UE acusa TikTok d'incomplir la DSA per atrapar els usuaris en espirals de contingut nociu

La Comissió Europea conclou preliminarment que el feed «Per a tu» de TikTok incompleix la Llei de serveis digitals: com més interactua l'usuari amb un tipus de contingut, més n'hi recomana, fins a crear «forats de conill» de tristesa o autolesions que perjudiquen sobretot menors. TikTok ho nega i encara no hi ha multa.

Els EUA obliguen a enviar la història clínica a l'app de salut que triï el pacient

El Departament de Salut dels EUA ha reformat la norma de privacitat HIPAA. Hospitals, consultes i asseguradores hauran de respondre les peticions d'accés en 15 dies i enviar les dades a l'app de salut que triï el pacient, incloses les d'IA. Part del sector s'hi oposava per dubtes de seguretat.


Tecnologia

Google detecta el primer atac informàtic fet íntegrament per agents d'IA

El grup d'intel·ligència d'amenaces de Google ha descobert un sistema d'agents d'IA que analitza les actualitzacions de seguretat d'aplicacions web, dedueix quina vulnerabilitat corregeixen, prepara l'atac i l'executa sense intervenció humana. S'ha utilitzat contra webs de mitjans i del sector educatiu a França. Google preveu atacs plenament autònoms en sis mesos.

Els models d'OpenAI milloren el disseny de la GPU principal d'AMD

OpenAI ha aplicat els seus models a optimitzar el disseny de la GPU insígnia d'AMD i ha trobat millores de fins al 14 % en consum, rendiment i superfície, l'equivalent a un any de feina en menys de cinc mesos. AMD ja n'ha incorporat una part en un xip enviat a fabricar. Són dades d'OpenAI.

Califòrnia porta OpenAI als tribunals per l'atac dels seus agents contra Hugging Face

El fiscal general de Califòrnia ha demandat OpenAI perquè centenars d'agents dels seus models experimentals van atacar la plataforma Hugging Face al juliol. Segons la demanda, OpenAI va perdre el control dels agents almenys 80 vegades durant les proves. Són acusacions; l'empresa diu que l'incident es va produir en avaluacions de ciberseguretat.

Un model d'OpenAI troba 81 vulnerabilitats greus al codi de Firefox

OpenAI ha presentat GPT-6 Cyber, un model especialitzat a detectar errors de seguretat. Aplicat a Firefox, un dels programes més revisats del món, va trobar 81 vulnerabilitats noves que Mozilla va classificar d'alta gravetat. L'accés es limita a clients aprovats i les xifres són de l'informe d'OpenAI.

Els agents de programació fallen la meitat de les tasques quan se'ls encadenen peticions

Un estudi ha posat a prova deu agents de programació amb seqüències de 20 peticions de projectes reals. Encadenades, només en completen el 51 %, davant del 95 % quan es demanen soles: els agents es fien de les seves pròpies proves, que sovint no detecten els errors. És un preprint sense revisió.

Gairebé la meitat dels defectes coneguts dels models de llenguatge ja no es reprodueixen

Investigadors de Stanford han repetit amb models actuals 50 resultats molt citats sobre les limitacions dels LLM. El 44 % ja no es confirmen: les referències inventades, per exemple, gairebé han desaparegut. En canvi, la tendència a donar la raó a l'usuari persisteix o ha augmentat. És un preprint.


Frontera

La IA ja accelera la millora de la mateixa IA, segons una avaluació independent

METR, una organització que avalua models, ha tingut accés intern a Anthropic durant onze setmanes i calcula que la companyia millora les capacitats dels seus models gairebé el doble de ràpid que abans, sobretot gràcies a l'ús de la mateixa IA en la recerca. Anthropic va ocultar part de l'evidència i el marge d'incertesa és ampli.

Un laboratori de Xangai dirigit per agents d'IA encadena més d'11.000 passos experimentals

Nature publica AutoDNA, de la Universitat Jiao Tong de Xangai: diversos agents d'IA planifiquen, programen i executen experiments de biologia molecular coordinant més de 20 tipus d'instruments. Ha completat un cicle de 203 hores i 11.382 passos i ha igualat el rendiment dels experts. Dels 14 errors de maquinari, 6 van necessitar una persona.

Un model d'OpenAI resol 49 de 50 problemes inèdits de física teòrica

Una cinquantena de físics han creat una prova amb problemes de recerca que mai s'havien publicat. GPT-6 Astra, amb accés a eines de cerca, n'ha resolt 49. Els autors avisen que són extensions de resultats coneguts i que no es pot descartar que el model n'hagués vist parts durant l'entrenament.

Agents de Google DeepMind demostren matemàticament la seguretat del protocol de Signal

Google DeepMind ha presentat AlphaProof Code, un sistema d'agents que ha verificat formalment propietats de seguretat del codi real del protocol de xifratge de Signal en quatre setmanes, una feina que en casos comparables havia costat anys a equips experts. Els humans decideixen què cal provar, i la garantia només cobreix el que s'ha especificat.

AlphaGenome 2 prediu com afecten les variants d'ADN a cada tipus de cèl·lula

Google DeepMind ha presentat AlphaGenome 2, un model que prediu com les variants genètiques alteren l'expressió dels gens en teixits i tipus cel·lulars concrets. En cèl·lules immunitàries identifica gairebé el doble de variants causals que les eines anteriors. És un preprint sense validació clínica, només per a recerca.

Un robot humanoide amb Gemini Robotics 2.5 treballa en fàbriques d'automòbils

Google DeepMind ha presentat Gemini Robotics 2.5, un model que permet als robots entendre instruccions i manipular objectes amb més destresa. En una prova pilot en plantes d'automoció, un humanoide va fer una tasca amb peces metàl·liques amb un 96 % d'èxit. És una prova de concepte avaluada pels mateixos autors.

 
 
 

Comentaris


bottom of page