15 Policy Optimization and Preference Optimization techniques important in 2026 ▪️ GRPO ▪️ DPO ▪️ REINFORCE ▪️ DAPO (Dynamic sAmpling) ▪️ Dr. GRPO ▪️ GSPO (Group Sequence) ▪️ DHPO (Dynamic Hybrid) ▪️ EP-GRPO (Entropy-Progress Aligned) ▪️ TR-GRPO (Token-Regulated) ▪️ DPPO (Dynamic Pruning) ▪️ ARPO (Agentic Reinforced) ▪️ VPO (Vector PO) ▪️ InSPO (Intrinsic Self-reflective Preference Optimization) ▪️ TI-DPO (Token-Importance Guided DPO) ▪️ RAPPO (Reliable Alignment for Preference PO) Save this list as a quick reference for the most relevant policy optimization methods in 2026: turingpost.com/p/reasoning-r…

Would you like to join the research effort on JEPA and World Models easily? After a full year of hard work, we’re excited to finally release stable-worldmodel: an open-source, scalable platform built to accelerate JEPA & World Model research! 📄: github.com/galilai-group/sta…

Fita espectacular pel català! A part del text de la Viquipèdia, sabíeu que l'historial d'edicions de Viquipèdia té un valor també molt important per entrenar IAs? Per exemple, es fan corpus de correcció gramatical com WikEd Error a partir de l'historial d'edicions. Tot s'aprofita

Al 2008 al Batxillerat científic hi havia 18 hores d'assignatures científiques. > Al 2022 va haver-hi una reforma que va rebaixar fins a 12 hores de ciències. > Ara, en el document presentat pel Govern d'Illa el 22 de desembre, quedaran només 8 h de matèries de ciències.

Google just solved an old RNN problem. A new paper from Google Research introduces "Memory Caching," and the idea is almost too simple to believe. Here's the problem it solves: Modern RNNs compress the entire input into a single fixed-size memory state. As sequences get longer, old information gets overwritten. That's why they still struggle with recall-heavy tasks compared to Transformers. Memory Caching addresses this by splitting the sequence into segments and saving the RNN's memory state at the end of each segment. When generating output, each token looks back at all these saved checkpoints, not just the current memory. The complexity trade-off is elegant: - Standard RNNs: O(L) - Transformers: O(L²) - Memory Caching: O(NL), where N = number of segments You control the trade-off by choosing how many segments to cache. The model smoothly interpolates between RNN-like efficiency and Transformer-like recall. The paper proposes four ways to use these cached memories: 1. Residual Memory: just sum all cached states (simplest) 2. Gated Residual Memory (GRM): input-dependent gates that weigh each segment's relevance to the current token 3. Memory Soup: interpolates the actual parameters of cached memories into a custom per-token network 4. Sparse Selective Caching (SSC): MoE-style routing that picks only the most relevant segments Gated Residual Memory (GRM) consistently performs best across tasks. Under simplifying assumptions, hybrid architectures that interleave RNN and attention layers can be viewed as a special case of Memory Caching. This gives clean intuition for why hybrid models work. They're implicitly caching memory states. On recall-heavy tasks, Memory Caching significantly closes the gap between RNNs and Transformers. When applied to already strong models like Titans, it pushes them even further ahead on language understanding benchmarks. Transformers still lead on the hardest retrieval tasks like UUID lookup at long contexts. But the direction is clear: you don't need to choose between fixed memory and quadratic attention. There's a useful middle ground now. All experiments are at academic scale (up to 1.3B params). Whether these gains hold at frontier scale remains open. This comes from the same team behind Titans and MIRAS, so it's part of a larger research program on memory-augmented sequence models. Paper: "Memory Caching: RNNs with Growing Memory" (Behrouz et al., 2026) Link in the next tweet.

Inspirats per la iniciativa del MCP Server del govern francès per consultar dades obertes, des d’opendata punt cat acabem de crear: Opendata.cat-MCP-Server per consultar totes les dades obertes dels organismes de #Catalunya Fil! opendata.cat/mcp/

Many people (myself included) are wondering: If not LLMs, what should I work on? In today's blog, I provide a unified framework for finding blue-ocean opportunities in AI, especially in this chaotic era of LLMs. kindxiaoming.github.io/blog/…

ATENCIÓ: 'Valentina de Montblanc', la primera sèrie d'estètica anime en català creada a Catalunya, arribarà a la plataforma 3Cat el 23 d'abril. Feu-ne difusió perquè ho sàpiga tothom!

La meva hipòtesi sobre què ha passat amb subvencions Fa just 1 setmana vaig publicar subvencions.cat. Va ser un projecte d'1 dia. Començat pel matí i acabat a la nit. Tot funcionava correctament. Tenia bastants accessos, però res indicava que forcés la infraestructura de la Generalitat. Al cap i a la fi, la integració amb la base de dades de subvencions forma part dels serveis que ofereixen. Com molts sabeu, durant 28h van retirar-ne l'accés al públic. A tothom, no només a la meva web. Sincerament, porto sent usuari de Dades Obertes més de 5 anys i mai havien fet res similar amb conjunts de dades comparables. En tornar a ser públics, el conjunt de dades havia canviat. Faltaven els registres de subvencions i ajuts de Diputacions i Ajuntaments. No només això, sinó que de forma efectiva, com a ciutadans, ja no podem recuperar el conjunt de dades d'abans del canvi. Tot i que en teoria és un servei que s'ofereix a: analisi.transparenciacatalun… (podeu intentar-ho, mai s'arribarà a descarregar). El que em porta al per què. Per què intentar amagar dades que clarament han de ser públiques? Per llei. Crec que l'explicació és la següent: veureu que els principals receptors de subvencions són 'beneficiaris no identificats' i 'persones físiques'. Res d'irregular en això; simplement, s'ha anonimitzat. No sóc expert en dret, però possiblement sigui el que toca fer. El cas és que abans del canvi apareixien noms propis, molts cops de persones migrades, associats a un CIF que al seu torn era d'associacions. Crec que això no havia de passar. Crec que el procés d'anonimització no es va fer del tot bé. I la manera de solventar aquest error va ser filtrar aquells organismes pels quals sospitaven que el control d'anonimització no havia estat prou efectiu. Aquesta crec que és una explicació lògica que, per una banda, és molt humana perquè tapa un error i, per l'altra, explica per què s'estan donant explicacions parcials que, sincerament, poden sonar a excuses. Espero que sapiguem alguna cosa aviat. Avui la web ha tingut un rècord de visites. La meva idea era fer un petit projecte per millorar l'accessibilitat de dades públiques. Dades que ens permeten valorar la feina dels nostres dirigents. Sense dades moltes coses s'aguanten. Però els diners són nostres. I tenim dret a saber on van.