Fonaments matemàtics de l'aprenentatge automàtic: EDP, probabilitat i dinàmica
Registrarfins al 09 de gener de 2026
La regió: Centre de Recerca Matemàtica
habitació: Auditori
La inscripció a aquesta activitat és gratuïta; tanmateix, cal que els organitzadors acceptin la participació.
Per continuar, els participants han d'iniciar la sessió i completar el procés de registre prèviament.
La notificació oficial d'acceptació de la participació s'enviarà abans del 15 de desembre.
DESCRIPCIÓ
L'objectiu del taller no és només reunir un petit grup d'investigadors que treballen a la intersecció d'aquests camps, sinó també introduir a un públic més ampli les interaccions entre l'aprenentatge automàtic modern i les eines d'equacions diferencials parcials, sistemes dinàmics i probabilitat.
VIDEOS
Comitè científic
Joan Bruna | Universitat de Nova York
Xavier Ros-Oton | Universitat de Barcelona-ICREA-Centre de Recerca Matemàtica
Domènec Ruiz-Balet | Universitat de Barcelona
Altaveus
Andrea Agazzi | Universitat de Berna
Joan Bruna | Universitat de Nova York
Jaume de Déu | ETH Zurich
Xavier Fernàndez-Real | École Polytechnique Fédérale de Lausanne
Borjan Geshkovski | INRIA
Gabor Lugosi | ICREA – Universitat Pompeu Fabra – Facultat d'Economia de Barcelona
Stéphane Mallat | Escola Normal Superior
Gergely Neu | Universitat Pompeu Fabra
Eulàlia Nualart | Universitat Pompeu Fabra – Facultat d'Economia de Barcelona
Gabriel Peyré | Escola Normal Superior
Maria Prat | Universitat de Brown
Roberto Rubio | Universitat Autònoma de Barcelona
Eric Vanden-Eijnden | Institut Courant de Ciències Matemàtiques – Universitat de Nova York (NYU)
Lenka Zdeborova | École Polytechnique Fédérale de Lausanne
HORARI
Dimecres Gener 7th | Dijous Gener 8th | Divendres Gener 9th | |||
09:00 - 09:30 | Les inscripcions | ||||
09:30 - 10:30 | introducció Joan Bruna Universitat de Nova York | Generalització en models basats en l'atenció: perspectives de la teoria d'alta dimensió resoluble Lenka Zdeborova École Polytechnique Fédérale de Lausannee | Transformadors com a sistemes de partícules en interacció: passos de temps petits, baixa temperatura i asimptòtica de temps llarg Borjan Geshkovski INRIA | ||
10:30 - 11:00 | Pausa per prendre un cafè | Pausa per cafè + Foto de grup | Pausa per prendre un cafè | ||
11:00 - 12:00 | introducció Joan Bruna Universitat de Nova York | Difusió guiada per moments per a la generació màxima d'entropia Stéphane Mallat Escola Normal Superior | Eric Vanden-Eijnden Institut Courant de Ciències Matemàtiques – Universitat de Nova York (NYU) | ||
12:00 - 12:45 | Un enfocament d'EDP sobre fluxos de discrepància mitjana del nucli Xavier Fernàndez-Real École Polytechnique Fédérale de Lausanne | Aprenentatge automàtic des del punt de vista d'un matemàtic pur Roberto Rubio Universitat Autònoma de Barcelona | Distàncies de transport òptimes per a cadenes de Markov Gergely Neu Universitat Pompeu Fabra | ||
13:00 - 14:30 | Dinar | ||||
14:30 - 15:15 | Fluxos de difusió i transport òptim en l'aprenentatge automàtic Gabriel Peyré Escola Normal Superior | 14:30 - 15:00 | Jaume de Déu ETH Zurich | 14:30 - 15:15 | Convergència del descens de gradient estocàstic en temps continu amb aplicacions a xarxes neuronals profundes Eulàlia Nualart Universitat Pompeu Fabra – Facultat d'Economia de Barcelona |
15:30 - 16:00 | Trencar | 15:00 - 15:30 | Enfocaments basats en aprenentatge automàtic per a proves assistides per ordinador en PDE Maria Prat Universitat de Brown | 15:15 - 16:00 | Gabor Lugosi ICREA – Universitat Pompeu Fabra – Facultat d'Economia de Barcelona |
16:00 - 16:45 | Andrea Agazzi Universitat de Berna | 15:30 - 16:00 | Trencar | 16:00 - 16:15 | Paraules de cloenda |
16:00 - 17:00 | 16:00 - 16:30 | Debat: Matemàtiques i Aprenentatge Automàtic | |||
16:30 - 17:00 | Debat | ||||
registre
Se us demanarà que creeu un Compte d'usuari web CRM abans d'inscriure's a l'activitat a través del següent enllaç (cal tenir en compte que caldrà omplir tant la informació personal com la acadèmica sol·licitada a la intranet de l'usuari web):
CREACIÓ D'USUARI CRM
Després de crear el vostre compte d'usuari de CRM, podeu iniciar la sessió a la pàgina web de l'activitat per completar el registre o fent clic al botó i seleccionant "Inicia la sessió".
REGISTRE
La inscripció a aquesta activitat és gratuïta; tanmateix, cal que els organitzadors acceptin la participació.
Per continuar, els participants han d'iniciar la sessió i completar el procés de registre prèviament.
La notificació oficial d'acceptació de la participació s'enviarà abans del 15 de desembre.
INFORMACIÓ D'ALLOTJAMENT
AL CAMPUS I BELLATERRA
BARCELONA I FORA DEL CAMPUS
 |
Per a consultes sobre aquest esdeveniment, poseu-vos en contacte amb la Coordinadora d'Esdeveniments Científics Sra. Núria Hernández al nhernandez@crm.cat
|
Codi de conducta d'esdeveniments CRM
Totes les activitats organitzades pel CRM han de complir amb el següent Codi de conducta.
Codi de conducta de CRM
avís d'estafa
Estem al corrent d'una sèrie d'estafes actuals dirigides als participants en activitats de CRM relacionades amb el registre o les reserves d'allotjament. Si un tercer (per exemple, travellerpoint.org, Conference Committee, Global Travel Experts o Royal Visit) us demana informació sobre la reserva o el pagament, ignoreu-los.
Si us plau recorda:
i) CRM mai utilitza tercers per fer la nostra administració d'esdeveniments: els missatges vindran directament del personal de CRM
ii) CRM mai demanarà als participants dades de targeta de crèdit o bancàries
iii) Si teniu qualsevol dubte sobre un correu electrònic que rebeu, poseu-vos en contacte
Aprenentatge automàtic des del punt de vista d'un matemàtic pur
Aquesta xerrada és un relat personal sobre com un matemàtic extern pot voler pensar en alguns conceptes i idees clau de l'aprenentatge automàtic.
Un enfocament d'EDP sobre fluxos de discrepància mitjana del nucli
Presentem resultats recents sobre l'ús de tècniques d'equacions partials diferencials (EDP) per estudiar la bona postura i la convergència quantitativa dels fluxos de discrepància mitjana del nucli respecte a una mesura fixa en diversos entorns relacionats, incloent-hi les interaccions de Coulomb, la distància energètica i les xarxes neuronals ReLU.
Aquesta xerrada es basa en un proper treball conjunt amb L. Chizat, M. Colombo i R. Colombo.
Fluxos de difusió i transport òptim en l'aprenentatge automàtic
En aquesta xerrada, revisaré com es poden aplicar conceptes del transport òptim per analitzar mètodes d'aprenentatge automàtic aparentment no relacionats per al mostreig i l'entrenament de xarxes neuronals. L'objectiu és utilitzar el transport òptim per estudiar fluxos dinàmics en l'espai de distribucions de probabilitat. El primer exemple serà el mostreig per coincidència de flux, que regressiona els camps d'advecció. En el seu cas més simple (models de difusió), aquest enfocament presenta una estructura de gradientm similar al desplaçament que es veu en el transport òptim. A continuació, parlaré dels fluxos de gradient de Wasserstein, on el flux minimitza un funcional dins de la geometria de transport òptim. Aquest marc es pot emprar per modelar i comprendre la dinàmica d'entrenament de la distribució de probabilitat de les neurones en xarxes de dues capes. L'exemple final explorarà la modelització de l'evolució de la distribució de probabilitat dels tokens en transformadors profunds. Això requereix modificar l'estructura de transport òptim per adaptar-se a la normalització softmax inherent als mecanismes d'atenció.
Convergència del descens de gradient estocàstic en temps continu amb aplicacions a xarxes neuronals profundes
Estudiem una aproximació en temps continu del procés de descens de gradient estocàstic per minimitzar la pèrdua esperada de la població en problemes d'aprenentatge. Els resultats principals estableixen condicions generals suficients per a la convergència, estenent els resultats de Chatterjee (2022) establerts per al descens de gradient (no estocàstic). Mostrem com es pot aplicar el resultat principal al cas de l'entrenament de xarxes neuronals sobreparametritzades. Treball conjunt amb Gabor Lugosi (UPF)