Réseau AIGM:
Algorithmic Issues for Inference in Graphical Models
NEWS
Nota : Bibliographie non maintenue
Catégorie Processus de Contact
- B. Chan and R. Durrett. A
new coexistence result for competing contact processes, 2006.
- Fiocco, Zwet, Statistics
for the Contact Process, Statistica Neerlendica, 56(2),
243-251, 2002.
- Griffeath, D. The basic contact processes. Stochastic
Processes and their Applications, 11, 151-185, 1981.
- X. Guyon, Systèmes de particules en
interactions : quelques résultats. Prépublication du SAMOS N°
90, 1998. Description du comportement d'un système de
particules pour quelques exemples dont le processus de contact.
Etudes des cas espace fini et espace infini, estimation du seuil critique ...
- Guyon, X., Pumo, B., Space-time
estimation of a particle system model, à paraître dans
Statistics.
- T. E. Harris, Contact Interactions on a Lattice.
The Annals of Probability, Vol. 2, No. 6
(Dec., 1974), pp. 969-988.
Le papier d'origine sur le processus de contact. Définition et étude de quelques propriétés
du processus (1er temps de passage en un site, transition de phase...)
- T. Liggett, Interacting particle systems,
Springer, 1985.
Là aussi un chapitre dédié au processus de contact (valeur critique, convergence et taux
de convergence, ...)
- J. Marro and R. Dickma, Nonequilibrium phase
transitions in lattice models, Cambridge University Press,
1998.
Un bouquin d'introduction à la physique statistiques des systèmes hors équilibre, via les modèles
sur lattice. un chapitre au processus de contact, avec des références au champ moyen et à la
percolation.
- N. Peyrard and Franc A.,
Cluster variational approximations for a contact process living on
a graph, Physica A, vol 358, pages 575-592, 2005.
- N. Peyrard, A. Franc, U. Dieckamnn, Long-range
correlations improve understanding the influence of network
structure on per contact dynamics, Theoretical
Population Biology, 2008 (le pdf est celui du Rapport de
Recherche correspondant)
Catégorie champ moyen/méthodes variationnelles
Notamment un chapitre "Statistical Mechanics theory of phase transition", qui
explique l'approche champ moyen pour le modèle d'Ising.
- U. Dieckmann, R. Law and J. Metz, The geometry
of ecological interactions: simplifying spatial complexity.
Cambridge Studies in Adaptative Dynamics, UK, Cambridge
University Press, 2000.
Ce sont des articles de physique, donc pas toujours facile à aborder
pour des non physiciens. Le lien est fait avec des notions comme
l'entropie ou l'énergie libre.
En estimation bayésienne, les lois a posteriori ne sont pas toujours accessibles, même par des méthodes
de Monte-Carlo par Chaîne de Markov. Les méthodes bayésiennes variationnelles permettent de calculer
directement (et rapidement) une approximation déterministe des lois a posteriori. Ce papier décrit
le principe des méthodes variationnelles et leur application à l'inférence bayésienne, fait le point
sur les principaux résultats théoriques et présente deux exemples d'utilisation en neuroimagerie.
This paper presents a unifying view
of message-passing algorithms, as methods to approximate a complex
Bayesian network by a simpler network with minimum information
divergence. In this view, the difference between mean-field methods
and belief propagation is not the amount of structure they model, but
only the measure of loss they minimize (`exclusive' versus
`inclusive' Kullback-Leibler divergence). In each case,
message-passing arises by minimizing a localized version of the
divergence, local to each factor. By examining these divergence
measures, we can intuit the types of solution they prefer
(symmetry-breaking, for example) and their suitability for different
tasks. Furthermore, by considering a wider variety of divergence
measures (such as alpha-divergences), we can achieve different
complexity and performance goals.
- Advanced mean field methods. Theory and practice. M. Opper
and D. Saad eds. 2001.
Un recueil d'articles qui couvre
les fondements des méthodes champ moyen, explore les relations entre
les différentes approches, examine la qualité des approximations
obtenues et démontre leur intérêt dans des domaines variés de la
modélisation probabiliste.
Un article de review sur les cluster variational methods, avec la connection
avec les algos de message passing. Proche mais un peu plus à la
physicienne que celui de Yedidia Freeman et Weiss.
- R. Santana, P. Larranaga and J. A. Lozano, Properties
of Kikuchi approximations constructed from clique based
decompositions, 2005.
- M J Wainwright, M I Jordan, Graphical
models, exponential families, and variational inference, 2008.
- Max Welling, On the
Choice of Regions for Generalized Belief Propagation, 2004
- B. Wang, D. M. Titterington, Convergence and asymptotic normality
of variational Bayesian approximations for exponential family models with missing values,2004.
Il s'agit du rapport technique, qui a donné lieu à une publication à UAI
- E. Xing, M. I. Jordan and S. Russel, Graph
partition strategies for generalized mean field inference, 2004
- J. Yedidia, W. Freeman, Y. Weiss, Constructing
free energy approximations and generalized belief propagation
algorithms, IEEE Transactions on Information Theory, vol. 51,
Issue 7, pages 2282-2312, 2005.
- trois articles qui reprennent l'origine des cluster variational methods, dans Progress
of Theoretical Physics Supplement, N°115, 1994.
- R. Kikuchi, CVM entropy algebra
- F. Ducastelle, Variational and mean field formulation of the Cluster Variational
method and of the path probability method
- T. Morita, Formal structure of the CVM
Catégorie Processus Décisionnels de Markov sur Graphes.
Catégorie graphes
Catégorie Champs de Markov (cachés, dynamiques)
Catégorie Champs de Markov (constante de normalisation)
- X. Guyon and C. Hardouin, Forward recursions and normalizing
constant for Gibbs fields
- Bartolucci F., Besag J. (2002) A recursive algorithm for Markov random fields. Biometrika 89,
3, pp. 724-730.
- Moeller J., Pettitt A.N., Reeves R., Berthelsen K.K. (2006) Miscellanea. An efficient Markov chain
Monte Carlo method for distributions with intractable normalizing constants. Biometrika 93, 2, pp.451-458.
- Pettitt A.N., Friel N., Reeves R. (2003) Efficient calculation of the
normalizing constant of the autologistic and related models on the
cylinder and lattice. J.R. Satist Soc. B. 65, Part 1, pp. 235-246.
- Reeves R., Pettitt A.N. (2004) Efficient recursions for general factorisable models. Biometrika 91, 3, pp. 751-757.
Catégorie Modèles Graphiques
Catégorie Machine learning