Bayes ağları: tanım, örnekler ve nasıl çalıştıkları

İçindekiler:

Bayes ağları: tanım, örnekler ve nasıl çalıştıkları
Bayes ağları: tanım, örnekler ve nasıl çalıştıkları
Anonim

Bir inanç, karar ağı, Bayesian (ian) modeli veya olasılıksal olarak yönlendirilen döngüsel olmayan grafik modeli, yönlendirilmiş bir döngüsel olmayan grafik (DAG) aracılığıyla bir dizi değişkeni ve bunların koşullu bağımlılıklarını temsil eden bir değişken şemadır (bir tür istatistiksel model).).

Örneğin, bir Bayes ağı, hastalıklar ve semptomlar arasındaki olasılıksal ilişkileri temsil edebilir. İkincisi göz önüne alındığında, ağ çeşitli hastalıklara sahip olma olasılığını hesaplamak için kullanılabilir. Aşağıdaki videoda hesaplamalı bir Bayes inanç ağı örneğini görebilirsiniz.

Image
Image

Verimlilik

Verimli algoritmalar, Bayes ağlarında çıkarım ve öğrenme gerçekleştirebilir. Değişkenleri (konuşma sinyalleri veya protein dizileri gibi) modelleyen ağlara dinamik ağlar denir. Belirsizlik altındaki problemleri temsil edebilen ve çözebilen Bayes ağlarının genellemelerine etki diyagramları denir.

Öz

Resmi olarakBayes ağları, düğümleri Bayes anlamında değişkenleri temsil eden DAG'lardır: bunlar gözlemlenen değerler, gizli değişkenler, bilinmeyen parametreler veya hipotezler olabilir. Çünkü çok ilginç.

Bayes ağı örneği

İki olay çimlerin ıslanmasına neden olabilir: aktif bir sprinkler veya yağmur. Yağmur, sprinklerin kullanımı üzerinde doğrudan bir etkiye sahiptir (yani yağmur yağdığında, sprinkler genellikle etkin değildir). Bu durum bir Bayes ağı kullanılarak modellenebilir.

Tipik formül
Tipik formül

Simülasyon

Bayes ağı, değişkenleri ve ilişkileri için eksiksiz bir model olduğundan, bunlarla ilgili olasılık sorgularını yanıtlamak için kullanılabilir. Örneğin, diğer veriler (kanıt değişkenleri) gözlemlendiğinde bir değişken alt kümesinin durumu hakkındaki bilgileri güncellemek için kullanılabilir. Bu ilginç sürece olasılıksal çıkarım denir.

A posteriori, bir değişken alt kümesi için değerler seçerken keşif uygulamaları için evrensel olarak yeterli bir istatistik verir. Bu nedenle, bu algoritma, Bayes teoremini karmaşık problemlere otomatik olarak uygulamak için bir mekanizma olarak düşünülebilir. Yazıdaki resimlerde Bayes inanç ağlarından örnekler görebilirsiniz.

Pratik Bayes ağı
Pratik Bayes ağı

Çıktı Yöntemleri

En yaygın kesin çıkarım yöntemleri şunlardır: gözlemlenemeyeni (entegrasyon veya toplama yoluyla) ortadan kaldıran değişken elemesorgulanmayan parametreleri tek tek ürüne miktar ayırarak.

Hesaplamaları önbelleğe alan bir "ağaç"ın tıklama yayılımı, böylece birçok değişken aynı anda sorgulanabilir ve yeni ispatlar hızla yayılabilir; ve uzay ve zaman arasında değiş tokuşlara izin veren ve yeterli alan kullanıldığında değişken elemenin verimliliğini eşleştiren özyinelemeli eşleştirme ve/veya arama.

Tüm bu yöntemlerin, ağın uzunluğuna katlanarak bağlı olan özel bir karmaşıklığı vardır. En yaygın yaklaşık çıkarım algoritmaları mini-segment eleme, döngüsel inanç yayılımı, genelleştirilmiş inanç yayılımı ve varyasyon yöntemleridir.

Ağ türleri
Ağ türleri

Bayes ağını tam olarak belirtmek ve böylece ortak olasılık dağılımını tam olarak temsil etmek için, her X düğümü için X'in ebeveynleri nedeniyle X için olasılık dağılımını belirtmek gerekir.

X'in ebeveynleri tarafından koşullu dağılımı herhangi bir biçimde olabilir. Hesaplamaları basitleştirdiği için ayrık veya Gauss dağılımlarıyla çalışmak yaygındır. Bazen sadece dağıtım kısıtlamaları bilinmektedir. Ardından, kısıtlamalar göz önüne alındığında en yüksek entropiye sahip tek dağılımı belirlemek için entropiyi kullanabilirsiniz.

Benzer şekilde, dinamik bir Bayes ağının özel bağlamında, gizli bilginin zamansal evrimi için koşullu dağılımdurum genellikle ima edilen rastgele işlemin entropi oranını maksimize edecek şekilde ayarlanır.

Bayes güven ağı
Bayes güven ağı

Doğrudan olasılığı (veya sonsal olasılığı) maksimize etmek, gözlemlenmeyen değişkenlerin varlığı göz önüne alındığında genellikle yanıltıcıdır. Bu özellikle Bayes karar ağı için geçerlidir.

Klasik yaklaşım

Bu soruna klasik yaklaşım, daha önce hesaplanan beklenenin tahmin edildiğini varsayarak, toplam olasılığı (veya sonsal değeri maksimize ederek) gözlemlenen verilere bağlı olarak gözlemlenmeyen değişkenlerin beklenen değerlerini hesaplamayı değiştiren beklenti maksimizasyon algoritmasıdır. değerler doğrudur. Orta derecede düzenlilik koşulları altında, bu süreç parametrelerin maksimum (veya maksimum a posteriori) değerlerinde yakınsar.

Parametrelere yönelik daha eksiksiz bir Bayes yaklaşımı, onları ek gözlemlenmemiş değişkenler olarak ele almak ve gözlenen veriler verilen tüm düğümler üzerindeki tam sonsal dağılımı hesaplamak ve ardından parametreleri entegre etmektir. Bu yaklaşım maliyetli olabilir ve büyük modellerle sonuçlanabilir, bu da klasik parametre ayarlama yaklaşımlarını daha erişilebilir hale getirir.

En basit durumda, bir Bayes ağı bir uzman tarafından tanımlanır ve daha sonra çıkarım yapmak için kullanılır. Diğer uygulamalarda ise belirleme işi bir insan için çok zordur. Bu durumda Bayesian sinir ağının yapısı ve yerel dağılımların parametreleri veriler arasında öğrenilmelidir.

Bayes ağları
Bayes ağları

Alternatif yöntem

Yapılandırılmış öğrenmenin alternatif bir yöntemi, optimizasyon aramasını kullanır. Bu, bir değerlendirme fonksiyonunun ve bir arama stratejisinin uygulanmasını gerektirir. Yaygın bir puanlama algoritması, BIC veya BDeu gibi eğitim verileri verilen bir yapının sonsal olasılığıdır.

Skoru en üst düzeye çıkaran bir yapı döndüren kapsamlı bir arama için gereken süre, değişken sayısında üsteldir. Yerel arama stratejisi, yapı tahminini iyileştirmek için artımlı değişiklikler yapar. Friedman ve meslektaşları, istenen yapıyı bulmak için değişkenler arasındaki karşılıklı bilgiyi kullanmayı düşündüler. Ebeveyn adayları kümesini k düğümle sınırlandırırlar ve onları iyice ararlar.

BN'yi tam olarak incelemek için özellikle hızlı bir yöntem, sorunu bir optimizasyon problemi olarak hayal etmek ve tamsayılı programlama kullanarak çözmektir. Döngüsellik kısıtlamaları, tamsayı programına (IP) çözüm sırasında kesme düzlemleri şeklinde eklenir. Böyle bir yöntem, 100 değişkene kadar sorunları işleyebilir.

Grafikler ve ağlar
Grafikler ve ağlar

Problem Çözme

Binlerce değişkenli problemleri çözmek için farklı bir yaklaşıma ihtiyaç vardır. Birincisi, önce bir sıra seçmek ve ardından bu sıraya göre en uygun BN yapısını bulmaktır. Bu, ağ yapılarının alanından daha küçük olduğu için uygun olan olası sıralamanın arama uzayında çalışmayı ima eder. Daha sonra birkaç sipariş seçilir ve değerlendirilir. Bu yöntem çıktıen iyi değişken sayısı çok olduğunda literatürde mevcuttur.

Başka bir yöntem, MLE'lerin kapalı olduğu ayrıştırılabilir modellerin bir alt sınıfına odaklanmaktır. Ardından yüzlerce değişken için tutarlı bir yapı bulabilirsiniz.

Üç satırlık sınırlı bir genişliğe sahip Bayes ağlarını incelemek, doğru, yorumlanabilir çıkarım sağlamak için gereklidir, çünkü ikincisinin en kötü durum karmaşıklığı ağaç uzunluğu k'de üsteldir (üstel zaman hipotezine göre). Bununla birlikte, grafiğin global bir özelliği olarak, öğrenme sürecinin karmaşıklığını büyük ölçüde artırır. Bu bağlamda etkili öğrenme için K-tree kullanılabilir.

Kısa ağ
Kısa ağ

Geliştirme

Bayesian Web of Trust'ın geliştirilmesi genellikle bir DAG G'nin oluşturulmasıyla başlar, öyle ki X, G'ye göre yerel bir Markov özelliğini karşılar. Bazen bu nedensel bir DAG'dir. Her değişkenin G'deki ebeveynleri üzerindeki koşullu olasılık dağılımları tahmin edilir. Birçok durumda, özellikle değişkenler ayrık olduğunda, X'in ortak dağılımı bu koşullu dağılımların ürünü ise, X, aşağıdakilere göre Bayes ağı olur. G.

Markov'un "düğüm battaniyesi" bir dizi düğümdür. Markov yorganı, düğümü, aynı adı taşıyan düğümün geri kalanından bağımsız kılar ve dağılımını hesaplamak için yeterli bilgidir. Her düğüm, Markovian değeri verildiğinde, diğer tüm düğümlerden koşullu olarak bağımsızsa, X, G'ye göre bir Bayes ağıdır.battaniye.

Önerilen: