T.n.

Büyük miktarda gözlem verisi ile X Olabilirlik denklemini çözmek için sonlu yöntemler, çok sayıda başlangıç ​​​​verisini ve hesaplamaların ara sonuçlarını hatırlama ihtiyacıyla ilişkili önemli hesaplama zorluklarına yol açar. Bu bağlamda, maksimum olabilirlik tahmininin, her adımın yeni gözlem verilerinin elde edilmesiyle ilişkilendirildiği, kademeli olarak artan doğrulukla adımlarla hesaplandığı ve tekrarlayan prosedürün hafızada saklanacak şekilde yapılandırıldığı tekrarlayan yöntemler özellikle ilgi çekicidir. önceki adımlardan mümkün olan en az miktarda veri. Tekrarlanan yöntemlerin pratik açıdan ek ve çok önemli bir avantajı, herhangi bir ara adımda sonuç üretmeye hazır olmalarıdır.

Bu, maksimum olabilirlik denkleminin kesin çözümünün sonlu yöntemle elde edilmesinin mümkün olduğu durumlarda bile yinelenen yöntemlerin kullanılmasını tavsiye eder ve maksimumu tahmin etmek için kesin bir analitik ifade bulmanın imkansız olduğu durumlarda bunları daha da değerli kılar. olasılık.

Gözlem verileri kümesinin, bir vektörü tanıttığımızı tanımlayan bir dizi olmasına izin verin. (Her zaman olduğu gibi, bileşenlerinin her biri bir vektör, rastgele bir sürecin bir parçası vb. olabilir). Olabilirlik fonksiyonu olsun ve

logaritması. İkincisi her zaman şu şekilde temsil edilebilir:

Son değeri olmayan bir gözlem verileri popülasyonu için olabilirlik fonksiyonunun logaritması ve

Verilen değerler için değerin koşullu olasılık yoğunluğunun logaritması ve .

Olabilirlik fonksiyonunun logaritmasına ilişkin temsil (7.5.16), maksimum olabilirlik tahmininin hesaplanması için tekrarlanan bir prosedürün elde edilmesinin temelini oluşturur. Olağan durumu ele alalım. Bu durumda denklemin çözümü olarak maksimum olabilirlik tahmini bulunabilir.

(7.1.6)'dan yalnızca endeksin tanıtılmasıyla farklılık gösterir ey olabilirlik fonksiyonunun logaritması.

Bu tahminin bir takım gözlemsel verilerden elde edildiğini vurgulayarak bu denklemin çözümünü belirtelim. Benzer şekilde denklemin çözümüyle verilerin toplamından elde edilen maksimum olabilirlik tahminini gösterelim.

Denklem (7.5.19), (7.5.16) dikkate alınarak aşağıdaki biçimde yeniden yazılabilir:

(7.5.20) denkleminin sol tarafını, noktasının komşuluğunda bir Taylor serisine genişletelim. burada

(7.5.22)

Fonksiyonun noktasındaki gradyan vektörü; ,'nin önceki olasılık denkleminin bir çözümü olması nedeniyle terim sıfır olur (P - 1. adım:

Olabilirlik fonksiyonunun logaritmasının ikinci türevlerinin simetrik bir matrisi, ters işaretle alındığında, açılımın yazılı olmayan terimleri farka göre ikinci dereceden ve daha yüksek bir küçüklüğe sahiptir. Bunları ihmal ederek maksimum olabilirlik denkleminin aşağıdaki yaklaşık çözümünü elde ederiz:

ters matris nerede.

Bu çözüm, önceki adımdaki tahmin ve düzeltme yoluyla tahminin bir sonraki değerini belirleyen bir yineleme ilişkisi şeklinde sunulur. , doğrudan ve önceki değerlendirme yoluyla mevcut gözlem verilerine bağlıdır. Düzeltme, yeni elde edilen değerin koşullu olasılık yoğunluğunun logaritmasının gradyanının ürünü olarak oluşturulur. X n önceki tahmine eşit bir noktada ağırlık matrisine . İkincisi, ifade (7.5.23) ile belirlenir ve aynı zamanda önceki adımdaki tahmine de bağlıdır ve yeni gözlem verilerine bağımlılığı tamamen koşullu olasılık yoğunluğunun logaritmasının formuyla belirlenir.

İlişkinin biçimi (7.5.24), Newton yöntemini kullanarak maksimum olabilirlik tahminini hesaplamak için yinelemeli bir yöntem uygulayan (7.5.8)'e çok benzer. Ancak gerçekte birbirlerinden önemli ölçüde farklıdırlar. (7.5.8)'de, önceki tahmin değerine yapılan düzeltme, tüm olasılık fonksiyonunun logaritmasının gradyanı tarafından belirlenir; bu, her zaman mevcut tüm gözlem verilerine bağlıdır ve bu setin tamamının ezberlenmesini gerektirir. (7.5.24) uyarınca, düzeltme, koşullu olasılık yoğunluğunun özelliklerinden dolayı aslında yalnızca güçlü bir istatistiksel bağlantı içinde olan değerlere () bağlı olan gradyanın büyüklüğü ile belirlenir. ile X N. Bu fark, bir değer azaltılmış bir dizi gözlem verisinden bulunan maksimum olasılık tahmini olarak önceki yaklaşımın özel seçiminin bir sonucudur ve özellikle ()'nin bağımsız değerleri için belirgindir. Bu son durumda

bu nedenle yalnızca bağlıdır ve X n ve eğim yalnızca tahminin önceki değerinden ve yeni elde edilen değerlerdendir P- gözlem verilerinin mstep'i. Dolayısıyla bağımsız değerlerle bir vektör oluşturmak için, değerlendirme değeri dışında bir önceki adımdan başka herhangi bir bilginin hatırlanmasına gerek yoktur.

Benzer şekilde, gözlem verilerinin Markov dizisi durumunda, yani

vektör yalnızca geçerli ve bir önceki değere bağlıdır.Bu durumda, hesaplama için, önceki adımdan, değere ek olarak yalnızca değeri hatırlamak gerekir, ancak gözlem verilerinin tamamını değil, yinelemeli prosedürde olduğu gibi. Genel olarak hesaplama, daha fazla sayıda önceki değerin () saklanmasını gerektirebilir, ancak yalnızca istatistiksel olarak bağımlı olan değerlerin dikkate alınması gereği nedeniyle, bu sayı neredeyse her zaman toplam hacimden azdır. gözlem verileri. Dolayısıyla, eğer bir vektör bir zaman dizisini tanımlıyorsa, bu dizinin ezberlenecek üye sayısı korelasyon süresine göre belirlenir ve bunların bağıl oranları ters orantılı olarak azalır. N bağımsız değerlerde olduğu gibi.

Şimdi yineleme ilişkisinin (7.5.24) içerdiği ağırlık matrisinin yapısını ele alalım. Tanıma (7.5.23) göre, bir terimin varlığından dolayı, genel olarak konuşursak, bağımsız değerleri olsa bile tüm değerlere bağlıdır, bu da yineleme ilişkisini (7.5.24) avantajlardan mahrum bırakır. önceki adımdan depolanan veri miktarında olası bir azalma ile ilişkilidir. Matris hesaplamasına yaklaşmanın birkaç yolu vardır , bu eksikliği ortadan kaldıran şey.

Bunlardan ilki, tahminin sonraki iki değeri arasındaki küçük fark hakkındaki temel varsayımın daha tutarlı bir şekilde kullanılmasına dayanmaktadır ve bu, yineleme ilişkisinin (7.5.24) elde edilmesinin temelidir. Bu bize ağırlık matrisi için benzer bir yineleme ilişkisi elde etmemizi sağlar.Aslında (7.5.23)'teki küçüklüğü kullanarak şunu elde ederiz:

Tanımı girerek

(7.5.24) ve (7.5.25)'ten vektör ve ağırlık matrisi için tekrarlayan ilişkilerden oluşan bir sistem elde ederiz

Bu sistem, başlangıç ​​​​değerleriyle birlikte, herhangi bir adımdaki tahminin değerini tamamen belirler ve her birinin yalnızca mevcut gözlemlenen değer için koşullu olasılık yoğunluğunun logaritmasının ikinci türevlerinin gradyanını ve matrisini hesaplamasını gerektirir. Başlangıç ​​​​değerleri, olası değerler ve parametrelerin değişim aralığı hakkındaki mevcut ön veriler dikkate alınarak seçilir ve bu verilerin tamamen yokluğunda sıfır (,) olarak alınır.

Bağımsız değerler için, yinelenen ilişkiler sistemi (7.5.27), açıkça çok boyutlu (boyutlu) bir Markov rastgele sürecini tanımlar; bunun bileşeni, parametrenin gerçek değerine yakınsar ve bileşen, Fisher bilgi matrisine (7.3.3) yakınsar. 8), tahmin edilen parametrenin gerçek değeri nerede ve büyümeyle birlikte süresiz olarak artıyor P. Dizinin ergodik olması durumunda Sistem (7.5.27), daha genel koşullar altında benzer yakınsama özelliklerine sahiptir.

Bahsedilen yöntemlerden ikincisi, olabilirlik fonksiyonunun logaritmasının ikinci türevleri matrisinin matematiksel beklentisiyle (7.5.16) dikkate alınarak şu şekilde yazılabilen Fisher bilgi matrisi ile değiştirilmesine dayanmaktadır:

(7.5.26)'ya benzer

(7.5.24)'teki matrisi matrisle değiştirerek yineleme ilişkisini elde ederiz.

Sakrison tarafından önerilen maksimum olasılık tahminlerinin yaklaşık hesaplanması için (orijinalde bağımsız olarak aynı şekilde dağıtılmış, ne zaman ve . Bu yineleme ilişkisi sistemden (7.5.27) daha basittir, çünkü optimal ağırlık matrisi matematiksel olarak değiştirilir. Beklenti ve tahminin değerinde yoğunlaşanlar dışında mevcut gözlemsel verilerin bulunmasına gerek yoktur.Aynı zamanda böyle bir değiştirmenin (7.5) ile karşılaştırıldığında ek bir şartın yerine getirilmesi gerektiği anlamına geldiği de açıktır. .27) ikinci türevler matrisinin matematiksel beklentisine yakın olduğu görülmektedir.

Olasılık yoğunluk fonksiyonu ve matrisi adımdan adıma değişiyorsa, her adımı doğrudan bulmak çok fazla hesaplama gerektirebilir. Bu durumda, küçük farkların sıfıra eşitsizliği ile belirlenen sonuçların doğruluğundaki ilave azalma nedeniyle, matrisin yaklaşık değerinin tekrarlı hesaplanmasına geçilebilir. Bu yaklaşık değer için önceki gösterime dönersek, başka bir yineleme ilişkileri sistemi elde ederiz.

noktasında alınan matrisin (bir gözlem için Fisher bilgi matrisi) beklenen değeri. Bu sistem (7.5.27)'den farklıdır; çünkü yineleme ilişkilerinden ikincisi (7.5.31) doğrudan gözlemsel verileri içermez.

Yukarıda ele alınan yineleme ilişkileri sistemlerinden herhangi biri, eğer fonksiyon ikinci dereceden bağlıysa ve ek olarak ikinci türevlerin matrisi bağlı değilse tamamen doğrudur. Aslında bu, tahmin edilen parametreyi temsil eden, bilinmeyen bir matematiksel beklentiye sahip, bağımsız, normal dağılmış (mutlaka aynı olması gerekmeyen) değerler durumuna karşılık gelir.

Tekrarlama ilişkileri sistemi (7.5.24), fonksiyonun ikinci dereceden bağlı olması şartıyla, çok daha geniş koşullar altında maksimum olabilirlik denklemine kesin bir çözüm verir. Üstelik bağımlılık keyfidir ve bu, hem bağımsız hem de bağımlı değerlere sahip geniş bir popülasyon olasılık dağılımları sınıfına karşılık gelir.

Göz önünde bulundurulan genel yöntemlerin yanı sıra, yinelenen ilişkide (7.5.24) bir ağırlıklandırma katsayıları matrisinin seçilmesine yönelik, belirli spesifik kısıtlamalara uyarlanmış bir dizi yöntem vardır. Bunlardan en basiti köşegen matris formundaki seçimdir, böylece , ( BEN- birim matris), burada, sonraki bölümlerde tartışılacak olan Robins-Monroe stokastik yaklaşım prosedüründe olduğu gibi, olabilirlik fonksiyonunun özelliklerinden bağımsız olarak seçilen, azalan bir sayısal katsayılar dizisidir.

Maksimum olabilirlik tahminlerini bulmak için yinelenen veya yinelenen prosedürlerin genellikle yaklaşık değerler olduğunu belirtmekte fayda var. Dolayısıyla genel olarak bu prosedürlerin uygulanması sonucunda elde edilen tahminler için tutarlılığın, asimptotik etkinliğin ve asimptotik normalliğin yeniden kanıtlanması gerekir. Yinelemeli prosedürler için, tahminlerin gerekli özellikleri, prensipte bu tür prosedürlerin uygun sayıda yinelemeyle olasılık denklemine önceden belirlenmiş herhangi bir doğrulukla bir çözüm sağlaması gerçeğiyle garanti edilir. Tekrarlanan işlemler için (7.5.27), (7.5.30), (7.5.31) ve diğerleri gibi özel deliller mevcuttur. Aynı zamanda düzenlilik şartının yanı sıra bazı ek şartlar da getirilmektedir:

Fonksiyonun (7.2.2) ||'nin çeşitli değerleri için davranışı üzerine, yinelenen bir prosedür kullanarak, parametrenin gerçek değerine karşılık gelen noktada bu fonksiyonun genel maksimumunu elde etmek;

Büyük mutlak değerler için olabilirlik fonksiyonunun logaritmasının türevlerinin ikinci momentlerindeki artış sırasına göre. Bu gereksinimler, bir veya başka bir yinelenen prosedürün yol açtığı bir Markov rastgele sürecinin bileşenlerinin tamamının veya bir kısmının bir noktasına yakınsama için daha genel koşulların bir sonucudur.

Sonuç olarak, maksimum olabilirlik denkleminin kesin bir çözümünün olması durumunda, bunun hemen hemen her zaman yinelenen biçimde temsil edilebileceğini de not ediyoruz. Birbirine benzemeyen iki basit örnek verelim. Böylece, popülasyondaki normal bir rastgele değişkenin bilinmeyen matematiksel beklentisinin temel bir tahmini N aritmetik ortalama biçimindeki örnek değerleri

maksimum olabilirlik tahminidir ve yinelenen biçimde temsil edilebilir:

en basit özel durum (7.5.30) ile

Başka bir örnek, (7.4.2)'deki dikdörtgen dağılımın genişliği parametresi için düzensiz maksimum olasılık tahminidir ve yineleme ilişkisiyle de belirlenebilir.

başlangıç ​​koşuluyla. Bu tekrarlanma ilişkisi farklı türdendir: sağ tarafı, önceki tahminin ve bu örnekteki düzensizliğin bir sonucu olan küçük bir düzeltmenin toplamı olarak temsil edilemez; ancak yinelenen yaklaşımın tüm avantajlarına sahiptir: önceki adımdan (tahmin) yalnızca bir sayının ezberlenmesini gerektirir ve tüm değerleri karşılaştırmak yerine aramayı keskin bir şekilde tek bir karşılaştırmaya indirger.

Verilen örnekler, maksimum olabilirlik denkleminin kesin bir çözüme izin verdiği durumda bile yinelenen yöntemlerin avantajlarını göstermektedir, çünkü sonucun analitik temsilinin basitliği, onu elde etmenin hesaplamalı basitliği ile aynı değildir.

7.5.3. Sürekli zamana geçiş. Maksimum olabilirlik tahmincileri için diferansiyel denklemler

Şimdi mevcut gözlem verilerinin mevcut olduğu özel durumu ele alalım. X bir dizi örnek noktayla tanımlanmaz , a bazı süreçlerin uygulanmasının bir bölümünü temsil eder , aralıkta belirtilen parametrelere bağlı olarak , ve bu aralığın uzunluğu gözlem sırasında artabilir (zaman noktası T değişkendir).

Gözlem verilerinin istatistiksel bir açıklaması için, bu durumda, keyfi olarak verilen bir değerdeki bir değer kümesinin olasılık yoğunluk dağılımının benzer bir olasılığa oranının maksimum sınırı olan bir olasılık oranı fonksiyoneli tanıtılır. yoğunluğun belirli bir sabit değerde temsil edilmesine olanak sağladığı ve bazı durumlarda, rastgele bir süreç olduğu, bağımsız olarak, bir değerler kümesinin olasılık yoğunluğuna bağlı olduğu. Olabilirlik oranı fonksiyonelinin kullanılması, sürekli zamana geçerken ortaya çıkan olasılık yoğunluğunun belirlenmesindeki biçimsel zorlukları ortadan kaldırmamıza olanak tanır.

Olabilirlik oranı fonksiyonelinin logaritması şu şekilde temsil edilebilir:

aralıktaki sürecin bazı işlevleri nerede? Bazı durumlarda işlevsel, yalnızca değerine bağlı bir işleve dönüşür. Yani eğer

zaman ve parametrelerin bilinen bir fonksiyonudur ve spektral yoğunluğa sahip delta bağlantılı rastgele bir süreçtir (“beyaz” gürültü) N o , olasılık dağılımının olabilirlik oranını payda olarak seçmek X ile sahip olacağız

Sürecin aralıkta uygulanmasından oluşturulan parametrenin maksimum olabilirlik tahmini, yani maksimum olabilirlik denkleminin çözümü olsun.

Bu denklemin sol tarafının zamana göre türevini aldığımızda şunu elde ederiz:

Tanımlamaların tanıtılması

ve (7.5.42) denklemini çözerek, maksimum olasılığı tahmin etmek için bir diferansiyel denklem elde ederiz.

Matris, (7.5.37)'ye göre diferansiyel denklem ile belirlenir.

Ayrık durumda olduğu gibi, (7.5.45), (7.5.47)'deki matris, matematiksel beklentisiyle değiştirilebilir - değerindeki Fisher bilgi matrisi ve ağırlık için diferansiyel denklem (7.5.46). matris - denklemle

ayrık duruma benzer olduğunda

İkinci türevler matrisinin matematiksel beklentisi.

Ayrık durum için söylenen her şeyin geçerli kaldığı seçime ilişkin başlangıç ​​koşullarıyla birlikte (7.5.45), (7.5.46) veya (7.5.45), (7.5.48) diferansiyel denklemler seti tamamen Herhangi bir an için maksimum olabilirlik tahminini belirler. Bu set, genel anlamda uygun, doğrusal olmayan analog cihazlar kullanılarak modellenebilir veya uygun zaman örneklemesi ile bir bilgisayar kullanılarak çözülebilir. Sonuç olarak, bu denklemlerde matrisin ters çevrilmesi ihtiyacını ortadan kaldıran değişikliklerden birine değinelim.

Tanımın tanıtılması

, Nerede BEN

ve ilişkinin zamana göre farklılaştırılması , Nerede BEN birim matristir, (7.5.46)'yı kullanarak matrisi doğrudan belirleyen bir diferansiyel denklem elde ederiz:

(ve benzer şekilde ile değiştirildiğinde), denklem (7.5.45) ile birlikte

değerlendirmeyi belirler , matris ters çevirmeye gerek kalmadan. Bu durumda, en basit doğrusal diferansiyel denklemden (7.5.46) Riccati tipi doğrusal olmayan nispeten diferansiyel denkleme (7.5.51) geçiş vardır.

Tekrarlama ilişkisi vardır sipariş k f(n+k)'yi f(n), f(n+1), …, f(n+k-1) cinsinden ifade etmenize izin veriyorsa.

Örnek.

f(n+2)=f(n)f(n+1)-3f 2 (n+1)+1 – ikinci dereceden yineleme ilişkisi.

f(n+3)=6f(n)f(n+2)+f(n+1) – üçüncü dereceden yineleme ilişkisi.

Eğer k'inci dereceden yinelenen bir ilişki verilirse, o zaman sonsuz sayıda dizi bunu karşılayabilir, çünkü dizinin ilk k elemanı keyfi olarak belirlenebilir - aralarında hiçbir ilişki yoktur. Ancak ilk k terim verilirse diğer tüm elemanlar benzersiz olarak belirlenir.

Tekrarlama ilişkisini ve başlangıç ​​terimlerini kullanarak dizinin terimlerini birbiri ardına yazabiliriz ve er ya da geç terimlerinden herhangi birini elde ederiz. Bununla birlikte, dizinin yalnızca belirli bir üyesini bilmeniz gerekiyorsa, öncekilerin tümünü hesaplamak mantıksızdır. Bu durumda n'inci terimi hesaplamak için bir formüle sahip olmak daha uygundur.

Yineleme ilişkisini çözme Bu ilişkinin aynı olduğu herhangi bir diziye denir.

Örnek. 2, 4, 8, …, 2 n dizisi f(n+2)=3∙f(n+1) – 2∙f(n) ilişkisinin bir çözümüdür.

Kanıt. Dizinin genel terimi f(n)=2 n'dir. Bu, f(n+2)= 2 n+2, f(n+1)= 2n+1 anlamına gelir. Herhangi bir n için 2 n+2 =3∙2 n+1 – 2∙2 n özdeşliği geçerlidir. Bu nedenle, 2 n dizisini f(n+2)=3f(n+1) – 2f(n) formülüne yerleştirdiğimizde ilişki aynı şekilde sağlanır. Bu, 2 n'nin belirtilen ilişkiye bir çözüm olduğu anlamına gelir.

Yineleme ilişkisini çözme k'inci sıra denir genel, eğer k keyfi sabit α 1 , α 2 , … α k'ya bağlıysa ve bu sabitleri seçerek bu ilişkiye herhangi bir çözüm elde edilebilir.

Örnek. Tekrarlama ilişkisi verilmiştir: f(n+2)=5f(n+1)-6f(n). Genel çözümünün şu şekilde olduğunu kanıtlayalım: f(n)= α 2 n + β3 n .

1. Öncelikle f(n)=α 2 n + β3 n dizisinin yineleme ilişkisinin bir çözümü olduğunu kanıtlıyoruz. Bu diziyi yineleme ilişkisinde yerine koyalım.

f(n)= α 2 n + β 3 n, bunun anlamı f(n+1)= (α 2 n+1 + β 3 n +1), f(n+2)= α 2 n+2 + β 3 n +2 , o zaman

5f(n+1)-6f(n)=5∙(α 2 n+1 + β 3 n +1)-6∙(α 2 n + β 3 n)= α (5 2 n+1 –6 2 n)+ β (5 3 n +1 –6 3 n)= =α2 n ∙(10–6)+ β 3 n ∙(15 – 6)= α 2 n+2 + β 3 n +2 = f( n+2).

Tekrarlama ilişkisi sağlanmıştır, dolayısıyla α 2 n + β 3 n bu tekrarlama ilişkisinin bir çözümüdür.

2. f(n+2)=5f(n+1)–6f(n) ilişkisinin herhangi bir çözümünün f(n)= α 2 n + β 3 n olarak yazılabileceğini kanıtlayalım. Ancak ikinci dereceden yineleme ilişkisinin herhangi bir çözümü, dizinin ilk iki teriminin değerleri tarafından benzersiz bir şekilde belirlenir. Bu nedenle, herhangi bir a=f(1) ve b=f(2) için 2 α +3 β =a ve 4 α +9 β =b olacak şekilde α ve β olduğunu göstermek yeterlidir. Denklem sisteminin a ve b'nin herhangi bir değeri için bir çözümü olduğunu görmek kolaydır.

Dolayısıyla f(n)= α 2 n + β 3 n, f(n+2)=5f(n+1)–6f(n) yineleme ilişkisinin genel bir çözümüdür.

Sabit katsayılı doğrusal yineleme ilişkileri

Yineleme ilişkilerini çözmeye yönelik genel kurallar yoktur, ancak bunları çözmeye yönelik bir algoritmanın bilindiği, sıklıkla karşılaşılan bir yineleme ilişkileri sınıfı vardır. Bunlar sabit katsayılı doğrusal tekrarlayan ilişkilerdir; formun ilişkileri:

f(n+k)=c 1 f(n+k-1)+c 2 f(n+k-2)+…+c k f(n).

Birinci dereceden sabit katsayılarla genel doğrusal yineleme ilişkisine bir çözüm bulalım.

Birinci dereceden sabit katsayılara sahip doğrusal bir yineleme ilişkisi şu şekildedir: f(n+1)=c f(n).

f(1)=a olsun, sonra f(2)=c∙f(1)=c∙a, f(3)=c∙f(2)=c 2 ∙a, benzer şekilde f(4)=c 3 ∙a ve benzeri, f(n)=c n -1 ∙f(1) olduğuna dikkat edin.

c n -1 ∙f(1) dizisinin birinci dereceden yineleme ilişkisinin bir çözümü olduğunu kanıtlayalım. f(n)=c n -1 ∙f(1), bu da f(n+1)=c n f(1) anlamına gelir. Bu ifadeyi ilişkiye koyarak c n f(1)=с∙ c n -1 ∙f(1) özdeşliğini elde ederiz.

Şimdi daha yakından bakalım ikinci dereceden sabit katsayılarla doğrusal yineleme ilişkileri yani formun ilişkileri

f(n+2)=C 1 ∙f(n+1)+C 2 ∙f(n). (*).

Daha yüksek düzey ilişkiler için tüm akıl yürütmenin aynı kaldığını unutmayın.

Çözümlerin özellikleri:

1) Eğer x n dizisi (*)'nin bir çözümü ise, a∙x n dizisi de bir çözümdür.

Kanıt.

x n, (*)'nın bir çözümüdür, dolayısıyla x n +2 =C 1 x n +1 +C 2 x n özdeşliği geçerlidir. Eşitliğin her iki tarafını da a ile çarpalım. a∙x n +2 =a∙(C 1 ∙x n +1 +C 2 ∙x n)= C 1 ∙a∙x n +1 +C 2 ∙a∙x n elde ederiz. Bu, ax n'nin (*)'ın çözümü olduğu anlamına gelir.

2) Eğer x n ve y n dizileri çözüm (*) ise, o zaman x n + y n dizisi de bir çözümdür.

Kanıt.

x n ve y n çözümler olduğundan aşağıdaki özdeşlikler geçerlidir:

x n +2 =C 1 x n +1 +C 2 x n .

y n +2 =C 1 y n +1 +C 2 y n .

İki eşitliğin terim terim toplamasını yapalım:

x n +2 +y n +2 =С 1 ∙x n +1 +С 2 ∙x n + С 1 ∙y n +1 +С 2 ∙y n = С 1 ∙(x n +1 + y n +1)+С 2 ∙(x n +y n). Bu, x n +y n'nin (*)'ın bir çözümü olduğu anlamına gelir.

3) Eğer r 1 ikinci dereceden r 2 =C 1 r+C 2 denkleminin bir çözümü ise, o zaman (r 1) n dizisi (*) ilişkisinin bir çözümüdür.

r 1 ikinci dereceden denklem r 2 =C 1 r+C 2'nin bir çözümüdür, yani (r 1) 2 =C 1 r 1 +C 2 anlamına gelir. Eşitliğin her iki tarafını da (r 1) n ile çarpalım. Aldık

r 1 2 r 1 n =(C 1 r 1 +C 2) r n.

r 1 n +2 =С 1 r 1 n +1 +С 2 r 1 n .

Bu, (r 1)n dizisinin (*)'nın bir çözümü olduğu anlamına gelir.

Bu özelliklerden şu sonuç çıkıyor çözüm yöntemi ikinci dereceden sabit katsayılarla doğrusal yineleme ilişkileri:

1. Karakteristik (ikinci dereceden) bir denklem r 2 =C 1 r+C 2 yapalım. Köklerini r 1, r 2 bulalım. Eğer kökler farklıysa genel çözüm f(n)= ar 1 n +βr 2 n şeklinde olur.

2. a ve β katsayılarını bulun. f(0)=a, f(1)=b olsun. Denklem sistemi

Herhangi bir a ve b için bir çözüm vardır. Bu çözümler

Görev . Fibonacci dizisinin genel terimi için bir formül bulalım.

Çözüm . Karakteristik denklem x 2 =x+1 veya x 2 -x-1=0 biçimindedir, kökleri sayılardır, yani genel çözüm f(n)= biçimindedir . Görüldüğü gibi f(0)=0, f(1)=1 başlangıç ​​koşullarından a=-b=1/Ö5 sonucu çıkar ve dolayısıyla Fibonacci dizisinin genel çözümü şu şekilde olur:

.

Şaşırtıcı bir şekilde bu ifade, n'nin tüm doğal değerleri için tam sayı değerleri alıyor.

Matematikte “özyinelemeli fonksiyonlar”, “yinelemeli diziler”, “ yineleme ilişkileri”, “özyinelemeli algoritmalar” gibi terimler sıklıkla kullanılmaktadır. Tüm bu terimler, Latince hesiggege - geri dönmek kelimesinden gelen aynı köke sahiptir. Özyinelemeli fonksiyonlar, özyinelemeli algoritmalar ve yinelemeli dizilerde ortak olan şey, bir işlevin bir sonraki değerini hesaplamak, bir algoritmanın sonraki uygulamasını elde etmek veya bir dizinin sonraki üyesini belirlemek için önceki değerlerine başvurmanın gerekli olmasıdır. değerler daha önce hesaplanmıştır. Buna karşılık, önceki değerlerin hesaplanması, bundan önce hesaplanan gerekli değerlere vb. erişimi gerektirir. Bu nedenle, bir fonksiyonun değerini, bir algoritmanın uygulamasını veya bir seri üyesinin değerini elde etmek için hım adımda değerlerini bilmeniz gerekir (P- 1)inci adım ve dolayısıyla ilk adımda. Bir fonksiyonun bir sonraki değerinin veya bir dizinin bir sonraki üyesinin, bu değerlerin ilk adım için bilindiği gerçeğini dikkate alarak nasıl hesaplanacağını belirleyen kurala denir. Tekrarlama ilişkisi. Tekrarlama ilişkilerinin geliştirilmesi, çeşitli problemleri çözme yöntemlerinden biridir. Kombinatorikte bu yöntem çok yaygın olarak kullanılmaktadır.

Yineleme ilişkisinin en basit örneği, bir öğe kümesinin permütasyon sayısını hesaplamak için kullanılan formüllerdir. Bu formüller benziyor Rx = 1, Rp = R p _ x p ve aşağıdaki şekilde elde edilebilir.

Olsun P elemanlar /, /2, ..., /„, kümeler BEN. Liu

Bu elemanların herhangi bir permütasyonu şu şekilde elde edilebilir: /, / 2, ... elemanlarının bir miktar permütasyonunu alın ve başlangıç ​​ve bitiş dahil olmak üzere belirtilen elemanların arasına mümkün olan tüm şekillerde / ve elemanını yerleştirin. Bu tür yöntemlerin olacağı açıktır. P. BUNUN sonucunda /, /2, ..., /d_ permütasyonu elde edilecektir. P permütasyonlar. Bu, permütasyonların P içindeki elementler P permütasyonlardan kat daha fazla P-1 set elemanı BEN. Bu yineleme ilişkisini kurar Rp = R p_xp. Bu ilişkiyi kullanarak tutarlı bir şekilde şunu elde ederiz: P p -pP p _ x =p(p-)P p _ 2 - p(p - )(p -2)...2P X. Ama R x - 1, çünkü bir elemandan yalnızca bir permütasyon yapılabilir. Bu yüzden P p = p(p-1)(« - 2)___2-1 = P. Yukarıdakilere dayanarak

Aşağıdaki giriş de geçerlidir: Rp = (P-onbir! = 1.

Şimdi sıklıkla tekrarlanan sayı dizisine bir örnek verelim. Fibonacci sayıları, Adını aşağıdaki problemin çözümü sonucunda kuran 13. yüzyıl İtalyan matematikçisinden almıştır. Bir çift tavşan ayda bir kez iki tavşandan (bir dişi ve bir erkek) oluşur. Yeni doğan tavşanlar da doğumdan iki ay sonra yavrular doğururlar. Başlangıçta bir çift tavşan varsa yılda kaç tavşan olur?

Sorunun koşullarından, bir ay içinde iki çift tavşan olacağı (ilk tavşan çifti yavru doğuracak) sonucu çıkıyor. İki ayda - üç çift ve üç ayda - beş çift, çünkü ilk aydan sonra ortaya çıkan çift doğum yapacak.

Sonra tavşan çiftlerinin sayısını /" ile gösterelim. P yılın başından beri aylar. O zaman yılın başında / 0 = 1, bir ay sonra /, = 2, iki ay sonra / 2 = / 0 + /, = 3, üç ay sonra / 3 = = / 2 + /1 = 5. Bu nedenle, genel durumda, herhangi bir ayın sonundaki tavşan sayısını hesaplamak için, yinelenen /" = + / i _ 2 ilişkisini elde ederiz. Bu oran mümkün kılıyor

/12 = /n + ifadesini kullanarak yıl sonundaki tavşan çiftlerinin sayısını hesaplayın /Yu VE / 0 = 1, /, = 2 olması şartıyla. 377'ye eşittir. Verilen yineleme ilişkisinin uygulanması sonucu elde edilen sayılar yani; 1, 2, 3, 5, 8, 13, ... dizisine Fibonacci sayıları denir. Bu sayı serisini tanımlayan bir yineleme ilişkisinin yardımıyla birçok kombinatorik problemin çözüldüğü dikkat çekmektedir. İşte onlardan biri.

Sıfırlardan ve uzunluktaki birlerden oluşan dizilerin sayısını bulun P iki birimin yan yana olmadığı yerler. Tekrarlama ilişkisini kullanarak bu sorunun çözüldüğünden emin olalım.

/i = /“-1 + /i- 2-

Herhangi bir diziyi al P+1 sıfırlar ve art arda iki bir olmayacak şekilde birler. Sıfır veya bir ile bitebilir. Dizi sıfırla bitiyorsa atılabilir ve uzunluktaki bir dizi P, iki birimin bitişik olmadığı yer. Tam tersine, bu diziyi alıp sonuna sıfır atarsak, uzunluk dizisi elde ederiz. n + 1, iki birimin bitişik olmadığı.

Uzunluk dizilerinin sayısı olsun Pİki birin bitişik olmadığı ve sonu sıfır olan +1 eşittir gn.Şimdi, iki tanesinin bitişik olmadığı ve sonu bir olan UZUNLUK /7 + 1 dizisini alın. İki tanesi bitişik olmadığı için dizideki sonuncunun önüne sıfır gelir, yani. dizi 01 ile bitiyor. Bu sayıları atarak bir uzunluk dizisi elde ederiz P - 1, iki birimin arka arkaya olmadığı. Bu tür dizilerin sayısı g n_^. Her dizi uzun olduğundan n + Elde ettiğimiz toplam kuralını kullanarak, bu tür dizilerin toplam sayısı için iki birimin bir satırda olmadığı bir veya sıfırla biten 1. g n+ ^ - g n + G n_x. Ayrıca uzunluk dizileri için P= 1'de iki dizi vardır: 0 ve 1, burada iki dizi bitişik değildir, sonuç olarak

ne gör g- 2. Uzunluk dizileri için P - 2'de iki tanesinin bitişik olmadığı üç dizi vardır: 00, 01 ve 10. Bu nedenle = 3. Dolayısıyla yineleme ilişkisi g n+l = g n + g n_ ( , g^ = 2, g2=3, seriyi tanımlayan yineleme ilişkisine eşdeğerdir / i+1 = /™ + /, =2, / 2 = 3

Fibonacci. Dolayısıyla herhangi bir /7 = 1,2, ... için bu ilişkiyi kullanarak yukarıda formüle edilen problemi çözebiliriz.

Tekrarlama bağıntılarının türetilmesinin bazen basit, bazen de ciddi çaba gerektirdiğini belirtmek gerekir. Bazı problemler için tekrarlama ilişkileri basittir, bazıları için ise karmaşıktır. Tekrarlama ilişkilerinin genel bir sakıncası, bir dizinin bir üyesini hesaplamak için önceki tüm üyelerinin hesaplanmasının gerekli olmasıdır.

Sonlu kümeler üzerinde kombinatoryal hesaplamalar

Kombinatoriğe Giriş

Çoğunlukla kombinatoryal hesaplama olarak adlandırılan kombinatoryal algoritmalar teorisinin konusu, ayrık matematiksel yapılar üzerinde hesaplamadır. Bu teoride, ayrık matematik problemlerini çözmek, seçeneklerin seçimini optimize etmek ve söz konusu çözümlerin sayısını azaltmak için algoritmik yaklaşıma çok dikkat edilir.

Kombinatoryal algoritmalar alanı, sonlu bir kümedeki elemanların sayısının sayılmasını (tahmin edilmesini) veya bu elemanların özel bir sıraya göre listelenmesini gerektiren problemleri içerir (Ek B). Bu durumda, geri dönüşlü elemanların seçimi ve çeşitleri yaygın olarak kullanılmaktadır.

İki tür sayma problemi vardır. Basit durumda, belirli bir küme belirtilir ve bu gereklidir tam olarak eleman sayısını belirlemek onun içinde. Genel durumda, bazı parametrelerle tanımlanan bir küme ailesi vardır ve kümenin önem derecesi, parametrenin bir fonksiyonu olarak belirlenir. Aynı zamanda sıklıkla olur bir fonksiyonun sırasının yeterli tahmini ve bazen yalnızca ihtiyacınız olur büyüme hızının tahmini. Örneğin, dikkate alınacak kümenin gücü bazı parametreler boyunca üstel olarak artıyorsa, bu, çeşitli ayrıntılarla uğraşmadan sorunu incelemek için önerilen yaklaşımı terk etmek için yeterli olabilir. Asimptotik açılımlar, yineleme ilişkileri ve üretici fonksiyonlar prosedürleri bu daha genel problem tipine uygulanır.

Asimptotikler

Asimptot, söz konusu eğrinin sınırı olan özel bir çizgidir (çoğunlukla düz bir çizgi).

Asimptotik, fonksiyonların büyüme hızlarını tahmin etme ve karşılaştırma sanatıdır. Bunu ne zaman söylüyorlar X®¥ işlevi "gibi davranır X"veya" aynı oranda artar X"ve X®0 "1/ gibi davranır X". "Günlük" diyorlar X en X®0 ve herhangi bir e>0 şöyle davranır X e ve ne de N®¥ şundan daha hızlı büyümüyor: N kayıt N"Bu tür kesin olmayan ancak sezgisel ifadeler, fonksiyonların karşılaştırılmasında oranlar kadar faydalıdır<, £ и = при сравнивании чисел.

Üç ana asimptotik ilişkiyi tanımlayalım.

Tanım 1.İşlev F(X) eşdeğerdir G(X) X® x 0, ancak ve ancak =1 ise.

Bu durumda fonksiyonun olduğu söylenir F(X) asimptotik olarak fonksiyona eşittir G(X) ya da ne F(X) ile aynı oranda büyüyor G(X).

Tanım 2. F(X)=o( G(X)) en X® x 0, ancak ve ancak =0 ise.

Bunu ne zaman söylüyorlar X® x 0 f(X) daha yavaş büyür G(X), ya da ne F(X) "çok az var" G(X).

Tanım 3 . F(X)=O( G(X)) en X® x 0, ancak ve ancak sup = C olacak şekilde bir sabit C varsa.

Bu durumda şunu söylüyorlar F(X) daha hızlı büyümez G(X), ya da ne X® x 0 f(X) "büyük bir O var" G(X).

Oran F(X)=G(X)+Ö(H(X)) en X®¥ şu anlama gelir F(x)-g(X)=o(H(X)). Aynı şekilde F(X)=G(X)+HAKKINDA(H(X)) anlamına gelir F(X)-G(X)=O(H(X)).

O(·) ve o(·) ifadeleri eşitsizliklerde de kullanılabilir. Örneğin eşitsizlik X+Ö(X)£2 X en X®0, herhangi bir işlev için anlamına gelir F(X) öyle ki F(X)=o(X), en X®¥ ilişki geçerlidir x+f(X)£2 X yeterince büyük tüm değerler için X.

Bazı yararlı asimptotik eşitlikleri sunalım.

Polinom asimptotik olarak baş terimine eşittir:

en X®¥; (4.1)

en X®¥; (4.2)

en X®¥ ve bir k#0. (4.3)

Tam sayıların kuvvetlerinin toplamı şu ilişkiyi sağlar:

en N®¥. (4.4)

Bu nedenle, özellikle, elimizde N®¥

Daha genel bir durumda, ne zaman N®¥ ve herhangi bir tamsayı için k³0

; (4.6)

. (4.7)

Tekrarlanma ilişkileri

Yineleme ilişkileri kavramını, 1200 civarında Fibonacci tarafından ortaya atılan ve incelenen klasik bir problemi kullanarak açıklıyoruz.

Fibonacci, problemini aşağıdaki varsayımlar altında tavşan popülasyonunun büyüme hızına ilişkin bir hikaye biçiminde ortaya koydu. Her şey bir çift tavşanla başlar. Her bir çift tavşan bir ay sonra doğurgan hale gelir ve sonrasında her çift her ay yeni bir çift tavşan doğurur. Tavşanlar asla ölmez ve üremeleri asla durmaz. İzin vermek Fn- popülasyondaki tavşan çiftlerinin sayısı N ay ve bu nüfusun oluşmasına izin verin Hayır yavru çiftleri ve Açık“eski” çiftler, yani Fn = Hayır + Açık. Böylece önümüzdeki ay aşağıdaki olaylar gerçekleşecek:

Yaşlı nüfus ( N+1)inci an, o andaki doğum sayısı kadar artacaktır N yani Açık +1 = Açık + Hayır= Fn;

Her yaşlı bir anda Nçift ​​zamanında üretir ( N+1) bir çift yavru, yani. Nn+1= Cn.

Bu model önümüzdeki ay kendini tekrarlayacak:

Açık +2 = Açık +1+ Nn+1= Fn+1,

Nn+2=Açık +1;

Bu eşitlikleri birleştirerek Fibonacci yineleme ilişkisini elde ederiz:

Açık +2 + Nn+2=Fn+1 + Açık +1,

Fn+2 = Fn+1 + Fn. (4.8)

Fibonacci sayı dizisi için başlangıç ​​koşullarının seçimi önemli değildir; bu dizinin temel özellikleri yineleme ilişkisi (4.8) tarafından belirlenir. Genellikle inanılır F 0=0, F1=1 (bazen varsayılır) F 0=F1=1).

Tekrarlama ilişkisi (4.8), sabit katsayılı homojen doğrusal yineleme ilişkilerinin özel bir durumudur:

x n = a 1 x n-1 + a 2 x n-2 +…a k x n-k , (4.9)

katsayılar nerede bir ben bağlı değil N Ve x 1, x 2, …, xk verilmiş sayılır.

Çözüm için genel bir yöntem vardır (ör. xn işlevler olarak N) sabit katsayılı doğrusal yineleme ilişkileri. Örnek olarak (4.8) ilişkisini kullanan bu yöntemi ele alalım. Formda bir çözüm bulalım

Fn=cr n (4.10)

sabit ile İle Ve R. Bu ifadeyi (4.8)'de yerine koyarsak, şunu elde ederiz:

cr n + 2 = crn+ 1 + cr n,

cr n(r n -r-1)=0. (4.11)

Bu demektir Fn=cr n eğer ikisi de bir çözümse İle=0 veya R= 0 (ve dolayısıyla her şey için F n =0) N) ve ayrıca (ve bu daha ilginç bir durumdur) eğer R 2 - r -1=0 ve sabit İle keyfi. Daha sonra (4.11)'den şu sonuç çıkar:

R= veya R = . (4.12)

“1.618” sayısı “altın” oran olarak bilinir, çünkü eski çağlardan beri kenarları 1 olan üçgenin (dikdörtgen) göze en hoş gelen oranlara sahip olduğuna inanılırdı.

Homojen bir doğrusal yineleme ilişkisinin iki çözümünün toplamı da açıkça bir çözümdür ve aslında Fibonacci dizisinin genel çözümünün şu şekilde olduğu gösterilebilir:

Fn= , (4.13)

sabitler nerede İle Ve İle' başlangıç ​​koşullarına göre belirlenir. F 0 =0 ve F 1 =1 koyarak aşağıdaki doğrusal denklem sistemini elde ederiz:

, (4.14)

çözümü şunu verir

C = -C" = . (4.15)

Genel çözüm yineleme ilişkisi (1), bu ilişkiyi sağlayan tüm dizilerin kümesidir.

Özel karar ilişki (1), bu ilişkiyi sağlayan dizilerden biridir.

Örnek 1¢. Alt sıra BİR=A 0 +ve BİR=BİR - 1 +D. Bu, fark içeren bir aritmetik ilerlemenin genel terimi için formüldür. D ve ilerlemenin ilk dönemi ile A 0 .

Örnek 2¢. Alt sıra bn=B 0 × qn ilişkinin genel bir çözümüdür bn=bn - 1 ×q. Bu, paydalı geometrik ilerlemenin genel terimi için formüldür Q¹0 ve ilerlemenin başlangıç ​​terimiyle B 0 .

Örnek 3¢. Lafta Binet'in formülü J N=j ilişkisinin özel bir çözümüdür N=j N- 2 +j N- 1, j 0 =j 1 =1 olduğunda.

Basit köklerden beri X 1 ,…,xk ikili olarak farklıysa D¹0. Bu, (5) sisteminin (benzersiz) bir çözümü olduğu anlamına gelir.

Görev 1. Formül (4)'ü kullanarak geometrik ilerlemenin genel terimini bulun.

Çözüm bn=qbn- 1 formu var. Bu yüzden .

Görev 2. Fibonacci ilişkisinin genel çözümünü bulun BİR + 2 =BİR+BİR + 1 .

Çözüm. Bir yineleme ilişkisinin karakteristik polinomu BİR + 2 =BİR+BİR+1 formu vardır. Bu yüzden .

Teorem 1'in aşağıdaki genellemesini kanıt olmadan sunuyoruz.

Teorem 2. Homojen doğrusal yineleme ilişkisinin (3) karakteristik polinomu şöyle olsun: k kökler: a 1 katlı, …, a kçokluk , , . O halde yineleme ilişkisinin (3) genel çözümü aşağıdaki forma sahiptir:

Görev 3.İlişkinin genel çözümünü bulun.

Çözüm. Karakteristik polinomun kökü 2/kat 3'tür. Bu nedenle .

Yorum. Homojen olmayan doğrusal ilişkinin (2) genel çözümü, homojen doğrusal ilişkinin (3) genel çözümü ile homojen olmayan doğrusal ilişkinin (2) özel çözümünün toplamı olarak bulunabilir.

4. Fonksiyonların oluşturulması. Resmi seri A 0 +A 1 X+A 2 X 2 +…+a k x k+... arandı a dizisinin fonksiyonunu oluşturma 0 ,A 1 ,A 2 ,…,bir k,…

Üreten fonksiyon ya yakınsak bir seri ya da ıraksak bir seridir. İki ıraksak seri fonksiyon olarak eşit olabilir, ancak farklı dizilerde üretilmiş fonksiyonlar olabilir. Örneğin, satır 1+2 X+2 2 X 2 +…+2kxk+… ve 1+3 X+3 2 X 2 +…+3kxk+... aynı işlevi tanımlayın (noktada 1'e eşit) X=1, noktalarda tanımsız X>1), ancak farklı dizilerde fonksiyonlar üretiyorlar.

Dizilerin fonksiyon üretme özellikleri:

dizilerin üreten fonksiyonlarının toplamı (farkı) BİR Ve bn dizilerin toplamının (farkının) üreten fonksiyonuna eşittir BİR+bn;

dizilerin fonksiyonlarını üretmenin çarpımı BİR Ve bn dizilerin evrişiminin üreten fonksiyonudur BİR Ve bn:

cn=A 0 bn+A 1 bn - 1 +…+BİR - 1 B 1 +bir n b 0 .

Örnek 1. Fonksiyon dizi için üretiyor

Örnek 2. Fonksiyon 1, 1, 1, ... dizisi için üretiyor.