Kolmogorovの拡張定理

Kolmogorovの拡張定理は、可測空間の族$(X_i,\mathcal{B}_i)~(i\in I)$に対し、それらの直積空間上の確率測度を構成することができるという定理です。この定理は例えば確率論でマルコフ過程の存在を示す場合に用いられたりするのですが、英語のページを含めネット上で完全な証明が紹介されているものが見当たらなかったため、ここでは最も一般的な形で一から証明をしたいと思います。
ただし、次の2つの命題は既知とします(証明は測度論の教科書に載っていると思います)。

定理0.1(Hopfの拡張定理)
  $X$を任意の集合とし、$\mathcal{F}$を$X$上の有限加法族、$m$を$\mathcal{F}$上の有限加法的測度とする。この時、$m$が$\mathcal{B}(\mathcal{F})$上の測度に拡張されるための必要十分条件は、$m$が$\mathcal{F}$上で完全加法的であることである。
また、$m(X)<\infty$ならばこの拡張は一意的である。

命題0.2
  $X$を任意の集合とし、$\mathcal{F}$を$X$上の有限加法族、$m$を$\mathcal{F}$上の有限加法的測度とする。この時、次は同値である。
(1) $m$は$\mathcal{F}$上で完全加法的である。
(2) $E_n \in \mathcal{F}(n=1,2,\cdots)$が単調減少で $\displaystyle \lim_{n \to \infty}E_n=\emptyset $ ならば、$\displaystyle \lim_{n \to \infty}m(E_n)=0$である。

直積空間の定義

まずは記号の定義をして、$\mathcal{B}_i$の直積を定義します。

• $(X_i,\mathcal{B}_i)~(i \in I)$を可測空間の族とし、\begin{align*}X=\prod_{i \in I}X_i=\left\{w:I \to \bigcup_{i \in I}X_i\middle|w(i) \in X_i\right\}\end{align*}を$X_i$たちの直積空間とする。
• $H \subset I$に対して、$\displaystyle X_H=\prod_{i \in H}X_i$と書く。
• $\pi_i:X \to X_i;w \mapsto w(i)$を$X$の第$i$成分への射影とする。
• $G \subset H\subset I$に対し、$\pi_{F,G}:X_H \mapsto X_G;w \mapsto w|_G$を$X_H$から$X_G$への射影とする。ただし、$w|_G$は$w$の$G$への制限である。

定義1.1
$X$上の完全加法族$\mathcal{B}=\sigma(\pi_i;i \in I)$を$\mathcal{B}_i$の直積といい、$\displaystyle \mathcal{B}=\bigotimes_{i \in I}\mathcal{B}_i$で表す。

上の記号と同様に、$H\subset I$に対して$\displaystyle \mathcal{B}_H=\bigotimes_{i \in H}\mathcal{B}_i$書くことにします。

定義1.2
有限集合$F={i_1,\cdots,i_n} \subset I$および$A_{k} \in \mathcal{B}_{i_k}(k=1,2,\cdots,n)$に対し、
\begin{align*}C_F&=A_{i_1}\times \cdots \times A_{i_n} \times X_{I \backslash F}\\
(&={\pi_{i_1}}^{-1}(A_1)\cap\cdots\cap{\pi_{i_n}}^{-1}(A_n))\end{align*}の形の集合を柱状集合(cylinder set)という。

直積完全加法族は、柱状集合(cylinder set)によって生成されます。

命題1.3
柱状集合全体を$\mathcal{C}$とおくと、$ \mathcal{B}=\sigma(\mathcal{C}) $である。
このことから、$I$が有限集合の時、定義1は有限個の直積完全加法族の定義
\begin{align*}
\mathcal{B}_{i_1}\otimes \cdots \otimes \mathcal{B}_{i_n}=\sigma(A_1\times \cdots \times A_n;A_k \in \mathcal{B}_{i_k})\end{align*}と矛盾しないことがわかります。

(証明)\begin{align*}\mathcal{B}&=\sigma(\pi_i;i \in I)=\sigma({\pi_i}^{-1}(A);A \in \mathcal{B}_i,i \in I)\\
    &=\sigma(A \times X_{I\backslash\{i\}};A \in \mathcal{B}_i,i \in I)\end{align*}だから、$\mathcal{B} \subset \sigma(\mathcal{C})$は明らかである。
一方、任意の柱状集合は$F=\{i_1,\cdots,i_n\} \subset I,A_k \in \mathcal{B}_{i_k}$に対して、\begin{align*}  C_F={\pi_{i_1}}^{-1}(A_1)\cap\cdots\cap{\pi_{i_n}}^{-1}(A_n)\end{align*}と書けるから、$\sigma(\mathcal{C})\subset \mathcal{B}$もわかる。□

これを使うと、次のことが示せます。

系1.4
$G \subset H\subset I$に対して、 \begin{align*} \mathcal{B}_H=\mathcal{B}_G\otimes \mathcal{B}_{H \backslash G} \end{align*} である。

(証明)\begin{align*} \mathcal{B}_G \otimes \mathcal{B}_{H\backslash G} =\sigma(E \times F;E \in \mathcal{B}_G,F \in \mathcal{B}_{H\backslash G}) \end{align*} であるが、$E,F$がそれぞれ$X_G,X_{G \backslash H}$の柱状集合の時、$E \times F$は$X_H$上の柱状集合だから、$\mathcal{B}_H\subset\mathcal{B}_G \otimes \mathcal{B}_{H\backslash G}$である。
一方、$E \times X_{G \backslash H},X_G \times F \in \mathcal{B}_H$だから、$E \in \mathcal{B}_G,F \in \mathcal{B}_{H\backslash G}$なる$E,F$に対しても$E \times X_{G \backslash H},X_G \times F \in \mathcal{B}_H$である。よって、$E \times F=E \times X_{G \backslash H}\cap X_G \times F \in \mathcal{B}_H$となるから、$\mathcal{B}_G \otimes \mathcal{B}_{H\backslash G} \subset \mathcal{B}_H$である。□

コンパクト族

次に、コンパクト族という概念を定義します。

定義2.1
集合族$\mathcal{S}$が次の性質を満たすとき、$\mathcal{S}$をコンパクト族(compact class)という。
　(性質) $\mathcal{X}$が$\mathcal{S}$の可算部分集合で、有限交叉性をもつならば、$\displaystyle \bigcap_{S \in \mathcal{X}}S\neq \emptyset$である。
ここで、$\mathcal{X}$が有限交叉性をもつとは、任意の有限個の$S_1,S_2,\cdots,S_n\in\mathcal{X}$に対し、$\displaystyle \bigcap_{i=1}^n S_i\neq \emptyset$となることである。

コンパクト空間上の閉集合からなる族は、有限交叉性をもてば空でない共通部分を持つので、ハウスドルフ空間上のコンパクト集合全体はコンパクト族になります。

例2.2
$X$をハウスドルフ空間とするとき、$X$上のコンパクト集合全体$\mathcal{K}$はコンパクト族である。

(証明) $K_1,K_2,\cdots$を$X$上のコンパクト集合で有限加法性を持つものとする。このとき$X$のハウスドルフ性から、$K_1\cap K_n~(n=1,2,\cdots)$はコンパクト空間$K_1$上の閉集合で、有限交叉性を持つから、$\displaystyle \bigcap_{n=1}^\infty K_1\cap K_n=\bigcap_{n=1}^\infty K_n$は空でない。よって示すべきことを得る。□

次の補題はKolmogorovの拡張定理の証明で使われます。

補題2.3
$\mathcal{S}$をコンパクト族とする。この時、 \begin{align*} &\mathcal{M}=\{S_1 \cup \cdots \cup S_n|S_1,\cdots, S_n \in \mathcal{S}\}\\ &\mathcal{T}=\left\{\bigcap_{j=1}^\infty A_j\middle|A_j \in \mathcal{M} \right\} \end{align*} とおくと、$\mathcal{T}$は$\mathcal{S}$を含む集合族で、有限和と可算個の共通部分に関して閉じている最小の集合族であり、さらに$\mathcal{T}$もコンパクト族である。

(証明) 前半は明らかであるから、$\mathcal{T}$がコンパクト族であることを示す。$\{B_1,B_2,\cdots\}$を$\mathcal{T}$の有限交叉性を持つ部分集合とし、 \begin{align*} &B_k=\bigcap_{j=1}^\infty A_{jk},~A_{jk} \in \mathcal{M}\\ &A_{jk}=S_{1jk}\cup S_{2jk} \cup \cdots \cup S_{\phi(j,k)jk},~S_{ijk} \in \mathcal{S} \end{align*} とおく。この時、 \begin{align*} \mathcal{A}_{jk}^{(n)}=\left\{S_{ijk}\middle|i=1,2,\cdots,\phi(j,k),S_{ijk}\cap \bigcap_{k=1}^n B_k \neq \emptyset\right\} \end{align*} とすると有限交叉性から$k \leq n$の時これは空でなく、さらに単調減少な有限集合だから、$\displaystyle \mathcal{A}_{jk}=\bigcap_{n=k}^\infty\mathcal{A}_{jk}^{(n)} \neq \emptyset$である。さらに、$\displaystyle \mathcal{A}=\bigcup_{j,k=1}^\infty A_{jk}$とおくとこれは可算集合で、$S_{ijk} \in \mathcal{A}$に対して、 \begin{align*} S_{ijk}\cap \bigcap_{k=1}^n B_k \neq \emptyset~(k \leq n) \end{align*} だから、任意の$n$に対して、 \begin{align*} \bigcap_{k \leq n}S_{ijk} \neq \emptyset \end{align*} すなわち$\mathcal{A}$は有限交叉性を持つ。よって$\mathcal{S}$のコンパクト性から、 \begin{align*} \bigcap_{S_{ijk} \in \mathcal{A}}S_{ijk} \neq \emptyset \end{align*} 今任意の$j,k$に対して$S_{ijk} \in \mathcal{A}$なる$i$が存在することから、 \begin{align*} \bigcap_{k=1}^{\infty}B_k=\bigcap_{j,k=1}^{\infty}A_{jk}\supset \bigcap_{S_{ijk} \in \mathcal{A}}S_{ijk} \neq \emptyset \end{align*} となるので、$\mathcal{T}$はコンパクト族である。□

半代数

次に、完全加法族よりも弱いクラスである半代数を定義します。半代数上の有限加法的集合関数は、有限加法族上の有限加法的測度に拡張できます。

定義3.1
集合$X$の部分集合族$\mathcal{S}$が次の条件を満たすとき、$\mathcal{S}$を半代数(semi-algebra)という。
(1) $\emptyset,X \in \mathcal{S}$
(2) $A,B \in \mathcal{S}$ならば、$A\cap B \in \mathcal{S}$
(3) $A,B \in \mathcal{S}$ならば、 \begin{align*} A \backslash B=\sum_{j=1}^nS_j,~~S_i \cap S_j=\emptyset~(i \neq j) \end{align*} なる$S_j \in \mathcal{S}~(S_1,S_2,\cdots)$が存在する。

補題3.2
$\mathcal{S}$を集合$X$上の半代数とすると、 \begin{align*} \{S_1+ \cdots + S_n|S_1,\cdots,S_n \in \mathcal{S},~S_i \cap S_j=\emptyset(i \neq j)\} \end{align*} は$\mathcal{S}$を含む最小の有限加法族である。

(証明) \begin{align*} \mathcal{F}=\{S_1+ \cdots + S_n|S_1,\cdots,S_n \in \mathcal{S},~S_i \cap S_j=\emptyset(i \neq j)\} \end{align*} の有限加法性を示せばよい。
(i) $\emptyset,X \in \mathcal{F}$は明らかである。
(ii) $A=S_1+ \cdots + S_n \in \mathcal{F}$とすると、 \begin{align*} A^c={S_1}^c \cap \cdots \cap {S_n}^c \end{align*} であるが、定義10.8(3)より各${S_i}^c \in \mathcal{F}$だから、(2)より$A^c \in \mathcal{F}$である。
(iii) $A,B \in \mathcal{F}$とし、 \begin{align*} A=S_1+ \cdots + S_n,~S_1,\cdots,S_n \in \mathcal{S},~B=T_1+\cdots+T_m~~S_i,T_i \in \mathcal{S} \end{align*} とおくと、 \begin{align*} A\cap B=\sum_{i,j}S_i \cap T_j \in \mathcal{F} \end{align*} だから(ii)と合わせて、 \begin{align*} A\cup B=(A^c \cap B^c)^c \in \mathcal{F} \end{align*} を得る。□

命題3.3
$\mathcal{S}$を集合$X$上の半代数とし、$m:\mathcal{S}\to [0,\infty]$が
(i) $m(\emptyset)=0$
(ii) $A,B,A\cap B \in \mathcal{S},~A\cup B=\emptyset~\Longrightarrow~m(A+B)=m(A)+m(B)$
を満たすとする。この時、$m$は$\mathcal{S}$を含む最小の有限加法族$\mathcal{F}$上の有限加法的測度$\mu$に拡張できる。

(証明) 上の補題により、$\mathcal{F}$の元は$A = S_1+ \cdots + S_n,~S_1,\cdots,S_n \in \mathcal{S},~S_i \cap S_j=\emptyset(i \neq j)$の形に表示できるので、これに対して \begin{align*} \mu(A)=\sum_{j=1}^nm(S_j) \end{align*} と定める。これがwell-definedであることを示そう。$A = S_1’+ \cdots + S_m’$を別な表示とすると、 \begin{align*} \sum_{j=1}^nm(S_j)=\sum_{j=1}^n\sum_{i=1}^nm(S_j\cap S_i’)=\sum_{i=1}^mm(S_j’) \end{align*} だから、$\mu$はwell-definedである。さらに定義から$\mu$は明らかに有限加法的だから、これが$m$の$\mathcal{F}$への拡張である。□

さらに、この拡張された$\mu$は適切な条件の下で完全加法的になります。

命題3.4
(1) $\mathcal{F}$を集合$X$上の有限加法族とし、$\mu$を$\mathcal{F}$上の有限加法的測度で$\mu(X)<\infty$なるものとする。この時、$\mathcal{K} \subset \mathcal{F}$なるコンパクト族$\mathcal{K}$が存在して、 \begin{align*} \mu(A)=\sup\{\mu(K);K \in \mathcal{K},K\subset A\}~(A \in \mathcal{F}) \end{align*} が成り立つならば、$\mu$は完全加法的である。
(2) $\mathcal{S}$を集合$X$上の半代数とし、$m:\mathcal{S}\to [0,\infty]$が命題3.3の条件および$m(X)<\infty$を満たすものとする。この時、$\mathcal{K} \subset \mathcal{S}$なるコンパクト族$\mathcal{K}$が存在して、 \begin{align*} m(A)=\sup\{m(K);K \in \mathcal{K},K\subset A\}~(A \in \mathcal{S}) \end{align*} が成り立つとならば、命題3.3の$\mu$は完全加法的である。

(証明) (1)命題0.2により、$A_n \in \mathcal{B}$が単調減少で$\displaystyle \lim_{n \to \infty}A_n=\emptyset$とするとき、$\displaystyle \lim_{n\to \infty}\mu(A_n)=0$となることを示せばよい。
仮定より、 \begin{align*} K_n \in \mathcal{K},~K_n \subset A_n,~\mu(K_n)+\frac{\epsilon}{2^n}\geq \mu(A_n) \end{align*} なる$K_n$が存在する。この時 \begin{align*} \bigcap_{n=1}^\infty C_n\subset \bigcap_{n=1}^\infty A_n=\emptyset \end{align*} であることから、$\mathcal{K}$のコンパクト性より、 \begin{align*} \bigcap_{n=1}^N K_n=\emptyset \end{align*} なる番号$N$が存在する。よって、$n \geq N$に対して、 \begin{align*} A_n=\bigcap_{j=1}^nA_n \backslash \bigcap_{j=1}^nK_n\subset \bigcup_{j=1}^n (A_n \backslash K_n) \end{align*} であるから、 \begin{align*} \mu(A_n) \leq \sum_{j=1}^n \mu(A_n \backslash K_n)=\sum_{j=1}^n \{\mu(A_n)-\mu(K_n)\} \leq \sum_{j=1}^n \frac{\epsilon}{2^n}\leq\epsilon~~(n \geq N) \end{align*} $\epsilon>0$は任意だから$\mu(A_n) \to 0~(n \to \infty)$を得る。
(2) (1)より、 $\mathcal{K}’ \subset \mathcal{F}$なるコンパクト族$\mathcal{K}’$が存在して、 \begin{align*} \mu(A)=\sup\{\mu(K);K \in \mathcal{K}’,K\subset A\}~(A \in \mathcal{F}) \end{align*} が成り立つことを示せばよい。 \begin{align*} \mathcal{K}’=\{K_1\cup \cdots \cup K_n|K_1,\cdots,K_n \in \mathcal{K}\} \end{align*} とおくと、これは補題10.6で定まるコンパクト族に含まれるから、$\mathcal{K}’$もコンパクト族である。さらに、$\displaystyle A=\sum_{j=1}^n S_j\in \mathcal{F}~(S_j \in \mathcal{S}),\epsilon>0$に対し、 \begin{align*} m(S_j)\leq m(K_j)+\frac{\epsilon}{2^j},~K_j \in \mathcal{K}, K_j\subset S_j \end{align*} となる$K_j$をとり、$\displaystyle K=\sum_{j=1}K_j$とおけば、 \begin{align*} \mu(A)\leq \mu(K)+\epsilon,~K \in \mathcal{K}’,K \subset A \end{align*} で$\epsilon>0$は任意だから、 \begin{align*} \mu(A)=\sup\{\mu(K);K \in \mathcal{K}’,K\subset A\} \end{align*} が従う。□

Kolmogorovの拡張定理

以上の準備の下で、Kolmogorovの拡張定理が証明できます。柱状集合全体$\mathcal{C}$が半代数となり、定理の仮定より$\mathcal{C}$上では有限加法的な確率測度が定義できるので、上の命題3.4とHopfの拡張定理を使ってそれを$\sigma(\mathcal{C})$上の確率測度に拡張するというのが証明の流れです。

定理4.1(Kolmogorovの拡張定理)
$(X_i,\mathcal{B}_i)_{i \in I}$を空でない可測空間の族とし、有限集合$F \in I$に対し$\mathcal{B}_F$上の確率測度$P_F$が定まっていて、次の条件を満たすとする。
(1) (一致条件) 任意の有限集合$F \subset G \subset I$に対して、 \begin{align*} P_F(A)=P_G\circ \pi_{G,F}^{-1}(A)=P_G(A \times X_{G\backslash F}) \end{align*} となる。ただし、$\pi_{G,F}$は$X_G$から$X_F$への射影である。
(2) 任意の$i \in I$に対して、$\mathcal{K}_i \subset \mathcal{B}_i$なるコンパクト族$\mathcal{K}_i$が存在して、 \begin{align*} P_i(A)=\sup\{P_i(K);K \in \mathcal{K}_i,K\subset A\}~(A \in \mathcal{B}_i) \end{align*} が成り立つ。ただし、$P_i=P_{\{i\}}$である。
この時、$\displaystyle \mathcal{B}=\bigotimes_{i \in I}\mathcal{B}_i$上の確率測度$P$で、任意の有限集合$F\subset I$に対して、 \begin{align*} P_F(A)=P\circ \pi_{I,F}^{-1}(A)=P_G(A \times X_{I\backslash F})~(A \in \mathcal{B}_F) \end{align*} となるものが一意的に存在する。

(証明) (存在) $\mathcal{C}$を柱状集合全体とし、 \begin{align*} &A_1\times \cdots \times A_n \times X_{I \backslash F} \in \mathcal{C}~(F=\{i_1,\cdots,i_n\}\subset I,~A_k \in \mathcal{B}_{i_k}) \end{align*} に対して、 \begin{align*} P(A_1\times \cdots \times A_n \times X_{I \backslash F})=P_F(A_1\times \cdots \times A_n) \end{align*} と定める。一致条件によりこれはwell-definedである。この時$\mathcal{C}$が半代数、$P$が$\mathcal{C}$上で有限加法的であり、さらに$\mathcal{K} \subset \mathcal{C}$なるコンパクト族$\mathcal{K}$が存在して、 \begin{align*} (*)~~P(A)=\sup\{P(K);K \in \mathcal{K},K\subset A\}~(A \in \mathcal{C}) \end{align*} と書けることを順に示そう。これを示せば、命題3.4(2)により$P$は$\mathcal{C}$を含む最小の有限加法族上の完全加法的な有限加法測度に拡張され、したがってHopfの拡張定理により$\mathcal{B}=\sigma(\mathcal{C})$上の確率測度に拡張されることが従う。
$\mathcal{C}$が半代数であること:$\emptyset,X \in \mathcal{C}$は定義より明らかである。また、 \begin{align*} &A=A_1\times \cdots \times A_n \times X_{I \backslash F} \in \mathcal{C}~(F=\{i_1,\cdots,i_n\}\subset I,~A_k \in \mathcal{B}_{i_k})\\ &B=B_1\times \cdots \times B_m \times X_{I \backslash G} \in \mathcal{C}~(G=\{j_1,\cdots,j_m\}\subset I,~A_k \in \mathcal{B}_{j_k}) \end{align*} とすると、 \begin{align*} A\cap B=\prod_{i \in F \cap G}(A_i \cap B_i)\times \prod_{i \in F \backslash G}A_i \times \prod_{i \in G \backslash F}B_i\times X_{I \backslash F \cup G}\in \mathcal{C} \end{align*} またこれより、 \begin{align*} A\backslash B=A \cap B^c =A \cap ({B_1}^c\times \cdots \times B_m \times X_{I \backslash G}+\cdots+B_1\times \cdots \times {B_m}^c \times X_{I \backslash G}) \end{align*} は$\mathcal{C}$の元の有限個の直和であるから、$\mathcal{C}$が半代数であることが従う。
$\mathcal{P}$の有限加法性: \begin{align*} \mathcal{F}=\{A \times X_{I \backslash F}|F \subset I:有限集合, A \in \mathcal{B}_F\} \end{align*} とし、有限集合$F \subset I,A \in \mathcal{B}_F$に対し、 \begin{align*} P(A \times X_{I \backslash F})=P_F(A) \end{align*} とおくと、これは$P$の$\mathcal{F}$上への拡張になっているから、$\mathcal{F}$上での有限加法性を示せばよい。まず$P(\emptyset)=0$は明らかであり、また、有限集合$F,G$に対し、 \begin{align*} A’=A \times X_{I \backslash F},B’=B \times X_{I \backslash G} \in \mathcal{F},A’ \cap B’=\emptyset \end{align*} とおけば、 \begin{align*} A’ + B’=(A \times X_{F \backslash G}+B \times X_{G \backslash F})\times X_{I \backslash (F\cup G)} \in \mathcal{F} \end{align*} であり、 \begin{align*} P(A’+B’)&=P_{F\cup G}(A \times X_{F \backslash G}+B \times X_{G \backslash F})\\ &=P_{F\cup G}(A \times X_{F \backslash G})+P(B \times X_{G \backslash F})\\ &=P_{F}(A)+P_G(B)=P(A’)+P(B’) \end{align*} だから$P$は有限加法的である。
$(*)$を満たすコンパクト族$\mathcal{K}$の存在:まず、 \begin{align*} \mathcal{K}^0=\{K \times X_{I \backslash \{i\}}|i \in I,K \in \mathcal{K}_i\} \end{align*} がコンパクト族であることを示そう。$\{K_n \times X_{I \backslash {i_n}}\}_{n=1}^\infty$を$\mathcal{K}^0$の加算部分集合で、共通部分を持たないものとする。この時、 \begin{align*} Q_i=\begin{cases} \displaystyle \bigcap_{j:i_j=i_n}K_j & (i=i_1,i_2,\cdots)\\ X_i &(その他) \end{cases} \end{align*} と定めると、 \begin{align*} \prod_{i\in I}Q_i=\bigcup_{n=1}^\infty {K_n \times X_{I \backslash {i_n}}}=\emptyset \end{align*} だから、$Q_i=\emptyset$なる$i \in I$が存在する。各$X_i$は空でないから、ある$i_n$に対して$\displaystyle Q_{i_n}=\bigcap_{j:i_j=i_n}K_j=\emptyset$であり、$\mathcal{K}_{i_n}$のコンパクト性から$\{K_{j}|i_j=i_n\}$は有限交叉性を持たない。よってある番号$N$が存在して$\displaystyle \bigcup_{n=1}^\infty {K_n \times X_{I \backslash {i_n}}}=\emptyset$となるから、$\mathcal{K}^0$はコンパクト族である。
次に、$\mathcal{K}^1$を$\mathcal{K}^0$から補題2.3の方法で構成されるコンパクト族とし、$\mathcal{K}=\mathcal{C}\cup \mathcal{K}^1$とおく。$K_1$はコンパクト族であるから、$\mathcal{K}$もコンパクト族であることに注意する。この$\mathcal{K}$が条件を満たすことを示そう。
$F \subset I$を空でない有限集合とし、 \begin{align*} A=\prod_{i \in F}A_i \times X_{I \backslash F} \in \mathcal{C} \end{align*} とおく。$\epsilon>0$に対し、 \begin{align*} K_i \subset A_i,K_i \in \mathcal{K}_i,P(A_i)\leq P(K_i)+\frac{\epsilon}{|F|}~(i \in F) \end{align*} なる$K_i$をとり、 \begin{align*} K=\prod_{i \in F}K_i \times X_{I \backslash F}=\bigcap_{i \in \mathcal{F}}K_i \times X_{I \backslash \{i\}} \end{align*} とすると$K_i \times X_{I \backslash \{i\}} \in \mathcal{K}_0$で$\mathcal{K}_1$は有限個の共通部分について閉じているから、$K \in \mathcal{K}_1$である。これと$K \in \mathcal{C}$により$K \in \mathcal{K}$である。また、 \begin{align*} P(A \backslash K)&=P\left(\sum_{i \in F}\left(A_i \backslash K_i\times \prod_{j \in F \backslash \{i\}}A_j\times X_{I \backslash F}\right)\right)\\ &=\sum_{i \in F}P_F\left(A_i \backslash K_i\times \prod_{j \in F \backslash \{i\}}A_j\right)\\ &\leq \sum_{i \in F}P_F\left(A_i \backslash K_i\times X_{F\backslash \{i\}}\right) =\sum_{i \in F}P_{i}\left(A_i \backslash K_i\right)\\ &=\sum_{i \in F}\{P_{i}\left(A_i\right)-P_{i}\left(K_i\right)\}\\ &\leq \sum_{i \in F}\frac{\epsilon}{|F|}=\epsilon \end{align*} で$\epsilon>0$は任意だから、$(*)$が成り立つ。
以上より、$P$が$\mathcal{B}$上の確率測度に拡張できることが示された。
(一意性) 条件は満たす$P$は、上で定めた$\mathcal{C}$上における確率測度の拡張でなければならず、この一意性はHopfの拡張定理から従う。□

完備可分距離空間の場合

各$X_i$が完備かつ可分な距離空間ならば、上の定理の(2)の条件は不要になります。

定義5.1
$(X,\mathcal{O})$を位相空間、$\mathcal{B}(X)=\sigma(\mathcal{O})$を$X$のBorel集合族とし、$P$を$\mathcal{B}(X)$上の確率測度とする。
(1) 任意の$A \in \mathcal{B}(X)$および$\epsilon>0$に対して、ある閉集合$F$および開集合$G$が存在して、 \begin{align*} F \subset A \subset G,~P(G-F)<\epsilon \end{align*} が成り立つとき、$P$は正則(regular)であるという。
(2) 任意の$\epsilon>0$に対して、あるコンパクト集合$K \in \mathcal{B}(X)$が存在して \begin{align*} P(K)>1-\epsilon \end{align*} が成り立つとき、$P$は緊密(tight)であるという。
(もし$X$がハウスドルフ空間ならば、コンパクト集合$K$は閉集合であり、常に$\mathcal{B}(X)$に属します。)

$S$が完備可分距離空間ならば、$\mathcal{B}(S)$上の確率測度は正則かつ緊密になります。

命題5.2
$(S,d)$を距離空間とし、$P$を$\mathcal{S}=\mathcal{B}(S)$上の確率測度とする。この時、次が成り立つ。
(1) $P$は正則である。
(2) Sが完備かつ可分ならば、$P$は緊密である。

(証明) \begin{align*} B(x,r)=\{y \in S|d(x,y)< r\},~\overline{B}(x,r)=\{y \in S|d(x,y)\leq r\} \end{align*} とする。
(1)\begin{align*} \mathcal{G}=\{A \in \mathcal{S}|F \subset A \subset G,~P(G-F)<\epsilon なる閉集合F，開集合Gが存在する\} \end{align*} とおき、$\mathcal{S}\subset \mathcal{G}$を示せばよい。まず$A$が閉集合の時は$F=A$とすればよく、また \begin{align*} G_n=\{x \in S|d(x,A)<1/n\}=\bigcup_{a \in A}\{x \in S|d(x,a)<1/n\} \end{align*} とおけば$A$が閉集合であることから$\displaystyle \bigcap_{n=1}^\infty G_n=\overline{A}=A$である。よってある番号$N$が存在して$P(G_N)=P(A)+\epsilon$となり、$G_N$は開集合であるから$G=G_N$とすれば条件を満たす。以上より、任意の閉集合が$\mathcal{G}$に含まれることが示された。
次に、$\mathcal{G}$が完全加法族であることを示そう。
(i) $\emptyset \in \mathcal{G}$は明らか。
(ii) $A \in \mathcal{G}$とし、$F \subset A \subset G,P(G-F)<\epsilon$ なる閉集合$F$，開集合$G$をとると、$G^c \subset A^c \subset F^c$で$P(F^c-G^c)=P(F^c\cap G)=P(G-F)<\epsilon$だから$A^c \in \mathcal{G}$である。
(iii) $A_1,A_2, \cdots \in \mathcal{G}$とし、$\epsilon>0$に対して$\displaystyle F_j \subset A_j \subset G_j,P(G_j-F_j)<\frac{\epsilon}{2^{j+1}}$なる閉集合$F_j$，開集合$G_j$をとり、 \begin{align*} A=\bigcup_{j=1}^\infty A_j,~F=\bigcup_{j=1}^N F_j,~G=\bigcup_{j=1}^\infty G_j \end{align*} とおく。ここで、$N$は \begin{align*} P\left(\bigcup_{j=1}^\infty F_j\right)-P\left(\bigcup_{j=1}^N F_j\right)<\frac{\epsilon}{2} \end{align*} なる番号$N$である。この時$F$は閉集合、$G$は開集合であり、 \begin{align*} P(G-F)&=P\left(\bigcup_{j=1}^\infty G_j-\bigcup_{j=1}^\infty F_j\right) +P\left(\bigcup_{j=1}^\infty F_j-\bigcup_{j=1}^N F_j\right)\\ &\leq P\left(\bigcup_{j=1}^\infty (G_j-F_j)\right)+\frac{\epsilon}{2}\leq \sum_{j=1}^\infty \frac{\epsilon}{2^{j+1}}+\frac{\epsilon}{2}=\epsilon \end{align*} 以上より$\mathcal{G}$は閉集合全体を含む完全加法族だから$\mathcal{S}\subset \mathcal{G}$を得る。
(2) $\{x_1,x_2,\cdots\}$を$S$の稠密部分集合とし、$\epsilon>0,k=1,2,\cdots$に対し、 \begin{align*} P\left(\bigcup_{j=1}^{n_k}\overline{B}\left(x_j,\frac{1}{k}\right)\right)>1-\frac{\epsilon}{2^k} \end{align*} なる$n_k$をとる。この時、 \begin{align*} K=\bigcap_{k=1}^\infty\bigcup_{j=1}^{n_k}\overline{B}\left(x_j,\frac{1}{k}\right) \end{align*} とすると、これは閉集合ゆえに完備で、さらに全有界だからコンパクトであり、 \begin{align*} P(K^c)&=P\left(\bigcup_{k=1}^\infty\bigcap_{j=1}^{n_k}\overline{B}\left(x_j,\frac{1}{k}\right)^c\right)\\ &\leq \sum_{k=1}^\infty P\left(\bigcap_{j=1}^{n_k}\overline{B}\left(x_j,\frac{1}{k}\right)^c\right) \leq \sum_{k=1}^\infty \frac{\epsilon}{2^k}=\epsilon \end{align*} よって$P$は緊密である。□

命題5.3
$(S,d)$を完備可分距離空間とし、$P$を$\mathcal{B}(S)$上の確率測度とする。この時任意の$A \in \mathcal{B}(S)$に対して、 \begin{align*} P(A)=\sup\{P(K)|K \subset A,K:コンパクト\} \end{align*} が成り立つ。

(証明) $A \in \mathcal{B}(S)$とする。仮定より$P$は緊密かつ正則であるから、任意の$\epsilon>0$に対して \begin{align*} P({K_0}^c)<\frac{\epsilon}{2},~P(A\backslash F)<\frac{\epsilon}{2} \end{align*} なるコンパクト集合$K_0$および閉集合$F \subset A$が存在する。この時$K=K_0 \cap F(\subset A)$とおけば、これはコンパクト集合の閉部分集合だからコンパクト集合であり、 \begin{align*} P(A \backslash K)\leq P(A \backslash K_0)+P(A \backslash F)\leq P({K_0}^c)+P(A \backslash F)<\epsilon \end{align*} $\epsilon>0$は任意だから、示すべきことを得る。□

例2.2、定理4.1、命題5.3により次の結果を得ます。

系5.4
$S_i~(i\in I)$を完備可分距離空間とし、有限集合$F \subset I$に対して$P_F$を$\mathcal{B}(S_F)$上の確率測度とする。さらに定理4.1(1)の一致条件が成り立つならば、$\displaystyle \mathcal{B}=\bigotimes_{i \in I}\mathcal{B}_i$上の確率測度$P$で、任意の有限集合$F\subset I$に対して、 \begin{align*} P_F(A)=P\circ \pi_{I,F}^{-1}(A)=P_G(A \times X_{I\backslash F}) \end{align*} となるものが一意的に存在する。