2.3 Statistics and Subfields

• \((\mathcal{X}, \mathcal{A})\),
  • measurable sp.
• \((\mathcal{T}, \mathcal{B})\),
  • measurable sp.
• $T: \mathcal{X} \rightarrow \mathcal{T}$
  • 可測写像
  • この本では、statistic(統計量)という

\[\begin{equation} \mathcal{A}_{0} := T^{-1}(\mathcal{B}) = \{ T^{-1}(B) \mid B \in \mathcal{B} \} \label{chap02_15} \end{equation}\]

$T$が全射ならば、

\[\begin{equation} \forall B \in \mathcal{B}, \ T \circ T^{-1}(B) = B \label{chap02_16} \end{equation}\]

である。 $T$が単射であるとする。 $\mathcal{T}^{\prime} := T(\mathcal{X}) \subsetneq \mathcal{B}$とおくと、

• \(\mathcal{X} := (a, b) \subseteq \mathbb{R}\),
• \(\mathcal{A}\),
  • boreal sets of $(a, b)$
• \(\mathcal{B}\),
  • boreal sub sets
• \(T(x) := x^{2}\),
• \(\mathcal{A}_{0} = \mathcal{X} \cap [0, \infty)\),

Lemma 2.3.1

• \((\mathcal{X}, \mathcal{A})\),
  • measurable sp.
• \((\mathcal{T}, \mathcal{B})\),
  • measurable sp.
• $T: \mathcal{X} \rightarrow \mathcal{T}$
  • $\mathcal{B}$ measurable
• \(T^{-1}(\mathcal{B}) =: \mathcal{A}_{0}\),
• $f: \mathcal{A} \rightarrow \mathbb{R}$
  • $\mathcal{A}$ measurable function

このとき、以下は同値

• (1). $f$が$\mathcal{A}_{0}$ measurable
• (2). ある$\mathcal{B}$ measurable function $g$が存在して、

\[\forall x \in \mathcal{X}, \ f(x) = g(T(x))\]

■

proof.

$\Box$

Lemma 2.3.2

• \((\mathcal{X}, \mathcal{A})\),
  • measurable sp.
• \((\mathcal{T}, \mathcal{B})\),
  • measurable sp.
• $T: \mathcal{X} \rightarrow \mathcal{T}$
  • $\mathcal{B}$ measurable
• $\mu$
  • $\sigma$ finite measure over $(\mathcal{X}, \mathcal{A})$
• $\mu^{*}$
  • measure over $(\mathcal{T}, \mathcal{B})$
• $g: \mathcal{A} \rightarrow \mathbb{R}$
  • $\mathcal{A}$ measurable function

このとき

\[\begin{equation} B \in \mathcal{B}, \ \mu^{*}(B) = \mu(T^{-1}(B)) \label{chap2_17} \end{equation}\]

とすると、以下の積分が定義できるかぎりにおいて以下が成り立つ。

\[\begin{equation} B \in \mathcal{B}, \ \int_{T^{-1}(B)} g(T(x)) \ d \mu(x) = \int_{B} g(t) \ d \mu^{*}(x) \label{chap2_18} \end{equation}\]

proof.

$\Box$

2.4 Conditional Expectation and Probability

• $P$
  • probability measure over $(\mathcal{X}, \mathcal{A})$
• $T: \mathcal{X} \rightarrow \mathcal{T}$
  • $\mathcal{B}$ measurable
• $\mathcal{A}_{0}$
  • $T$から誘導されるsigma algebra
• \(f: \mathcal{X} \rightarrow \mathbb{R}_{\ge 0}\),
  • $\mathcal{A}$可測
  • 可積分
• $X: \Omega \rightarrow \mathcal{X}$

定理2.2.3のRadon-Nikodymより、ある関数$f_{0}$が存在して、

\[\begin{equation} \forall A_{0} \in \mathcal{A}_{0}, \ \int_{A_{0}} f \ d P = \int_{A_{0}} f_{0} \ d P \label{chap02_19} \end{equation}\]

となる。 この$f_{0}$は$(\mathcal{A}_{0}, P)$上一意である。

\(\eqref{chap02_19}\)で定義される$f_{0}$は2つの性質を持つ

\[\begin{eqnarray} \mathrm{E} \left[ f(X) \mid t \right] & := & \mathrm{E} \left[ f(X) \mid T = t \right] \nonumber \\ & = & \int_{T^{-1}(t)} f(x) \ d P(x) \nonumber \\ & = & g(t) \end{eqnarray}\] \[\begin{equation} \forall B \in \mathcal{B}, \ \int_{T^{-1}(B)} f(x) \ dP^{X}(x) = \int_{B} g(t) \ dP^{T}(t) \label{chap02_20} \end{equation}\]

$f$が非負でない場合は、以下で定義する。

\[\mathrm{E} \left[ \left. f(X) \right| t \right] := \mathrm{E} \left[ \left. f^{+}(X) \right| t \right] - \mathrm{E} \left[ \left. f^{-}(X) \right| t \right]\]

Example 2.4.1 (Order statics)

• \(X_{1}, \ldots, X_{n}\),
  • \(X:\Omega \rightarrow \mathbb{R}\),
  • i.i.dの$\mathbb{R}$値の確率変数
  • 分布関数は連続
• \(F^{X}\),
  • $X$の分布関数
• $T: \mathbb{R}^{n} \rightarrow \mathbb{R}^{n}$

\[T(X_{1}, \ldots, X_{n}) =: (X_{(1)}, \ldots, X_{(n)})\]

ここで、\(X_{(1)} \le \cdots \le X_{(n)}\)である。 分布が連続だから、確率1で\(X_{(1)} < \cdots < X_{(n)}\)である。 実際、\(c := P(\{\omega \mid X_{(1)}(\omega) = X_{2}(\omega)\}) > 0\)とすると

\[PX^{-1}((-\infty, y]) = P(\{\omega \mid X(\omega) \in (-\infty, y]\}) c > \epsilon > 0, 1 > \forall \delta > 0, F(x) - F(x = \epsilon)\]

$\mathcal{A}_{0} := T^{-1}(\mathcal{B})$とおくと、

ここで、任意の可積分関数$f$について、

\[f_{0}(x) := \frac{1}{n!} \sum_{\sigma \in \mathfrak{S}} f(x_{\sigma(1)}, \cdots, x_{\sigma(n)})\]

とおくと、$f_{0}$は$T(x)$を与えた時の$f(X)$の条件付き期待値となっている。

\[\int_{A_{0}} f(x_{1}, \ldots, x_{n}) \ dP(x_{1}) \cdots P(x_{n}) = \int_{A_{0}} f(x_{\sigma(1)}, \ldots, x_{\sigma(n)}) \ dP(x_{1}) \cdots P(x_{n})\]

■

Lemma 2.4.1

• \(T: \mathcal{X} \rightarrow \mathcal{T}\),
  • $\mathcal{B}$ measurable
• $f, g$
  • integrable

このとき以下が成立.

1.

\[\mathrm{E} \left[ a f(X) + bg(X) \mid t \right] = a \mathrm{E} \left[ f(X) \mid t \right] + b \mathrm{E} \left[ g(X) \mid t \right]\]

2.

\[\mathrm{E} \left[ h(X) f(X) \mid t \right] = h(t) \mathrm{E} \left[ f(X) \mid t \right]\]

3.

\[a \le f(x) \le b \Rightarrow a \le \mathrm{E} \left[ f(X) \mid t \right] \le b\]

4.

\[|f_{n}| \le g, f_{n}(x) \rightarrow f(x)\ (n \rightarrow \infty) \Rightarrow \mathrm{E} \left[ f_{n}(X) \mid t \right] \rightarrow \mathrm{E} \left[ f(X) \mid t \right]\]

proof.

$\Box$

Notationについての注意。

\[\mathrm{E}^{P^{X}} \left[ af + bg \right] = \int_{\mathcal{X}} af(x) + bg(x) \ dP^{X}(\omega)\] \[\mathrm{E} \left[ af(X) + bg(X) \right] = \int_{\Omega} a f(X(\omega)) + b g(X(\omega)) \ dP(\omega)\]

Lemma 2.4.2

\(\mathrm{E} \left[ |f(X)| \right] < \infty\), で\(g(t):= \mathrm{E} \left[ \left. f(X) \right| t \right]\)とすると

\[\mathrm{E} \left[ f(X) \right] = \mathrm{E} \left[ g(T) \right]\]

である。 つまり、conditional expectationの期待値と一致する.

proof.

$\Box$

Notationについて、

\[\mathrm{E}^{P^{X}} \left[ f \right] = \mathrm{E}^{P^{X}} \left[ g(T) \right]\]

である。

\[\begin{equation} P^{X}(A \mid T = t) := \mathrm{E}^{P^{X}} \left[ 1_{A}(\cdot) \mid T = t \right] \label{chap02_22} \end{equation}\]