確率統計

対角公式、抽象シグマ代数

次のどうってない公式が、実は重要だと気付いた。 For A, B⊆X, Δ-1(A×B) = A∩B (対角公式) 積事象が、A×B か A∩B かが不明なのは、この公式で同一視しているからだろう。A, B を可測空間Xの事象〈可測集合〉(シグマ代数の要素)だとして考えると次の可換…

ノイズとノイズフリー

決定性/シャープと同義語にノイズフリー〈無雑音〉がある。無雑音関数は決定性関数。ノイズ入り関数〈noised function〉は非決定性/アンシャープ関数。

確率圏

Stock = MeasStock : Meas上のジリィモナドのクライスリ圏 SBorelStock = PolStock : 標準ボレル空間〈ボーランド空間〉上のジリィモナドのクライスリ圏、フリッツはBorelStock CGStock = CGMeasStock: 可算生成可測空間上のジリィモナドのクライスリ圏 F…

測度的微分形式=測度形式 の過去記事と用語

測度的積分核と随伴構造 - 檜山正幸のキマイラ飼育記 (はてなBlog) ライプニッツの微分記法とアインシュタインの総和規約を測度に使ってみる - 檜山正幸のキマイラ飼育記 (はてなBlog) 用語法: 測度的積分核 =>(短縮) 測度核 確率測度核 =>(別名) マルコフ…

母集団と確率変数と同時分布の例

Pは人の集まりで、“無作為な”標本抽出の確率分布μが載っている。3つの確率変数を、 そのときの年齢 a:P→N 身長 h:P→R 男女の別 g:P→{男, 女} として、同時確率変数 <a, h>, <a, g>, <h, g>, <a, h, g> などを考える。同時確率分布(無作為抽出測度の前送り)、部分周辺化=条件周辺化、</a,></h,></a,></a,>…

条件付け〈conditioning〉の3つの意味

同義語 同時 = 積空間上の 例:同時分布 = 積空間上の分岐 = 積空間上の測度 周辺 = 積空間の因子空間上の 条件付け〈conditioning〉/条件付き確率とは: 同時確率分布を、周辺事象で条件付けて、周辺確率分布を作ること。そうやって作った周辺確率分布…

基本概念の対応関係:確率、分布、積事象

確率の話 有限集合の話 測度論 全事象 有限集合 X 集合 X (暗黙) ベキ集合 Pow(X) シグマ集合代数 ΣX (暗黙) (暗黙) 測度空間 (X, ΣX) 事象 Xの部分集合 A∈Pow(X) 可測集合 A∈ΣX 確率 確率加法的関数 μ 確率測度 μ 同義語と省略 分布 = 測度 例:質量分布 …

測度による被覆と分割

Xが可測空間で、(Ai | i∈I) = λi(Ai) がXの可測集合の族とする。各Ai上に測度μiが載っていて、 λi(Ai) が被覆のとき、λi(Ai, μi) を測度被覆と呼ぶ。 測度被覆であって、各 i, j∈I に対して Ai∩Aj は μi でも μj でもゼロ集合のとき測度分割〈measure partit…

人名形容詞と確率論理とシャープネス定理とボレル☓☓☓

マルコフ {圏 | 射 | 核} ボレル {{関数 | 写像} | {部分}?集合 | {可測}?空間 | 関手} チャップマン/コルモゴロフ {公式 | 結合} ディラック {測度 | 関手} ブール {{真偽}?値 | {代数 | 束} | 論理} ベイズ {{修飾 | デコレーション} | 転置 | 反転 } ク…

置換体圏と置換体対象

permutex と permuticial object を定義する。permutex, permuticial は造語だが、simpl-ex, simpl-icial と合わせた。日本語は、置換体と置換体的。対象を {}, {1}, {1, 2} などである圏を考える。射の生成系は写像の集まりで、τni,j と ρn : For given n∈…

マルコフ圏の射

マルコフ圏と統合確率論 - (新) 檜山正幸のキマイラ飼育記 メモ編 で出した語を正規表現でまとめる。ゴルブツォフの用語も追加。 {stochastic | probabilistic} {map | mapping | kernel | relation | matrix} Markov {kernel | matrix} transition {probabi…

確率バンドルと凸結合

AとBが確率空間で、台集合〈標本空間〉の全射 p:A→B があって、ファイバーがなんらかの意味で確率空間になっているとき、確率バンドルと呼ぶ。底空間Bが離散有限であるとき、確率バンドルは、有限個の確率空間のアフィン凸結合になる。エントロピーは、確率…

不確定性に関わるモナド

総称としては不確定性モナド〈uncertainty monad〉がいいかな。 ジリィ・モナド〈Giry monad〉 ラドン・モナド〈Radon monad〉 カントロビッチ・モナド〈Kantorovich monad〉 順序カントロビッチ・モナド〈ordered Kantorovich monad〉 ダイクストラ・モナド…

統合確率論の統合性

個々の対象や射の構成と調査はしない。非分析的、非構成的。 より公理的だが、公理がマクロスコピック。 めぼしい性質を証明しないで要請する。 応用のための基礎を、より平易で使いやすい形で提供する。 圏論と相性がよい。 一方で、構成的アプローチとして…

マルコフ圏と統合確率論

デカルト的={決定性〈deteministic〉 | 確定性〈distinct | definite | certain〉} マルコフ的={非決定性〈non-deteministic〉 | 非確定性〈uncertain | {un | in}definite | {un | in | non-}distinct〉} デカルト圏 ⊆ マルコフ圏 さらに同義語 デカルト…

マルコフ圏

"A synthetic approach to Markov kernels, conditional independence and theorems on sufficient statistics" Tobias Fritz (https://arxiv.org/pdf/1908.07021.pdf )から: Cho and Jacobs call them affine CD-categories, where “CD” stands for “Cop…

マルコフ圏につながる自分の記事 追加

2008: イジング模型とポッツ模型のどえらく簡単な例 20013: 確率の勉強をしようかな 20014: 質点系の重心、形式的凸結合のモナド 20015内順不同: 測度的積分核と随伴構造 「確率変数」と言うのはやめよう 「分布、測度、密度」は同じか違うか まだ「確率…

マルコフ圏につながる自分の記事

2014: 何故にあえて確率を学ぶのか? 2017内順不同: 余可換コモノイド・モダリティ事件の解説 確率的推論・判断の計算法:マルコフ・テンソル絵算 同時確率分布の圏の使用例:超具体的 同時確率分布の圏 ライプニッツの微分記法とアインシュタインの総和規…

学習と予測と推定

https://toukeigaku-jouhou.info/2018/02/17/difference-between-estimator-and-estimate/ から: 標本から得た統計量をもとに、母集団のパラメータを推定するとき、標本の統計量のことを、推定量といいます。 推定量は確率変数です。 実際にデータを観測し…

ワルドの枠組みの再整理

過去記事は、「ワルドの枠組みと機械学習」。チャンネル理論的に整理する。 吉田本 檜山 標本空間 Χ〈ギリシャ文字〉 観測値空間 X〈ラテン文字〉 決定空間 D 結果空間 D 確率分布族 P データの非確定性モデル P パラメータ空間 Θ パラメータ空間 Θ 決定関数…

確定性と非確定性

可能性 確率 決定性 確定性 非決定性 非確定性 ↑は、名詞にも形容詞にも使う。 確定性〈certain | definite | distinct〉(形容詞)の同義語: 非確率的、非ランダム、クリスプ、シャープ、クリアー 非確定性〈uncertain | {un | in}definite | {un | in}dis…

チャンネル理論とデータベースと符号理論

アナロジーがあるが、まだ前々未整理。 チャンネル理論 データベース 符号理論 可測空間 集合 有限集合 値の可測空間 ドメイン 有限体 事象の可測空間 実体 有限集合 状態 状態 符号 述語 述語 双対符号 [0, 1]区間 1 2 チャンネル 関係 チャンネル 直積 直…

チャンネル理論

ジェイコブスのチャンネル理論の枠組みで、 有限集合のチャンネル理論 実アフィン空間とガウス分布のチャンネル理論 多様体のチャンネル理論 有限アフィン空間のチャンネル理論 を定式化したい。有限アフィン空間のチャンネル理論は線形符号理論になるはず。…

シグマ(Σ)はかぶる

かぶる記号 - (保存用) 檜山正幸のキマイラ飼育記 メモ編でも書いたが、Σはかぶる。 総和のΣ アルファベットのΣ 指標のΣ シーケントのΣ(Γ, Δなどと共に用いられる) n次対称群はΣn そして、分散・共分散行列もΣ

用語爆発の理由

ひとつの理由は関連諸分野の用語がなだれ込むこと。もうひとつは、意味論的用語と構文論的用語があり、それが一旦は区別されるが、後で混同混用されるから。 コンセプトのラベル → コンセプトとラベルが混同混用される(以下同様) クラスの{番号 | インデッ…

チャンネルと決定性/シャープネス

X, Yなどは集合として、 Map(X, Y) -- XからYへの写像の全体 Chan(X, Y) -- XからYへのチャンネルの全体 State(X) -- X上の状態の全体 Vect(X) -- Xから生成された自由ベクトル空間 R[X]1 → http://m-hiyama.hatenablog.com/entry/2019/02/18/113524#id2019_…

効果論理

効果はeffectのこと。区間[0, 1]を真偽値集合と考えての論理演算。 & -- 連言は通常の掛け算 (-)⊥ -- 直交補元、否定に類似 + -- 足し算、制限される 述語の集合を Pred(X) := Map(X, [0, 1]) として、述語にも論理演算を入れる。すると、述語の集合の代数構…

確率推論の基本

確率推論〈Probabilistic Reasoning〉は論理っちゃ論理だが、古典論理などとはだいぶ違う。大きな違いは含意命題がないことだろう。含意の代わりに“条件付き命題”がある。いまここでは、「命題」という言葉を曖昧なままにしている、含意命題と条件付き命題の…

仮説空間 再度

数学的には、集合Aから集合Bへの写像fがあり、f:A→B、(少なくとも)Bには確率分布が載っていて、Bの確率分布は使える状況。このとき、Bに対する呼び名は: 概念空間〈concept〉 仮説空間〈hypothesis〉 パターン空間〈pattern〉 クラス空間〈class〉 行動空…

真相のビックリ度としての相対エントロピー

ベイズ統計構造: 台集合XとX上の確率測度(=確率分布)q、qは真の確率分布で未知。 台集合YとY上の確率測度(=確率分布)r、rは測定値の確率分布。rもそれ程あてにならない。 XからYへの確率変数(=決定性写像で確率測度を保存するもの)f:X→Y, f*(p) = …