確率統計

指標、セオリー、モデル

記号=シンボル=文字=名前=ラベル 代入=割り当て 具体物=具体値=モデル=値 次の正規表現はすべて同じ意味 {記号 | シンボル | 文字 | 名前 | ラベル}に{具体物 | 具体値 | モデル | 値}を{代入する | 割り当てる} {記号 | シンボル | 文字 | 名前 | …

分布・述語〈信念・証拠〉の妥当性とスケーリング

バート・ジェイコブス達の用語・発想に従うとして: 分布〈状態 | 信念〉と述語〈パールのソフト証拠〉に対して2つの演算がある。 これらの演算はマルコフ圏のなかでは遂行できなくて、一時的に外側の準マルコフ圏に飛び出す。前者をスケーリング{演算}?、後…

パラメータ推定のパラメータ

ガウス分布で、 σ v = σ2 a = 1/v = 1/σ2 とかすると、パラメータ空間の変換になる。

許される略記と許されない略記

多プロファイル 成分・書字順 成分・反書字順 成分・カリー化 f: → X f(*, x) f(x | *) f()(x) f: X → f(x, *) f(* | x) f(x)() f: → X, Y f(*, (x, y)) f(x, y | *) f()(x, y) f: X, Y → f(​(x, y), *) f(* | x, y) f(x, y)() f: X → Y f(x, y) f(y | x) f(…

分布と述語の構造

演算の可能性: 分布 述語 点ごとの掛け算 ☓ ◯ 足し算 ☓ △部分的に可能 テンソル積 ◯ ◯ 凸結合 ◯ ◯ max ☓ ◯ min ☓ ◯ 1 -x ☓ ◯ ノルム 積分値=定数1 最大値 移動 前送り 引き戻し 一点台 ディラック分布 一点述語 形容詞: 分布 述語 (形容詞なし) 分布=確…

確率分布

http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/Renshu_0.pdf このテキストでは、確率分布=確率変数による前送り測度。確率変数は、確率空間(の台可測空間)からのRへの可測写像。

ヘミトレース

ヘミトレースは、対称モノイド圏に入るコンビネータ HX,A,Y: C(A, XY) → C(XA, Y) バニシング、タイトニング、スライディング、スーパーポージングはトレースと同じ。ヤンキングに対応する公理をクロッシングとする。 f;HX,XX,X(σX,X) = σA,X;HX,A,X(f) ヘミ…

カントロビッチモナド

http://www.paoloperrone.org/phdthesis.pdf に色々書いてある。面白い。 カントロビッチモナドの台関手がカントロビッチ/ワッサースタイン関手。 たちの良い距離空間Xに対して Wass(X) をワッサースタイン空間と呼ぶ。ワッサースタイン空間の台集合はラド…

ベイズネットとストリング図と拡張ER図(AERR図)

以下の図は、http://www.chimaira.org/img5/graphical-model-2.svg 。これは、次の記事内の図。 因果セオリー論の語法・記法・図法(修正案付き) - 檜山正幸のキマイラ飼育記 (はてなBlog) 次は、ベイズネットのグラフをストリング図に描き換えている。(ht…

多次元ガウス分布

正規分布のNを取ると、雑音のNや次元のnと紛らわしいのでGを使う マルコフ核 Gn(θ) = Gn(μ, Σ) : Rn →* Rn 密度関数 gn(θ) = gn(μ, Σ) : Rn → R θ = (μ, Σ) が属するパラメータ空間Θは、Θ = Rn×SPDMat(n)、SPDMat(n) は半正定値行列の空間。

スパイダーの分類

構造: 順序(あまり使わない) 二部 InOut 二部順序 InOut順序(装飾済み) 図 実線矢 ならば(構造忘却) 点線矢 細工している(埋め込み写像) 点線まる あまり使わない https://bit.ly/3e8A2oh spider-decoration.svg digraph{ 順序[style=dotted] 二部 …

スパイダーの装飾と演算

装飾の種類 付与 忘却 leg order structure ordering unordering leg bipartite structure bi-partitioning fusioning in-out structure in-out assignment in-out forgetting 割り当てと忘却を使うと: order assignment ←→ order forgetting bi-partition …

重心問題と重心代数と最尤法

過去: 代表値汎関数とシャープ化オペレータ - (新) 檜山正幸のキマイラ飼育記 メモ編 ジリィ型モナドのアイレンベルク/ムーア代数を{重心 | 平均{値}? | 中心 | 代表{値}}代数と呼ぶ。その代数の代数演算、または代数演算の結果を{重心 | 平均{値}? | 中心…

プロファイル・アノテーション

Fがマルコフ核だとして、F:X→Y in S のとき、プロファイル X→Y を丸括弧で包んで下付きにする、F = F(X→Y)。F:1→Y のときは、F(→Y) と書いていい。逆向き矢印または縦棒でもよい。 F = F(X→Y) = F(Y←X) = F(Y|X) F = F(1→Y) = F(→Y) = F(Y←) = F(Y|) ベイズ…

ベイズの定理の命題

ベイズの定理をちゃんと記述すると: 同時確率分布に対する、条件化の存在命題 同時確率分布に対する、条件化のほとんど一意性命題 確率保存マルコフ核に対する、反転の存在命題 確率保存マルコフ核に対する、反転のほとんど一意性命題 条件化が存在すれば、…

ベイズの公式

被積分形式:二変数は、ほんとは直積:離散の場合:デルタは基本事象:

グラフィカルモデルの確率変数と事象

確率変数(または変量)は、確率分布=確率測度=確率空間=ランダム要素 だと解釈できる。例題で「泥棒が入る事象」「地震が起きる事象」などと言っている。この「事象」は国語辞典的な「事態・事件」の意味。因果グラフのノードなので、「泥棒が入る確率変…

準マルコフ圏とマルコフ圏とデカルト圏とデカルト作用圏

Cが準マルコフ圏のとき、f:X→Y in C に対して、余可換コモノイドを使って、次の概念を定義できる。 fは破棄可能=fは全域 : fはコモノイド余単位=準終射を保つ。 fは複製可能=fは決定性 : fはコモノイド余乗法を保つ。 破棄可能性=全域性は、非消失性〈…

準マルコフ圏

関係の圏がマルコフ圏にならない。マルコフ圏の条件から、半デカルト性を削除する。これを準マルコフ圏〈quasi-Markov category〉と呼ぶ。余可換コモノイド・モダリティを (A, ΔA, ◇A) として、◇A をAの準終射〈quasi terminal morphism〉と呼ぶ。セリンガー…

関連の圏(影響の圏)

[追記]影響〈influence〉の圏にリネームした。[/追記]関連の圏は: 関係の圏Relとは違う。 マルコフ圏になるかな? ならないかも知れない。 射は関係〈relation | relationship〉ではないし相関〈correlation〉でもない。 ましてや因果関係〈causal relation…

知っていたの?

ちょっと驚くのだが、グラフィカルモデルとかに興味も知識もなかった時期に、同時確率分布の圏を考えてのか、なんで?m-hiyama-memo.hatenablog.jp

almost surely equal と almost empty set

almost surely equal w.r.t. P を P-a.s.e と略記し、=P-a.s. と書く。 almost empty set = almost impossible event almost total 日本語では: Pに関してほとんど等しい(surelyの「確実に」は要らない) ほとんど空、ほとんど起こり得ない、ほとんどあり…

代表値汎関数とシャープ化オペレータ

[X→*Y]をマルコフ圏の内部ホムとする。シャープ内部ホムは[X→!X]。 S:[X→*Y]→[X→!Y] S:[1→*Y]→[1→!Y] を代表値汎関数〈{central |representative} value functional〉、またはシャープ化オペレータ〈sharpening operator〉シャープ化オペレータは、埋め込み…

ベイズ梯子

ベイズ梯子〈Bayesian ladder〉 P = P1 : 初期{{確率}?{分布}?}! Mi : {統計|確率}モデル di : データ これに、ベイズ反転=尤度 Li:Xi→* Θ を構成して、ベイズ更新 Pi+1 := Li(di) により、系列 P1, P2, ... を求めることを、 ベイズ梯子に沿ったベイズ…

圏論的確率論のAタイプとCタイプ

Aタイプ Cタイプ 抽象的(A) 具象的(C) 公理的(A) 構成的(C) 圏論ベース 測度論ベース ストリング図と絵算 測度論と積分計算 統合的(S) 分析的(A) イデア論的 博物学・地理学的 檜山はAタイプ指向〈志向 | 嗜好〉 博物学・地理学的な記憶力がない。 測度論は…

ベイズ反転関連の用語・記法

※ {パターン}! は、パターンのインスタンスから空文字列は除くことを意味する。 {事前|初期}{{確率}?{分布}}! P:1→* Θ による{統計 | 確率}モデル M:Θ→* X の{ベイズ}?反転〈{Bayesian}? converse〉を、F-P ()と書く。ドバーカットは、 。 同時{{確率}?{分…

概ジリィ関手と概マルコフ核

[追記]概より緩〈relaxed〉がいいかも[/追記]Xは標準ボレル空間として、 Π(X) : X上の有限測度〈有界測度〉の全体、ベクトル錐〈半体上の半ベクトル空間〉 Π=1(X) : X上の確率測度の全体、凸代数〈凸空間〉 Π≦1(X) : X上の劣確率測度の全体、凸代数〈凸空…

尤度とは何か

腑に落ちない。確率密度関数を使うから“わけわからん”のだと思う。Sは確率的圏〈stochastic category〉(ジリィ型モナドから作られたマルコフ圏)として、統計モデル(と呼ばれるマルコフ核) M:Θ→*X in S がある状況を考える。何らかの意味でベイズ反転して…

雑音構造付き圏と雑音入り圏

線形回帰とゲルファント変換 雑音と誤差は同義語。雑音構造付き圏〈category with noise structure | 誤差構造付き圏〉とは、(C, Adm, Noi) でって、 Cはマルコフ圏 AdmはCdetの広い部分圏 Noiはモノイド・モダリティで、Noi(X)⊆EndC(X) であるもの。 公理:…

アノテーション記号とオペレータ記号

プロファイルに関するアノテーションを括弧に入れて下付きとする。 P(X,Y) : X×Y上の同時確率分布、プロファイルは 1→X×Y、(X,Y|) だけど、一部省略。 P(Y|X) : XからYへのマルコフ核。プロファイルは X→Y、これを逆順(反図式順)に Y|X と書く。 P(X) :…