ชี้แจงข้อมูลทางเรขาคณิต

คำถามนี้เกี่ยวข้องกับกระดาษDifferential Geometry ของข้อมูลเชิงเส้นครอบครัวแบบโค้งและการสูญเสียข้อมูลโดย Amari

ข้อความจะเป็นดังนี้

ให้เป็น -dimensional ของการแจกแจงความน่าจะเป็นด้วยระบบพิกัดโดยที่จะถือว่า ... $S^n=\{p_{\theta}\}$ $n$ $\theta=(\theta_1,\dots,\theta_n)$ $p_{\theta}(x)>0$

เราอาจพิจารณาทุกจุดของว่าถือ functionของ ... $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$

ให้เป็นพื้นที่ที่แทนเจนต์ของที่ซึ่งเป็นพูดประมาณระบุกับรุ่นเชิงเส้นของย่านเล็ก ๆ ของใน n ให้เป็นพื้นฐานตามธรรมชาติของเกี่ยวข้องกับระบบการประสานงาน ... $T_{\theta}$ $S^n$ $\theta$ $\theta$ $S^n$ $e_i(\theta), i=1,\dots,n$ $T_{\theta}$

เนื่องจากแต่ละจุดของมีฟังก์ชั่นของมันเป็นเรื่องธรรมดาที่จะถือว่าที่แทนฟังก์ชัน $\theta$ $S^n$ $\log p_{\theta}(x)$ $x$ $e_i(\theta)$ $\theta$

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x) .

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x).$

ฉันไม่เข้าใจคำสั่งสุดท้าย ปรากฏในส่วนที่ 2 ของกระดาษที่กล่าวถึงข้างต้น พื้นฐานของพื้นที่แทนเจนต์เป็นอย่างไรโดยสมการข้างบน? มันจะมีประโยชน์ถ้าใครบางคนในชุมชนนี้คุ้นเคยกับเนื้อหาประเภทนี้สามารถช่วยฉันเข้าใจสิ่งนี้ ขอบคุณ

อัปเดต 1:

แม้ว่าฉันจะเห็นด้วยว่า (จาก @aginensky) ถ้าเป็นเชิงเส้นอย่างอิสระแล้วมีความเป็นอิสระในเชิงเส้นเช่นกันสมาชิกเหล่านี้ของพื้นที่แทนเจนต์ในตอนแรกยังไม่ชัดเจน ดังนั้นวิธีที่จะถูกพิจารณาเป็นพื้นฐานสำหรับพื้นที่แทนเจนต์ ความช่วยเหลือใด ๆ ที่ชื่นชม $\frac{\partial}{\partial\theta_i}p_{\theta}$ $\frac{\partial}{\partial\theta_i}\log p_{\theta}$ $\frac{\partial}{\partial\theta_i}\log p_{\theta}$

อัปเดต 2:

@aginensky: ในหนังสือของเขา Amari พูดต่อไปนี้:

ให้เราพิจารณากรณีที่ชุดของความน่าจะเป็นบวกทั้งหมด (อย่างเคร่งครัด) มาตรการเราคำนึงถึงเป็นส่วนหนึ่งของ\} ในความเป็นจริงเป็นเซตเปิดพื้นที่เลียนแบบ\} $S^n=\mathcal{P}(\mathcal{X})$ $\mathcal{X}=\{x_0,\dots,x_n\}$ $\mathcal{P}(\mathcal{X})$ $\mathbb{R}^{\mathcal{X}}=\{X\big|X:\mathcal{X}\to \mathbb{R}\}$ $\mathcal{P}(\mathcal{X})$ $\{X\big |\sum_x X(x)=1\}$

จากนั้นพื้นที่สัมผัสของทุกจุดสามารถตามธรรมชาติจะยึดติดกับเส้นสเปซ\} สำหรับพื้นฐานทางธรรมชาติของระบบ coordianteเรามีtheta} $T_p(S^n)$ $S^n$ $\mathcal{A}_0=\{X\big |\sum_x X(x)=0\}$ $\frac{\partial}{\partial\theta_i}$ $\theta=(\theta_1,\dots,\theta_n)$ $(\frac{\partial}{\partial\theta_i})_{\theta}=\frac{\partial}{\partial\theta_i}p_{\theta}$

ถัดไปให้เราใช้การฝังอีกและระบุด้วยชุดย่อยของ{X}} สัมผัสกันเวกเตอร์เป็นตัวแทนแล้วโดยผลจากการดำเนินงานเพื่อซึ่งเราใช้แสดงโดย{(จ)} โดยเฉพาะอย่างยิ่งเรามีtheta} เห็นได้ชัดว่าและ $p\mapsto \log p$ $S^n$ $\log S^n:=\{\log p\big |p\in S^n\}$ $\mathbb{R}^{\mathcal{X}}$ $X\in T_p(S^n)$ $X$ $p\mapsto \log p$ $X^{(e)}$ $(\frac{\partial}{\partial\theta_i})_{\theta}^{(e)}=\frac{\partial}{\partial\theta_i}\log p_{\theta}$ $X^{(e)}=X(x)/p(x)$

T_{p}^{(e)} (S^{n}) = {X^{(e)} | X \in T_{p} (S^{n})} = {A \in R^{X} | \sum_{x} A (x) p (x) = 0} .

$T_p^{(e)}(S^n)=\{X^{(e)}\big |X\in T_p(S^n)\}=\{A\in \mathbb{R}^{\mathcal{X}}\big |\sum_x A(x)p(x)=0\}.$

คำถามของฉัน: หากทั้งและเป็นพื้นฐานสำหรับพื้นที่สัมผัสกันดังนั้นสิ่งนี้จะไม่ขัดแย้งกับ ข้อเท็จจริงที่ว่าและนั้นชัดเจนและ ? $\frac{\partial}{\partial\theta_i}$ $(\frac{\partial}{\partial\theta_i})^{(e)}$ $T_p$ $T_p^{(e)}$ $\frac{\partial}{\partial\theta_i}^{(e)}\in T_p^{(e)}$

ผมคิดว่ามีน่าจะเป็นความสัมพันธ์ระหว่าง ( ) และ{(จ)}) หากคุณสามารถอธิบายสิ่งนี้ได้มันจะเป็นประโยชน์อย่างมาก คุณอาจให้มันเป็นคำตอบ $S^n,T_p$ $(\log S^n,T_p^{(e)})$

— Ashok
แหล่งที่มา

ส่วนตัวฉันเข้าใจความสับสนของคุณ ดูเหมือนว่าไม่ใช่เรื่องธรรมดาที่จะใช้พิกัด " " สำหรับพื้นที่แทนเจนต์ คำถามของคุณอยู่ในท้องที่ดังนั้นเราจึงนำเป็นพิกัดในท้องถิ่น พิกัดปกติสำหรับพื้นที่สัมผัสกันเป็นtheta_i} เมื่อพิจารณาเงื่อนไขที่เหมาะสมบนของความนุ่มนวลอนุพันธ์ที่ไม่หายตัวไป ฯลฯ จากนั้นตามกฎลูกโซ่ใครจะใช้พื้นฐานมาตรฐานของพื้นที่แทนเจนต์และคูณด้วยฟังก์ชันซึ่งโดยทั่วไปจะยังคงเป็นพื้นฐาน .

e_{i} (θ) = \frac{\partial}{\partial θ_{i}} \log p_{θ} (x)

$e_i(\theta)=\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)$

θ_{i}

$\theta_{i}$

\frac{\partial}{\partial θ_{i}}

$\frac{\partial}{\partial\theta_i}$

p_{θ}

$p_{\theta}$

— Meh

ฉันพยายามแก้ไขความคิดเห็นของฉันเพื่อความชัดเจนและไม่ได้รับอนุญาต แจ้งให้เราทราบหากคุณต้องการรายละเอียดเพิ่มเติม

— Meh

ขอบคุณ @aginensky: คุณหมายถึงเพราะนี่เป็นพื้นฐานสำหรับพื้นที่แทนเจนต์ใช่ไหม?

\frac{\partial}{\partial θ_{i}} \log p_{θ} (x) = 1 / p_{θ} (x) \frac{\partial}{\partial θ_{i}} p_{θ} (x)

$\frac{\partial}{\partial\theta_i}\log p_{\theta}(x)=1/p_{\theta}(x)\frac{\partial}{\partial\theta_i}p_{\theta}(x)$

— Ashok

คำสั่งสุดท้ายคือรุ่น (เสียหาย) ของหนึ่งคำจำกัดความของพื้นที่สัมผัสกัน พูดอย่างเคร่งครัดพื้นที่สัมผัสที่จุดของ manifold differentiable คือ (ปริภูมิเวกเตอร์) คู่กับพื้นที่ของ derivations ของเชื้อโรคของฟังก์ชั่น differentiable ในละแวกของจุดนั้น พื้นฐานสำหรับคู่คือและโดยนิยามแล้วเป็นพื้นฐานคู่ของมัน การอ้างอิงมาตรฐานสารนี้เป็นเล่มที่ 1 ของไมเคิลสปิแว็กของเรขาคณิตเชิงอนุพันธ์ , amazon.com/...

{d θ_{i}}

$\{d\theta_i\}$

{\frac{\partial}{\partial θ_{i}}}

$\{\frac{\partial}{\partial\theta_i}\}$

— whuber

@ Ashok - ใช่ ฉันจะพิจารณาสิ่งที่ฉันเขียนจะขึ้นอยู่กับรุ่นสั้น ๆ ของคำจำกัดความหนึ่งของพื้นที่สัมผัสกัน แน่นอนว่าเนื่องจากพื้นที่โคแทนเจนต์เป็นสองเท่าของพื้นที่แทนเจนต์ใคร ๆ ก็สามารถแย้งว่าเป็นฐานสองที่แท้จริง ในกรณีใดก็ตามตราบใดที่ไม่หายไปฉันคิดว่าคุณเก่ง

d θ

$d\theta$

p_{θ}

$p_{\theta}$

— Meh

ความคิดเห็นของฉันยาวมากฉันใส่ไว้ในคำตอบ

ฉันคิดว่าคำถามนี้เป็นปรัชญามากกว่าคณิตศาสตร์ ณ จุดนี้ คือสิ่งที่คุณหมายถึงช่องว่างและในกรณีนี้มากมาย? คำจำกัดความทั่วไปของนานาไม่เกี่ยวข้องกับการฝังลงในพื้นที่เลียนแบบ นี่เป็นวิธี 'สมัยใหม่' (อายุ 150 ปี?) ตัวอย่างเช่นสำหรับ Gauss, ท่อร่วมเป็นท่อร่วมกับฝังเฉพาะลงในพื้นที่เลียนแบบเฉพาะ ( ) ถ้าใครมีมากมายด้วยการฝังในเฉพาะแล้วพื้นที่แทนเจนต์ (ที่จุดใดของท่อร่วมไอดี) คือ isomorphic กับพื้นที่ย่อยเฉพาะของพื้นที่แทนเจนต์ถึงที่จุดนั้น โปรดทราบว่าพื้นที่สัมผัสกันเพื่อที่จุดใด ๆ จะถูกระบุด้วย 'เดียว' n $R^n$ $R^n$ $R^n$ $R^n$ $R^n$

ฉันคิดว่าประเด็นคือในบทความ Amari พื้นที่ที่เขาอ้างถึงในฐานะมาพร้อมกับการฝัง 'ธรรมชาติ' ในพื้นที่เลียนแบบที่มีพิกัดซึ่งสามารถพิจารณาได้ เป็นพิกัดบนพื้นที่สัมผัสของ n ฉันอาจเพิ่มว่ามันชัดเจนเฉพาะถ้าฟังก์ชั่นเป็น 'ทั่วไป' ในบางกรณี - สำหรับความเสื่อมโทรมของสิ่งนี้จะล้มเหลว ตัวอย่างเช่นถ้าฟังก์ชันไม่เกี่ยวข้องกับตัวแปรทั้งหมด{i} จุดสำคัญคือการฝังของท่อร่วมในเฉพาะนี้ทำให้เกิดการระบุเฉพาะของพื้นที่สัมผัสแทนด้วย $S^n$ $\theta_{i}$ $p_{\theta}$ $S^n$ $p$ $p$ $\theta_{i}$ $R^n$ $p_{\theta}$ . จุดต่อไปของเขาคือเนื่องจากคุณสมบัติของเขาสามารถแมปนานาของเขาโดยใช้ฟังก์ชั่นบันทึกไปยังอีกเลียนแบบพื้นที่ที่สัมผัสพื้นที่มีการระบุที่แตกต่างกันในแง่ของพิกัดใหม่ (บันทึกและอนุพันธ์ของพวกเขา) จากนั้นเขาก็บอกว่าเนื่องจากคุณสมบัติของสถานการณ์ของเขาทั้งสองแมนิโฟลด์ isomorphic และแผนที่ทำให้เกิดการ isomorphism บนพื้นที่สัมผัสกัน นั่นนำไปสู่การระบุตัวตน (เช่น isomorphism) ของพื้นที่สัมผัสแทนทั้งสอง $p$

แนวคิดสำคัญคือช่องว่างที่แทนเจนต์ทั้งสองนั้นไม่เหมือนกัน แต่เป็น isomorphic (ซึ่งโดยทั่วไปแล้วเป็นภาษากรีกสำหรับ 'เดียวกัน') หลังจากการระบุที่ถูกต้อง ตัวอย่างเช่นกลุ่มของพีชคณิตทั้งหมดของกลุ่ม 'เดียวกัน' เป็นกลุ่มของพีชคณิตทั้งหมดของหรือไม่ เป็นการทดลองทางความคิดอย่างง่ายๆให้พิจารณาการแม็พ reals เชิงบวกกับทั้งหมด reals ทั้งหมดภายใต้บันทึกแผนที่ เลือกหมายเลขจริงที่คุณชื่นชอบและพิจารณาว่าแผนที่นั้นอยู่ในพื้นที่ว่างสัมผัส ในที่สุดฉันก็เข้าใจคำถามของคุณหรือไม่ คำสั่งอยู่ในลำดับคือเรขาคณิตที่แตกต่างไม่ใช่พื้นที่หลักของความเชี่ยวชาญของฉัน ฉันคิดว่าฉันพูดถูกแล้ว แต่สามารถวิจารณ์หรือตั้งคำถามกับคำตอบนี้ได้ $\{1,2,3\}$ $\{a,b,c\}$ $R^{+}$ $R$ $>0$

— Meh
แหล่งที่มา

ความหมายของคุณเกี่ยวกับ "isomorphic" ยังไม่ชัดเจน แต่ดูเหมือนว่าจะเป็นเพียงอ่อนแอมาก กล่าวคือสิ่งที่ได้รับจาก pushforwardของแผนที่ differentiable invertible ซึ่งเป็นเพียงการแปลงเชิงเส้น invertible ความคิดที่สำคัญในการทำรูปทรงเรขาคณิตเพื่อให้ได้มีความหมายและมีประโยชน์ Riemanninan ตัวชี้วัดที่กำหนดไว้ในนานา ความรู้สึกที่เกี่ยวข้องของ "isomorphism" จะเป็นรูปทรงเรขาคณิต : นั่นคือแผนที่ระหว่างพื้นที่สัมผัสกันจะต้องรักษาระยะทาง

f_{*}

$f_{*}$

— whuber

@whuber อันที่จริงความเห็นของฉันมีเฉพาะในเรขาคณิตเชิงอนุพันธ์ของสถานการณ์และพื้นที่แทนเจนต์ ฉันไม่ชัดเจนว่าเงื่อนไขใดในจะจำเป็นเพื่อทำให้แผนที่เป็นภาพสามมิติ แต่เมื่อฉันเข้าใจคำถามมันได้รับจริง ๆ ว่าอะไรคือความแตกต่างระหว่างการระบุ ('เดียวกัน') และมอร์ฟิซึ่มส์

p

$p$

— Meh

@whuber: ตัวชี้วัด Riemannian ที่เกี่ยวข้องได้รับที่นี่โดยโดยที่(x) สิ่งนี้แนะนำได้ด้วย

G = [g_{i, j}]

$G=[g_{i,j}]$

g_{i, j} = \sum_{x} \partial_{i} p_{θ} (x) \partial_{j} \log p_{θ} (x)

$g_{i,j}=\sum_x\partial_i p_{\theta}(x)~\partial_j\log p_{\theta}(x)$

\partial_{j} \log p_{θ}

$\partial_j\log p_{\theta}$

— Ashok