ทฤษฎีบทของ Mercer ทำงานในสิ่งที่ตรงกันข้ามหรือไม่?

เพื่อนร่วมงานที่มีฟังก์ชั่นและสำหรับวัตถุประสงค์ของเรามันเป็นกล่องดำ ฟังก์ชั่นวัดความคล้ายคลึงของสองวัตถุ $s$ $s(a,b)$

เรารู้แน่ว่ามีคุณสมบัติเหล่านี้: $s$

คะแนนความคล้ายคลึงกันคือตัวเลขจริงระหว่าง 0 ถึง 1 รวม
เฉพาะวัตถุที่เหมือนตัวเองเท่านั้นที่มีคะแนน 1 ดังนั้นหมายถึงและในทางกลับกัน $s(a,b)=1$ $a=b$
เราจะรับประกันว่า(ขก) $s(a,b) = s(b,a)$

ตอนนี้เขาต้องการทำงานกับอัลกอริธึมที่ต้องการระยะทางเป็นอินพุทและขึ้นอยู่กับอินพุตที่ตอบสนองความจริงของระยะทาง

ความคิดของฉันคือเราสามารถรักษาคะแนนความคล้ายคลึงกันราวกับว่าพวกเขาเป็นผลมาจากเคอร์เนล RBF ที่มีระยะทาง (มันอาจเป็นบรรทัดฐานแบบยุคลิดหรือระยะทางอื่น) นั่นคือเราสามารถจัดเรียงพีชคณิตใหม่และสมมติว่าคะแนนความคล้ายคลึงกัน เคอร์เนล RBF สำหรับคู่คะแนนในระบบพิกัดบางระบบ (ไม่ทราบ)

\begin{aligned} s (x_{i}, x_{j}) & = \exp (- \frac{d (m_{i}, m_{j})^{2}}{r}) \\ \sqrt{- r \log s (x_{i}, x_{j})} & = d (m_{i}, m_{j}) \end{aligned}

$\begin{align} s(x_i,x_j) &= \exp\left(-\frac{d( m_i, m_j)^2}{r}\right) \\ \sqrt{-r \log s(x_i,x_j) } &= d(m_i,m_j) \\ \end{align}$

โดยที่เป็นเวกเตอร์ที่ไม่รู้จักและเป็นวัตถุที่น่าสนใจและคือระยะทาง $m_\alpha \in \mathbb{R}^n$ $x_\alpha$ $d$

คุณสมบัติที่ชัดเจนทำงานออกมาในแง่ของการเคารพสัจพจน์ระยะทาง ผลลัพธ์จะต้องไม่ใช่เชิงลบและระยะทางเป็นเพียง 0 สำหรับวัตถุที่เหมือนกัน แต่มันไม่ชัดเจนว่าชุดของสถานการณ์ทั่วไปนี้ค่อนข้างเพียงพอที่จะบอกเป็นนัยว่าความไม่เท่าเทียมกันของสามเหลี่ยมนั้นได้รับการเคารพ

ในทางกลับกันเสียงนี้ค่อนข้างบ้า

ดังนั้นคำถามของฉันคือ "มีอยู่หรือไม่ที่สำหรับตัวชี้วัดระยะทางบางตัวให้คุณสมบัติเหล่านี้กับและคืออะไร" $f$ $f(s(a,b))=d(a,b)$ $d$ $s$ $f$

หากไม่ได้อยู่ในสถานการณ์ทั่วไปเหล่านี้บนจะมีชุดที่เพิ่มขึ้นของความต้องการที่อยู่? $f$ $s$ $f$

— Sycorax พูดว่า Reinstate Monica
แหล่งที่มา

โปรดทราบว่าแม้ว่าคุณจะได้รับชุดของระยะทางคู่ที่ตอบสนองความจริงของระยะทาง แต่ก็ไม่รับประกันว่าจะมีพื้นที่ยูคลิดที่มีจุดที่ทราบระยะทางเหล่านี้ การฝังดังกล่าวไม่สามารถทำได้ ดูเช่นmath.stackexchange.com/questions/1000006

d (a, b)

$d(a,b)$

— อะมีบา

นี่เป็นกระทู้ที่น่าสนใจมาก! ขอบคุณสำหรับการแบ่งปัน มันไม่ใช่ความตั้งใจของฉันที่จะ จำกัด ตัวเองให้อยู่ในระยะทางที่เฉพาะเจาะจง (เนื่องจากการเคลื่อนที่ในทิศทางตรงกันข้ามคนหนึ่งอาจใช้เคอร์เนล RBF ที่มีระยะทางที่ไม่ใช่แบบยุคลิด)

— Sycorax พูดว่า Reinstate Monica

ดังนั้นคำถามของคุณเกี่ยวกับวิธีแปลงเป็นดังนั้นตอบสนองความไม่เท่าเทียมกันของสามเหลี่ยมได้หรือไม่? ไม่ว่าเมทริกซ์ของระยะทางนี้จะถูกฝังอยู่ในอวกาศแบบยุคลิดไม่สำคัญสำหรับคุณหรือไม่ แก้ไข? สัญชาตญาณของฉันคือว่าสำหรับพลมันจะเป็นไปไม่ได้

s (a, b)

$s(a,b)$

d (a, b) = f (s (a, b))

$d(a,b)=f(s(a,b))$

d

$d$

s

$s$

— อะมีบา

สิ่งนี้ถูกต้อง ฉันสงสัยว่าเป็นไปไม่ได้อย่างน้อยไม่ได้โดยไม่มีข้อ จำกัด เพิ่มเติมเกี่ยวs

s

$s$

— Sycorax พูดว่า Reinstate Monica

f : f (x) = I_{x > 0}

$f: f(x) = I_{x>0}$ มักจะนำไปสู่การวัดแบบไม่ต่อเนื่อง ( en.wikipedia.org/wiki/Discrete_space ) แต่นี่อาจไม่ได้ตั้งใจดังนั้นควรเพิ่มเงื่อนไขบางอย่าง (?)

— Juho Kokkala

คำตอบ:

ทฤษฎีบทของ Mercer ทำงานในสิ่งที่ตรงกันข้ามหรือไม่?

ไม่ได้ในทุกกรณี

Wikipedia: "ในวิชาคณิตศาสตร์โดยเฉพาะการวิเคราะห์การทำงานทฤษฎีบทของ Mercer เป็นตัวแทนของฟังก์ชันบวกแน่นอนที่สมมาตรบนสี่เหลี่ยมจัตุรัสเป็นผลรวมของลำดับการบรรจบกันของฟังก์ชันผลิตภัณฑ์ทฤษฎีบทนี้นำเสนอใน (Mercer 1909) เป็นหนึ่งใน ผลลัพธ์ที่น่าทึ่งที่สุดของการทำงานของ James Mercer มันเป็นเครื่องมือทางทฤษฎีที่สำคัญในทฤษฎีของสมการอินทิกรัลมันถูกใช้ในทฤษฎีอวกาศของฮิลแบร์ตในกระบวนการสโทแคสติกตัวอย่างเช่นทฤษฎีบท Karhunen – Loèveและยังใช้แสดงลักษณะเคอร์เนลกึ่งบวกแน่นอนแบบสมมาตร

มันเป็น ' หลายคนให้เป็นหนึ่งในการทำแผนที่ ' บนพื้นที่ Hilbert - การอนุมานรวมขั้นต้นจะเป็นการอธิบายว่าเป็นแฮชหรือเช็คซัมที่คุณสามารถทดสอบกับไฟล์เพื่อระบุตัวตนหรือไม่

คำอธิบายทางเทคนิคเพิ่มเติม: ทฤษฎีการแตกตัว

"ในวิชาคณิตศาสตร์ทฤษฎีการสลายตัวเป็นผลมาจากทฤษฎีการวัดและทฤษฎีความน่าจะเป็นมันกำหนดความคิดของ" ข้อ จำกัด "ที่ไม่สำคัญต่อการวัดให้เป็นศูนย์ย่อยของการวัดพื้นที่ในคำถาม การมีอยู่ของมาตรการความน่าจะเป็นแบบมีเงื่อนไขในแง่หนึ่ง "การสลายตัว" เป็นกระบวนการตรงกันข้ามกับการสร้างการวัดผลิตภัณฑ์ "

ดูเพิ่มเติมที่: " ทฤษฎีบทของ Fubini – Tonelli ", " Hinge Loss ", " Loss Function " และ " เคอร์เนลดีแค่ไหนเมื่อใช้เป็นการวัดความคล้ายคลึงกัน? " (มิถุนายน 2550) โดย Nathan Srebro บทคัดย่อ:

" บทคัดย่อเมื่อเร็ว ๆ นี้ Balcan และ Blum เสนอทฤษฎีการเรียนรู้ตามฟังก์ชั่นความคล้ายคลึงทั่วไปแทนที่จะเป็นเมล็ดกึ่งบวกแน่นอนเราศึกษาช่องว่างระหว่างการรับประกันการเรียนรู้จากการเรียนรู้บนพื้นฐานของเคอร์เนลและสิ่งที่สามารถทำได้โดยใช้ เคอร์เนลเป็นฟังก์ชั่นความคล้ายคลึงซึ่งถูกเปิดทิ้งไว้โดย Balcan และ Blum เราให้การปรับปรุงที่ดีขึ้นอย่างมีนัยสำคัญเกี่ยวกับวิธีการที่ดีฟังก์ชั่นเคอร์เนลเมื่อใช้เป็นฟังก์ชั่นความคล้ายคลึงกันและขยายผลลัพธ์ไป แล้วศูนย์หนึ่งข้อผิดพลาด - อัตรานอกจากนี้เราแสดงให้เห็นว่าขอบเขตนี้แน่นและด้วยเหตุนี้จึงพิสูจน์ได้ว่ามีช่องว่างจริงระหว่างความเชื่อดั้งเดิมของเคอร์เนลตามระยะขอบและแนวคิดที่คล้ายคลึงกันใหม่กว่า "

เพื่อนร่วมงานที่มีฟังก์ชั่นและสำหรับวัตถุประสงค์ของเรามันเป็นกล่องดำ $s$

ดู: เมล็ดและความคล้ายคลึงกัน (ใน R)

มันเป็นกล่องดำดังนั้นคุณจึงไม่ทราบว่าเคอร์เนลตัวใดที่ใช้ถ้าเป็นเคอร์เนลและคุณไม่ทราบรายละเอียดของการใช้งานเคอร์เนลเมื่อคุณคิดว่าคุณรู้ว่ามันคืออันใด ดู: สมการของ rbfKernel ใน kernlab นั้นแตกต่างจากมาตรฐานหรือไม่? .

ในทางกลับกันเสียงนี้ค่อนข้างบ้า

รวดเร็วและมีประสิทธิภาพภายใต้สถานการณ์ที่ จำกัด เหมือนค้อนถ้าคุณถือค้อนไว้กับคุณคนอื่นจะเรียกคุณว่าบ้าเหรอ?

" วิธีเคอร์เนลเป็นหนี้ชื่อของพวกเขาในการใช้ฟังก์ชั่นเคอร์เนลซึ่งช่วยให้พวกเขาทำงานในพื้นที่คุณลักษณะปริยายในมิติสูงโดยไม่ต้องคำนวณพิกัดของข้อมูลในพื้นที่นั้น แต่โดยการคำนวณผลิตภัณฑ์ภายในระหว่างรูปภาพ ของข้อมูลทุกคู่ในพื้นที่คุณลักษณะการดำเนินการนี้มักจะถูกกว่าการคำนวณที่ชัดเจนของการคำนวณพิกัดวิธีนี้เรียกว่า "เคอร์เนลหลอก" ฟังก์ชั่นเคอร์เนลได้รับการแนะนำสำหรับข้อมูลลำดับกราฟข้อความรูปภาพเป็น เช่นเดียวกับเวกเตอร์ ".

บทเรียน:คุณ (บางครั้ง) ได้สิ่งที่คุณจ่ายไป

ดังนั้นคำถามของฉันคือ "มีอยู่หรือไม่ที่สำหรับตัวชี้วัดระยะทางบางตัวให้คุณสมบัติเหล่านี้กับและคืออะไร" $f$ $f(s(a,b))=d(a,b)$ $d$ $s$ $f$

หลายคนดูลิงก์ด้านบน " ฟังก์ชั่นเคอร์เนลยอดนิยม " RBFและตัวอย่างหนึ่ง (แพง): " การวัดระยะทางอัตราส่วนความน่าจะเป็นสำหรับความคล้ายคลึงกันระหว่างการแปลงฟูริเยร์ของอนุกรมเวลา " (2005) โดย Janacek, Bagnall และ Powell

หากไม่ได้อยู่ในสถานการณ์ทั่วไปเหล่านี้บนจะมีชุดที่เพิ่มขึ้นของความต้องการที่อยู่? $f$ $s$ $f$

ช่องว่างและวิธีการต่าง ๆ สามารถเปรียบเทียบเป้าหมายที่ดีกว่า (และการสลายตัว) ของปัญหาเฉพาะได้มีวิธีการมากมายสำหรับพื้นที่ Hilbertเพียงอย่างเดียว

ใช่รายการมีขนาดใหญ่ดูการเชื่อมโยงข้างต้นและ (เช่นเดียว): การทำซ้ำเคอร์เนล Hilbert พื้นที่

— ปล้น
แหล่งที่มา

-1

แต่มันไม่ชัดเจนว่าชุดของสถานการณ์ทั่วไปนี้ค่อนข้างเพียงพอที่จะบอกเป็นนัยว่าความไม่เท่าเทียมกันของสามเหลี่ยมนั้นได้รับการเคารพ

จริงๆแล้วมันไม่เพียงพอ งาน Let 's มีB) หากมีสามจุดพร้อม , , และแล้วความไม่เท่าเทียมกันสามเหลี่ยมล้มเหลวเพราะZ) $d(a, b) = 1 - s(a, b)$ $x, y, z$ $d(x, y) = \frac{1}{3}$ $d(y, z) = \frac{1}{3}$ $d(x, z) = 1$ $d(x, z) > d(x, y) + d(y, z)$

— Kodiologist
แหล่งที่มา

ฉันไม่เห็นว่าสิ่งนี้พิสูจน์ได้อย่างไร

— อะมีบา

@amoeba คุณไม่เห็นวิธีการที่จะพิสูจน์ให้เห็นว่าไม่จำเป็นต้องตอบสนองความไม่เท่าเทียมกันของรูปสามเหลี่ยม?

d

$d$

— Kodiologist

ฉันคิดว่านี่แสดงให้เห็นว่าการเลือกไม่ทำงาน แต่ฉันไม่แน่ใจว่าทำไมถึงแสดงให้เห็นว่าความไม่เท่าเทียมกันของรูปสามเหลี่ยมไม่ได้รับการเคารพจากทางเลือกอื่นของฟังก์ชั่นเช่น (แปลก) หนึ่งฉันร่างในโพสต์ของฉัน

f (α) = 1 - α

$f(\alpha)=1-\alpha$

— Sycorax พูดว่า Reinstate Monica

คำถามคือว่าคุณสมบัติที่ระบุไว้ของมีเพียงพอสำหรับการดำรงอยู่ของนั้นดังกล่าวว่าเป็นตัวชี้วัดและโดยเฉพาะอย่างยิ่งไม่ว่าจะเป็นเช่นสามารถแสดงกับเคอร์เนล RBF ที่มีบางส่วนทำแผนที่เมตรคำตอบนี้ดูเหมือนว่าจะถามว่าคุณสมบัติที่ระบุไว้ของมีเพียงพอสำหรับเป็นตัวชี้วัดที่มีพลฉ

s

$s$

f

$f$

d

$d$

f

$f$

m

$m$

s

$s$

d

$d$

f

$f$

— Juho Kokkala

@Kodiologist แต่เท่าที่ผมเข้าใจแม้รุ่นแรกในประวัติศาสตร์ของการแก้ไขมีส่วนเกี่ยวกับ RBF ที่มีการทำแผนที่ที่ไม่รู้จักดังนั้นผมจึงไม่เห็นความเกี่ยวข้องของการทำงานกับB) และเกี่ยวกับความคิดเห็นก่อนหน้าของคุณในขณะที่ฉันอ่านคำถามหนึ่งไม่ควร "รู้" อะไรเกี่ยวกับวิธีแผนที่เพื่อ s - ตัวอย่างควรแสดงให้เห็นว่าไม่มีการสร้างการแมปดังกล่าวสำหรับตัวอย่าง - .

m

$m$

1 - s (a, b)

$1-s(a,b)$

x_{α}

$x_\alpha$

m_{α}

$m_\alpha$

s

$s$

— Juho Kokkala