การใช้พารามิเตอร์ Gamma พร้อมเครื่องเวกเตอร์สนับสนุน

เมื่อใช้libsvmพารามิเตอร์$\gamma$เป็นพารามิเตอร์สำหรับฟังก์ชั่นเคอร์เนล ค่าเริ่มต้นของมันคือการตั้งค่าเป็น

มีคำแนะนำเชิงทฤษฎีสำหรับการตั้งค่าพารามิเตอร์นี้นอกเหนือจากวิธีการที่มีอยู่เช่นการค้นหาแบบตารางหรือไม่?

ฉันจะแนะนำคำแนะนำเชิงทฤษฎีต่อไปนี้ เมื่อคุณใช้เคอร์เนล Gaussian RBF พื้นผิวการแยกของคุณจะขึ้นอยู่กับการรวมกันของพื้นผิวรูประฆังซึ่งมีศูนย์กลางที่แต่ละเวกเตอร์สนับสนุน ความกว้างของพื้นผิวรูประฆังแต่ละอันจะแปรผกผันกับ$\gamma$. หากความกว้างนี้มีขนาดเล็กกว่าระยะทางคู่ขั้นต่ำสำหรับข้อมูลของคุณแสดงว่าคุณมีข้อมูลมากเกินไป หากความกว้างนี้มีขนาดใหญ่กว่าระยะทางคู่ที่ฉลาดที่สุดสำหรับข้อมูลของคุณคะแนนทั้งหมดของคุณจะอยู่ในระดับเดียวและคุณก็ไม่มีประสิทธิภาพที่ดีเช่นกัน ดังนั้นความกว้างที่เหมาะสมควรอยู่ระหว่างสุดขั้วทั้งสองนี้

ไม่มันขึ้นอยู่กับข้อมูลเป็นหลัก การค้นหากริด (พารามิเตอร์ไฮเปอร์เปลี่ยนรูปแบบล็อก) เป็นวิธีการที่ดีมากถ้าคุณมีการปรับแต่งพารามิเตอร์ไฮเปอร์จำนวนเล็กน้อย แต่อย่าทำให้การแก้ปัญหากริดดีเกินไปหรือคุณมีแนวโน้มที่จะปรับจูนมากเกินไป เกณฑ์ สำหรับปัญหาเกี่ยวกับพารามิเตอร์เคอร์เนลจำนวนมากฉันพบว่าวิธี Nelder-Mead simplex ทำงานได้ดี