การเพิ่มฟังก์ชั่นที่มีเสียงดังที่ไม่รู้จัก

ฉันสนใจในการเพิ่มฟังก์ชั่นที่ P $f(\mathbf \theta)$ $\theta \in \mathbb R^p$

ปัญหาคือฉันไม่รู้รูปแบบการวิเคราะห์ของฟังก์ชันหรืออนุพันธ์ของมัน สิ่งเดียวที่ฉันทำได้คือการประเมินฟังก์ชั่นจุดฉลาดโดยการเสียบค่าและรับการประมาณค่า NOISYณ จุดนั้น ถ้าฉันต้องการฉันสามารถลดความแปรปรวนของประมาณการเหล่านี้ได้ แต่ฉันต้องจ่ายค่าใช้จ่ายในการคำนวณที่เพิ่มขึ้น $\theta_*$ $\hat{f}(\theta_*)$

นี่คือสิ่งที่ฉันได้ลองไปแล้ว:

โคตร Stochastic ที่มีความแตกต่างอัน จำกัด : มันสามารถใช้งานได้ แต่ต้องใช้การปรับแต่งมากมาย (เช่นลำดับการได้รับ, ตัวประกอบสเกล) และบ่อยครั้งที่มันไม่เสถียร
การอบแบบจำลอง: มันใช้งานได้และมีความน่าเชื่อถือ แต่ก็ต้องใช้การประเมินฟังก์ชั่นมากมายดังนั้นฉันจึงพบว่ามันค่อนข้างช้า

ดังนั้นฉันขอคำแนะนำ / ความคิดเกี่ยวกับวิธีการเพิ่มประสิทธิภาพทางเลือกที่เป็นไปได้ที่สามารถทำงานภายใต้เงื่อนไขเหล่านี้ ฉันกำลังทำให้ปัญหาเป็นเรื่องปกติที่สุดเท่าที่จะทำได้เพื่อกระตุ้นข้อเสนอแนะจากงานวิจัยที่แตกต่างจากของฉัน ฉันต้องเพิ่มว่าฉันจะสนใจวิธีการที่จะให้ค่าประมาณของ Hessian เมื่อลู่เข้าหากัน นี้เป็นเพราะผมสามารถใช้มันเพื่อประเมินความไม่แน่นอนของพารามิเตอร์\มิฉะนั้นฉันจะต้องใช้ความแตกต่างอัน จำกัด รอบสูงสุดเพื่อให้ได้ค่าประมาณ $\theta$

optimization monte-carlo simulation

— จูเกิรธา
แหล่งที่มา

หากคุณไม่สามารถพูดอะไรที่เฉพาะเจาะจงเกี่ยวกับเสียงรบกวนที่เกี่ยวข้องกับฟังก์ชั่นการแสดงผลของคุณได้ฉันไม่แน่ใจว่าอะไรที่ซับซ้อนกว่าการอบแบบจำลอง

— Aron Ahmadia

น่าเสียดายที่ฉันไม่ค่อยมีความรู้เกี่ยวกับสัญญาณรบกวนแบบสุ่มที่เกี่ยวข้องกับการประเมินแต่ละฟังก์ชั่น ไม่ทราบการแจกแจงและสามารถใช้ฟังก์ชัน

ได้ ในขณะที่เสียงที่มีผลต่อการประเมินฟังก์ชั่นต่อเนื่องมีความเป็นอิสระ เห็นได้ชัดว่าฉันสมมติว่าความแปรปรวนของเสียงนั้นไม่ใหญ่มากมิฉะนั้นการขยายใหญ่สุดจะเป็นไปไม่ได้

θ

$\theta$

— Jugurtha

บนมืออื่น ๆ คิดว่าฉันรู้ว่าบางสิ่งบางอย่างเกี่ยวกับการกระจายเสียงเช่นที่

)

ความรู้นี้จะช่วยฉันได้ไหม

\hat{f} (θ_{*}) \sim N (f (θ_{*}), σ)

$\hat{f}(\theta_*) \sim N(f(\theta_*),\sigma)$

— Jugurtha

ดูเหมือนว่าฉันจะได้รับการแก้ไขโดยศาสตราจารย์ Neumaier :)

— Aron Ahmadia

นักฟิสิกส์ที่นี่ฉันใช้ CMA-ES สำหรับการสร้างเฟสออปติคอล (การปรับเฟสของเลเซอร์พัลส์ให้เป็นแบบพัลสชaper) ซึ่งมีเสียงดังมาก

— จนถึง

คำตอบ:

แพ็คเกจ Matlab SnobFit ของเราสร้างขึ้นอย่างแม่นยำเพื่อจุดประสงค์นี้ ไม่จำเป็นต้องมีข้อสันนิษฐานเกี่ยวกับการกระจายของเสียงรบกวน นอกจากนี้ยังสามารถกำหนดค่าฟังก์ชั่นผ่านไฟล์ข้อความได้ดังนั้นคุณสามารถนำไปใช้กับฟังก์ชั่นที่ใช้ในระบบใด ๆ ที่สามารถเขียนไฟล์ข้อความได้ ดู
http://www.mat.univie.ac.at/~neum/software/snobfit/

SnobFit ได้รับการพัฒนาขึ้นสำหรับแอพพลิเคชั่นที่ไม่มีฟังก์ชั่นการปรับให้เหมาะสมและค่าฟังก์ชั่น (การวัดคุณภาพการผลิต) ได้มาโดยผู้เชี่ยวชาญอุปกรณ์ราคาแพงที่สร้างผลิตภัณฑ์ตัวอย่างและการวัดเหล่านี้ด้วยมือ การประเมินผลต่อวัน

— อาร์โนลด์ Neumaier
แหล่งที่มา

ขอบคุณมากสำหรับคำตอบของคุณ. ฉันเริ่มอ่านบทความของคุณเกี่ยวกับแพคเกจ SnobFit และฉันคิดว่ามันน่าสนใจจริงๆ นอกจากนี้ในขณะที่อ่านการแนะนำบทความของคุณฉันก็ตระหนักว่าปัญหาที่ฉันเกี่ยวข้องกับ (ในบริบททางสถิติ) ค่อนข้างบ่อยในคณิตศาสตร์อุตสาหกรรม มีวรรณกรรมมากมายที่ฉันไม่รู้อย่างสมบูรณ์ อันที่จริงวิธีการที่ฉันทำงานอยู่นั้นค่อนข้างคล้ายกับการประมาณกำลังสองของ Powell (2002)

— Jugurtha

Snobfit ทำงานได้ดีกับเสรีภาพ 128 องศาหรือไม่? เพียงแค่รู้ว่ามันคุ้มค่าที่จะลองสำหรับกรณีของฉัน

— จนถึง

@tillsten: ไม่มีวิธีการสำหรับปัญหาที่มีเสียงดังทำงานได้ดีกับ 128 dof เว้นแต่คุณจะสามารถใช้ค่าฟังก์ชันจำนวนมากได้ คุณอาจลองใช้ VXQR1 ของเราซึ่งไม่ใช่ปัญหาที่มีเสียงดัง แต่บางครั้งก็จัดการปัญหาที่มีเสียงดังได้ดี

— Arnold Neumaier

ขีด จำกัด ของ Snobfit คือตัวแปรประมาณ 20 ตัว หากคุณมีมากขึ้นคุณจะต้องเลือกตามกลุ่มสามัญสำนึกของตัวแปร 20 ตัวที่คุณสามารถปรับให้เหมาะสมที่สุดได้บ้าง หรือคุณอาจปล่อยให้เลื่อนตัวแปรบางตัวพร้อมกันเพื่อลดขนาด

— Arnold Neumaier

มีเทคนิคการปรับให้เหมาะสมแบบเบย์หลายประการที่คุณสามารถลองได้ ที่ง่ายที่สุดจะขึ้นอยู่กับกระบวนการเสียน:

Harold J. Kushner วิธีการใหม่ในการหาค่าสูงสุดของเส้นโค้ง multipeak ตามอำเภอใจเมื่อมีสัญญาณรบกวน วารสารวิศวกรรมขั้นพื้นฐาน, หน้า 86: 97–106, มีนาคม 1964
J. Mockus วิธีการแบบเบย์เพื่อการเพิ่มประสิทธิภาพระดับโลก หมายเหตุการบรรยายในการควบคุมและวิทยาการสารสนเทศ, 38: 473–481, 1982
Niranjan Srinivas, Andreas Krause, Sham Kakade และ Matthias Seeger การปรับกระบวนการแบบเกาส์ในการตั้งค่าโจร: ไม่เสียใจและการออกแบบการทดลอง ในพรอ. การประชุมนานาชาติเรื่องการเรียนรู้ของเครื่องจักร (ICML), 2010
Andreas Krause, Ajit Singh และ Carlos Guestrin ตำแหน่งเซนเซอร์ที่ใกล้เคียงที่สุดในกระบวนการแบบเกาส์: ทฤษฎี, อัลกอริธึมที่มีประสิทธิภาพและการศึกษาเชิงประจักษ์ เจมัค เรียน Res., 9: 235–284, มิถุนายน 2008

พวกเขาดำเนินการโดยการสร้างหลังฟังก์ชั่นที่น่าเชื่อถือให้สังเกตและแนะนำจุดต่อไปที่จะเรียนรู้ฟังก์ชั่นได้อย่างรวดเร็วรวมถึงค้นหา maxima ทั่วโลก (ดูโพสต์บล็อกของฉัน )

ข้อดีอีกอย่างคือคุณสามารถประเมิน Hessian ได้ที่จุดสูงสุด อย่างไรก็ตามคุณต้องระบุรูปแบบเสียงรบกวน

— Memming
แหล่งที่มา

อัลกอริธึม SPSA ของ James Spall (ย่อมาจาก Stochastic Perturbation Simulated Annealing ถ้าฉันจำได้ถูกต้อง) ได้รับการออกแบบมาสำหรับปัญหาแบบนี้ เขามีเอกสารสองฉบับที่เขาใช้สำหรับปัญหาเช่นเดียวกับที่คุณอธิบาย

— Wolfgang Bangerth
แหล่งที่มา

ฉันได้ลองใช้วิธีของ Spall โดยดูจากเชื้อสายชันและ Raphson Newton ฉันลอง Simulated Annealing แล้ว แต่ไม่ใช่เวอร์ชั่นที่ Spall แนะนำฉันควรลองใช้ดู ฉันไม่ได้กระตือรือร้นเกี่ยวกับการหลอมแบบจำลองเพราะฉันไม่สามารถประเมิน Hessian ได้ที่การบรรจบกัน (ตัวอย่างเช่นด้วย Staphastic Raphson Newton ฉันสามารถประมาณ Hessian "ฟรี")

— Jugurtha