การแปลง (การทำให้เป็นปกติ) ค่าความน่าจะเป็นที่น้อยมากเป็นความน่าจะเป็น

ฉันกำลังเขียนอัลกอริทึมที่ได้รับแบบจำลองฉันคำนวณความน่าจะเป็นของรายการชุดข้อมูลจากนั้นจำเป็นต้องทำให้เป็นปกติ (เป็นความน่าจะเป็น) แต่ละโอกาส ดังนั้นบางอย่างเช่น [0.00043, 0.00004, 0.00321] อาจถูกแปลงเป็นอาจจะเป็น [0.2, 0.03, 0.77]

ปัญหาของฉันคือความน่าจะเป็นของบันทึกที่ฉันกำลังทำงานอยู่มีขนาดค่อนข้างเล็ก (ตัวอย่างเช่นในพื้นที่บันทึกค่ามีค่าเช่น -269647.432, -231444.981 เป็นต้น) ในรหัส C ++ ของฉันเมื่อฉันพยายามเพิ่มพวกเขาสองคน (โดยการยกกำลังของพวกเขา) ฉันได้รับคำตอบของ "Inf" ฉันพยายามเพิ่มพวกเขาใน log-space (Summation / Subtraction of log)แต่ก็พบปัญหาเดียวกันอีกครั้ง

ใครสามารถแบ่งปันความเห็นของผู้เชี่ยวชาญเกี่ยวกับเรื่องนี้?

ลบลอการิทึมสูงสุดจากบันทึกทั้งหมด ทิ้งผลลัพธ์ทั้งหมดที่มีค่าเป็นลบ (ความเป็นไปได้ของพวกเขาคือเพื่อวัตถุประสงค์ในทางปฏิบัติทั้งหมดเป็นศูนย์)

อันที่จริงถ้าคุณต้องการความแม่นยำญาติของ (เช่นสำหรับตัวเลขของความแม่นยำ) และคุณมีโอกาสเกิดทิ้งผลใด ๆ น้อยกว่าลอการิทึมของ n จากนั้นดำเนินการตามปกติเพื่อยกกำลังค่าที่เป็นผลลัพธ์และหารแต่ละค่าด้วยผลรวมของเลขชี้กำลังทั้งหมดϵ = 10 - d d n ϵ /$\epsilon$$\epsilon = 10^{-d}$$d$$n$$\epsilon/n$

สำหรับผู้ที่ชอบสูตรให้ลอการิทึมจะกับlambda_i) สำหรับลอการิทึมถึงฐานb \ gt 1ให้นิยามλ n = สูงสุด( λ i ) b > $\lambda_1, \lambda_2, \ldots, \lambda_n$$\lambda_n = \max(\lambda_i)$$b\gt 1$

ความเป็นไปได้ที่ทำให้เป็นมาตรฐานเท่ากับ , วิธีนี้ใช้ได้ผลเนื่องจากการแทนที่ underflowingเป็นศูนย์ทั้งหมดทำให้เกิดข้อผิดพลาดทั้งหมดที่มากที่สุดในขณะที่เพราะและทั้งหมดไม่ใช่แบบลบตัวดังนั้นข้อผิดพลาดสัมพัทธ์ทั้งหมดเนื่องจากกฎศูนย์เปลี่ยนมีขนาดเล็กกว่าตามที่ต้องการฉัน= 1 , 2 , ... , n α i ( n - 1 ) ϵ / n < ϵ α n = b λ n - λ n = b 0 = 1 α i A = ∑ j α j ≥ 1 ( ( n - $\alpha_i / \sum_{j=1}^n \alpha_j$$i = 1, 2, \ldots, n.$$\alpha_i$$(n-1)\epsilon/n\lt \epsilon$$\alpha_n=b^{\lambda_n-\lambda_n}=b^0=1$$\alpha_i$$A = \sum_j \alpha_j \ge 1$$\left((n-1)\epsilon/n \right) / A \lt \epsilon$

เพื่อหลีกเลี่ยงการมากเกินไปปัดเศษข้อผิดพลาดการคำนวณผลรวมที่เริ่มต้นด้วยค่าที่เล็กที่สุดของ\สิ่งนี้จะทำโดยอัตโนมัติเมื่อถูกเรียงลำดับตามลำดับที่เพิ่มขึ้นเป็นครั้งแรก นี่เป็นข้อพิจารณาสำหรับมีขนาดใหญ่มากเท่านั้นλ i$\alpha_i$$\lambda_i$$n$

BTW ยานี้สันนิษฐานว่าฐานของบันทึกที่มีค่ามากกว่า1สำหรับฐานน้อยกว่า , ลบล้างแรกบันทึกและดำเนินการเช่นถ้าฐานเท่ากับ bb 1 1 /$1$$b$$1$$1/b$

ตัวอย่าง

ให้มีสามค่าด้วยลอการิทึม (บันทึกธรรมชาติ, พูด) เท่ากับและ สุดท้ายคือที่ใหญ่ที่สุด; การลบออกจากแต่ละค่าจะให้และ- 231444.981 , - 231444.699 - 38202.733 , - 0.282 , $-269647.432,$ $-231444.981,$$-231444.699.$$-38202.733,$ $-0.282,$$0.$

สมมติว่าคุณต้องการความแม่นยำเทียบเคียงได้กับมาตรฐาน IEEE คู่ผสม (ประมาณ 16 หลักทศนิยม) เพื่อให้และ 3 (คุณไม่สามารถบรรลุความแม่นยำนี้ได้จริง ๆ เพราะนั้นมอบให้กับบุคคลสำคัญเพียงสามตัวเท่านั้น แต่ก็ไม่เป็นไร: เราแค่ทิ้งค่าที่รับรองว่าจะไม่ส่งผลต่อความแม่นยำที่คุณต้องการและความแม่นยำที่แท้จริงของคุณ มี.) คำนวณ = = ความแตกต่างสามอย่างแรกคือน้อยกว่านี้ดังนั้นจงทิ้งมันทิ้งไปแค่และ ยกกำลังพวกมันให้ n = 3 - 0.282 บันทึก( ϵ / n ) บันทึก( 10 - 16 ) - บันทึก( 3 ) - 37.93997 - 38202.733 , - 0.282 0. exp ( - 0.282 ) = 0.754 exp ( 0 ) = 1 0 0.754 / ( 1 + 0.754 ) $\epsilon=10^{-16}$$n=3$$-0.282$$\log(\epsilon/n)$$\log(10^{-16}) - \log(3)$$-37.93997.$$-38202.733,$$-0.282$$0.$$\exp(-0.282) = 0.754$และ (แน่นอน) ค่าปกติเป็น - ใน order--สำหรับคนที่คุณโยนออกไปและ1$\exp(0)=1$$0$$0.754 / (1 + 0.754) = 0.430$$1/(1+0.754)=0.570$