จำลองการตายแบบยุติธรรมด้วยการตายแบบลำเอียง

เมื่อพิจารณาจากการตายของ$N$ด้านแล้วจะมีการสร้างตัวเลขสุ่มในช่วง$[1,N]$ได้อย่างไร? การแจกแจงความน่าจะเป็นของใบหน้าตายนั้นไม่เป็นที่รู้จักทั้งหมดที่รู้กันคือใบหน้าแต่ละใบหน้ามีความเป็นไปได้ที่ไม่ใช่ศูนย์ นี่คือลักษณะทั่วไปที่เห็นได้ชัดของแฟร์ผลกับการตายที่ไม่เป็นธรรม

วางนี้ในแง่วิทยาศาสตร์คอมพิวเตอร์เรามีคำพยากรณ์ที่เป็นตัวแทนของม้วนตาย: $D : \mathbb{N} \to [1,N]$เช่นว่าจะไม่ใช่ศูนย์และเป็นอิสระจากkเรากำลังมองหาขั้นตอนวิธีการกำหนดซึ่งเป็น parametrized โดย (เช่นอาจโทรไปยัง ) เช่นว่า N อัลกอริทึมจะต้องจบลงด้วยความน่าจะเป็น 1 นั่นคือความน่าจะเป็นที่ทำให้มากกว่าการเรียกถึงต้องมาบรรจบกันเป็นk A D A D $p_i = P(D(k)=i)$$k$$A$$D$$A$$D$A n D D 0 n → $P(A()=i) = 1/N$$A$$n$$D$$0$$n\to\infty$n

สำหรับ (จำลองเหรียญยุติธรรมจากการโยนเหรียญด้วยเหรียญลำเอียง) มีอัลกอริทึมที่รู้จักกันดี:$N=2$

• ทำซ้ำ“ พลิกสองครั้ง” จนกระทั่งการโยนทั้งสองครั้งเกิดขึ้นพร้อมกับผลลัพธ์ที่แตกต่าง ((หัว, ก้อย) หรือ (ก้อย, หัว) กล่าวอีกนัยหนึ่งวน$k = 0..\infty$จนกระทั่ง$D(2k+1) \ne D(2k)$
• ส่งคืน 0 ถ้าการพลิกคู่สุดท้ายคือ (หัว, ก้อย) และ 1 ถ้าเป็น (ก้อย, หัว) กล่าวอีกนัยหนึ่งให้คืนค่า$D(2k)$โดยที่$k$คือดัชนีที่วงถูกยกเลิก

วิธีง่าย ๆ ที่จะทำให้คนตายโดยลำเอียงจากลำเอียงคือการใช้วิธีการพลิกเหรียญเพื่อสร้างเหรียญยุติธรรมและสร้างความยุติธรรมด้วยการสุ่มตัวอย่างตัวอย่างการปฏิเสธในขณะที่unbiasing วนเวียนอยู่ แต่นี่เป็นการดีที่สุด (สำหรับค่าทั่วไปของการแจกแจงความน่าจะเป็น)

โดยเฉพาะคำถามของฉันคือสิ่งที่เป็นอัลกอริทึมที่ต้องมีขนาดเล็กที่สุดคาดว่าจำนวนของสายการพยากรณ์ ? หากชุดของค่าที่คาดว่าจะสามารถเข้าถึงได้เปิดขึ้นขอบเขตที่ต่ำกว่าคืออะไรและคลาสของอัลกอริทึมที่รวมเข้าหาขอบเขตล่างนี้คืออะไร

ในกรณีที่อัลกอริทึมตระกูลต่าง ๆ นั้นเหมาะสมที่สุดสำหรับการแจกแจงความน่าจะเป็นต่าง ๆ เรามามุ่งเน้นที่ลูกเต๋าที่เกือบจะยุติธรรม: ฉันกำลังมองหาอัลกอริทึมหรือตระกูลอัลกอริทึมที่เหมาะสมที่สุดสำหรับการแจกแจงเช่น$\forall i, \bigl|p_i - 1/N\bigr| \lt \epsilon$สำหรับบาง$\epsilon \gt 0$ 0

กระดาษคำตอบต่อไปนี้แตกต่างอย่างใกล้ชิดของคำถามนี้: มีประสิทธิภาพการก่อสร้างของที่เป็นกลางสุ่มลำดับอีเลียส 1972

คำถามดูเหมือนจะเป็นเช่นนี้: เมื่อได้รับการเข้าถึงแหล่งข้อมูลอิสระแบบเอนเอียงนี้ให้เรียงลำดับหมายเลขสุ่มใน (โปรดสังเกตความแตกต่างจากคำถามของคุณที่ร้องขอสัญลักษณ์เอาต์พุตเพียงอันเดียว) เมื่อความยาวของผลลัพธ์ที่ต้องการไปถึงอนันต์ "ประสิทธิภาพ" ของโครงร่างในกระดาษ (ซึ่งดูเหมือนว่าโดยทั่วไปของ von Neumann) ไปที่1หมายถึงผมเชื่อว่าการป้อนข้อมูลด้วยเอนโทรปีhถูกแปลงเป็น การส่งออกของเอนโทรปีใกล้เข้ามาชม$[1,N]$$1$$h$$h$

คำถามดูเหมือนจะทำงานได้ดีขึ้นเมื่อใช้ถ้อยคำในลักษณะนี้แทนที่จะขอเลขหลักเดียวเพราะถ้าเราวาดตัวอย่างและจบลงด้วยผลลัพธ์ที่มีข้อมูลจำนวนมาก (ตัวอย่างเช่นสัญลักษณ์อินพุตNทั้งหมดนั้นแตกต่างกัน) จากนั้นเราสามารถใช้ข้อมูลทั้งหมดเพื่อสร้างสัญลักษณ์เอาต์พุตจำนวนมากในขณะที่คำถามที่ใช้เป็นวลีที่นี่ข้อมูลใด ๆ ที่เกินกว่าที่ใช้ในการสร้างสัญลักษณ์เอาต์พุตหนึ่งรายการจะสูญเปล่า$N$$N$

ฉันเชื่อว่ารูปแบบซ้ำ ๆ จะใช้ดึงดูลำดับและแมปเอาท์พุทบางอย่างหรือสตริงที่ว่างเปล่า อาจมีวิธีการปรับปรุงแบบแผนสำหรับคำถามของคุณโดยดูที่คำนำหน้าและหยุดถ้าเรามีข้อมูล "เพียงพอ" ในการแสดงสัญลักษณ์? ฉันไม่รู้$N$

วิธีที่คุณอธิบายสำหรับ generalises เราใช้การเรียงสับเปลี่ยนทั้งหมดของ[ 1 .. N ]มีแนวโน้มที่เท่าเทียมกันแม้จะมีการตายแบบลำเอียง ดังนั้นเราจึงสามารถให้กลิ้งจนกว่าเราจะเห็นการเปลี่ยนแปลงดังกล่าวเป็นครั้งสุดท้ายNม้วนและผลผลิตม้วนสุดท้าย$N=2$$[1..N]$$N$

การวิเคราะห์ทั่วไปนั้นค่อนข้างยุ่งยาก เป็นที่ชัดเจนว่าจำนวนม้วนที่คาดว่าจะเติบโตอย่างรวดเร็วในเนื่องจากความน่าจะเป็นที่จะเห็นการเปลี่ยนแปลงในขั้นตอนใดก็ตามมีขนาดเล็ก (และไม่เป็นอิสระจากขั้นตอนก่อนและหลังจึงยุ่งยาก) อย่างไรก็ตามมีค่ามากกว่า0สำหรับNคงที่ดังนั้นโพรซีเดอร์จะสิ้นสุดลงเกือบแน่นอน (นั่นคือความน่าจะเป็น1 )$N$$0$$N$$1$

สำหรับคงที่เราสามารถสร้างห่วงโซ่มาร์คอฟเหนือชุดของเวกเตอร์ Parikh- ที่รวมกับ≤ Nสรุปผลของม้วนNครั้งสุดท้ายและกำหนดจำนวนขั้นตอนที่คาดหวังจนกว่าเราจะไปถึง( 1 , … , 1 )สำหรับ เป็นครั้งแรก นี่ก็เพียงพอแล้วเนื่องจากการเรียงสับเปลี่ยนทั้งหมดที่แบ่งปัน Parikh-vector นั้นมีแนวโน้มเท่ากัน โซ่และการคำนวณง่ายกว่าด้วยวิธีนี้$N$$\leq N$$N$$(1,\dots,1)$

สมมติว่าเราอยู่ในรัฐกับΣ n ฉัน= 1 V ฉัน ≤ N จากนั้นความน่าจะเป็นที่จะได้รับองค์ประกอบi (เช่นการหมุนครั้งถัดไปคือi ) จะได้รับจากเสมอ$v=(v_1,\dots,v_N)$$\sum_{i=1}^n v_i \leq N$$i$$i$

ฉัน$\qquad\displaystyle \operatorname{Pr}[\text{gain } i] = p_i$

ในทางกลับกันความสามารถในการทิ้งองค์ประกอบจากประวัติจะได้รับจาก$i$

$\qquad\displaystyle \operatorname{Pr}_v[\text{drop } i] = \frac{v_i}{N}$

เมื่อใดก็ตามที่ (และ0 เป็นอย่างอื่น) อย่างแม่นยำเนื่องจากการเรียงสับเปลี่ยนทั้งหมดที่มี Parikh-vector vมีแนวโน้มเท่ากัน ความน่าจะเป็นเหล่านี้มีความเป็นอิสระ (เนื่องจากม้วนเป็นอิสระ) ดังนั้นเราจึงสามารถคำนวณความน่าจะเป็นในการเปลี่ยนแปลงดังนี้:$\sum_{i=1}^n v_i = N$$0$$v$

$\qquad\begin{align*} &\operatorname{Pr}[v \to (v_1,\dots,v_j + 1,\dots,v_N)] \\ &\qquad=\begin{cases} \operatorname{Pr}[\text{gain } j] &, \sum v < N \\ 0 &, \text{ else} \end{cases}\;,\\[3ex] &\operatorname{Pr}[v \to (v_1,\dots,v_i - 1, \dots v_j + 1,\dots,v_N)] \\ &\qquad=\begin{cases} 0 &, \sum v < N \lor v_i=0 \lor v_j=N \\ \operatorname{Pr}_v[\text{drop } i] \cdot \operatorname{Pr}[\text{gain } j] &, \text{ else} \end{cases}\;\text{ and}\\[3ex] &\operatorname{Pr}[v \to v] \\ &\qquad=\begin{cases} 0 &, \sum v < N \\ \sum_{v_i \neq 0} \operatorname{Pr}_v[\text{drop } i] \cdot \operatorname{Pr}[\text{gain } i] &, \text{ else} \end{cases}\;; \end{align*}$

ความน่าจะเป็นในการเปลี่ยนแปลงอื่น ๆ ทั้งหมดมีค่าเป็นศูนย์ รัฐดูดซับเดียวที่ Parikh เวกเตอร์ของพีชคณิตทั้งหมด[ 1 .. N ]$(1,\dots,1)$$[1..N]$

สำหรับห่วงโซ่มาร์คอฟที่ได้คือ$N=2$

^{[ แหล่งที่มา ]}

ด้วยจำนวนขั้นตอนที่คาดไว้จนกระทั่งการดูดซึม

$\qquad\displaystyle \mathbb{E}\,\text{steps} = 2 p_0 p_1 \cdot 2 + \sum_{i\geq 3} (p_0^{i-1}p_1 + p_1^{i-1}p_0)\cdot i = \frac{1 - p_0 + p_0^2}{p_0-p_0^2}\;,$

โดยใช้ความเรียบง่ายที่ 0 หากเป็นไปตามที่แนะนำp 0 = $p_1=1-p_0$สำหรับบางϵ∈[0,$p_0 = \frac{1}{2} \pm \epsilon$จากนั้น$\epsilon \in [0,\frac{1}{2})$

2$\qquad\displaystyle \mathbb{E}\,\text{steps} = \frac{3 + 4\epsilon^2}{1 - 4\epsilon^2}$

สำหรับและการแจกแจงแบบสม่ำเสมอ (กรณีที่ดีที่สุด) ฉันทำการคำนวณด้วยพีชคณิตคอมพิวเตอร์²; เนื่องจากพื้นที่ของรัฐระเบิดอย่างรวดเร็วค่าที่ใหญ่กว่าจึงประเมินได้ยาก ผลลัพธ์ (ปัดเศษขึ้น) คือ$N \leq 6$

^{แปลงแสดงเป็นฟังก์ชั่นของ N ; ไปทางซ้ายเป็นประจำและไปทางขวาเป็นพล็อตลอการิทึม$\mathbb{E}\,\text{steps}$$N$}

การเจริญเติบโตดูเหมือนจะเป็นแบบยกกำลัง แต่ค่าน้อยเกินไปที่จะประเมินได้ดี

สำหรับความเสถียรต่อการรบกวนของเราสามารถดูสถานการณ์สำหรับN = 3 :$p_i$$N=3$

^{พล็อตแสดงเป็นหน้าที่ของ p 0และ p 1 ; ธรรมชาติ P 2 = 1 - P 0 - หน้า 1$\mathbb{E}\,\text{steps}$$p_0$$p_1$$p_2 = 1 - p_0 - p_1$}

สมมติว่าภาพที่คล้ายกันสำหรับขนาดใหญ่ (เคอร์เนลเกิดความผิดพลาดในการคำนวณผลสัญลักษณ์แม้สำหรับN = 4 ) จำนวนที่คาดหวังของขั้นตอนที่ดูเหมือนว่าจะค่อนข้างมีเสถียรภาพสำหรับทุกคน แต่ทางเลือกที่มากที่สุด (เกือบทั้งหมดหรือมวลไม่มีในบางหน้าฉัน )$N$$N=4$$p_i$

สำหรับการเปรียบเทียบจำลองเหรียญ -biased (เช่นโดยการกำหนดผลการตายไป0และ1อย่างสม่ำเสมอเท่าที่เป็นไปได้) ใช้นี้เพื่อจำลองเหรียญยุติธรรมและในที่สุดก็ดำเนินการสุ่มตัวอย่างปฏิเสธบิตฉลาดต้องใช้เวลามากที่สุด$\epsilon$$0$$1$

$\qquad\displaystyle 2\lceil \log N \rceil \cdot \frac{3 + 4\epsilon^2}{1 - 4\epsilon^2}$

คาดหวังว่าคุณจะติดกับสิ่งนั้นได้

1. เนื่องจากโซ่มีการดูดซับในขอบที่บอกเป็นสีเทาจึงไม่เคยเคลื่อนที่และไม่ส่งผลต่อการคำนวณ ฉันรวมไว้เพื่อความสมบูรณ์และเพื่อเป็นตัวอย่างเท่านั้น$(11)$
2. การใช้งานใน Mathematica 10 ( Notebook , Bare Source ); ขออภัยเป็นสิ่งที่ฉันรู้สำหรับปัญหาประเภทนี้

$N = 2$$m$$m$$k$$\log \binom{m}{k}$$p$

คุณสามารถใช้วิธีการเดียวกันนี้สำหรับทั่วไป $N$และคุณอาจจะได้รับเหมือนกัน $H(\vec{p})$. อัลกอริธึมเหล่านี้เหมาะสมที่สุดในขีด จำกัด เท่านั้นและอาจมีอัลกอริธึมถึงขีด จำกัด เร็วกว่า ในความเป็นจริงฉันละเลยที่จะคำนวณความเร็วของการลู่เข้า - นั่นอาจเป็นการออกกำลังกายที่น่าสนใจ

ฉันจะเสี่ยงต่อคำตอบต่อไปนี้

กรณีเฉพาะของ 2 ที่คุณกล่าวถึงข้างต้นเป็นกรณีเฉพาะของการขยายตัว $(p + q)^2$ (ในกรณีที่ $p$ เป็นปัญหาของหัวและ $q$ prob of tail) ซึ่งให้คำศัพท์แก่คุณ $2pq$ ซึ่งหมายความว่าคุณจะได้รับ $pq$ สำหรับกรณีหนึ่งและ $qp$สำหรับกรณีอื่น ๆ คุณจะต้องสุ่มตัวอย่างซ้ำจนกว่าคุณจะเห็น$pq$ หรือ $qp$ (head-tail หรือ tail-head) การใช้พวกมันเป็นแบบจำลองคุณจะให้โอกาสที่เท่าเทียมกัน

เมื่อไหร่ $N=3$ คุณมีการขยายตัว $(p + q + r)^3$ ซึ่งให้คำศัพท์แก่คุณ $pqr$. ในกรณีนี้คุณทำสิ่งเดียวกันโดยสุ่มตัวอย่างจนกว่าคุณจะเห็นผลลัพธ์ทั้ง 3 ข้อ$q$, $p$, $r$ ตามลำดับในการทดลอง 3 ครั้งติดต่อกัน

สิ่งเดียวกันใช้สำหรับกรณีทั่วไป เมื่อคิดอย่างถี่ถ้วนฉันต้องบอกว่ากรณีที่ 2 เป็นกรณีที่ดีที่สุดที่ใคร ๆ ก็สามารถทำได้ในการขยายตัว เมื่อไหร่$N=3$ มี 6 ลำดับที่แตกต่างกันสำหรับ $pqr$และมีเงื่อนไขอื่น ๆ อีกมากมายในการขยายตัว ฉันรู้สึกไม่สบายใจกับคำอื่น ๆ ที่มีผลลัพธ์อีกมากมาย

.

เสริม:

นี่ทำให้ฉันคิดเกี่ยวกับความคิดในการสุ่มตัวอย่างมากมายเพื่อประเมินความน่าจะเป็นของผลลัพธ์แต่ละชิ้นของลูกเต๋า ในกรณีที่ง่ายที่สุดของแบบจำลองเลเยอร์หนึ่งที่ไม่มีเลเยอร์ที่ซ่อนอยู่ (แบบจำลองที่รู้จัก) เราสามารถหาขอบเขตเพื่อสรุปว่าการประมาณมาบรรจบกันอย่างรวดเร็ว ในความเป็นจริง Chernoff ผูกพันแสดงให้เราเห็นว่าข้อผิดพลาดจะลดลงชี้แจงว่าการสุ่มตัวอย่างเพิ่มขึ้น (เชิงเส้น)

ขณะนี้ทราบว่าการประมาณความน่าจะเป็นที่ดีสำหรับแต่ละด้านของลูกเต๋ามีหลายทางเลือก ทางเลือกหนึ่งคือเราสามารถทำการขยายตัวด้านบนอีกครั้ง แต่คราวนี้เราอาจใช้คำอื่น ๆ อีกมากมายในการขยายตัวที่มีค่าเดียวกัน$\prod_{i=1}^{i=n} p_i$(หรือคำใด ๆ ที่คุณใช้ตามลำดับ) สิ่งนี้จะมีประสิทธิภาพมากกว่านี้เล็กน้อยเนื่องจากจะใช้คำศัพท์ในการขยายเพิ่มเติม แต่ฉันยอมรับว่าฉันไม่รู้ว่าสิ่งนี้จะส่งผลให้จำนวนการโทรไปยัง oracle น้อยที่สุดเพื่อรับประกันว่าจะมีเงื่อนไขใด ๆ (เช่นพารามิเตอร์ความมั่นใจ) หรือไม่หากพวกเขาได้รับ

อย่างไรก็ตามวิธีการนี้เป็นคำตอบสำหรับรสชาติที่แตกต่างของคำถาม คำถามนี้ถามถึงการรับประกันความเป็นกลางที่สมบูรณ์แบบโดยมีค่าใช้จ่ายในการสุ่มตัวอย่างที่มีขนาดใหญ่ วิธีนี้ใช้การสุ่มตัวอย่างแบบ จำกัด ด้วยพารามิเตอร์ความมั่นใจ ดังนั้นฉันไม่คิดว่าวิธีการนี้เหมาะสมกับคำถามนี้แม้ว่ามันจะน่าสนใจมาก