วิธีวนซ้ำเวกเตอร์ตามลำดับความน่าจะเป็นในพื้นที่ขนาดเล็ก

12

พิจารณามิติเวกเตอร์ที่ }สำหรับแต่ละคนเรารู้ว่าและให้เราถือว่าเป็นอิสระ การใช้ความน่าจะเป็นเหล่านี้มีวิธีที่มีประสิทธิภาพในการวนซ้ำเวกเตอร์ไบนารีมิติตามลำดับจากที่เป็นไปได้น้อยที่สุด (ด้วยตัวเลือกโดยพลการสำหรับความสัมพันธ์) โดยใช้ช่องว่างย่อยในขนาดเอาต์พุตหรือไม่ $n$ $v$ $v_i \in \{0,1\}$ $i$ $p_i = P(v_i = 1)$ $v_i$ $n$

ใช้ตัวอย่างเช่น }เวกเตอร์ได้มากที่สุดคือและอย่างน้อยน่าเป็น } $p = \{0.8, 0.3, 0.6\}$ $(1,0,1)$ $\{0,1,0\}$

สำหรับขนาดเล็กมากเราสามารถติดป้ายเวกเตอร์แต่ละตัวด้วยความน่าจะเป็นและเรียงลำดับได้ง่าย แต่แน่นอนว่านี่จะยังไม่ใช้พื้นที่ sublinear $n$ $2^n$

แตกต่างอย่างใกล้ชิดของคำถามนี้ก็ถามว่าก่อนหน้านี้ที่/cs/24123/how-to-iterate-over-vectors-in-order-of-probability

ds.algorithms space-bounded

— Lembik
แหล่งที่มา

มีเหตุผลใดที่คุณไม่ได้ถามคำถามติดตามที่นั่นด้วยหรือไม่ เป็นปัญหาหลักที่นี่หนึ่งในการทำเช่นนี้ในพื้นที่ sublinear?

— Suresh Venkat

@SureshVenkat ใช่ปัญหาทั้งหมดเกี่ยวกับพื้นที่ sublinear (ในขนาดเอาต์พุต) ฉันถามที่นี่เพราะฉันคิดว่าคำถามอาจจะยากมาก

— Lembik

การแก้ปัญหานี้ในพื้นที่และเวลาของ

ดูเหมือนว่าต้องใช้เทคนิคที่คล้ายกับ SUBSET-SUM ดังนั้นจึงไม่น่าจะมีทางออกที่รวดเร็ว

poly (n)

$\textrm{poly}(n)$

— Geoffrey Irving

@GeoffreyIrving คุณคิดว่าสัญชาตญาณนี้สามารถทำให้เป็นทางการมากขึ้นได้หรือไม่?

— Lembik

9

ต่อไปนี้จะช่วยให้อัลกอริทึมที่ใช้ประมาณเวลาและพื้นที่ $2^n$ $2^{n/2}$

อันดับแรกให้ดูที่ปัญหาของการเรียงลำดับจำนวนเงินของรายการย่อยทั้งหมดของรายการ $n$

พิจารณา subproblem นี้: คุณมีสองรายการที่เรียงลำดับของความยาวและคุณต้องการจะสร้างรายการที่เรียงลำดับของผลบวกจากจำนวนของตัวเลขในรายการ คุณต้องการทำเช่นนี้ในเวลา (ขนาดเอาต์พุต) แต่เป็นพื้นที่ย่อย เราสามารถบรรลุพื้นที่ เราเก็บลำดับความสำคัญและดึงผลรวมออกจากลำดับความสำคัญเพื่อเพิ่มลำดับ $m$ $O(m^2)$ $O(m)$

ให้รายการและเรียงลำดับตามลำดับที่เพิ่มขึ้น เราใช้เวลาเงินก้อน , และใส่ไว้ในคิวลำดับความสำคัญ $a_1 \ldots a_m$ $b_1 \ldots b_m$ $m$ $a_i + b_1$ $i = 1 \ldots m$

ตอนนี้เมื่อเราดึงส่วนที่เหลือรวมที่เล็กที่สุดออกจากคิวลำดับความสำคัญถ้าเราแล้วใส่ผลรวมลงในคิวลำดับความสำคัญ พื้นที่ถูกครอบงำโดยคิวลำดับความสำคัญซึ่งมักจะมีจำนวนไม่เกินและเวลาคือเนื่องจากเราใช้สำหรับการดำเนินการลำดับความสำคัญแต่ละครั้ง นี่แสดงให้เห็นว่าเราสามารถทำปัญหาย่อยใน $a_i + b_j$ $j < m$ $a_i + b_{j+1}$ $m$ $O(m^2 \log m)$ $O(\log m)$ เวลาและพื้นที่ $O(m^2 \log m)$ $O(m)$

ตอนนี้ในการจัดเรียงผลรวมของส่วนย่อยทั้งหมดของหมายเลขเราเพียงแค่ใช้ subroutine นี้ที่รายการคือชุดของผลรวมของส่วนย่อยในช่วงครึ่งแรกของรายการและรายการคือชุดของผลรวมของส่วนย่อย ของครึ่งหลังของรายการ เราสามารถค้นหารายการเหล่านี้ซ้ำด้วยอัลกอริทึมเดียวกัน $n$ $a_i$ $b_i$

ตอนนี้เราจะพิจารณาปัญหาเดิม ให้เป็นชุดของพิกัดซึ่งเป็นและเป็นชุดของพิกัดที่1จากนั้น $S_0$ $0$ $S_1$ $1$

\begin{array}{rcl} \prod_{i \in S_{0}} p (v_{i} = 0) \prod_{i \in S_{1}} p (v_{i} = 1) & = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \prod_{i \in S_{1}} \frac{p (v_{i} = 1)}{p (v_{i} = 0)} \\ = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \exp (\sum_{i \in S_{1}} \log \frac{p (v_{i} = 1)}{p (v_{i} = 0)}) . \end{array}

$\begin{eqnarray*}\prod_{i \in S_0} p(v_i=0) \prod_{i \in S_1} p(v_i=1) &=& \prod_{1\leq i \leq n} p(v_i=0) \prod_{i \in S_1} \frac{p(v_i=1)}{p(v_i=0)} \\ &=& \prod_{1\leq i \leq n} p(v_i=0) \exp\,\left(\sum_{i \in S_1} \log \frac{p(v_i=1)}{p(v_i = 0)}\right).\end{eqnarray*}$

เรียงลำดับตัวเลขเหล่านี้เป็นเช่นเดียวกับการเรียงลำดับตัวเลขดังนั้นเราจึงมีการลดปัญหาที่จะเรียงลำดับผลรวมของส่วนย่อยของรายการ $\sum_{i\in S_1}\log p(v_i=1) - \log p(v_i=0)$ $n$

— Peter Shor
แหล่งที่มา

มีการลดลงอย่างน่าเชื่อถือซึ่งจะทำให้การแก้ปัญหาเวลา / พื้นที่โพลีไม่น่าเชื่อถือ?

— Lembik

คุณอาจจะไม่ได้รับโซลูชันที่ใช้เวลาน้อยกว่า

เนื่องจากนั่นคือขนาดของเอาต์พุต (และโซลูชันของฉันใช้เวลา

2^{n}

$2^n$

เวลา) แม้ว่าฉันจะไม่มีขีด จำกัด ด้านล่างที่ดีสำหรับพื้นที่

n 2^{n}

$n\, 2^n$

— Peter Shor

ขอบคุณ. ฉันไม่ได้หมายถึงเวลาโพลีแน่นอน แต่ค่อนข้างเชิงเส้นบางอย่างในขนาดเอาต์พุตและพื้นที่โพลี

— Lembik

4

$O(n)$

$x \in \{0,1\}^n$ $O(n)$ $r(x)$ $x$ $x'$ $p(x') > p(x)$ $x'\in \{0,1\}^n$ $x'$ $p(x') > p(x)$ $r(x)$ $x$
$k$ $x$ $r(x) = k$ $O(n)$ $x \in \{0,1\}^n$ $x$ $r(x)$ $x$ $r(x) = k$
$k$ $0$ $2^n-1$ $k$ $x$ $r(x) =k$

(เราควรดูแลความสัมพันธ์ที่เป็นไปได้ แต่สิ่งนี้ไม่ยาก)

— Yury
แหล่งที่มา

ขอบคุณ. นั่นคือค่อนข้างช้า แต่ขั้นตอนวิธี :)

— Lembik

0

แก้ไข: คำตอบนี้ไม่ถูกต้อง ดูความคิดเห็นเพื่อดูรายละเอียด ~ gandaliter

$O(2^n)$ $O(n)$

$(i, p_i)$ $\left|0.5 - p_i\right|$
$v$ $v_i$ $1$ $p_i > 0.5$ $0$ $v$ $v_i$ $v$
เรียกใช้ฟังก์ชันนี้ซ้ำในรายการที่เรียงลำดับและเวกเตอร์เปล่า

$0$ $1$ $0.5$

$O(2^n)$ $O(n)$ $n$ $O(2^n)$ $O(n)$ $O(2^n)$ ขั้นตอนเวลา ดังนั้นอัลกอริทึมนี้จึงมีความซับซ้อนของตัวพิมพ์ใหญ่ที่สุด

— gandaliter
แหล่งที่มา

คำตอบอื่น ๆ แตกต่างกันอย่างแน่นอนเนื่องจากต้องใช้ลำดับความสำคัญและด้วยเหตุนี้จึงใช้

Θ (2^{n})

$\Theta(2^n)$

ขอบคุณ เห็นได้ชัดว่าฉันไม่ได้อ่านอย่างละเอียดพอ! ฉันแก้ไขคำตอบของฉันแล้ว

— gandaliter

3

คุณแน่ใจหรือว่าโซลูชันนี้ใช้งานได้? ฉันไม่สามารถหารายละเอียดของการเรียกซ้ำสองครั้ง (pseudocode ช่วยได้!) แต่ฉันไม่เห็นว่ามันจะทำงานได้อย่างไร โดยเฉพาะอย่างยิ่งการแก้ปัญหาของคุณน่าจะเป็นท้องถิ่น: ถ้ามันตั้ง

ก็กำลังจะเอาท์พุท

คำตอบกับ

1

แต่คำตอบที่แท้จริงไม่ควรมองด้วยวิธีนี้ ในความเป็นจริงเท่าที่ฉันเข้าใจโซลูชันของคุณดูเหมือนว่าจะล้มเหลวแม้ในกรณีที่ง่ายที่สุดที่ทุกคน

v_{1} = 1

$v_1=1$

2^{n - 1}

$2^{n-1}$

v_{1} = 1

$v_1=1$

p_{i} = 0.5

$p_i=0.5$

คุณพูดถูกมันไม่ได้ผล ขออภัย!

— gandaliter