สร้างน้ำหนักที่กระจายอย่างสม่ำเสมอซึ่งรวมเป็นเอกภาพหรือไม่?

เป็นเรื่องปกติที่จะใช้ตุ้มน้ำหนักในการใช้งานเช่นการสร้างแบบจำลองการผสมและการรวมฟังก์ชั่นพื้นฐานเป็นเส้นตรง น้ำหนัก $w_i$ มักจะต้องเชื่อฟัง $w_i ≥$ 0 และ 1 ฉันต้องการสุ่มเลือกเวกเตอร์น้ำหนักจากการกระจายเวกเตอร์ดังกล่าวอย่างสม่ำเสมอ $\sum_{i} w_i=1$ $\mathbf{w} = (w_1, w_2, …)$

อาจเป็นการดึงดูดให้ใช้โดยที่ U (0, 1) อย่างไรก็ตามตามที่กล่าวไว้ในความคิดเห็นด้านล่างการกระจายของไม่เหมือนกัน $w_i = \frac{\omega_i}{\sum_{j} \omega_j}$ $\omega_i \sim$ $\mathbf{w}$

อย่างไรก็ตามเนื่องจากข้อ จำกัด $\sum_{i} w_i=1$ ดูเหมือนว่ามิติของปัญหาคือ $n-1$ และควรจะเลือก $\mathbf{w}$ โดยเลือกพารามิเตอร์ $n-1$ ตาม การกระจายและการคำนวณสอดคล้องกัน $\mathbf{w}$ จากพารามิเตอร์เหล่านั้น (เพราะเมื่อมีการระบุน้ำหนัก $n-1$ น้ำหนักที่เหลือจะถูกกำหนดอย่างสมบูรณ์)

ปัญหาดูเหมือนจะคล้ายกับปัญหาการเลือกจุดทรงกลม (แต่แทนที่จะเลือก 3 เวกเตอร์ที่ norm เป็นเอกภาพฉันต้องการเลือก -vector ซึ่ง norm เป็นเอกภาพ) $ℓ_2$ $n$ $ℓ_1$

ขอบคุณ!

random-generation

— คริส
แหล่งที่มา

วิธีการของคุณไม่ได้สร้างเวกเตอร์ที่กระจายอย่างสม่ำเสมอบน Simplex เมื่อต้องการทำสิ่งที่คุณต้องการอย่างถูกต้องวิธีที่ตรงไปตรงมาที่สุดคือการสร้างตัวแปรสุ่ม iidจากนั้นปรับมาตรฐานให้เป็นปกติด้วยผลรวม คุณสามารถลองทำได้โดยหาวิธีอื่นเพื่อวาดเฉพาะตัวแปรโดยตรง แต่ฉันมีข้อสงสัยเกี่ยวกับการแลกเปลี่ยนประสิทธิภาพตั้งแต่ตัวแปรสามารถสร้างได้อย่างมีประสิทธิภาพมากจากตัวแปร

n

$n$

E x p (1)

$\mathrm{Exp}(1)$

n - 1

$n-1$

E x p (1)

$\mathrm{Exp}(1)$

U (0, 1)

$U(0,1)$

— พระคาร์ดินัล

คำตอบ:

เลือกอย่างสม่ำเสมอ (โดยการเครื่องแบบจำนวนจริงในช่วงเวลา ) เรียงสัมประสิทธิ์เพื่อให้{n-1} ชุด $\mathbf{x} \in [0,1]^{n-1}$ $n-1$ $[0,1]$ $0 \le x_1 \le \cdots \le x_{n-1}$

w = (x_{1}, x_{2} - x_{1}, x_{3} - x_{2}, \dots, x_{n - 1} - x_{n - 2}, 1 - x_{n - 1}) .

$\mathbf{w} = (x_1, x_2-x_1, x_3 - x_2, \ldots, x_{n-1} - x_{n-2}, 1 - x_{n-1}).$

เนื่องจากเราสามารถกู้คืนการเรียงลำดับด้วยวิธีผลรวมบางส่วนของการแมปคือถึง 1; โดยเฉพาะอย่างยิ่งภาพของมันคือเริมใน n เพราะ (a) การแลกเปลี่ยนแต่ละครั้งในการเรียงลำดับเป็นการแปลงเชิงเส้น (b) สูตรก่อนหน้าคือเส้นตรงและ (c) การแปลงเชิงเส้นรักษาความสม่ำเสมอของการแจกแจงความสม่ำเสมอของแสดงถึงความสม่ำเสมอของบน simplex โดยเฉพาะอย่างยิ่งโปรดทราบว่าระยะขอบของไม่จำเป็นต้องเป็นอิสระ $x_i$ $w_i$ $\mathbf{x} \to \mathbf{w}$ $(n-1)!$ $n-1$ $\mathbb{R}^n$ $\mathbf{x}$ $\mathbf{w}$ $n-1$ $\mathbf{w}$

พล็อตจุด 3D

จุดนี้ 3D พล็อตการแสดงผลของปี 2000 การทำซ้ำของขั้นตอนวิธีนี้สำหรับ 3 คะแนนจะถูก จำกัด อยู่ที่ซิมเพล็กซ์และมีการกระจายอย่างสม่ำเสมอทั่วกัน $n=3$

เพราะเวลาการดำเนินการของขั้นตอนวิธีนี้คือก็จะไม่มีประสิทธิภาพขนาดใหญ่nแต่นี่จะตอบคำถาม! วิธีที่ดีกว่า (โดยทั่วไป) เพื่อสร้างค่าที่กระจายอย่างสม่ำเสมอบน -simplexคือการวาด realsในช่วงเวลา , คำนวณ $O(n \log(n)) \gg O(n)$ $n$ $n-1$ $n$ $(x_1, \ldots, x_n)$ $[0,1]$

y_{i} = - \log (x_{i})

$y_i = -\log(x_i)$

(ซึ่งทำให้แต่ละบวกด้วยความน่าจะเป็นซึ่งผลรวมของพวกเขาเกือบจะไม่ใช่ศูนย์) และตั้งค่า $y_i$ $1$

w = (y_{1}, y_{2}, \dots, y_{n}) / (y_{1} + y_{2} + \dots + y_{n}) .

$\mathbf w = (y_1, y_2, \ldots, y_n) / (y_1 + y_2 + \cdots + y_n).$

สิ่งนี้ได้ผลเพราะแต่ละมีการซึ่งหมายถึงมีการแจกแจงDirichlet - และนั่นคือรูปแบบเดียวกัน $y_i$ $\Gamma(1)$ $\mathbf w$ $(1,1,1)$

[พล็อตจุด 3 มิติ 2]

— whuber
แหล่งที่มา

@Chris ถ้าโดย "Dir (1)" คุณหมายถึงการแจกแจง Dirichlet พร้อมพารามิเตอร์ =คำตอบคือใช่

(α_{1}, \dots, α_{n})

$(\alpha_1, \ldots, \alpha_n)$

(1, 1, \dots, 1)

$(1,1,\ldots,1)$

— whuber

(+1) หนึ่งความคิดเห็นเล็กน้อย: ปรีชาเป็นเลิศ ดูแลในการตีความ (ก) อาจจะต้องมีการดำเนินการตามที่มันดูเหมือนว่า "การแปลงเชิงเส้น" ในส่วนที่เป็นแบบสุ่มหนึ่ง อย่างไรก็ตามสิ่งนี้สามารถแก้ไขได้อย่างง่ายดายด้วยค่าใช้จ่ายของพิธีการเพิ่มเติมโดยใช้ความสามารถในการแลกเปลี่ยนของกระบวนการสร้างและคุณสมบัติค่าคงที่ที่แน่นอน

— พระคาร์ดินัล

ชัดเจนมากขึ้น: สำหรับการแจกแจงที่มีความหนาแน่นความหนาแน่นของสถิติการสั่งซื้อของตัวอย่าง iid ของขนาดคือ<x_n)} ในกรณีของการแจกแจงสถิติการสั่งซื้อจะเหมือนกันในโพลีท็อป เมื่อนำมาจากจุดนี้การแปลงสภาพที่เหลืออยู่จะกำหนดขึ้นและผลลัพธ์จะตามมา

f

$f$

n

$n$

n! f (x_{1}) \dots f (x_{n}) 1_{(x_{1} < x_{2} < \dots < x_{n})}

$n! f(x_1)\cdots f(x_n) 1_{(x_1 < x_2 < \cdots < x_n)}$

f = 1_{[0, 1]} (x)

$f = 1_{[0,1]}(x)$

— พระคาร์ดินัล

@cardinal นั้นเป็นจุดที่น่าสนใจ แต่ฉันไม่คิดว่ามันจะสำคัญแม้ว่าคุณจะพูดถูกว่ารายละเอียดเพิ่มเติมสามารถช่วยได้ สัญญาแลกเปลี่ยน (อันที่จริงคือการสะท้อนการแปลงเชิงเส้นของqua ) ไม่ได้สุ่ม: มันถูกกำหนดไว้ล่วงหน้า ผลก็คือถูกแกะสลักเป็นภูมิภาคที่หนึ่งแตกต่างจากที่อื่น ๆ และมี bijection เลียนแบบกำหนดไว้ล่วงหน้าระหว่างแต่ละภูมิภาคและหนึ่งที่โดดเด่น ความจริงเพิ่มเติมเพียงอย่างเดียวที่เราต้องการก็คือการกระจายตัวแบบสม่ำเสมอในภูมิภาคนั้นมีความเหมือนกันในส่วนย่อยที่วัดได้ของมันซึ่งเป็นเรื่องเล็กน้อย

I_{n - 1} = [0, 1]^{n - 1}

$I_{n-1}=[0,1]^{n-1}$

(n - 1)!

$(n-1)!$

— whuber

@whuber: คำพูดที่น่าสนใจ ขอบคุณสำหรับการแบ่งปัน! ฉันมักจะชื่นชมความคิดที่ลึกซึ้งของคุณในสิ่งต่าง ๆ เกี่ยวกับความคิดเห็นก่อนหน้าของฉันเกี่ยวกับ "การแปลงเชิงเส้นแบบสุ่ม" จุดของฉันก็คือว่าอย่างน้อยผ่านการเปลี่ยนแปลงที่ใช้ขึ้นอยู่กับจุดตัวอย่าง\วิธีคิดอีกอย่างคือมันมีฟังก์ชั่นคงที่ที่กำหนดไว้ล่วงหน้าเช่นนั้นแต่ฉันจะไม่เรียกฟังก์ชันนั้นเป็นเส้นตรงแม้ว่ามันจะเป็นเส้นตรงบนเซตย่อยที่แบ่งพาร์ติชัน -cube :)

x

$\mathbf{x}$

ω

$\omega$

T : R^{n - 1} \to R^{n - 1}

$T: \mathbb{R}^{n-1} \to \mathbb{R}^{n-1}$

w = T (x)

$\mathbf{w} = T(\mathbf{x})$

(n - 1)

$(n-1)$

— สำคัญ

    zz <- c(0, log(-log(runif(n-1))))
    ezz <- exp(zz)
    w <- ezz/sum(ezz)

รายการแรกถูกกำหนดเป็นศูนย์เพื่อระบุตัวตน คุณจะเห็นว่าทำในรูปแบบโลจิสติก multinomial ของหลักสูตรในรูปแบบพหุนามคุณจะยังมีตัวแปรภายใต้เลขยกกำลังที่มากกว่าแค่การสุ่มzzs การกระจายตัวของzzs คือการกระจายมูลค่ามาก; คุณต้องใช้สิ่งนี้เพื่อให้แน่ใจว่าน้ำหนักที่ได้เป็น iid ฉันเริ่มใส่rnormals ตรงนั้น แต่ก็มีความรู้สึกว่ามันไม่ได้ผล

— StasK
แหล่งที่มา

ไม่ได้ผล คุณลองดูฮิสโตแกรมหรือไม่?

— พระคาร์ดินัล

คำตอบของคุณเกือบจะถูกต้องแล้ว หากคุณสร้าง iidและหารด้วยผลรวมคุณจะได้การแจกแจงที่ถูกต้อง ดูการกระจาย Dirichletสำหรับรายละเอียดเพิ่มเติมแม้ว่ามันจะไม่ได้หารือเรื่องนี้อย่างชัดเจน

n

$n$

E x p (1)

$\mathrm{Exp}(1)$

— พระคาร์ดินัล

ด้วยคำศัพท์ที่คุณใช้คุณจะสับสนเล็กน้อย

— พระคาร์ดินัล

ที่จริงแล้วลิงก์ Wiki จะพูดถึงสิ่งนี้ (พอใช้) อย่างชัดเจน ดูย่อหน้าที่สองภายใต้หัวข้อSupport

— พระคาร์ดินัล

ลักษณะนี้มีทั้ง จำกัด และกว้างเกินไป มันกว้างเกินไปในการที่การกระจายที่เกิดจากต้องเป็น "เครื่องแบบ" บนเริมใน n มันมีข้อ จำกัด มากเกินไปในการที่คำถามถูกเขียนโดยทั่วไปมากพอที่จะอนุญาตให้เป็นฟังก์ชันของการกระจาย variate ซึ่งจะสันนิษฐานได้ แต่ไม่จำเป็นต้องประกอบด้วยอิสระ (และอาจจะเป็น iid) ตัวแปร

w

$\mathbf{w}$

n - 1

$n-1$

R^{n}

$\mathbb{R}^n$

w

$\mathbf{w}$

n - 1

$n-1$

n - 1

$n-1$

— whuber

วิธีแก้ปัญหานั้นชัดเจน รหัส MathLab ต่อไปนี้ให้คำตอบสำหรับน้ำหนัก 3 ตัว

function [  ] = TESTGEN( )
SZ  = 1000;
V  = zeros (1, 3);
VS = zeros (SZ, 3);
for NIT=1:SZ   
   V(1) = rand (1,1);     % uniform generation on the range 0..1
   V(2) = rand (1,1) * (1 - V(1));
   V(3) = 1 - V(1) - V(2);  
   PERM = randperm (3);    % random permutation of values 1,2,3
   for NID=1:3
         VS (NIT, NID) = V (PERM(NID));
    end
end 
figure;
scatter3 (VS(:, 1), VS(:,2), VS (:,3));
end

— user96990
แหล่งที่มา

ระยะขอบของคุณไม่มีการกระจายที่ถูกต้อง ตัดสินจากบทความ Wikipedia เกี่ยวกับการแจกแจง Dirichlet (ส่วนการสร้างตัวเลขสุ่มซึ่งมีอัลกอริธึมที่คุณเข้ารหัส) คุณควรใช้การกระจายเบต้า (1,2) สำหรับ V (1) ไม่ใช่เครื่องแบบ [0,1] การกระจาย

— soakley

ปรากฏว่าความหนาแน่นเพิ่มขึ้นที่มุมของสามเหลี่ยมเอียงนี้ อย่างไรก็ตามมันให้การแสดงผลทางเรขาคณิตที่ดีของปัญหา

— DWIN