ความแปรปรวนของเวลาในการทำภารกิจมีผลต่อการเลื่อนอย่างไร

สมมติว่าเรามีคอลเลกชันขนาดใหญ่ของงาน$\tau_1, \tau_2, ..., \tau_n$และคอลเล็กชันของโปรเซสเซอร์ (ในแง่ของประสิทธิภาพ) ที่เหมือนกันซึ่งทำงานได้อย่างสมบูรณ์แบบขนาน สำหรับสถานการณ์ที่น่าสนใจที่เราอาจคิดn แต่ละใช้เวลา / รอบในการดำเนินการให้เสร็จสมบูรณ์เมื่อกำหนดให้กับโปรเซสเซอร์และเมื่อได้รับมอบหมายจะไม่สามารถกำหนดใหม่ได้จนกว่าจะเสร็จสมบูรณ์ สมมติว่าแต่ละτ ฉันใช้เวลาระยะเวลา / รอบ$\rho_1, \rho_2, ..., \rho_m$$m \leq n$$\tau_i$$\rho_j$$\tau_i$$X_i$ซึ่งไม่ทราบล่วงหน้านำมาจากการกระจายแบบสุ่มโดยสิ้นเชิง สำหรับคำถามนี้เรายังสามารถสันนิษฐานได้ว่าการกระจายง่าย:$P(X_i = 1) = P(X_i = 5) = 1/2$และทุก$X_i$มีความเป็นอิสระจากจำนวน ดังนั้น$\mu_i = 3$และ$\sigma^2 = 4$ 4

สมมติว่าในเวลา / รอบที่ 0 งานทั้งหมดจะถูกกำหนดอย่างสม่ำเสมอเท่าที่จะเป็นไปได้สำหรับตัวประมวลผลทั้งหมดโดยการสุ่มอย่างสม่ำเสมอ ดังนั้นโปรเซสเซอร์แต่ละชิ้น$\rho_j$จึงได้รับมอบหมายงาน$n/m$ (เราสามารถสมมติ$m | n$สำหรับวัตถุประสงค์ของคำถามได้เช่นกัน) เราเรียกว่าตัวเลื่อนทำให้เวลา / รอบที่ตัวประมวลผลตัวสุดท้าย$\rho^*$ให้เสร็จตามที่ได้รับมอบหมายจนเสร็จงานที่ได้รับมอบหมาย คำถามแรก:

ในฐานะที่เป็นฟังก์ชันของ$m$ , $n$ , และ$X_i$ , makepan $M$คืออะไร? โดยเฉพาะ$E[M]$คืออะไร? $Var[M]$ ?

คำถามที่สอง:

สมมติว่า$P(X_i = 2) = P(X_i = 4) = 1/2$และทุก$X_i$มีความเป็นอิสระจากจำนวนดังนั้น$\mu_i = 3$และ$\sigma^2 = 1$ 1 ในฐานะที่เป็นฟังก์ชั่นของ$m$ , $n$และใหม่ของiเหล่านี้$X_i$คืออะไร, พาเนลคืออะไร? ที่น่าสนใจกว่าคือเปรียบเทียบกับคำตอบจากส่วนแรกอย่างไร

การทดลองทางความคิดอย่างง่าย ๆ แสดงให้เห็นถึงคำตอบของสิ่งที่เกิดขึ้นหลังคือระยะเวลานานกว่า แต่สิ่งนี้สามารถวัดปริมาณได้อย่างไร ฉันยินดีที่จะโพสต์ตัวอย่างหากนี่คือ (a) การโต้เถียงหรือ (b) ไม่ชัดเจน ฉันจะโพสต์คำถามติดตามผลเกี่ยวกับรูปแบบการมอบหมายแบบไดนามิกภายใต้สมมติฐานเดียวกันนี้ทั้งนี้ขึ้นอยู่กับความสำเร็จของโครงการนี้ ขอบคุณล่วงหน้า!

การวิเคราะห์กรณีง่าย: $m = 1$

หากงานnทั้งหมดจะถูกกำหนดเวลาไว้ในโปรเซสเซอร์เดียวกัน makespan Mเป็นเพียงเวลาที่จะเสร็จสมบูรณ์nงานในแฟชั่นลำดับที่สมบูรณ์ ดังนั้น E [ M $m = 1$$n$$M$$n$ และ V a r [ M

$$\begin{align*} E[M] &= E[X_1 + X_2 + ... + X_n] \\ &= E[X_1] + E[X_2] + ... + E[X_n] \\ &= \mu + \mu + ... + \mu \\ &= n\mu \end{align*}$$ $$\begin{align*} Var[M] &= Var[X_1 + X_2 + ... + X_n] \\ &= Var[X_1] + Var[X_2] + ... + Var[X_n] \\ &= \sigma^2 + \sigma^2 + ... + \sigma^2 \\ &= n\sigma^2 \\ \end{align*}$$

ดูเหมือนว่าอาจเป็นไปได้ที่จะใช้ผลลัพธ์นี้เพื่อตอบคำถามสำหรับ ; เราก็ต้องไปหาการแสดงออก (หรือใกล้เคียง) สำหรับสูงสุด( Y 1 , Y 2 , . . . , Y ม. )ที่Y ฉัน = X ฉัน$m > 1$$\max(Y_1, Y_2, ..., Y_m)$ , ตัวแปรสุ่มที่มีμY=$Y_i = X_{i\frac{n}{m} + 1} + X_{i\frac{n}{m} + 2} + ... + X_{i\frac{n}{m} + \frac{n}{m}}$$\mu_Y = \frac{n}{m}\mu_X$ and $\sigma_Y^2 = \frac{n}{m}\sigma_X^2$. Is this heading in the right direction?

As $m = k \times n$, we can look at this in terms of $k$ and $n$ instead of $n$ and $m$. Let's say $T_i$ is the time it takes the $i$-th processor to finish its work.

As $n$ grows, the probability that $T_i$ = $5k$ (the processor was assigned only $T=5$ tasks) for some $i$ approaches $1$, so makespan being defined as $\mathrm{max}(T_i)$, $E[M]$ approaches $5k$.

For the second scenario this is $4k$ so increasing the number of processors makes the 4–2 split better.

$k$$k$$k$ grows, the difference in $E[M]$ between the 4–2 split and the 5­­­–1 split disappears, $E[M]$ becomes the same for both. So I would assume that 4–2 is always better except maybe for some special cases (very small specific values of $k$ and $n$), if even that.

So to summarize:

• Lower variance is better, all else being equal.
• As the number of processors grows, lower variance becomes more important.
• As the number of tasks per processor grows, lower variance becomes less important.

I find that heuristic arguments are often quite misleading when considering task scheduling (and closely related problems like bin packing). Things can happen that are counter-intuitive. For such a simple case, it is worthwhile actually doing the probability theory.

Let $n = km$ with $k$ a positive integer. Suppose $T_{ij}$ is the time taken to complete the $j$-th task given to processor $i$. This is a random variable with mean $\mu$ and variance $\sigma^2$. The expected makespan in the first case is

$$E[M] = E[\max \left\{\sum_{j=1}^k T_{ij} \mid i=1,2,\dots,m \right\}].$$ The sums are all iid with mean $k\mu$ and variance $k\sigma^2$, assuming that $T_{ij}$ are all iid (this is stronger than pairwise independence).

Now to obtain the expectation of a maximum, one either needs more information about the distribution, or one has to settle for distribution-free bounds, such as:

• Peter J. Downey, Distribution-free bounds on the expectation of the maximum with scheduling applications, Operations Research Letters 9, 189–201, 1990. doi:10.1016/0167-6377(90)90018-Z

which can be applied if the processor-wise sums are iid. This would not necessarily be the case if the underlying times were just pairwise independent. In particular, by Theorem 1 the expected makespan is bounded above by

$$E[M] \le k\mu + \sigma\sqrt{k}\frac{n-1}{\sqrt{2n-1}}.$$ Downey also gives a particular distribution achieving this bound, although the distribution changes as $n$ does, and is not exactly natural.

Note that the bound says that the expected makespan can increase as any of the parameters increase: the variance $\sigma^2$, the number of processors $n$, or the number of tasks per processor $k$.

For your second question, the low-variance scenario resulting in a larger makespan seems to be an unlikely outcome of a thought experiment. Let $X = \max_{i=1}^m X_i$ denote the makespan for the first distribution, and $Y = \max_{i=1}^m Y_i$ for the second (with all other parameters the same). Here $X_i$ and $Y_i$ denote the sums of $k$ task durations corresponding to processor $i$ under the two distributions. For all $x \ge k\mu$, independence yields

$$Pr[X \le x] = \prod_{i=1}^m Pr[X_i \le x] \le \prod_{i=1}^m Pr[Y_i \le x] = Pr[Y \le x].$$ Since most of the mass of the probability distribution of the maximum will be above its mean, $E[X]$ will therefore tend to be larger than $E[Y]$. This is not a completely rigorous answer, but in short, the second case seems preferable.