วิธีสร้างเมทริกซ์สหสัมพันธ์แบบกึ่งบวกแบบกึ่งมีประสิทธิภาพได้อย่างมีประสิทธิภาพได้อย่างไร

ฉันต้องการที่จะสร้างเมทริกซ์สหสัมพันธ์เชิงบวก - semidefinite (PSD) ได้อย่างมีประสิทธิภาพ วิธีการของฉันช้าลงอย่างมากเมื่อฉันเพิ่มขนาดของเมทริกซ์ที่จะสร้าง

1. คุณช่วยแนะนำวิธีแก้ปัญหาที่มีประสิทธิภาพได้ไหม? หากคุณตระหนักถึงตัวอย่างใด ๆ ใน Matlab ฉันจะขอบคุณมาก
2. เมื่อสร้างเมทริกซ์ความสัมพันธ์ PSD คุณจะเลือกพารามิเตอร์เพื่ออธิบายเมทริกซ์ที่จะสร้างได้อย่างไร ค่าเฉลี่ยสหสัมพันธ์ส่วนเบี่ยงเบนมาตรฐานของสหสัมพันธ์ค่าลักษณะเฉพาะ

คุณสามารถทำย้อนหลังได้: เมทริกซ์ทุกตัว (เซตของเมทริกซ์ PSD สมมาตรp × p PSD ทั้งหมด) สามารถแยกย่อยเป็น$C \in \mathbb{R}_{++}^p$$p \times p$

โดยที่ Oเป็นเมทริกซ์แบบออโธเทนเน็ต$C=O^{T}DO$$O$

ที่จะได้รับแรกสร้างพื้นฐานแบบสุ่ม( โวลต์1 , . . . , วีพี ) (ที่วีฉันเวกเตอร์สุ่มโดยทั่วไปใน( - 1 , 1 ) ) จากนั้นใช้กระบวนการ orthogonalization แกรมชมิดท์ที่จะได้รับ( U 1 , . . . . , ยูพี ) = $O$$(v_1,...,v_p)$$v_i$$(-1,1)$$(u_1,....,u_p)=O$

มีแพ็คเกจจำนวนหนึ่งที่สามารถทำการสุ่มตั้งฉากแบบ GS ได้อย่างมีประสิทธิภาพซึ่งแม้แต่ในมิติที่มีขนาดใหญ่เช่นแพ็คเกจ 'ไกล' แม้ว่าคุณจะพบอัลกอริทึม GS บนวิกิ แต่ก็น่าจะดีกว่าที่จะไม่คิดค้นวงล้อใหม่และเริ่มใช้งาน MATLAB (มีอยู่จริง ๆ ฉันก็ไม่แนะนำเลย)$R$

สุดท้ายเป็นเมทริกซ์ทแยงมุมซึ่งเป็นธาตุบวกทั้งหมด (นี้เป็นอีกครั้งที่ง่ายในการสร้าง: สร้างหน้าตัวเลขสุ่มตารางพวกเขาจัดเรียงพวกเขาและสถานที่ที่เขาไปถึงเส้นทแยงมุมของตัวตนของพีโดยพีเมทริกซ์)$D$$p$$p$$p$

กระดาษสร้างเมทริกซ์สหสัมพันธ์แบบสุ่มโดยยึดตามเถาและวิธีการหอมใหญ่โดย Lewandowski, Kurowicka และ Joe (LKJ), 2009, ให้การรักษาแบบครบวงจรและการแสดงออกของทั้งสองวิธีที่มีประสิทธิภาพในการสร้างเมทริกซ์สหสัมพันธ์แบบสุ่ม ทั้งสองวิธีอนุญาตให้สร้างเมทริกซ์จากการแจกแจงแบบสม่ำเสมอในความหมายบางอย่างที่กำหนดไว้ด้านล่างง่ายต่อการติดตั้งรวดเร็วและมีข้อได้เปรียบเพิ่มเติมจากการมีชื่อที่น่าขบขัน

เมทริกซ์สมมาตรที่แท้จริงของขนาดกับคนที่อยู่บนเส้นทแยงมุมมีd ( d - 1 ) / 2องค์ประกอบปิดเส้นทแยงมุมที่ไม่ซ้ำกันและเพื่อให้สามารถ parametrized เป็นจุดในR d ( d - 1 ) / 2 แต่ละจุดในพื้นที่นี้สอดคล้องกับเมทริกซ์สมมาตร แต่ไม่ใช่ทั้งหมดที่เป็นบวกแน่นอน (เป็นเมทริกซ์สหสัมพันธ์จะต้องมี) เมทริกซ์สหสัมพันธ์จึงเกิดชุดย่อยของR d ( d - 1 ) /$d \times d$$d(d-1)/2$$\mathbb R^{d(d-1)/2}$$\mathbb R^{d(d-1)/2}$ (อันที่จริงแล้วเซตย่อยนูนที่เชื่อมต่อ) และทั้งสองวิธีสามารถสร้างคะแนนจากการแจกแจงแบบสม่ำเสมอเหนือเซ็ตย่อยนี้

ฉันจะช่วยให้การดำเนินงาน MATLAB ของตัวเองของแต่ละวิธีและแสดงให้เห็นถึงพวกเขาด้วย 100$d=100$

วิธีการหอม

วิธีหอมมาจากกระดาษอื่น (Ref # 3 ใน lkj) และเป็นเจ้าของชื่อเป็นความจริงที่การฝึกอบรมความสัมพันธ์จะมีการสร้างที่เริ่มต้นด้วยเมทริกซ์และการเจริญเติบโตมันคอลัมน์คอลัมน์และแถวโดยแถว การกระจายผลลัพธ์เป็นแบบสม่ำเสมอ ฉันไม่เข้าใจคณิตศาสตร์ที่อยู่เบื้องหลังวิธีการ (และชอบวิธีที่สองอยู่ดี) แต่นี่คือผลลัพธ์:$1\times 1$

ที่นี่และด้านล่างชื่อของแต่ละแผนย่อยแสดงค่าลักษณะเฉพาะที่เล็กที่สุดและใหญ่ที่สุดและตัวกำหนด (ผลิตภัณฑ์ของค่าลักษณะเฉพาะทั้งหมด) นี่คือรหัส:

%// ONION METHOD to generate random correlation matrices distributed randomly
function S = onion(d)
    S = 1;
    for k = 2:d
        y = betarnd((k-1)/2, (d-k)/2); %// sampling from beta distribution
        r = sqrt(y);
        theta = randn(k-1,1);
        theta = theta/norm(theta);
        w = r*theta;
        [U,E] = eig(S);
        R = U*E.^(1/2)*U';             %// R is a square root of S
        q = R*w;
        S = [S q; q' 1];               %// increasing the matrix size
    end
end

วิธีการหอมใหญ่

$\mathbf C$$[\mathrm{det}\:\mathbf C]^{\eta-1}$$\eta$$\eta=1$$\eta={1, 10, 100, 1000, 10\:000, 100\:000}$

$\eta=0$$\eta=1$

%// EXTENDED ONION METHOD to generate random correlation matrices
%// distributed ~ det(S)^eta [or maybe det(S)^(eta-1), not sure]
function S = extendedOnion(d, eta)
    beta = eta + (d-2)/2;
    u = betarnd(beta, beta);
    r12 = 2*u - 1;
    S = [1 r12; r12 1];  

    for k = 3:d
        beta = beta - 1/2;
        y = betarnd((k-1)/2, beta);
        r = sqrt(y);
        theta = randn(k-1,1);
        theta = theta/norm(theta);
        w = r*theta;
        [U,E] = eig(S);
        R = U*E.^(1/2)*U';
        q = R*w;
        S = [S q; q' 1];
    end
end

วิธีการเถาวัลย์

$d(d-1)/2$$[-1, 1]$$\eta$$[\mathrm{det}\:\mathbf C]^{\eta-1}$

%// VINE METHOD to generate random correlation matrices
%// distributed ~ det(S)^eta [or maybe det(S)^(eta-1), not sure]
function S = vine(d, eta)
    beta = eta + (d-1)/2;   
    P = zeros(d);           %// storing partial correlations
    S = eye(d);

    for k = 1:d-1
        beta = beta - 1/2;
        for i = k+1:d
            P(k,i) = betarnd(beta,beta); %// sampling from beta
            P(k,i) = (P(k,i)-0.5)*2;     %// linearly shifting to [-1, 1]
            p = P(k,i);
            for l = (k-1):-1:1 %// converting partial correlation to raw correlation
                p = p * sqrt((1-P(l,i)^2)*(1-P(l,k)^2)) + P(l,i)*P(l,k);
            end
            S(k,i) = p;
            S(i,k) = p;
        end
    end
end

วิธีการ Vine ด้วยการสุ่มตัวอย่างแบบสหสัมพันธ์บางส่วน

$\pm 1$$[0,1]$$[-1, 1]$$\alpha=\beta={50, 20, 10, 5, 2, 1}$. ยิ่งพารามิเตอร์ของการแจกแจงเบต้าน้อยเท่าไหร่ก็ยิ่งมีความเข้มข้นใกล้กับขอบมากขึ้นเท่านั้น

โปรดทราบว่าในกรณีนี้การกระจายไม่รับประกันว่าจะมีการเปลี่ยนแปลงอย่างต่อเนื่องดังนั้นฉันจึงสุ่มเปลี่ยนแถวและคอลัมน์หลังจากการสร้าง

%// VINE METHOD to generate random correlation matrices
%// with all partial correlations distributed ~ beta(betaparam,betaparam)
%// rescaled to [-1, 1]
function S = vineBeta(d, betaparam)
    P = zeros(d);           %// storing partial correlations
    S = eye(d);

    for k = 1:d-1
        for i = k+1:d
            P(k,i) = betarnd(betaparam,betaparam); %// sampling from beta
            P(k,i) = (P(k,i)-0.5)*2;     %// linearly shifting to [-1, 1]
            p = P(k,i);
            for l = (k-1):-1:1 %// converting partial correlation to raw correlation
                p = p * sqrt((1-P(l,i)^2)*(1-P(l,k)^2)) + P(l,i)*P(l,k);
            end
            S(k,i) = p;
            S(i,k) = p;
        end
    end

    %// permuting the variables to make the distribution permutation-invariant
    permutation = randperm(d);
    S = S(permutation, permutation);
end

นี่คือวิธีที่ฮิสโทแกรมขององค์ประกอบนอกแนวทแยงมองหาเมทริกซ์ด้านบน (ความแปรปรวนของการแจกแจงแบบ monotonically เพิ่มขึ้น):

อัปเดต: ใช้ปัจจัยสุ่ม

$k<d$$\mathbf W$$k \times d$$\mathbf W \mathbf W^\top$$\mathbf D$$\mathbf B = \mathbf W \mathbf W^\top + \mathbf D$$\mathbf C = \mathbf E^{-1/2}\mathbf B \mathbf E^{-1/2}$$\mathbf E$$\mathbf B$$k={100, 50, 20, 10, 5, 1}$

และรหัส:

%// FACTOR method
function S = factor(d,k)
    W = randn(d,k);
    S = W*W' + diag(rand(1,d));
    S = diag(1./sqrt(diag(S))) * S * diag(1./sqrt(diag(S)));
end

นี่คือรหัสการห่อที่ใช้ในการสร้างตัวเลข:

d = 100; %// size of the correlation matrix

figure('Position', [100 100 1100 600])
for repetition = 1:6
    S = onion(d);

    %// etas = [1 10 100 1000 1e+4 1e+5];
    %// S = extendedOnion(d, etas(repetition));

    %// S = vine(d, etas(repetition));

    %// betaparams = [50 20 10 5 2 1];
    %// S = vineBeta(d, betaparams(repetition));

    subplot(2,3,repetition)

    %// use this to plot colormaps of S
    imagesc(S, [-1 1])
    axis square
    title(['Eigs: ' num2str(min(eig(S)),2) '...' num2str(max(eig(S)),2) ', det=' num2str(det(S),2)])

    %// use this to plot histograms of the off-diagonal elements
    %// offd = S(logical(ones(size(S))-eye(size(S))));
    %// hist(offd)
    %// xlim([-1 1])
end

$A$$A^TA$$y^T (A^TA) y \ge 0$$y$$y^T (A^TA) y = (Ay)^T Ay = ||Ay||$ซึ่งไม่ติดลบ ดังนั้นใน Matlab เพียงลอง

A = randn(m,n);   %here n is the desired size of the final matrix, and m > n
X = A' * A;

ทั้งนี้ขึ้นอยู่กับแอปพลิเคชันซึ่งอาจไม่ให้การกระจายของค่าลักษณะเฉพาะที่คุณต้องการ คำตอบของ Kwak นั้นดีกว่ามากในเรื่องนั้น ค่าลักษณะเฉพาะที่Xสร้างโดยข้อมูลโค้ดนี้ควรเป็นไปตามการแจกแจง Marchenko-Pastur

สำหรับการจำลองเมทริกซ์สหสัมพันธ์ของหุ้นคุณอาจต้องการแนวทางที่แตกต่างกันเล็กน้อย:

k = 7;      % # of latent dimensions;
n = 100;    % # of stocks;
A = 0.01 * randn(k,n);  % 'hedgeable risk'
D = diag(0.001 * randn(n,1));   % 'idiosyncratic risk'
X = A'*A + D;
ascii_hist(eig(X));    % this is my own function, you do a hist(eig(X));
-Inf <= x <  -0.001 : **************** (17)
-0.001 <= x <   0.001 : ************************************************** (53)
 0.001 <= x <   0.002 : ******************** (21)
 0.002 <= x <   0.004 : ** (2)
 0.004 <= x <   0.005 :  (0)
 0.005 <= x <   0.007 : * (1)
 0.007 <= x <   0.008 : * (1)
 0.008 <= x <   0.009 : *** (3)
 0.009 <= x <   0.011 : * (1)
 0.011 <= x <     Inf : * (1)

$\mathbf{D}$$\mathbf{A}=\mathbf{Q}\mathbf{D}\mathbf{Q}^T$$\mathbf{Q}$

คุณยังไม่ได้ระบุการกระจายสำหรับเมทริกซ์ สองคนที่พบบ่อยคือ Wishart และการกระจาย Wishart ตรงกันข้าม การสลายตัวของบาร์ตเลตต์นั้นเป็นตัวประกอบของ Cholesky ของเมทริกซ์ Wishart แบบสุ่ม (ซึ่งสามารถแก้ไขได้อย่างมีประสิทธิภาพเพื่อให้ได้เมทริกซ์ Wishart ผกผันแบบสุ่ม)

ในความเป็นจริงพื้นที่ Cholesky เป็นวิธีที่สะดวกในการสร้างเมทริกซ์ PSD แบบสุ่มชนิดอื่นเนื่องจากคุณจะต้องแน่ใจว่าเส้นทแยงมุมนั้นไม่ใช่ลบ

$U^TSU$

หากคุณต้องการควบคุมเมทริกซ์ PSD สมมาตรที่สร้างขึ้นเช่นสร้างชุดการตรวจสอบความถูกต้องสังเคราะห์คุณมีพารามิเตอร์จำนวนมาก เมทริกซ์ PSD สมมาตรสอดคล้องกับ hyper-ellipse ในพื้นที่ N-มิติพร้อมองศาอิสระที่เกี่ยวข้องทั้งหมด:

1. ผลัด
2. ความยาวของแกน

ดังนั้นสำหรับเมทริกซ์ 2 มิติ (เช่นวงรี 2d) คุณจะมี 1 การหมุน + 2 แกน = 3 พารามิเตอร์

$\Sigma=ODO^T$$\Sigma$$O$$D$

$\Sigma$

figure;
mu = [0,0];
for i=1:16
    subplot(4,4,i)
    theta = (i/16)*2*pi;   % theta = rand*2*pi;
    U=[cos(theta), -sin(theta); sin(theta) cos(theta)];
    % The diagonal's elements control the lengths of the axes
    D = [10, 0; 0, 1]; % D = diag(rand(2,1));    
    sigma = U*D*U';
    data = mvnrnd(mu,sigma,1000);
    plot(data(:,1),data(:,2),'+'); axis([-6 6 -6 6]); hold on;
end

$U$

วิธีการที่ถูกและร่าเริงที่ฉันใช้ในการทดสอบคือการสร้าง m N (0,1) n-vectors V [k] จากนั้นใช้ P = d * I + Sum {V [k] * V [k] '} เป็นเมทริกซ์ ndn psd ด้วย m <n สิ่งนี้จะเป็นเอกฐานสำหรับ d = 0 และสำหรับ d ขนาดเล็กจะมีหมายเลขเงื่อนไขสูง