ชุดย่อยที่มีความสัมพันธ์กันน้อยที่สุดของตัวแปรสุ่มจากเมทริกซ์สหสัมพันธ์

ฉันมีความสัมพันธ์เมทริกซ์ซึ่งผมได้ใช้ค่าสัมประสิทธิ์สหสัมพันธ์ของเพียร์สันเชิงเส้นผ่านของ Matlab corrcoef () เมทริกซ์สหสัมพันธ์ของมิติ 100x100 นั่นคือฉันคำนวณเมทริกซ์สหสัมพันธ์กับตัวแปรสุ่ม 100 ตัว$A$

กลุ่มคนเหล่านี้ตัวแปรสุ่ม 100 ผมอยากที่จะหา 10 ตัวแปรสุ่มที่มีความสัมพันธ์เมทริกซ์มีว่า "ความสัมพันธ์น้อย" เป็นไปได้ (ดูปริมาณเท่าใด "ความสัมพันธ์มากขึ้น" เมทริกซ์สหสัมพันธ์ประกอบด้วยเมื่อเทียบกับความสัมพันธ์เมทริกซ์ Bเกี่ยวกับตัวชี้วัดเพื่อวัด ความสัมพันธ์โดยรวมในเมทริกซ์ความสัมพันธ์) ฉันสนใจเฉพาะความสัมพันธ์แบบคู่เท่านั้น

มีวิธีการที่ดีในการค้นหาตัวแปรสุ่ม 10 ตัวในระยะเวลาที่เหมาะสมหรือไม่ (เช่นฉันไม่ต้องการลองชุดค่าผสม)? อัลกอริทึมการประมาณก็โอเค$\binom{100}{10}$

ขอให้เราพิจารณาผลรวมของสหสัมพันธ์แบบคู่ที่แน่นอนว่าเป็นการวัดที่เราเลือก เราจึงหาเวกเตอร์ด้วยซึ่งจะลดโดยที่.$v\in\{0,1\}^N$$l_1(v)=n$$v'Qv$$Q_{ij}=|A_{ij}|$

สมมติว่า Q เป็นบวกแน่นอนเช่น A, ปัญหาจะลดลงเพื่อแก้ปัญหาการหาค่าเหมาะที่สุดแบบสมการกำลังสอง:

$$v^*=\min\ v'Qv\ s.t.\ l_1(v)=n,\ v_i\in\{0,1\}$$

สิ่งนี้แสดงให้เห็นถึงการผ่อนคลายที่กำลังเกิดขึ้น:

$$v^*=\min\ v'Qv\ s.t.\ l_1(v)=n,\ v_i\in[0,1]$$

ซึ่งสามารถแก้ไขได้อย่างง่ายดายโดยใช้ตัวแก้แบบนอกชั้นวาง; แล้วผลที่จะได้รับโดยที่ใหญ่ที่สุดองค์ประกอบใน *$n$$v^*$

ตัวอย่างรหัส matlab:

N=100;
n=10;
% Generate random data
A=rand(N,1000);
C=corrcoef(A');
Q=abs((C+C')/2); % make sure it is symmetric
x = cplexqp(Q,zeros(1,N),[],[], ones(1, N),n, zeros(N,1), ones(N,1));
% If you don't use CPLEX, use matlab's default
% x = quadprog(Q,zeros(1,N),[],[], ones(1, N),n, zeros(N,1), ones(N,1));
assert(abs(sum(x)-n)<1e-10);
% Find the n largest values
I=sort(x); 
v=zeros(size(x)); v(x>I(N-n))=1; 
assert(abs(sum(v)-n)<1e-10);
% Make sure we do better than 10K random trials
for i=1:10000
   vc=zeros(size(x)); vc(randperm(N,n))=1;
   assert(sum(vc)==n, 'Wrong l0 norm');
   assert(vc'*Q*vc>v'*Q*v, 'Improves result');
end
% Show results
J=find(v==1);
fprintf('The optimal solution total off-diagonal correlations are %1.3f\n', v'*Q*v-n);
fprintf('The matrix:\n');
C(J,J)

สิ่งนี้อาจแย่กว่าแนวคิดการจัดกลุ่มแบบลำดับชั้นของ @ ttnphns แต่: ฉันเพิ่งเกิดขึ้นบนกระดาษที่ใช้เป็นฟังก์ชันวัตถุประสงค์ submodular ที่เพิ่มขึ้น:$\log \det(I + A)$

Vanchinathan, Marfurt, Robelin, Kossman และ Krause การค้นพบรายการที่มีค่าจากข้อมูลขนาดใหญ่ KDD 2015. ( ดอย , arXiv )

หากคุณคิดว่าเป็นการวัดที่สมเหตุสมผล "มีความสัมพันธ์น้อยที่สุด" คุณสามารถรับปัจจัยที่เหมาะสมที่สุดได้ภายในโดยเพียงแค่เลือกจุดที่ทำให้เกิดประโยชน์สูงสุด สิ่งนี้สามารถทำได้อย่างมีประสิทธิภาพด้วยการสลายตัวของบล็อค LUโดยที่คือเวกเตอร์ของความสัมพันธ์กับรายการที่มีอยู่แล้วในเมทริกซ์:$1-1/e$$v$

$$\begin{align*} \det \begin{bmatrix} I+A & v \\ v^T & 2 \end{bmatrix} &= \det \left( \begin{bmatrix} I & 0 \\ v^T (I+A)^{-1} & 1 \end{bmatrix} \begin{bmatrix} I+A & 0 \\ 0 & 2 - v^T (I+A)^{-1} v \end{bmatrix} \begin{bmatrix} I & (I+A)^{-1} v \\ 0 & 1 \end{bmatrix} \right) \\&= \det \begin{bmatrix} I & 0 \\ v^T (I+A)^{-1} & 1 \end{bmatrix} \det \begin{bmatrix} I+A & 0 \\ 0 & 2 - v^T (I+A)^{-1} v \end{bmatrix} \det \begin{bmatrix} I & (I+A)^{-1} v \\ 0 & 1 \end{bmatrix} \\&= (2 - v^T (I+A)^{-1} v) \det (I+A) \end{align*}$$

และแน่นอนคุณควรคำนวณโดยที่คือตัวประกอบการ Cholesky ของและใช้ตัวแก้รูปสามเหลี่ยม ซึ่งเป็น2) ดังนั้นกระบวนการทั้งหมดนี้ควรใช้เวลาในการเลือกจากองค์ประกอบสมมติว่าเมทริกซ์สหสัมพันธ์นั้นถูกคำนวณแล้ว .$v^T (I+A)^{-1} v = \lVert L^{-1} v \rVert^2$$L$$I + A$$O(n^2)$$O( \sum_{k=1}^n N k^2 + k^3) = O( N n^3 )$$n$$N$

ฉันไม่แน่ใจว่าจะเข้าใจสิ่งที่คุณหมายถึงอย่างเต็มที่โดย"ฉันเพียง แต่เกี่ยวกับความสัมพันธ์แบบคู่"แต่นี่คือสิ่งที่อาจช่วยได้: ใช้การกลับด้านของความสัมพันธ์แบบเมทริกซ์ของคุณ ระยะเท่ากับที่เป็น xเมทริกซ์ที่สร้างขึ้นจากโดยที่คอลัมน์ -th และบรรทัดถูกลบแล้ว$A^{-1}_{ii}$$det(A_{0_i}) / det(A)$$A_{0_i}$$(n-1)$$(n-1)$$A$$i$

รับดัชนีของสัมประสิทธิ์เส้นทแยงมุมต่ำสุดในจึงบอกคุณว่าจุดใดมีความสัมพันธ์ต่ำที่สุดกับส่วนที่เหลือของชุด$A^{-1}$

ขึ้นอยู่กับสิ่งที่คุณต้องการทำจริง ๆ คุณสามารถเลือกค่าต่ำสุด 10 ค่าในแนวทแยงของการสลับกลับหรือรับค่าแรกจากนั้นคำนวณการสลับกลับด้วยการลบจุดและอื่น ๆ

หากนี่ไม่ใช่สิ่งที่คุณต้องการฉันรู้สึกว่าเคล็ดลับนี้อาจยังคงมีประโยชน์ แต่ฉันก็ไม่แน่ใจเหมือนกัน

ค้นหารายการจากที่มีความสัมพันธ์แบบคู่กันน้อยที่สุด: เนื่องจากความสัมพันธ์ของคำพูดอธิบายของความสัมพันธ์ระหว่างทั้งสองซีรี่ส์มันสมเหตุสมผลมากกว่าที่จะลดผลรวมของกำลังสองของความสัมพันธ์สำหรับ รายการเป้าหมายของคุณ นี่คือทางออกที่ง่ายของฉัน$k$$n$$0.6$$0.36$$k$

เขียน เมทริกซ์สหสัมพันธ์ของคุณเป็นเมทริกซ์สแควร์ของสหสัมพันธ์ รวมสี่เหลี่ยมของแต่ละคอลัมน์ กำจัดคอลัมน์และแถวที่เกี่ยวข้องด้วยผลรวมสูงสุด ตอนนี้คุณมีเมทริกซ์เมทริกซ์ ทำซ้ำจนกว่าคุณจะมีเมทริกซ์คุณสามารถเก็บคอลัมน์และแถวที่เกี่ยวข้องด้วยผลรวมเล็กที่สุด เมื่อเปรียบเทียบวิธีการฉันพบในเมทริกซ์ที่มีและที่มีเพียงสองรายการที่มีผลรวมใกล้เคียงเท่านั้นที่ถูกเก็บและกำจัดแตกต่างกัน$n \times n$$(n−1)\times (n−1)$$k\times k$$k$$n=43$$k=20$