จะค้นหาและประเมิน discretization ที่เหมาะสมที่สุดสำหรับตัวแปรต่อเนื่องที่มีเกณฑ์อย่างไร

ฉันมีชุดข้อมูลที่มีตัวแปรต่อเนื่องและตัวแปรเป้าหมายไบนารี (0 และ 1)

ฉันต้องจำแนกตัวแปรต่อเนื่อง (สำหรับการถดถอยโลจิสติก) ด้วยความเคารพต่อตัวแปรเป้าหมายและด้วยข้อ จำกัด ที่ความถี่ของการสังเกตในแต่ละช่วงเวลาควรมีความสมดุล ฉันลองใช้กลไกการเรียนรู้ของเครื่องอย่าง Chi Merge ต้นไม้ตัดสินใจ การรวมกันของชี่ทำให้ฉันมีช่วงเวลาที่มีจำนวนไม่สมดุลมากในแต่ละช่วงเวลา (ช่วงเวลาที่มีการสังเกต 3 ครั้งและอีกช่วงหนึ่งมี 1,000 ครั้ง) ต้นไม้ตัดสินใจยากที่จะตีความ

ฉันได้ข้อสรุปว่าการแยกส่วนที่ดีที่สุดควรเพิ่มค่าสถิติระหว่างตัวแปรที่แยกส่วนกับตัวแปรเป้าหมายและควรมีช่วงเวลาที่มีจำนวนการสังเกตประมาณเท่ากัน$\chi^2$

มีอัลกอริทึมสำหรับการแก้ปัญหานี้หรือไม่?

นี่มันมีลักษณะอย่างไรใน R (def คือตัวแปรเป้าหมายและ x เป็นตัวแปรที่จะแยกส่วน) ฉันคำนวณของ Tschuprow เพื่อประเมิน "สหสัมพันธ์" ระหว่างการแปลงและตัวแปรเป้าหมายเนื่องจากสถิติมีแนวโน้มที่จะเพิ่มขึ้นตามจำนวนช่วงเวลา ฉันไม่แน่ใจว่านี่เป็นวิธีที่ถูกต้องหรือไม่$T$$\chi^2$

มีวิธีอื่นในการประเมินหรือไม่หาก discretization ของฉันนั้นดีที่สุดนอกเหนือจาก Tschuprow (เพิ่มขึ้นเมื่อจำนวนคลาสลดลง)?$T$

chitest <- function(x){
  interv <- cut(x, c(0, 1.6,1.9, 2.3, 2.9, max(x)), include.lowest = TRUE)
  X2 <- chisq.test(df.train$def,as.numeric(interv))$statistic
  #Tschuprow
  Tschup <- sqrt((X2)/(nrow(df.train)*sqrt((6-1)*(2-1))))
  print(list(Chi2=X2,freq=table(interv),def=sum.def,Tschuprow=Tschup))
}

มีวิธีที่เป็นไปได้หลายวิธีในการแยกตัวแปรต่อเนื่อง: ดู[Garcia 2013]

ในหน้า 739 ฉันสามารถดูวิธีการอย่างน้อย 5 วิธีตามไคสแควร์ การเพิ่มประสิทธิภาพของ discretization นั้นขึ้นอยู่กับงานที่คุณต้องการใช้ตัวแปร discretised ในกรณีของการถดถอยโลจิสติกของคุณ และตามที่กล่าวไว้ใน Garcia2013 การค้นหาการแยกส่วนที่ดีที่สุดที่กำหนดให้กับงานคือ NP-complete

มีฮิวริสติกมากมาย ในบทความนี้พวกเขาพูดคุยอย่างน้อย 50 คน เมื่อพิจารณาถึงพื้นฐานการเรียนรู้ของเครื่อง (ฉันคิดว่าผู้คนในสถิติชอบสิ่งอื่น ๆ ) ฉันมักจะมีอคติต่อวิธีการอธิบายความยาวขั้นต่ำ (MDL) ของ Fayyad และ Irani ฉันเห็นมันมีอยู่ในแพคเกจ R ไม่ต่อเนื่อง

ดังที่คุณกล่าว Chi-square นั้นมีอคติต่อช่วงเวลาที่สูงและสถิติอื่น ๆ อีกมากมาย (ตามที่ได้รับข้อมูลที่ใช้ในวิธี MDL) คือ อย่างไรก็ตาม MDL พยายามหาการแลกเปลี่ยนที่ดีระหว่างการได้รับข้อมูลของตัวแปรที่แยกจากกันและคลาสและความซับซ้อน (จำนวนช่วงเวลา) ของตัวแปรที่แยกออก ให้มันลอง.