จำเป็นต้องมีมาตรฐานก่อนการถดถอยโลจิสติกที่เหมาะสมหรือไม่

คำถามของฉันคือเราจำเป็นต้องสร้างมาตรฐานให้กับชุดข้อมูลเพื่อให้แน่ใจว่าตัวแปรทั้งหมดมีขนาดเท่ากันระหว่าง [0,1] ก่อนการถดถอยโลจิสติกที่เหมาะสม สูตรคือ:

ชุดข้อมูลของฉันมี 2 ตัวแปรพวกเขาอธิบายสิ่งเดียวกันสำหรับสองช่องทาง แต่ปริมาณนั้นแตกต่างกัน สมมติว่าเป็นจำนวนการเข้าชมของลูกค้าในร้านค้าสองแห่งและที่นี่คือว่าลูกค้าซื้อหรือไม่ เพราะลูกค้าสามารถเยี่ยมชมร้านค้าทั้งสองหรือร้านค้าครั้งแรกสองครั้งร้านค้าที่สองก่อนที่เขาจะทำการซื้อ แต่จำนวนการเข้าชมของลูกค้าทั้งหมดสำหรับร้านค้าที่ 1 นั้นใหญ่กว่าร้านที่สองถึง 10 เท่า เมื่อฉันเหมาะสมกับการถดถอยโลจิสติกนี้โดยไม่มีมาตรฐาน, coef(store1)=37, coef(store2)=13; coef(store1)=133, coef(store2)=11ถ้าฉันมาตรฐานข้อมูลแล้ว บางสิ่งเช่นนี้ วิธีใดที่เหมาะสมกว่า

ถ้าฉันทำโมเดลต้นไม้ตัดสินใจให้เหมาะสมล่ะ ฉันรู้ว่าโมเดลโครงสร้างแบบต้นไม้ไม่จำเป็นต้องมีมาตรฐานเพราะตัวแบบเองจะปรับมันอย่างใด แต่การตรวจสอบกับคุณทุกคน

มาตรฐานไม่จำเป็นสำหรับการถดถอยโลจิสติก เป้าหมายหลักของคุณสมบัติมาตรฐานคือการช่วยให้การบรรจบกันของเทคนิคที่ใช้ในการเพิ่มประสิทธิภาพ ตัวอย่างเช่นหากคุณใช้ Newton-Raphson เพื่อเพิ่มโอกาสในการเพิ่มความเป็นไปได้การกำหนดมาตรฐานของคุณสมบัติต่างๆ มิฉะนั้นคุณสามารถเรียกใช้การถดถอยโลจิสติกของคุณโดยไม่ต้องรักษามาตรฐานในคุณสมบัติ

@Aymen ถูกต้องคุณไม่จำเป็นต้องทำให้ข้อมูลของคุณเป็นปกติสำหรับการถดถอยโลจิสติก (สำหรับข้อมูลทั่วไปมากขึ้นก็อาจจะช่วยให้การอ่านผ่านด้าย CV นี้: เมื่อคุณควรศูนย์ข้อมูลของคุณและเมื่อคุณควรสร้างมาตรฐาน?นอกจากนี้คุณยังอาจจะทราบว่าการเปลี่ยนแปลงของคุณจะมากกว่าปกติที่เรียกว่า 'normalizing' ดู: วิธีการตรวจสอบ การกระจายเป็นปกติหรือไม่ ) ขอผมพูดถึงประเด็นอื่น ๆ ในคำถาม

เป็นที่น่าสังเกตว่าในการถดถอยโลจิสติกสัมประสิทธิ์ของคุณบ่งบอกถึงผลกระทบของการเปลี่ยนแปลงหนึ่งหน่วยในตัวแปรทำนายของคุณในอัตราต่อรองของ 'ความสำเร็จ' ผลของการเปลี่ยนตัวแปร (เช่นโดยการทำให้เป็นมาตรฐานหรือการทำให้เป็นมาตรฐาน) คือการเปลี่ยนแปลงสิ่งที่เราเรียกว่า 'หน่วย' ในบริบทของแบบจำลองของเรา ข้อมูลดิบของคุณแปรผันไปตามจำนวนหน่วยในเมตริกดั้งเดิม หลังจากที่คุณปกติข้อมูลของคุณตั้งแต่ที่จะ1นั่นคือการเปลี่ยนแปลงหนึ่งหน่วยในตอนนี้หมายถึงการเปลี่ยนจากการสังเกตค่าต่ำสุดไปเป็นค่าสังเกตสูงสุด จำนวนการเพิ่มของอัตราต่อรองของความสำเร็จจะไม่เปลี่ยนแปลง จากข้อเท็จจริงเหล่านี้ฉันสงสัยว่าตัวแปรแรกของคุณ ( ) ถูกขยาย$x$$0$$1$store1$133/37\approx 3.6$หน่วยดั้งเดิมและตัวแปรที่สองของคุณ ( store2) ขยายออกเพียงหน่วยดั้งเดิม $11/13\approx 0.85$

หากคุณใช้การถดถอยแบบโลจิสติกด้วย LASSO หรือการถดถอยแบบสัน (เช่นเดียวกับคลาสWeka Logistic ) คุณควร ดังที่Hastie, Tibshirani และ Friedmanชี้ให้เห็น (หน้า 82 ของ pdf หรือที่หน้า 63 ของหนังสือ):

คำตอบของสันเขานั้นไม่เท่ากันภายใต้สเกลของอินพุตและดังนั้นหนึ่งมาตรฐานจะเป็นอินพุตมาตรฐานก่อนที่จะแก้ไข

ยังหัวข้อนี้จะ