ฟังก์ชัน“ น่าสนใจ” สำหรับคำถาม StackExchange

ฉันกำลังพยายามรวบรวมแพ็คเกจการขุดข้อมูลสำหรับเว็บไซต์ StackExchange และโดยเฉพาะฉันติดอยู่ในการพยายามที่จะกำหนดคำถาม "น่าสนใจที่สุด" ฉันต้องการใช้คะแนนคำถาม แต่ลบอคติเนื่องจากจำนวนการดู แต่ฉันไม่ทราบวิธีเข้าหานี้อย่างจริงจัง

ในโลกอุดมคติฉันสามารถเรียงลำดับคำถามด้วยการคำนวณโดยที่คือจำนวนโหวตทั้งหมดและคือจำนวนการดู หลังจากนั้นมันจะวัดเปอร์เซ็นต์ของผู้ที่ upvote คำถามลบด้วยเปอร์เซ็นต์ของคนที่ downvote คำถาม$\frac{v}{n}$$v$$n$

น่าเสียดายที่รูปแบบการลงคะแนนมีความซับซ้อนมากขึ้น การลงคะแนนมีแนวโน้มที่จะ "ที่ราบสูง" ในระดับหนึ่งและสิ่งนี้มีผลกระทบจากการประเมินคำถามยอดนิยมอย่างรุนแรง ในทางปฏิบัติคำถามที่มี 1 มุมมองและ 1 upvote จะให้คะแนนและเรียงลำดับสูงกว่าคำถามอื่น ๆ ที่มี 10,000 ครั้ง แต่น้อยกว่า 10,000 คะแนน

ขณะนี้ฉันใช้เป็นสูตรเชิงประจักษ์ แต่ฉันต้องการความแม่นยำ ฉันจะแก้ไขปัญหานี้ด้วยความเข้มงวดทางคณิตศาสตร์ได้อย่างไร$\frac{v}{\log{n}+1}$

เพื่อที่จะแสดงความคิดเห็นบางส่วนฉันจะพยายามแก้ไขปัญหาด้วยวิธีที่ดีกว่า:

สมมติว่าผมมีคำถามกับคะแนนโหวตทั้งหมดและมุมมอง ฉันต้องการที่จะสามารถที่จะประเมินสิ่งที่คะแนนโหวตทั้งหมดมีแนวโน้มมากที่สุดเมื่อมุมมองถึงn_1$v_0$$n_0$$v_1$$n_1$

ด้วยวิธีนี้ฉันสามารถเลือกค่าเล็กน้อยสำหรับและสั่งซื้อคำถามทั้งหมดตามผลรวมคาดไว้$n_1$$v_1$

ฉันสร้างแบบสอบถามสองรายการบน SO datadump เพื่อให้แสดงผลที่ฉันพูดถึงได้ดีขึ้น:

จำนวนการดูเฉลี่ยตามคะแนน

ผลลัพธ์:

คะแนนเฉลี่ยจากการดู (ถังที่เก็บข้อมูล 100 ครั้ง)

ผลลัพธ์:

เปรียบเทียบสองสูตร

ผลลัพธ์ไม่แน่ใจว่า straighter ดีกว่า: (สีน้ำเงินสีแดง)$\frac{v}{n}$$\frac{v}{log{n}+1}$

หนึ่งอาจกำหนดคำถามที่น่าสนใจว่าเป็นหนึ่งที่ได้รับคะแนนโหวตจำนวนมากเมื่อเทียบกับจำนวนการดู ด้วยเหตุนี้คุณสามารถสร้างเส้นโค้งพื้นฐานที่สะท้อนถึงจำนวนคะแนนที่คาดหวังจากมุมมอง เส้นโค้งที่ดึงดูดการโหวตมากกว่าฐานถือว่าน่าสนใจเป็นพิเศษ

หากต้องการสร้างพื้นฐานคุณอาจต้องการคำนวณจำนวนคะแนนเฉลี่ยต่อถังขยะ 100 มุมมอง นอกจากนี้คุณสามารถคำนวณค่าเบี่ยงเบนสัมบูรณ์มัธยฐาน (MAD) เป็นการวัดที่มีประสิทธิภาพสำหรับส่วนเบี่ยงเบนมาตรฐานต่อถัง จากนั้นสามารถคำนวณ "ความน่าสนใจ" ได้

interestingness(votes,views) = (votes-baselineVotes(views))/baselineMAD(views) 

นี่คือทฤษฎีของฉัน ฉันคิดว่ามีคำถามสองประเภท: คำถามเหล่านั้นส่วนใหญ่ยังคงอยู่ใน SE (ซึ่งมักจะมีจำนวนการดูน้อยลง) และคำถามที่บุคคลภายนอกดูเพราะเป็นลิงก์จากที่อื่น (มักจะมีมุมมองเพิ่มเติม)

สำหรับคำถามที่ยังคงอยู่ใน SE ส่วนใหญ่การลงคะแนนเป็นคำถามที่น่าสนใจ นี่คือจุดลงคะแนน

เมื่อคำถามเชื่อมโยงกับเว็บไซต์ภายนอกการโหวตจะหยุดความหมายมาก ไซต์ลิงก์บางแห่งอาจมีสมาชิก SE น้อยมากส่วนไซต์อื่นอาจมีมากกว่านั้น ความแปรปรวนของจำนวนคะแนนโหวตสำหรับคำถามเหล่านี้อาจสูง (ดังที่เห็นได้จากคะแนนของคุณเทียบกับมุมมองพล็อตที่ด้านขวาของกราฟโค้งออก) คำถามเหล่านี้จะมีจำนวนการดูมากขึ้นและมุมมองอาจเป็นตัวบ่งชี้ที่ดีขึ้นสำหรับคำถามที่น่าสนใจ หรือคำถามที่ชุมชนขนาดใหญ่เกิดขึ้นเพื่อค้นหาสิ่งที่น่าสนใจ มีตัวแปรมากมายในสถานการณ์นี้และฉันคิดว่ามันจะคุ้มค่าที่จะพยายามหาข้อมูลเพิ่มเติมเพื่อแยกแยะกรณีเหล่านี้ SE เผยแพร่ข้อมูลการอ้างอิงหรือไม่