“ เสียง Laplace” มีความหมายว่าอะไร?


9

ฉันกำลังเขียนอัลกอริทึมสำหรับความเป็นส่วนตัวที่ต่างกันโดยใช้กลไก Laplace

น่าเสียดายที่ฉันไม่มีพื้นฐานด้านสถิติดังนั้นจึงไม่เป็นที่รู้จักกันมากนัก ดังนั้นตอนนี้ฉันสะดุดมากกว่าคำว่า: เสียง Laplace หากต้องการสร้างชุดข้อมูลส่วนบุคคลให้เป็นเอกสารทั้งหมดเพียงแค่พูดถึงการเพิ่มเสียง Laplace ตามการกระจาย Laplace ให้กับค่าฟังก์ชัน

k(X)=(X)+Y(X)

(k คือค่าส่วนต่างที่แตกต่างกัน f คือค่าที่ส่งคืนโดยฟังก์ชั่นการประเมินและ Y the Laplace noise

นี่หมายความว่าฉันสร้างตัวแปรสุ่มจากการแจกแจง Laplace ตามฟังก์ชั่นนี้ที่ฉันได้รับจาก wikipedia https://en.wikipedia.org/wiki/Laplace_distribution ?

Y=μ- SGN(ยู)LN(1-2|ยู|)

UPDATE: ฉันได้วางแผนตัวแปรสุ่มมากถึง 100 ตัวที่ดึงมาจากฟังก์ชั่นด้านบน แต่สิ่งนี้ไม่ได้ให้การกระจายแบบ Laplace (ไม่ปิด) แต่ฉันคิดว่ามันควรเป็นโมเดลการกระจายของ Laplace

UPDATE2:

นี่คือคำจำกัดความที่ฉันมี:

กลไก Laplace) รับฟังก์ชั่นใด ๆกลไก Laplace ถูกกำหนดเป็น:โดยที่ Y คือตัวแปรสุ่มที่สุ่มมาจากLap (∆f / \ epsilon):ยังไม่มีข้อความ|X|RkML(x,(·),ε)=(x)+(Y1,...,Yk)Laพี(Δ/ε)

เช่นเดียวกับ:

ในการสร้าง Y (X) ตัวเลือกทั่วไปคือใช้การแจกแจงแบบ Laplace ที่มีค่าเฉลี่ยเป็นศูนย์และพารามิเตอร์มาตราส่วนΔ (f) / ε


สมการที่สองที่คุณมีคือ CDF แทนที่จะเป็น PDF คุณต้องการตัวอย่างจาก PDF นี่คือบางส่วนของไพ ธ อนตัวอย่างจากการแจกแจงแบบ Laplace (biexponential) ( docs.scipy.org/doc/numpy-1.9.3/reference/generated/ ...... )
Luca

1
คุณสามารถให้การอ้างอิงที่แน่นอนที่กล่าวถึง "Laplace noise" ได้หรือไม่? ฉันเดาว่าพวกเขาหมายถึงการเพิ่ม rv Y เป็น X โดยที่ Y ตามการกระจายของ Laplace ในฐานะที่เป็นของคุณเกี่ยวกับการปรับปรุงวิธีการนี้ไม่ทำงาน - คุณต้องมีการทำผิดพลาดในรหัสของคุณหรือจะเป็นเพียงความจริงที่ว่าคุณทำเพียง 100 ดึงออกมาจากมันถ้าคุณพยายามที่ 5000 หรือมากกว่าผมคิดว่ามันจะเริ่มมองมากขึ้น " Laplace "...
ทิม

ฉันคิดว่าพล็อตของฉันดูเหมือน CDF จริง ๆ แล้วฉันเพิ่มไว้ด้านบนเช่นเดียวกับรหัสของฉัน นี่คือลิงค์ไปยังคำพูด: 1 2
Lotte

ฉันเคยเห็นรหัสที่ฉันใช้มาก่อนและฉันไม่รู้ด้วยซ้ำว่าทำไมจึงให้ผลลัพธ์แบบนี้ เนื้อเรื่องแสดงรหัสของฉันวนรอบ 1,000 ครั้งสำหรับ f = 1 และ eps = 1 แต่ฉันคิดว่าประเด็นหลักของฉันคือถ้าฉันเข้าใจ "เสียง Laplace" ถูกต้อง รหัสที่ฉันสามารถออกกำลังกายอย่างใด
อตเต้

คำตอบ:


14

คุณถูกต้องเพิ่มวิธี Laplace เสียงที่ตัวแปรของคุณคุณเพิ่มตัวแปรที่เป็นไปตามการกระจาย Laplace มีเหตุผลหลายเหตุผลที่เรียกว่าเป็นเสียง อันดับแรกให้คิดถึงการประมวลผลสัญญาณโดยที่ข้อความถูกส่งผ่านบางช่องและเนื่องจากลักษณะที่ไม่สมบูรณ์ของช่องสัญญาณที่ได้รับนั้นมีเสียงดังดังนั้นคุณต้องแยกสัญญาณออกจากเสียงรบกวน ประการที่สองในการเข้ารหัสเรายังพูดถึงเสียงหลอกและความเป็นส่วนตัวที่แตกต่างเกี่ยวข้องกับการเข้ารหัส ประการที่สามในสถิติและการเรียนรู้ของเครื่องเรายังสามารถพูดคุยเกี่ยวกับเสียงรบกวนทางสถิติแบบจำลองทางสถิติรวมถึงเสียงหรือข้อผิดพลาดอื่น ๆ (มีแม้กระทั่งหนังสือเกี่ยวกับการพยากรณ์ชื่อXYสัญญาณและเสียงรบกวนโดย Nate Silver) ดังนั้นเราจึงใช้เสียงเป็นคำพ้องความหมายได้อย่างแม่นยำมากขึ้นสำหรับคลุมเครือสุ่ม

เกี่ยวกับการสร้างแบบสุ่มมีหลายวิธีที่คุณสามารถวาดค่าแบบสุ่มตามการกระจาย Laplace ได้เช่น:

  1. ผกผันเปลี่ยนวิธีการที่อธิบายในวิกิพีเดีย:
f <- function(n) {
   u <- runif(n, -0.5, 0.5)
   sign(u)*log(1-2*abs(u))
}
  1. ถ้าและเป็นตัวแปรสุ่มอิสระตามการแจกแจงเอ็กซ์โพเนนเชียลแล้วไปตามการกระจายแบบ Laplace :ยูVY=ยู-V
g <- function(n) { rexp(n)-rexp(n) }
  1. ถ้าตามการกระจายของ Laplace ดังนั้นติดตามการแจกแจงแบบเลขชี้กำลังดังนั้น:Y|Y|
h <- function(n) { rexp(n)*sample(c(-1,1), n, replace = TRUE) }

ในแปลงด้านล่างคุณสามารถเห็นการกระจายตัวอย่างใช้งานแต่ละฟังก์ชั่นพร้อมกับความหนาแน่นของ Laplace (เส้นสีแดง)105

ป้อนคำอธิบายรูปภาพที่นี่

เพื่อทำให้ตัวอย่างง่ายขึ้นฉันใช้การกระจาย Laplace มาตรฐานพร้อมสเกล = 1 แต่คุณสามารถเปลี่ยนผลลัพธ์ได้อย่างง่ายดายโดยการคูณผลลัพธ์โดยใช้ตัวคูณสเกลที่แตกต่างกัน


ขอบคุณ! นั่นเป็นการตอบคำถามของฉันฉันแค่สับสนกับคำว่า "เสียง" และไม่สามารถหาคำอธิบายที่เหมาะสมได้
Lotte

ฉันพล็อตกราฟสำหรับรหัสของฉันและมันก็ดูดี :)
Lotte

2

Laplace หรือการแจกแจงเอ็กซ์โพเนนเชียลลดลงแบบเอกซ์โปเนนเชียลไปทางซ้ายและขวารอบ ๆ ค่าเฉลี่ย โดยพื้นฐานแล้วมันคือเลขชี้กำลังเป็นเลขชี้กำลังสะท้อนไปยังอีกด้านหนึ่ง

  • หากคุณต้องการโอกาสในการใช้โอกาสในการชี้แจงและเพิ่ม abs () เพื่อค่าที่สังเกต ความน่าจะเป็นบันทึกเป็นเพียง abs () ของส่วนที่เหลือคูณด้วยอัตราเลขชี้กำลัง

  • ตัวอย่างที่ง่ายที่สุดคือการดึงจาก -1,1 และคูณด้วยการจับสลากจากการแจกแจงเอ็กซ์โพเนนเชียลซึ่งมีอยู่ในภาษาการเขียนโปรแกรมส่วนใหญ่ หรือตามที่ระบุไว้ข้างต้นคุณจะพบการติดตั้ง Laplace โดยตรง แต่อาจต้องใช้การค้นหาอีกเล็กน้อย

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.