วิธีที่คุ้มค่าในการสร้างเซิร์ฟเวอร์ที่มี RAM จำนวนมาก

ฉันมีจาวาแอปพลิเคชั่นที่ความสามารถในการปรับขนาดถูก จำกัด ด้วย RAM เป็นหลักซึ่งฉันต้องการทำงานบนเซิร์ฟเวอร์หนึ่งเครื่องหรือมากกว่าในดาต้าเซ็นเตอร์ ฉันควรหาฮาร์ดแวร์เซิร์ฟเวอร์ที่สามารถรองรับ RAM ขนาด 100GB - 512GB หรือมากกว่าได้ที่ไหน ฉันไม่ใช่ผู้เชี่ยวชาญในเรื่องดังกล่าวดังนั้นฉันไม่รู้จริงๆว่าจะเริ่มจากตรงไหน

นี่เป็นการเข้าสู่อาณาเขตของซูเปอร์คอมพิวเตอร์ (ตัวเลข 6 ตัวหรือมากกว่า) หรือฉันจะได้รับเซิร์ฟเวอร์ดังกล่าวด้วยเงิน 5 หลักที่ต่ำใช่ไหม

หมายเหตุเล็กน้อยตามคำถามบางข้อด้านล่าง:

• ใช่ฉันพยายามอย่างหนักที่จะหาวิธีที่จะลบข้อกำหนดเกี่ยวกับความสามารถในการขยายนี้และไม่มีตัวเลือกใด ๆ แอปพลิเคชั่นนั้นต้องใช้การเข้าถึงข้อมูลจำนวนมากอย่างรวดเร็วแบบสุ่มซึ่งจัดเก็บไว้ในฮาร์ดดิสก์ (อาจผ่านทางฐานข้อมูล) จะไม่ถูกตัดออก
• ฉันค่อนข้างมั่นใจว่า JVM สามารถอย่างน้อยในทางทฤษฎีสามารถขยายขอบเขตได้ ฉันเรียกใช้รหัสของฉันเป็นประจำด้วยการจัดสรร 10GB ให้กับ Sun 1.6 JVM โดยไม่มีปัญหาที่สังเกตได้

บางครั้งความต้องการที่ผิดปกติได้รับประโยชน์จากการแก้ปัญหาที่ผิดปกติ แน่นอนว่าคุณสามารถให้ตัวเลข 6 ตัวแก่ Sun, Dell หรือ HP และทำได้ด้วย แต่ไม่ใช่เกมเดียวในเมือง

สำหรับโซลูชันกล่องเดียวการได้รับมากถึง 128GB นั้นราคาถูกมาก (32 x 4GB ~ USD 3.000) แม้แต่กับเมนบอร์ด homebrew ที่ราคาน้อยกว่า 1.000 USD (อย่าล้อเลียนผู้สร้างถ้ามันดีพอสำหรับ Google ... )

256GB มีราคาแพงกว่าอย่างจริงจัง (32x8GB ~ 18.000 USD) และมากกว่านั้น ...

หรือคุณคิดว่ากล่อง Infiniband (10Gbps) ที่เชื่อมต่อถึงกันเป็นอีกทางเลือกหนึ่งหรือไม่?

คุณสามารถสร้าง 4 โหนด, โปรเซสเซอร์ 16 ตัว (64 คอร์), เครื่อง 512GB ในแบบนั้นและยังคงมีการเปลี่ยนแปลงจาก USD 25.000

คุณจะได้รับสิทธิประโยชน์เพิ่มเติมจากการลดอัตราการผ่อนผันของ Gracefull หากแอปพลิเคชันของคุณสามารถทำงานบน 3 เครื่องหากเครื่องใดเครื่องหนึ่งล้มเหลวและอาจได้รับการปรับขนาดเชิงเส้นในราคาสูงถึง 8 โหนด (เพียงเพิ่มอีก 4 โหนด) ณ จุดที่คุณกำลังมองหาที่เย็น 128 หลัก 1TB สัตว์ RAM สำหรับ <50.000

ก่อนที่คุณจะยกเลิกข้อเสนอ Infiniband ว่าแปลกใหม่มันไม่ได้มีไว้สำหรับประเภทของเครื่องที่คุณขอ เช่น 141 จากซูเปอร์คอมพิวเตอร์ 500 อันดับแรกถูกสร้างขึ้นด้วยวิธีนี้รวมถึง 4 จาก 10 อันดับแรก ( http://top500.org/connfam/8 )

เอาล่ะดูสิ คุณจะไม่พบเซิร์ฟเวอร์ที่มี RAM footprint ที่คุณกำลังค้นหาอย่างน้อยก็ไม่ใช่เซิร์ฟเวอร์ที่ไม่ต้องใช้ระบบไฟฟ้าของตัวเอง

ทำไมไม่ใช้วิธีการที่ปรับขนาดได้และใช้ memcached? คุณสามารถกระจายหน่วยความจำรอบ ๆ ไปยังเครื่องต่างๆทั่วทั้งเครือข่าย ข้อมูลไม่ต้องแตะดิสก์ไดรฟ์และด้วยเครือข่ายที่รวดเร็วเป็นพิเศษคุณสามารถซื้อด้วยเงินที่คุณกำลังพูดถึงความหน่วงแฝงจะไม่เป็นปัญหาเลย

นี่คือไคลเอนต์ memcached สำหรับ java: http://www.whalin.com/memcached/

และนี่คือบทนำสำหรับ memcached ในกรณีที่คุณไม่คุ้นเคย: http://www.danga.com/memcached/

ดูมันสิ มันจะคุ้มค่ากว่าการสร้างเครื่องมอนสเตอร์ตัวเดียวที่มี RAM บ้า นอกจากนี้หากคุณกำลังทำบางสิ่งที่มีความต้องการเช่นนั้นมันอาจเป็นภารกิจที่สำคัญและคุณไม่จำเป็นต้องมีจุดล้มเหลวเพียงจุดเดียว

4 หรือ 8 ซ็อกเก็ตเซิร์ฟเวอร์ Opteron เช่น HP DL585 หรือ DL785 หรือ Sun X4600 สามารถใช้หน่วยความจำจำนวนมากในช่วง 128-256GB แม้ว่าพวกเขาจะไม่ถูก แต่ก็ไม่ได้มีราคา 6 หลักอย่างแน่นอน 8 X 3200 Sun X4600 8-way พร้อม RAM 256 รายการที่ประมาณ $ 35,000 บนเว็บไซต์ของพวกเขาและมันใหญ่พอ ๆ กับที่ระบบประเภทนี้ได้รับ คุณอาจจะพบว่าคุณจะได้รับระบบน้อยกว่าราคารายการที่ปรากฏบนเว็บไซต์ ..

แม้ว่า 4Gb DIMM จะพร้อมใช้งาน แต่พวกเขามักจะมีราคาสูงมากดังนั้นการขึ้นไปยังระบบที่มีค่าสูงสุดซึ่งจะมีราคาแพงกว่ามาก

หากคุณต้องการใช้ระบบประเภทนี้คุณจะต้องมี 64-bit O / S ตรวจสอบให้แน่ใจว่าคุณได้รับ JVM 64 บิตและตรวจสอบว่าทำงานได้ดีกับแอปพลิเคชันของคุณ

ฉันจะไม่ทำซ้ำคำแนะนำฮาร์ดแวร์ (ซึ่งเป็นเสียง) แต่คุณอาจต้องการดู Terracotta เพื่อดูว่าเหมาะกับแอปของคุณหรือไม่

http://www.terracotta.org/

ต้องระวังอย่างยิ่งซึ่งขนาด RAM ดังกล่าว เราปรับขนาดเครื่อง HP เป็น 64 GB (HP ระบุว่าเครื่องสามารถใช้ 128 GB) ได้ แต่หลังจากเพิ่มบอร์ดยกระดับเพิ่มเติมเพลาระบายความร้อนและอื่น ๆ (หลังจากคุยกับ HP)
เนื่องจากมีการระบุว่าเครื่องใช้เวลานานถึง n GB จึงไม่ได้หมายความว่าจะทำงานโดยไม่มีการเปลี่ยนแปลงเพิ่มเติม ในกรณีของเราไม่ใช่โมดูลหน่วยความจำปกติที่ใช้งานได้เพราะมันร้อนเพียงโมดูลที่เฉพาะเจาะจงเท่านั้นที่ทำงาน

ค่าใช้จ่ายของ RAM ไม่ได้ปรับขนาดเชิงเส้นเป็นขนาดใหญ่ เพียงเพราะฉันสามารถซื้อ 1GB DIMM ในราคา $ 15 ไม่ได้หมายความว่าฉันจะได้เซิร์ฟเวอร์ที่มี 128GB ในราคาเพียง 1,920 เหรียญ ... สำหรับการเริ่มต้นคุณจะไม่พบเมนบอร์ดที่มีสล็อต DIMM 128 ตัว

เหนือกว่าขนาดที่กำหนด (~ 8 ถึง 16 GB) คุณเริ่มเห็นมาเธอร์บอร์ดที่ต้องการ DIMM บัฟเฟอร์ (FB-DIMM) แบบเต็มซึ่งจะทำให้คุณต้องใช้หน่วยความจำเดสก์ท็อปมาตรฐานมากกว่า GB ต่อหน่วย

เราใช้เครื่องจักรที่มีหน่วยความจำ 128GB อยู่เป็นประจำและราคาได้ลดลงอย่างมากในช่วงไม่กี่ปีที่ผ่านมา แต่ฉันไม่มีตัวเลขปัจจุบัน ... หรือประสบการณ์ใด ๆ ที่ JVM จะปรับขนาดให้เหมาะกับขนาดหน่วยความจำนั้น .

คุณมีตัวเลือกมากมายจริง ๆ จากรายการ HP ที่คุณมี BL680c เบลดซึ่งสามารถใช้ 128GB, DL580 / 585 ของพวกเขาสามารถใช้ 256GB และ DL785 ของพวกเขาสามารถใช้ 512GB IBM บางรุ่นมีขนาดสูงสุด 256GB เช่นเดียวกับ Dell หนึ่งรุ่น

ฉันคิดว่าคุณจะเริ่มพบปัญหา headroom ที่ 64gb บนฮาร์ดแวร์แบบดั้งเดิม หากคุณสามารถขยายออกไปจากที่นั่นคุณจะโอเค แต่ฉันเดาว่าโซลูชันที่คุ้มค่ากว่าคือการตั้งคำถามกับสถาปัตยกรรมของคุณ จริงอยู่ที่ฉันบอกว่าไม่มีความรู้ในสิ่งที่คุณกำลังทำอยู่ แต่ฉันแค่โยนมันออกไป

โซลูชัน EC2 ของ Amazon จะใช้งานได้สำหรับคุณหรือไม่? แน่นอนว่ามันจะเป็นทางออกที่คุ้มค่าที่สุด

สมมติว่าคุณสามารถใส่หน่วยความจำจำนวนมากในเซิร์ฟเวอร์ได้ (ถ้าฉันไม่เข้าใจผิดลีนุกซ์สำหรับฮาร์ดแวร์มาตรฐานนั้น จำกัด ที่ 64GB แต่ฉันไม่แน่ใจ)

ภายใต้ระบบปฏิบัติการส่วนใหญ่ JVM ถูก จำกัด พื้นที่ของฮีปประมาณ 1.4GB-1.6GB ส่วนหนึ่งเป็นเพราะต้องการหน่วยความจำต่อเนื่องและบางส่วนเนื่องจากข้อ จำกัด ของระบบปฏิบัติการ

ดังนั้นแรมเพิ่มเติมจะไม่ช่วยให้คุณขยายขนาดแอปพลิเคชั่นเพียงแอปเดียวมันจะช่วยให้คุณเรียกใช้แอพพลิเคชั่นได้หลายอินสแตนซ์เท่านั้น อย่างไรก็ตามคุณจะต้องใช้หลายคอร์และพบปัญหาอื่น ๆ อีกมากมาย

คุณต้องการ RAM ขนาดใหญ่สำหรับอะไร คุณอาจจะสามารถค้นหาฐานข้อมูลที่สามารถเก็บไว้ในหน่วยความจำหรือใช้ RAM ไดรฟ์ แต่ฉันไม่ทราบ JVM ที่จะช่วยให้คุณเก็บสิ่งต่าง ๆ มากมายในหน่วยความจำ

วิธีทั่วไปในการได้รับหน่วยความจำระบบมากขึ้นคือการได้รับระบบมากขึ้น หากหน่วยความจำเป็นคอขวดจริงๆแล้วคุณจะมีหน่วยความจำไม่มากเท่าไหร่ แต่การเชื่อมต่อข้อมูลของคุณกับโปรเซสเซอร์ของคุณเป็นอย่างไร คุณจะต้องปรับขยายสิ่งต่างๆให้มากเพื่อที่จะทำสิ่งที่ดีมาก

เพื่อเพิ่มความกระจ่างเพียงแค่เพิ่มศูนย์สองสามตัวในหน่วยความจำระบบของคุณอาจจะไม่ทำในสิ่งที่คุณคิด สิ่งที่คุณจะพบคือตอนนี้ชุดข้อมูลทั้งหมดของคุณเหมาะกับหน่วยความจำหรือแม้แต่ชิ้นส่วนที่ใหญ่กว่าเล็กน้อยคุณจะพบกับคอขวดอื่น ๆ เช่นการทำให้แคชใช้ไม่ได้

วิธีที่เหมาะสมในการขยายระบบของคุณช้า หากคุณกำลังใช้งานอยู่พูดบนระบบ 4 คอร์ที่มี ram 8 กิ๊กส์แรกให้กำหนดนรกออกจากแอพของคุณเพื่อดูว่ามันใช้เวลาตรงไหนแล้วลองชน ram มากถึง 12 หรือ 16 กิ๊กและดูว่า ผลลัพธ์การทำโปรไฟล์มีการเปลี่ยนแปลง

คำถามจริงคือทำไมคุณต้องใช้หน่วยความจำระบบประมาณ 100 เท่าเทียบกับทรัพยากรอื่น ๆ มากกว่าที่มีอยู่ทั่วไป หากรูปแบบการเข้าถึงข้อมูลของคุณสามารถคาดการณ์ได้ในทางใดทางหนึ่งสิ่งที่คุณควรทำคือการเพิ่มแบนด์วิดท์ของดิสก์ตัวควบคุมการโจมตีหลายตัวที่มีดิสก์สไทรพ์หลายอันจะได้สิ่งนี้

หากรูปแบบการเข้าถึงข้อมูลของคุณเป็นแบบสุ่มจริงๆอาจมีช่องว่างสำหรับอัลกอริธึมที่เหมาะสมที่สุด

คุณอาจต้องใช้เซิร์ฟเวอร์เฉพาะสำหรับมัน

ลองดู ES7000 จาก Unisys คำอธิบายอาจเก่าไปหน่อย

สามารถรองรับ RAM ได้สูงสุด 512GB มันใช้ O / S ที่รู้จักกันดีเช่น Windows และ Linux Enterprise

จะมีค่าใช้จ่ายคุณ ~ $ 30K สำหรับการกำหนดค่ามาตรฐาน แต่ด้วย Itanium และระฆังและนกหวีดทั้งหมดมันอาจสูงถึง ~ $ 600K

ด้วย RAM จำนวนมากนั้นคุณสามารถเก็บข้อมูลร้อนไว้ได้มากมายโดยไม่ต้องแตะพื้นที่ดิสก์เลย

เห็นได้ชัดว่าคุณต้องการระบบปฏิบัติการ 64 บิต แต่คุณไม่ได้อยู่ใน Supercomputer Territory ตัวอย่างเช่น PowerEdge R900 และ R905 ของ Dell มีให้พร้อมกับ RAM ขนาด 256 GB และใช้โปรเซสเซอร์ Intel Xeon / AMD Opteron แบบธรรมดาและรัน Linux, Solaris หรือ Windows 2003 และ 2008

แน่นอนว่าการซื้อ RAM โดยตรงที่ Dell นั้นไม่คุ้มค่ามากนัก (พวกเขาต้องการ ~ 35,000 US $ สำหรับ 32 x 8 GB ในขณะที่คุณสามารถรับมันได้ประมาณ 23,000 US $ หรืออาจน้อยกว่า) แต่คุณอาจต้องการ เพื่อให้แน่ใจว่าคุณได้รับการสนับสนุนที่เหมาะสมหากคุณซื้อเซิร์ฟเวอร์ 40,000 US $ Server (คุณไม่คาดหวังว่า RAM 256 GB ราคาถูกใช่ไหมถ้า 128 GB ก็โอเคคุณสามารถประหยัดได้ ~ 12,000 US $)

ฉันไม่มีประสบการณ์ว่าจะเลือกระบบปฏิบัติการแบบไหนการรัน 100+ GB Java ไม่ใช่สิ่งที่ฉันทำ :)

วิธีการเกี่ยวกับโซลูชันนอกกรอบ: ฐานข้อมูล ฉันรู้ว่าคุณบอกว่ามันช้าเกินไป แต่ก็ขึ้นอยู่กับสิ่งที่โฮสต์ไว้ วิธีการเกี่ยวกับการโฮสต์ไว้ในอาร์เรย์ RAID0 เพียงพอเหล่านี้

$ 400 สำหรับแกดเจ็ต Pricewatch แสดงรายการชิปที่ $ 55 (ฉันไม่ได้ตรวจสอบความเข้ากันได้) สำหรับ 4gb ดังนั้นนั่นคืออีก $ 440 สำหรับหน่วยความจำ นั่นทำให้คุณ 32gb สำหรับ $ 840 (โดยทฤษฎีแล้วอุปกรณ์สามารถใช้ชิป 8gb ได้ทั้งหมด 64GB แต่ยังไม่รองรับชิปใด ๆ )

RAID0 4 ของสิ่งเหล่านี้และคุณอยู่ในช่วงต่ำสุดของคุณสำหรับมากกว่า $ 3,000 + กล่องสามัญ พวกเขา 16 คนได้รับช่วงสูงสุดของคุณในราคา $ 14k

ไม่ว่าจะใช้งานได้หรือไม่ก็ตามลักษณะของข้อมูลของคุณ - อุปกรณ์เหล่านี้มีความผันผวนและจะทำให้แบตเตอรีสำรองของพวกเขาหมดลงในเวลาไม่กี่ชั่วโมง

ฉันเป็นแฟนตัวยงของ "เซิร์ฟเวอร์ราคาถูกจำนวนมาก" เข้ามา คุณได้ลองใช้กระบวนการแบบนี้บนแพลตฟอร์มยูคาลิปตัสบน Ubuntu 9.04 ไหม? เป็นไปได้ว่าคุณสามารถเรียกใช้โปรแกรมประเภทนี้ผ่านคอมพิวเตอร์บางเครื่องบนเครือข่ายกิกะบิตเฉพาะของตนเองโดยมีเซิร์ฟเวอร์หลายเครื่องที่ใช้ RAM 8, 16 หรือ 32GB และปรับขนาดตามแบบเชิงเส้นเพิ่มเซิร์ฟเวอร์ราคาถูกมากขึ้นเมื่อคุณต้องการ

ฉันได้อ่านความคิดเห็นของคุณเกี่ยวกับลักษณะของแอปพลิเคชันของคุณแล้ว แต่คุณอาจพิจารณาทางเลือกอื่น

FusionIO เป็นทางเลือกหนึ่งที่แท้จริง เพียงแค่ได้ดู ที่ 10K $ มันยังคงถูกกว่าเซิร์ฟเวอร์ระดับไฮเอนด์มาก เขียนแบนด์วิดท์ที่ 1.0 GB / s - ฟังดูบ้าจริงๆ

อีกทางเลือกหนึ่งคือ SSD แน่นอน ในกรณีที่คุณได้เห็นรายละเอียดสำหรับIntel® X25-E Extreme SSD:

Read Latency 75 microseconds
I/O Per Second (IOPS) Random 4 KB reads: >35,000 IOPS
Random 4 KB writes: >3,300 IOPS
Sustained sequential read: up to 250 MB/s
Sustained sequential write: up to 170 MB/s

การใส่พวกมันไว้ใน RAID 10 array สามารถให้ประสิทธิภาพเพียงพอ และด้วย 400 ดอลลาร์สหรัฐต่อ 32 GB มันจึงถูกกว่าเซิร์ฟเวอร์ไฮเอนด์สำรองอื่น ๆ

ในทำนองเดียวกันกับข้อเสนอแนะของ FusionIO คุณสามารถรับอุปกรณ์ที่ให้คุณเชื่อมต่อ RAM แบบไดนามิกกับอินเตอร์เฟส SATA บางสิ่งเช่นนี้ (ฉันไม่มีประสบการณ์เกี่ยวกับผลิตภัณฑ์หรือ บริษัท เป็นเพียงตัวเลือกแรกที่มาจากการค้นหา "Google Shopping")

คุณสามารถใช้สองสามตัวต่อไปนี้เป็นระบบไฟล์ที่ติดตั้งเพื่อแคชข้อมูลโดยใช้ตรรกะของแอพ (แบตเตอรี่สำรองดังนั้นควรอยู่รอดจากการบูตและไฟดับอื่น ๆ ) หรือคุณสามารถใช้พวกเขาเป็นพื้นที่สว็อปและปล่อยให้เคอร์เนลตัดสินใจใช้ แม้ว่าโดยปกติแล้วระบบปฏิบัติการของเมล็ดจะได้รับการปรับให้เหมาะสมโดยสมมติว่าตำแหน่งการแลกเปลี่ยนทั้งหมดเป็นคำสั่งที่มีขนาดใหญ่กว่าช้ากว่าและแฝงมากกว่า RAM จริงดังนั้นคุณจะต้องปรับแต่งอย่างมีนัยสำคัญเพื่อให้การใช้งานข้อตกลงดังกล่าวดีที่สุด)

ตัวเลือก FusionIO จะคุ้มค่ากว่าถ้าคุณต้องการอะไรที่ยิ่งใหญ่หน่วยความจำ RAM ประเภทนี้อาจจะดีกว่า หาวิธีที่เซิร์ฟเวอร์สามารถใช้ RAM ขนาด 128Gb บนเมนบอร์ดและสองตัวนี้ที่มี 64Gb เต็มรูปแบบเปรียบเทียบราคาและประสิทธิภาพกับเซิร์ฟเวอร์ผู้เชี่ยวชาญที่รองรับ 256Gb หรือมากกว่าโดยตรงฉันออกจากการออกกำลังกายสำหรับผู้อ่าน!

3 ปีหลังจากการแสวงหาสิ่งต่าง ๆ ง่ายขึ้นมาก

ฉันได้รับการมองขึ้นบางsiliconmechanics configs

วิธีที่ถูกที่สุดที่จะใช้แพลตฟอร์มเอเอ็มดี32 DIMMs - 512GB - 11.940 $

ทางเลือก แต่ราคาแพงมากต่อ GB เป็นแพลตฟอร์ม Intel 64 DIMMs - 1TB - 48.769 $