คำถามติดแท็ก floating-point

นี่คือตัวอย่างที่มีความคิดเห็น: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct D2 { public double d; …

247 c#  .net  floating-point 

ฉันพยายามเพิ่มช่องว่างระหว่างบรรทัดใน TextViews ของฉันโดยใช้android:lineSpacingMultiplier จากเอกสาร : ระยะห่างพิเศษระหว่างบรรทัดข้อความเป็นตัวคูณ ต้องเป็นค่าเลขทศนิยมเช่น "1.2" เนื่องจากฉันใช้สิ่งนี้ใน TextViews ที่แตกต่างกันสองสามฉันต้องการเพิ่มมิติ / ค่าทั่วโลกให้กับทรัพยากรของฉัน แต่ฉันไม่ทราบว่าจะใช้แท็กใดหากมีอยู่ ฉันได้ลองใช้ทรัพยากรทุกประเภทที่เหมาะสมกับฉันแล้ว แต่ก็ไม่ได้ผลเลย สิ่งที่ฉันต้องการจะเป็นเช่นนี้: <resources> <dimen name="text_line_spacing">1.4</dimen> </resources> แก้ไข: ฉันทราบandroid:lineSpacingExtra(ซึ่งต้องการมิติที่มีหน่วยต่อท้าย) แต่ฉันต้องการใช้android:lineSpacingMultiplierถ้าเป็นไปได้

243 android  resources  floating-point 

ฉันพยายามแบ่งความกว้างของภาพสองภาพใน Bash script แต่ bash ให้0ผลลัพธ์ดังนี้: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) ฉันศึกษาคู่มือ Bash และฉันรู้ว่าฉันควรใช้bcในตัวอย่างทั้งหมดที่พวกเขาใช้bcอินเทอร์เน็ต ในechoฉันพยายามที่จะใส่สิ่งเดียวกันในของฉันSCALEแต่มันไม่ทำงาน นี่คือตัวอย่างที่ฉันพบในบทช่วยสอน: echo "scale=2; ${userinput}" | bc ฉันจะได้รับ Bash เพื่อให้ฉันลอยได้0.5อย่างไร

242 bash  floating-point  arithmetic-expressions 

ฉันมีDecimal('3.9')เป็นส่วนหนึ่งของวัตถุและต้องการการเข้ารหัสนี้ให้สตริง JSON {'x': 3.9}ซึ่งควรมีลักษณะดังนี้ ฉันไม่สนใจเกี่ยวกับความแม่นยำในฝั่งไคลเอ็นต์ดังนั้นการลอยก็ดี มีวิธีที่ดีในการทำให้เป็นอนุกรมนี้หรือไม่ JSONDecoder ไม่ยอมรับวัตถุทศนิยมและแปลงเป็นทศนิยมก่อนหน้าให้ผลตอบแทน{'x': 3.8999999999999999}ที่ผิดและจะเสียแบนด์วิดท์ขนาดใหญ่

242 python  json  floating-point  decimal 

แฮชของอนันต์ใน Python มีตัวเลขที่ตรงกับpi : >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 นั่นเป็นเพียงเรื่องบังเอิญหรือเป็นเจตนาหรือไม่?

241 python  math  hash  floating-point  pi 

ฉันต้องการฟังก์ชั่นการปัดเศษทศนิยมง่ายๆเช่น: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 ฉันสามารถหาceil()และfloor()ใน math.h - round()แต่ไม่ได้ มีอยู่ในไลบรารี C ++ มาตรฐานภายใต้ชื่ออื่นหรือไม่หรือไม่?

232 c++  floating-point  rounding 

ฉันทำงานกับข้อมูลที่นำเข้าจาก CSV นุ่นเปลี่ยนบางคอลัมน์ให้ลอยดังนั้นตอนนี้ตัวเลขในคอลัมน์เหล่านี้จะแสดงเป็นจุดลอยตัว! อย่างไรก็ตามฉันต้องการให้แสดงเป็นจำนวนเต็มหรือไม่มีเครื่องหมายจุลภาค มีวิธีการแปลงเป็นจำนวนเต็มหรือไม่แสดงเครื่องหมายจุลภาคหรือไม่

230 python  pandas  floating-point  integer  dataset 

อะไรคือจำนวนเต็ม "ไม่ลอย" ที่ใหญ่ที่สุดที่สามารถเก็บไว้ใน IEEE 754 double type โดยไม่สูญเสียความแม่นยำ

225 types  floating-point  double  ieee-754 

ฉันต้องการจัดรูปแบบทศนิยมเป็นทศนิยม "n" กำลังพยายาม BigDecimal แต่ค่าส่งคืนไม่ถูกต้อง ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct (625.30) return value.floatValue(); // but here the values is 625.3 } …

220 java  android  floating-point  numbers  format 

ชนิดข้อมูลลอยเป็นจุดลอยตัว IEEE 754 32 บิตที่มีความแม่นยำเดียวและชนิดข้อมูลสองเท่าเป็นทศนิยมลอยตัว 64 บิต IEEE 754 ที่มีความแม่นยำสองระดับ มันหมายความว่าอะไร? และเมื่อใดฉันจึงควรใช้การลอยแทนการใช้สองเท่าหรือในทางกลับกัน

220 java  floating-point  double  ieee-754 

ฉันจะปัดเศษทศนิยม (เช่น 37.777779) เป็นทศนิยมสองตำแหน่ง (37.78) ใน C ได้อย่างไร

215 c  floating-point  decimal 

ขณะนี้ฉันกำลังสร้างโมดูลการขายสำหรับเว็บไซต์ลูกค้า จนถึงตอนนี้ฉันมีราคาขายเพื่อคำนวณอย่างสมบูรณ์แบบ แต่ที่ฉันติดอยู่คือการจัดรูปแบบผลลัพธ์เป็นทศนิยม 2 ตำแหน่ง ฉันกำลังเรียกสิ่งนี้ในตัวแปรเพื่อให้ฉันสามารถผูกข้อมูลผลลัพธ์กับ listview ได้ Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price / 100))).ToString())), ทุกคนสามารถแสดงวิธีจัดรูปแบบผลลัพธ์เป็นทศนิยม 2 ตำแหน่งได้หรือไม่? ขอบคุณมาก!

210 c#  variables  floating-point  decimal 

ฉันพยายามค้นหารูทคิวบ์ที่ใหญ่ที่สุดที่เป็นจำนวนเต็มนั่นคือน้อยกว่า 12,000 processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not ฉันไม่แน่ใจว่าจะตรวจสอบว่าเป็นจำนวนเต็มหรือไม่! ฉันสามารถแปลงเป็นสตริงแล้วใช้การจัดทำดัชนีเพื่อตรวจสอบค่าสุดท้ายและดูว่าพวกเขาเป็นศูนย์หรือไม่ซึ่งดูเหมือนว่าค่อนข้างยุ่งยาก มีวิธีที่ง่ายกว่านี้ไหม?

204 python  floating-point 

ทำไมบางตัวเลขสูญเสียความแม่นยำเมื่อเก็บไว้เป็นตัวเลขทศนิยม? ตัวอย่างเช่นตัวเลขทศนิยม9.2สามารถแสดงได้อย่างแม่นยำตามอัตราส่วนของจำนวนเต็มทศนิยมสองตัว ( 92/10) ซึ่งทั้งสองสามารถแสดงอย่างถูกต้องในรูปแบบไบนารี ( 0b1011100/0b1010) อย่างไรก็ตามอัตราส่วนเดียวกันที่เก็บไว้เป็นเลขทศนิยมจะไม่เท่ากับ9.2: 32-bit "single precision" float: 9.19999980926513671875 64-bit "double precision" float: 9.199999999999999289457264239899814128875732421875 หมายเลขธรรมดาอย่างเห็นได้ชัดว่าเป็นอย่างไร "ใหญ่เกินไป" ในการแสดงผลในหน่วยความจำ64 บิต ?

198 floating-point  language-agnostic  precision 

เพื่อนร่วมงานของฉันสะดุดเมื่อวิธีการตั้งค่าตัวเลขลอยพื้นโดยใช้บิตหรือ: var a = 13.6 | 0; //a == 13 เรากำลังพูดถึงมันและสงสัยบางสิ่ง มันทำงานยังไง? ทฤษฏีของเราคือการใช้โอเปอเรเตอร์ดังกล่าวปลดจำนวนให้เป็นจำนวนเต็มดังนั้นจึงลบส่วนที่เป็นเศษส่วน มันมีข้อดีมากกว่าการทำMath.floorหรือไม่? อาจเร็วกว่านี้ไหม? (เล่นสำนวนไม่ได้ตั้งใจ) มันมีข้อเสียหรือไม่? อาจจะไม่ได้ผลในบางกรณี? ความชัดเจนเป็นสิ่งที่ชัดเจนเนื่องจากเราต้องหาและฉันก็เขียนคำถามนี้ ขอบคุณ

193 javascript  floating-point  bit-manipulation