ปัญญาประดิษฐ์

เป็นไปได้หรือไม่ที่จะให้กฎประมาณหัวแม่มือเกี่ยวกับขนาดของโครงข่ายประสาทที่สามารถใช้งานได้กับ GPU ระดับผู้บริโภคทั่วไป ? ตัวอย่างเช่น: การเกิดขึ้นของการเคลื่อนที่ (การเสริมแรง)กระดาษฝึกอบรมเครือข่ายโดยใช้การกระตุ้น tanh ของเซลล์ประสาท พวกเขามี 3 ชั้น NN กับ 300,200,100 หน่วยสำหรับภาพถ่ายวอล์คเกอร์ แต่พวกเขาไม่รายงานฮาร์ดแวร์และเวลา ... แต่กฎของหัวแม่มือสามารถพัฒนาได้หรือไม่? ยังขึ้นอยู่กับผลลัพธ์เชิงประจักษ์ในปัจจุบันเช่น: หน่วย X ที่ใช้การเปิดใช้งาน sigmoid สามารถเรียกใช้การเรียนรู้แบบ Y ต่อชั่วโมงใน 1,060 หรือใช้ฟังก์ชั่นการเปิดใช้งาน a แทน b ทำให้ประสิทธิภาพลดลงครั้ง หากนักเรียน / นักวิจัย / จิตใจอยากรู้อยากเห็นกำลังจะซื้อ GPU สำหรับเล่นกับเครือข่ายเหล่านี้คุณจะตัดสินใจได้อย่างไรว่าคุณจะได้รับ เห็นได้ชัดว่า 1060 เป็นตัวเลือกงบประมาณระดับรายการ แต่จะประเมินได้อย่างไรหากไม่ฉลาดกว่าที่จะได้รับเน็ตบุ๊กเร็วแทนที่จะสร้างเดสก์ท็อปพลังงานสูงและใช้จ่าย $ ตามความต้องการโครงสร้างพื้นฐานคลาวด์ แรงจูงใจสำหรับคำถาม: ฉันเพิ่งซื้อ 1,060 และ …

9 neural-networks 

ฉันเป็นนักศึกษาปริญญาเอกสาขาวิทยาศาสตร์คอมพิวเตอร์และในขณะนี้กำลังสร้างภาพรวมที่ทันสมัยในการใช้งานที่กระทำใน Machine Ethics (สาขาสหวิทยาการผสมผสานปรัชญาและ AI ซึ่งมีลักษณะที่การสร้างโปรแกรมหรือตัวแทนด้านจริยธรรมที่ชัดเจน) ดูเหมือนว่าสนามส่วนใหญ่จะมีข้อโต้แย้งเชิงทฤษฎีและมีการใช้งานค่อนข้างน้อยแม้ว่าจะมีคนจำนวนมากที่มีภูมิหลังทางเทคนิคในสาขานี้ ฉันเข้าใจว่าเนื่องจากมีส่วนเกี่ยวข้องกับจริยธรรมจึงไม่มีความจริงใด ๆ และเนื่องจากเป็นส่วนหนึ่งของปรัชญาที่เราจะเสียไปในการพิจารณาว่าควรนำจริยธรรมประเภทใดมาใช้และวิธีนี้ทำได้ดีที่สุด อย่างไรก็ตามในด้านวิทยาศาสตร์คอมพิวเตอร์เป็นเรื่องปกติที่จะลองใช้งานง่าย ๆ เพื่อแสดงความเป็นไปได้หรือข้อ จำกัด ของวิธีการของคุณ อะไรคือเหตุผลที่เป็นไปได้ที่มีการดำเนินการเพียงเล็กน้อยในการใช้จริยธรรมอย่างชัดเจนใน AI และทำการทดลองกับมัน?

9 philosophy  ethics  social  implementation 

มนุษย์ส่วนใหญ่เล่นหมากรุกไม่เก่ง พวกเขาไม่สามารถเขียนซิมโฟนี พวกเขาไม่อ่านนิยาย พวกเขาไม่ใช่นักกีฬาที่ดี พวกเขาไม่เก่งเรื่องการใช้เหตุผล พวกเราส่วนใหญ่เพิ่งลุกขึ้น ไปทำงานในโรงงานหรือฟาร์มหรืออะไรก็ได้ ทำตามคำแนะนำง่ายๆ ทานเบียร์แล้วเข้านอน หุ่นยนต์ที่ฉลาดไม่สามารถทำอะไรได้บ้างที่มนุษย์โง่สามารถทำได้

9 robots  reasoning  intelligence 

ฉันคิดค้นเกมกระดานเหมือนหมากรุก ฉันสร้างเครื่องยนต์เพื่อให้สามารถเล่นได้อย่างอิสระ เครื่องยนต์นั้นเป็นต้นไม้ตัดสินใจ มันประกอบด้วย: ฟังก์ชั่นการค้นหาที่แต่ละโหนดพบความเคลื่อนไหวที่ถูกกฎหมาย ฟังก์ชั่นการประเมินผลที่กำหนดค่าตัวเลขให้กับตำแหน่งกระดาน (บวกหมายถึงผู้เล่นคนแรกได้ไพ่ที่สูงกว่าหมายถึงผู้เล่นที่สองชนะแทน) อัลกอริทึม negamax การตัดตัวอักษร ปัญหาหลักเกี่ยวกับเอ็นจิ้นนี้คือการยกเลิกฟังก์ชั่นการประเมินผลนั้นยุ่งยากมาก ฉันไม่รู้ว่าปัจจัยใดที่ควรพิจารณาและน้ำหนักที่ควรใส่ วิธีเดียวที่ฉันเห็นการปรับปรุงเครื่องยนต์คือการทำซ้ำเกมที่พยายามแต่ละครั้งรวมกันของปัจจัยและน้ำหนัก อย่างไรก็ตามการคำนวณดูเหมือนว่าจะเป็นเพลงที่ยากมาก (ฉันสามารถ backpropagate ได้โดยไม่ต้องใช้ deeplearning หรือเปล่า) ฉันต้องการใช้การเรียนรู้การเสริมแรงเพื่อทำให้เครื่องยนต์ดีขึ้นโดยการเล่นกับตัวเอง ฉันได้อ่านเกี่ยวกับหัวข้อ แต่ฉันยังค่อนข้างสับสน มีรางวัลอื่นอีกบ้างในเกมที่เป็นส่วนหนึ่งของผลลัพธ์แบบชนะหรือแพ้ (1 หรือ 0) ถ้าฉันใช้รางวัลอื่น ๆ เช่นผลลัพธ์จากฟังก์ชั่นการประเมินผลในแต่ละเทิร์นฉันจะใช้มันได้อย่างไร ฉันจะแก้ไขฟังก์ชั่นการประเมินผลเพื่อให้ได้ผลตอบแทนที่ดีขึ้นหลังจากทำซ้ำได้อย่างไร

9 reinforcement-learning  game-ai  game-theory  combinatorial-games  negamax 

ฉันกำลังอ่านกระดาษใหม่ของ Hinton "Dynamic Routing ระหว่าง Capsules" และไม่เข้าใจคำว่า "vector กิจกรรม" ในนามธรรม แคปซูลเป็นกลุ่มของเซลล์ประสาทที่มีเวกเตอร์กิจกรรมแสดงถึงพารามิเตอร์การสร้างอินสแตนซ์ของเอนทิตีเฉพาะประเภทเช่นวัตถุหรือส่วนของวัตถุ เราใช้ความยาวของเวกเตอร์กิจกรรมเพื่อแสดงความน่าจะเป็นที่มีอยู่ของเอนทิตีและการวางแนวของมันเพื่อเป็นตัวแทนของพารามิเตอร์สร้างอินสแตนซ์ แคปซูลที่ใช้งานอยู่ที่ระดับหนึ่งทำการคาดการณ์ผ่านการฝึกอบรมการแปลงสำหรับพารามิเตอร์ instantiation ของแคปซูลระดับสูง เมื่อการคาดการณ์หลายครั้งยอมรับแคปซูลระดับสูงจะเริ่มทำงาน เราแสดงให้เห็นว่าระบบแคปซูลหลายชั้นที่ผ่านการฝึกอบรมอย่างไม่เลือกปฏิบัตินั้นได้รับการปฏิบัติที่ทันสมัยบน MNIST และดีกว่าเครือข่ายการสนทนาที่รับรู้ตัวเลขที่ทับซ้อนกันอย่างมาก เพื่อให้บรรลุผลลัพธ์เหล่านี้เราใช้กลไกการกำหนดเส้นทางซ้ำตามข้อตกลง: https://arxiv.org/pdf/1710.09829.pdf ฉันคิดว่าเวกเตอร์เป็นเหมือนชุดข้อมูลที่คุณใช้ผ่านเครือข่าย ฉันเริ่มทำงานในหลักสูตรการเรียนรู้ลึกของ Andrew Ng แต่มันใหม่ทั้งหมดและศัพท์ต่าง ๆ เป็นไปตามหัวของฉัน

9 neural-networks 

หลายแหล่งข้อมูลที่ฉันพูดถึงนั้นก็คือ MSE นั้นยอดเยี่ยมเพราะมันนูน แต่ฉันไม่เข้าใจโดยเฉพาะในบริบทของเครือข่ายประสาท สมมติว่าเรามีดังต่อไปนี้: XXX : ชุดข้อมูลการฝึกอบรม YYY : เป้าหมาย ΘΘ\Theta : ชุดพารามิเตอร์ของแบบจำลอง (แบบจำลองโครงข่ายใยประสาทเทียมที่ไม่มีเส้นตรง)fΘfΘf_\Theta แล้ว: MSE(Θ)=(fΘ(X)−Y)2MSE⁡(Θ)=(fΘ(X)−Y)2\operatorname{MSE}(\Theta) = (f_\Theta(X) - Y)^2 ฟังก์ชั่นการสูญเสียนี้ทำไมจะนูนตลอดเวลา สิ่งนี้ขึ้นอยู่กับหรือไม่?fΘ(X)fΘ(X)f_\Theta(X)

9 neural-networks  math  backpropagation  gradient-descent 

ตั้งแต่ปีที่แล้วฉันได้เรียนวิชาต่าง ๆ เพื่อที่จะเข้าใจวิทยานิพนธ์ที่สำคัญที่สุดของการเรียนรู้ของเครื่องเช่น S. Hochreiter & J. Schmidhuber (1997) หน่วยความจำยาวระยะสั้น การคำนวณทางประสาท, 9 (8), 2278-2323 อย่างไรก็ตามเนื่องจากความจริงที่ว่าฉันไม่มีภูมิหลังทางคณิตศาสตร์ฉันจึงเริ่มเรียนวิชาต่างๆเช่น แคลคูลัส แคลคูลัสหลายตัวแปร Anaylsis ทางคณิตศาสตร์ พีชคณิตเชิงเส้น สมการเชิงอนุพันธ์ Anaylsis จริง (ทฤษฎีการวัด) ความน่าจะเป็นเบื้องต้นและสถิติ สถิติทางคณิตศาสตร์ ตอนนี้ฉันไม่สามารถบอกได้ว่าฉันเรียนวิชาเหล่านี้อย่างจริงจัง แต่ฉันรู้ว่าวิชาด้านบนต้องการรับมือกับอะไร สิ่งนี้คือฉันไม่รู้ว่าฉันต้องทำอะไรในจุดนี้ มีหลายวิชาที่การเรียนรู้ของเครื่องใช้ในการแก้ปัญหามากมายที่นั่นและฉันไม่รู้วิธีการใช้อย่างถูกต้อง ยกตัวอย่างเช่นการเรียนรู้การเสริมกำลังเป็นหนึ่งในหัวข้อที่ได้รับความนิยมมากที่สุดที่นักวิจัยหลายแสนคนกำลังทำการวิจัยเพื่อสร้างความก้าวหน้าของคำสาปของมิติ แต่ในฐานะพนักงานในอนาคตที่จะทำงานใน บริษัท ไอทีงานบนโต๊ะจะไม่เป็นสิ่งที่ฉันคาดหวัง การมีความเชี่ยวชาญของตัวเองในการทำงานในสาขาต่าง ๆ เป็นสิ่งสำคัญหรือไม่ ถ้าเป็นเช่นนั้นฉันต้องเรียนวิชาอะไร เพื่อความสะดวกของคุณฉันต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับกระบวนการมาร์คอฟและกระบวนการตัดสินใจมาร์คอฟ

9 machine-learning  getting-started 

การสื่อสารค่อนข้างมีพลังในการสื่อสาร พวกเขาอนุญาตให้อธิบายแนวคิดที่ซับซ้อนให้กับผู้ที่ไม่มีความรู้ด้านโดเมนเพียงแค่ทำการจับคู่กับโดเมนที่รู้จัก Hofstadter กล่าวว่าพวกเขาสำคัญขณะที่ Dijkstra บอกว่าพวกเขาอันตราย อย่างไรก็ตามอุปมาสามารถมองเห็นเป็นวิธีที่มีประสิทธิภาพในการถ่ายโอนแนวคิดในการสื่อสารของมนุษย์ (ผมกล้าพูดว่าการเรียนรู้การถ่ายโอน ?) ฉันรับรู้ถึงงานดั้งเดิมเช่นการให้เหตุผลตามกรณีแต่ไม่มีงานล่าสุดเกี่ยวกับกลไกการเปรียบเทียบใน AI มีความเห็นพ้องต้องกันว่า AGIS นั้นมีความจำเป็นหรือไม่และมีความสำคัญอย่างไร โปรดพิจารณาสำรองคำตอบของคุณด้วยงานที่เป็นรูปธรรมหรือสิ่งตีพิมพ์

9 ai-design  philosophy  agi 

เครื่องจักรที่ทรงพลังในการเอาชนะแชมป์ผู้เล่นโป๊กเกอร์เมื่อเร็ว ๆ นี้มีพลังแค่ไหน?

9 neural-networks  machine-learning 

เพิ่งดูวิดีโอ WIRED ล่าสุดเกี่ยวกับประสิทธิภาพของผู้ช่วยเสมือนในการเล่าเรื่องตลก พวกเขาแต่งโดยมนุษย์ แต่ฉันอยากรู้ว่า AI นั้นดีพอที่จะเขียนไหม

9 machine-learning 

ฉันเจอโปรแกรมWinograd SHRDLUและพบว่ามันน่าสนใจและทะเยอทะยาน ฉันทามติคืออะไร มีความพยายามที่คล้ายกันไหม? ฉันกำลังอ่านหนังสือของเทอร์รี่วิโนกราด เข้าใจภาษาธรรมชาติที่ซึ่งเขาพูดถึงการทำงานของโปรแกรมภาษา LISP และอื่น ๆ ฉันยังพบนักภาษาศาสตร์Michael Hallidayและทฤษฎีภาษาศาสตร์Systemic (functional) ไวยากรณ์ที่กล่าวถึงในหนังสือของ Winograd มี ai / NLP อื่น ๆ ที่ใช้ทฤษฎีนี้เป็นพื้นฐานสำหรับฟังก์ชั่นความหมายหรือไม่? https://en.wikipedia.org/wiki/SHRDLU

9 natural-language-processing  computational-linguistics  lisp 

ขณะศึกษาวิธีการขุดข้อมูลฉันได้เข้าใจว่ามีสองประเภทหลัก: วิธีการทำนาย: การจัดหมวดหมู่ การถอยหลัง วิธีการบรรยาย: การจัดกลุ่ม กฎการเชื่อมโยง เนื่องจากฉันต้องการทำนายความพร้อมใช้งานของผู้ใช้ (ผลลัพธ์) ตามสถานที่ตั้งกิจกรรมระดับแบตเตอรี่ (อินพุตสำหรับแบบจำลองการฝึกอบรม) ฉันคิดว่ามันชัดเจนว่าฉันจะเลือก "วิธีการทำนาย" แต่ตอนนี้ฉันไม่สามารถเลือกได้ระหว่าง การจำแนกและการถดถอย จากสิ่งที่ฉันเข้าใจในตอนนี้การจำแนกประเภทสามารถแก้ปัญหาของฉันได้เนื่องจากผลลัพธ์คือ "พร้อมใช้" หรือ "ไม่พร้อมใช้" การจำแนกประเภทสามารถให้ความน่าจะเป็น (หรือความน่าจะเป็น) แก่ผู้ใช้ได้หรือไม่? ในเอาต์พุตไม่เพียงแค่ 0 (ไม่พร้อมใช้งาน) หรือ 1 (สำหรับว่าง) แต่มันเป็นดังนี้: 80 %80%80\% ใช้ได้ 20 %20%20\% ไม่ว่าง ปัญหานี้สามารถแก้ไขได้ด้วยการถดถอยหรือไม่ ฉันได้รับการถดถอยที่ใช้สำหรับการส่งออกอย่างต่อเนื่อง (ไม่เพียง 0 หรือ 1 เอาท์พุท) แต่ไม่สามารถเอาท์พุทเป็นค่าต่อเนื่องของความพร้อมใช้งานของผู้ใช้ (เช่นเอาท์พุทเป็น 808080 ความหมายของผู้ใช้คือ 80%80%80\% ที่มีอยู่โดยนัยผู้ใช้คือ 20%20%20\% สามารถใช้งานได้)

9 machine-learning  ai-design  classification  prediction  regression 

ฉันต้องการทำการทดลองกับวิวัฒนาการโครงข่ายประสาท (NEAT) ฉันเขียนรหัส GA และโครงข่ายประสาทใน C ++ ย้อนกลับไปใน 90s เพื่อเล่นกับ แต่วิธี DIY พิสูจน์แล้วว่าใช้แรงงานมากพอจนในที่สุดฉันก็ทิ้งมันไป สิ่งต่าง ๆ ได้เปลี่ยนแปลงไปมากมายตั้งแต่นั้นมาและยังมีห้องสมุดและเครื่องมือโอเพนซอร์สที่น่าสนใจมากมายที่น่าสนใจ ฉันใช้ห้องสมุดโอเพ่นซอร์สที่แตกต่างกันของ Google (เช่น DEAP) แต่ฉันสามารถใช้ความช่วยเหลือบางอย่างในการเลือกไลบรารีที่เหมาะสมกับ ... ฉันใช้เวลาส่วนใหญ่เขียนโค้ดเพื่อดูภาพว่าเกิดอะไรขึ้น (สถานะของโครงข่ายประสาทเทียมความเหมาะสมของประชากร) หรือผลลัพธ์สุดท้าย (กราฟ ฯลฯ ) บางทีนี่อาจจะต้องได้รับการเติมเต็มด้วยไลบรารี่โอเพนซอร์ซแยกต่างหาก แต่การสนับสนุนการสร้างภาพข้อมูลเป็นสิ่งที่จะทำให้ฉันใช้เวลากับปัญหา / การแก้ปัญหามากขึ้น ฉันรู้จัก C / C ++, Java, C #, Python, Javascript และอื่น ๆ เล็กน้อย สิ่งที่เป็นการแลกเปลี่ยนที่ดีระหว่างภาษาระดับสูงและประสิทธิภาพที่ดีของฮาร์ดแวร์ภายในบ้านจะเป็นตัวเลือกที่ดี ใครบางคนที่มีประสบการณ์สามารถแนะนำห้องสมุดโอเพ่นซอร์สที่ดีหรือชุดเครื่องมือได้หรือไม่?

9 neural-networks  genetic-algorithms  neat 

ตอนนี้ฉันกำลังอ่านหนังสือชื่อHands-On Machine Learning ด้วย Scikit-Learn และ TensorFlowและในบทที่ 10 ของหนังสือเล่มนี้ผู้เขียนเขียนสิ่งต่อไปนี้: สถาปัตยกรรมของเครือข่ายประสาทชีววิทยา (BNN) 4 ยังคงเป็นเรื่องของการวิจัยที่ใช้งานอยู่ แต่บางส่วนของสมองได้รับการแมปและดูเหมือนว่าเซลล์ประสาทมักจะมีการจัดระเบียบในชั้นที่ต่อเนื่องดังแสดงในรูปที่ 10-2 อย่างไรก็ตามดูเหมือนว่าจะไม่มีลิงค์ไปสู่การวิจัยใด ๆ และผู้เขียนไม่ได้บอกว่ามันได้รับ assertively ว่าเขาใช้"มันดูเหมือนว่าเซลล์ประสาทที่มักจะถูกจัดอยู่ในชั้นติดต่อกัน" นี่เป็นเรื่องจริงและเชื่ออย่างรุนแรงเพียงใด การวิจัยนี้มาจากอะไร?

9 artificial-neuron  biology 

ฉันอ่านว่าเครือข่ายประสาทลึกสามารถถูกหลอกได้ง่าย ( ลิงค์ ) เพื่อให้ความมั่นใจสูงในการรับรู้ภาพสังเคราะห์ / เทียมที่สมบูรณ์ (หรืออย่างน้อยส่วนใหญ่) จากเรื่องความมั่นใจ โดยส่วนตัวฉันไม่เห็นปัญหาใหญ่กับ DNN ที่ให้ความมั่นใจสูงกับภาพสังเคราะห์ / ประดิษฐ์เหล่านั้น แต่ฉันคิดว่าการให้ความมั่นใจสูงสำหรับสัญญาณรบกวนสีขาว ( ลิงก์ ) อาจเป็นปัญหาเนื่องจากนี่เป็นปรากฏการณ์ทางธรรมชาติอย่างแท้จริงที่กล้องอาจเห็น ในโลกแห่งความจริง มีปัญหาเท่าไหร่ที่เสียงสีขาวสำหรับการใช้งานจริงของ DNN? สามารถตรวจจับผลบวกผิดพลาดจากสัญญาณรบกวนธรรมดาได้หรือไม่?

9 neural-networks  deep-network  image-recognition  convolutional-neural-networks  signal-processing