softmax_cross_entropy_with_logits แตกต่างจาก softmax_cross_entropy_with_logits_v2 อย่างไร

โดยเฉพาะฉันคิดว่าฉันสงสัยเกี่ยวกับคำสั่งนี้:

เวอร์ชันหลักของ TensorFlow ในอนาคตจะอนุญาตให้การไล่ระดับสีไหลไปยังอินพุตของฉลากบน backprop ตามค่าเริ่มต้น

tf.nn.softmax_cross_entropy_with_logitsซึ่งจะแสดงเมื่อฉันใช้ tf.nn.softmax_cross_entropy_with_logits_v2ในข้อความเดียวกันก็เรียกร้องให้ผมที่จะมีลักษณะที่ ฉันดูเอกสาร แต่ระบุว่าtf.nn.softmax_cross_entropy_with_logits_v2:

Backpropagation จะเกิดขึ้นในทั้งการบันทึกและป้ายกำกับ หากต้องการไม่อนุญาตให้ backpagation ลงในฉลากให้ส่งเทนเซอร์ของฉลากผ่าน stop_gradients ก่อนส่งไปยังฟังก์ชันนี้

เมื่อเทียบกับtf.nn.softmax_cross_entropy_with_logits:

การแพร่กระจายย้อนหลังจะเกิดขึ้นในบันทึกเท่านั้น

เป็นเรื่องใหม่มากกับเรื่อง (ฉันกำลังพยายามหาทางผ่านบทเรียนพื้นฐานบางอย่าง) ข้อความเหล่านี้ไม่ชัดเจน ฉันมีความเข้าใจตื้น ๆ เกี่ยวกับ backpropagation แต่จริงๆแล้วข้อความก่อนหน้านี้หมายถึงอะไร? backpropagation และฉลากเชื่อมต่อกันอย่างไร? และสิ่งนี้จะเปลี่ยนแปลงวิธีที่ฉันทำงานด้วยtf.nn.softmax_cross_entropy_with_logits_v2เมื่อเทียบกับต้นฉบับได้อย่างไร

คุณมีเหตุผลทุกอย่างที่จะสับสนเพราะในการเรียนรู้แบบมีผู้สอนไม่จำเป็นต้อง backpropagate ให้กับป้ายกำกับ พวกเขาได้รับการพิจารณาว่าเป็นความจริงที่แน่นอนและมีเพียงน้ำหนักที่ต้องปรับเพื่อให้ตรงกับพวกเขา

แต่ในบางกรณีฉลากอาจมาจากแหล่งที่แตกต่างกันซึ่งเป็นเครือข่ายอื่น ตัวอย่างหนึ่งที่อาจจะมีการเรียนรู้ขัดแย้ง ในกรณีนี้เครือข่ายทั้งสองอาจได้รับประโยชน์จากสัญญาณข้อผิดพลาด นั่นเป็นเหตุผลที่ว่าทำไมtf.nn.softmax_cross_entropy_with_logits_v2ได้รับการแนะนำให้รู้จัก โปรดทราบว่าเมื่อฉลากเป็นตัวยึดตำแหน่ง (ซึ่งเป็นเรื่องปกติ) จะไม่มีความแตกต่างถ้าการไล่ระดับสีผ่านโฟลว์หรือไม่เพราะไม่มีตัวแปรที่จะใช้การไล่ระดับสี