การดาวน์โหลดอิมเมจด้วย node.js [ปิด]


169

ฉันพยายามเขียนสคริปต์เพื่อดาวน์โหลดภาพโดยใช้ node.js นี่คือสิ่งที่ฉันมี:

var maxLength = 10 // 10mb
var download = function(uri, callback) {
  http.request(uri)
    .on('response', function(res) {
      if (res.headers['content-length'] > maxLength*1024*1024) {
        callback(new Error('Image too large.'))
      } else if (!~[200, 304].indexOf(res.statusCode)) {
        callback(new Error('Received an invalid status code.'))
      } else if (!res.headers['content-type'].match(/image/)) {
        callback(new Error('Not an image.'))
      } else {
        var body = ''
        res.setEncoding('binary')
        res
          .on('error', function(err) {
            callback(err)
          })
          .on('data', function(chunk) {
            body += chunk
          })
          .on('end', function() {
            // What about Windows?!
            var path = '/tmp/' + Math.random().toString().split('.').pop()
            fs.writeFile(path, body, 'binary', function(err) {
              callback(err, path)
            })
          })
      }
    })
    .on('error', function(err) {
      callback(err)
    })
    .end();
}

อย่างไรก็ตามฉันต้องการทำให้สิ่งนี้แข็งแกร่งยิ่งขึ้น:

  1. มีห้องสมุดที่ทำสิ่งนี้และทำได้ดีกว่านี้ไหม
  2. มีโอกาสที่ส่วนหัวคำตอบจะอยู่ (ประมาณความยาวประมาณประเภทเนื้อหา)
  3. มีรหัสสถานะอื่นใดอีกที่ฉันควรให้ความสนใจ ฉันควรกังวลกับการเปลี่ยนเส้นทางหรือไม่
  4. ฉันคิดว่าฉันอ่านที่ไหนสักแห่งว่าการbinaryเข้ารหัสจะเลิกใช้แล้ว ฉันจะทำอย่างไรดี
  5. ฉันจะทำให้มันทำงานบน windows ได้อย่างไร?
  6. วิธีอื่นใดที่คุณสามารถทำให้สคริปต์นี้ดีขึ้นได้?

ทำไม: สำหรับคุณสมบัติที่คล้ายกับ imgur ซึ่งผู้ใช้สามารถให้ URL แก่ฉันได้ฉันจะดาวน์โหลดภาพนั้นและนำรูปภาพกลับมาใช้ใหม่ในหลายขนาด

คำตอบ:


401

ผมขอแนะนำให้ใช้โมดูลคำขอ การดาวน์โหลดไฟล์นั้นง่ายพอ ๆ กับรหัสต่อไปนี้:

var fs = require('fs'),
    request = require('request');

var download = function(uri, filename, callback){
  request.head(uri, function(err, res, body){
    console.log('content-type:', res.headers['content-type']);
    console.log('content-length:', res.headers['content-length']);

    request(uri).pipe(fs.createWriteStream(filename)).on('close', callback);
  });
};

download('https://www.google.com/images/srpr/logo3w.png', 'google.png', function(){
  console.log('done');
});

1
เย็น! มีวิธีการตรวจสอบขนาดและประเภทเนื้อหาก่อนที่จะดาวน์โหลดจริงหรือไม่?
Jonathan Ong

2
มันจะดาวน์โหลดภาพที่ไหน
Gofilord

17
ไม่ทำงานสำหรับฉัน (ภาพเสียหาย
Darth

2
@Gofilord ดาวน์โหลดรูปภาพไปยังไดเรกทอรีรากของคุณ
แดง

1
คุณสามารถเปลี่ยนตำแหน่งที่บันทึกไว้ได้หรือไม่? ถ้าคุณต้องการมันในโฟลเดอร์เฉพาะ
AKL012

34

ฉันพบปัญหานี้เมื่อหลายวันก่อนเพื่อหาคำตอบของ NodeJS ที่บริสุทธิ์ฉันขอแนะนำให้ใช้สตรีมเพื่อรวมชิ้นส่วนเข้าด้วยกัน

var http = require('http'),                                                
    Stream = require('stream').Transform,                                  
    fs = require('fs');                                                    

var url = 'http://www.google.com/images/srpr/logo11w.png';                    

http.request(url, function(response) {                                        
  var data = new Stream();                                                    

  response.on('data', function(chunk) {                                       
    data.push(chunk);                                                         
  });                                                                         

  response.on('end', function() {                                             
    fs.writeFileSync('image.png', data.read());                               
  });                                                                         
}).end();

โหนดรุ่นใหม่ล่าสุดทำงานได้ไม่ดีกับสตริงไบนารี่ดังนั้นการผสานชิ้นข้อมูลกับสตริงจึงไม่ใช่ความคิดที่ดีเมื่อทำงานกับข้อมูลไบนารี่

* โปรดใช้ความระมัดระวังเมื่อใช้ 'data.read ()' จะทำให้สตรีมว่างสำหรับการดำเนินการ 'read ()' ต่อไป หากคุณต้องการใช้มากกว่าหนึ่งครั้งให้เก็บไว้ที่อื่น


7
ทำไมไม่สตรีมการดาวน์โหลดไปยังดิสก์โดยตรง
geon

มีปัญหามากมายเกี่ยวกับ chunking strings ร่วมกันเนื่องจากมันสร้างไฟล์ที่เสียหาย แต่สิ่งนี้ทำมัน
Shaho

28

คุณสามารถใช้Axios ( ไคลเอนต์ HTTP ตามสัญญาสำหรับ Node.js) เพื่อดาวน์โหลดรูปภาพตามลำดับที่คุณเลือกในสภาพแวดล้อมแบบอะซิงโครนัส :

npm i axios

จากนั้นคุณสามารถใช้ตัวอย่างพื้นฐานต่อไปนี้เพื่อเริ่มดาวน์โหลดภาพ:

const fs = require('fs');
const axios = require('axios');

/* ============================================================
  Function: Download Image
============================================================ */

const download_image = (url, image_path) =>
  axios({
    url,
    responseType: 'stream',
  }).then(
    response =>
      new Promise((resolve, reject) => {
        response.data
          .pipe(fs.createWriteStream(image_path))
          .on('finish', () => resolve())
          .on('error', e => reject(e));
      }),
  );

/* ============================================================
  Download Images in Order
============================================================ */

(async () => {
  let example_image_1 = await download_image('https://example.com/test-1.png', 'example-1.png');

  console.log(example_image_1.status); // true
  console.log(example_image_1.error); // ''

  let example_image_2 = await download_image('https://example.com/does-not-exist.png', 'example-2.png');

  console.log(example_image_2.status); // false
  console.log(example_image_2.error); // 'Error: Request failed with status code 404'

  let example_image_3 = await download_image('https://example.com/test-3.png', 'example-3.png');

  console.log(example_image_3.status); // true
  console.log(example_image_3.error); // ''
})();

2
เยี่ยมมาก! แต่โค้ดที่อ่านได้แทบจะไม่ได้ลองสไตล์มาตรฐาน : D
camwhite

3
@camwhite ฉันชอบอัฒภาค ;)
Grant Miller

1
คุณควรแนบเหตุการณ์ 'เสร็จสิ้น' และ 'ข้อผิดพลาด' กับสตรีมการเขียนห่อไว้ในสัญญาและส่งคืนสัญญา มิฉะนั้นคุณอาจลองเข้าถึงภาพที่ยังไม่ได้ดาวน์โหลดอย่างสมบูรณ์
jwerre

การรอคอยจะไม่ทำให้แน่ใจว่าการดาวน์โหลดภาพเสร็จสมบูรณ์ก่อนที่จะพยายามเข้าถึงหรือไม่? @jwerre
FabricioG

@jwerre @FabricioG ฉันได้อัปเดตฟังก์ชั่นdownload_imageเพื่อจับภาพเหตุการณ์ 'เสร็จสิ้น' และ 'ข้อผิดพลาด' สำหรับสัญญาที่ส่งคืน
Beeno Tung

10

หากคุณต้องการดาวน์โหลดความคืบหน้าลองนี้:

var fs = require('fs');
var request = require('request');
var progress = require('request-progress');

module.exports = function (uri, path, onProgress, onResponse, onError, onEnd) {
    progress(request(uri))
    .on('progress', onProgress)
    .on('response', onResponse)
    .on('error', onError)
    .on('end', onEnd)
    .pipe(fs.createWriteStream(path))
};

วิธีใช้:

  var download = require('../lib/download');
  download("https://www.google.com/images/branding/googlelogo/2x/googlelogo_color_150x54dp.png", "~/download/logo.png", function (state) {
            console.log("progress", state);
        }, function (response) {
            console.log("status code", response.statusCode);
        }, function (error) {
            console.log("error", error);
        }, function () {
            console.log("done");
        });

หมายเหตุ: คุณควรติดตั้งทั้งโมดูลคำขอและคำขอความคืบหน้าโดยใช้:

npm install request request-progress --save

2
สิ่งนี้ใช้งานได้ดี แต่ต้องการแนะนำให้เพิ่มการstatusCodeตรวจสอบ 500 statusCode 'on("error", e)ตัวอย่างเช่นจะไม่ตี โดยการเพิ่มon('response', (response) => console.error(response.statusCode))มันช่วยอำนวยความสะดวกในการแก้ปัญหาอย่างมาก
mateuscb

1
คุณสามารถแก้ไขคำตอบของฉัน :)
Fareed Alnamrouti

4

การสร้างด้านบนหากใครต้องการจัดการข้อผิดพลาดในการเขียน / อ่านกระแสฉันใช้รุ่นนี้ จดบันทึกstream.read()ในกรณีที่เกิดข้อผิดพลาดในการเขียนจึงจำเป็นเพื่อให้เราสามารถอ่านและทริกเกอร์closeกระแสการอ่านได้

var download = function(uri, filename, callback){
  request.head(uri, function(err, res, body){
    if (err) callback(err, filename);
    else {
        var stream = request(uri);
        stream.pipe(
            fs.createWriteStream(filename)
                .on('error', function(err){
                    callback(error, filename);
                    stream.read();
                })
            )
        .on('close', function() {
            callback(null, filename);
        });
    }
  });
};

2
stream.read()ดูเหมือนจะล้าสมัยแล้วเกิดข้อผิดพลาดnot a function
งอ

4
var fs = require('fs'),
http = require('http'),
https = require('https');

var Stream = require('stream').Transform;

var downloadImageToUrl = (url, filename, callback) => {

    var client = http;
    if (url.toString().indexOf("https") === 0){
      client = https;
     }

    client.request(url, function(response) {                                        
      var data = new Stream();                                                    

      response.on('data', function(chunk) {                                       
         data.push(chunk);                                                         
      });                                                                         

      response.on('end', function() {                                             
         fs.writeFileSync(filename, data.read());                               
      });                                                                         
   }).end();
};

downloadImageToUrl('https://www.google.com/images/srpr/logo11w.png', 'public/uploads/users/abc.jpg');

1
ฟังก์ชั่นของคุณไม่ทำให้เกิดการโทรกลับ
crockpotveggies

4

นี่คือส่วนขยายของคำตอบของ Cezary หากคุณต้องการดาวน์โหลดไปยังไดเรกทอรีที่เฉพาะเจาะจงใช้สิ่งนี้ นอกจากนี้ใช้ const แทน var มันปลอดภัยด้วยวิธีนี้

const fs = require('fs');
const request = require('request');
var download = function(uri, filename, callback){
  request.head(uri, function(err, res, body){    
    request(uri).pipe(fs.createWriteStream(filename)).on('close', callback);
  });
};

download('https://www.google.com/images/srpr/logo3w.png', './images/google.png', function(){
  console.log('done');
});
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.