วิธีการถอดรหัสลำดับการหลีกเลี่ยง Unicode เช่น“ \ u00ed” เป็นอักขระที่เข้ารหัส UTF-8 ที่เหมาะสม


100

มีฟังก์ชันใน PHP ที่สามารถถอดรหัสลำดับการหลีกเลี่ยง Unicode เช่น "\u00ed " ถึง " í" และเหตุการณ์อื่น ๆ ที่คล้ายกันทั้งหมดได้หรือไม่

ฉันพบคำถามที่คล้ายกันที่นี่แต่ดูเหมือนจะไม่ได้ผล

คำตอบ:


175

ลองสิ่งนี้:

$str = preg_replace_callback('/\\\\u([0-9a-fA-F]{4})/', function ($match) {
    return mb_convert_encoding(pack('H*', $match[1]), 'UTF-8', 'UCS-2BE');
}, $str);

ในกรณีที่เป็นสไตล์ C / C ++ / Java / Json ที่ใช้ UTF-16:

$str = preg_replace_callback('/\\\\u([0-9a-fA-F]{4})/', function ($match) {
    return mb_convert_encoding(pack('H*', $match[1]), 'UTF-8', 'UTF-16BE');
}, $str);

1
ฉันจะใส่ "\ u00ed" ไว้ที่ไหน
Docstero

2
@Docstero: นิพจน์ทั่วไปจะจับคู่ลำดับใด ๆ ของ\uตามด้วยเลขฐานสิบหกสี่หลัก
Gumbo

9
ฟังก์ชันนี้ไม่สามารถจัดการกับอักขระเสริมได้เนื่องจากไม่สามารถแสดงใน UCS-2
Artefacto

3
@gumbo คุณเรียกหรือใช้ฟังก์ชันนี้อย่างไร?
Demodave

3
ฉันพบวิธีของฉันที่นี่ตามที่ฉันได้ระบุไว้ในผลลัพธ์ของฉัน แต่ฉันกำลังดูผลลัพธ์ที่มี json_encode () และสนุกพอที่ json_encode () เริ่มต้นจะทิ้งเอาต์พุตดังนั้นให้ใช้ json_encode ($ theDict, JSON_PRETTY_PRINT | JSON_UNESCAPED_UNICODE);
Tom Andersen

72
print_r(json_decode('{"t":"\u00ed"}')); // -> stdClass Object ( [t] => í )

46
ไม่จำเป็นต้องใช้กระดาษห่อหุ้มวัตถุ:json_decode('"' . $text . '"')
หลอกลวง

3
ขอบคุณ. นี่ดูเหมือนจะเป็นวิธีมาตรฐานแทนที่จะเป็นคำตอบที่ยอมรับแล้ว
โตดัว

ที่น่าสนใจนี้ยังใช้ได้กับเอนทิตีที่ซับซ้อนเช่นหน้ายิ้ม ... json_decode('{"t":"\uD83D\uDE0A"}')คือ😊
DynamicDan

2
@deceze คุณควรใส่ความจริงที่$textสามารถใส่เครื่องหมายคำพูดคู่ได้ json_decode('"'.str_replace('"', '\\"', $text).'"')ดังนั้นรุ่นปรับปรุงจะเป็น: ขอบคุณสำหรับความช่วยเหลือ :-)
Yvan


11
$str = '\u0063\u0061\u0074'.'\ud83d\ude38';
$str2 = '\u0063\u0061\u0074'.'\ud83d';

// U+1F638
var_dump(
    "cat\xF0\x9F\x98\xB8" === escape_sequence_decode($str),
    "cat\xEF\xBF\xBD" === escape_sequence_decode($str2)
);

function escape_sequence_decode($str) {

    // [U+D800 - U+DBFF][U+DC00 - U+DFFF]|[U+0000 - U+FFFF]
    $regex = '/\\\u([dD][89abAB][\da-fA-F]{2})\\\u([dD][c-fC-F][\da-fA-F]{2})
              |\\\u([\da-fA-F]{4})/sx';

    return preg_replace_callback($regex, function($matches) {

        if (isset($matches[3])) {
            $cp = hexdec($matches[3]);
        } else {
            $lead = hexdec($matches[1]);
            $trail = hexdec($matches[2]);

            // http://unicode.org/faq/utf_bom.html#utf16-4
            $cp = ($lead << 10) + $trail + 0x10000 - (0xD800 << 10) - 0xDC00;
        }

        // https://tools.ietf.org/html/rfc3629#section-3
        // Characters between U+D800 and U+DFFF are not allowed in UTF-8
        if ($cp > 0xD7FF && 0xE000 > $cp) {
            $cp = 0xFFFD;
        }

        // https://github.com/php/php-src/blob/php-5.6.4/ext/standard/html.c#L471
        // php_utf32_utf8(unsigned char *buf, unsigned k)

        if ($cp < 0x80) {
            return chr($cp);
        } else if ($cp < 0xA0) {
            return chr(0xC0 | $cp >> 6).chr(0x80 | $cp & 0x3F);
        }

        return html_entity_decode('&#'.$cp.';');
    }, $str);
}

ขอบคุณ. ดูเหมือนว่าจะใช้ได้กับตัวละครเสริมเช่น😍
c00000fd

3

นี่เป็นวิธีการใช้ค้อนขนาดใหญ่ในการแทนที่ UNICODE แบบดิบด้วย HTML ฉันไม่เห็นที่อื่นที่จะนำวิธีแก้ปัญหานี้ แต่ฉันคิดว่าคนอื่นมีปัญหานี้

ใช้ฟังก์ชัน str_replace นี้กับRAW JSONก่อนที่จะดำเนินการอย่างอื่น

function unicode2html($str){
    $i=65535;
    while($i>0){
        $hex=dechex($i);
        $str=str_replace("\u$hex","&#$i;",$str);
        $i--;
     }
     return $str;
}

การดำเนินการนี้จะใช้เวลาไม่นานอย่างที่คุณคิดและสิ่งนี้จะแทนที่ Unicode ใด ๆ ด้วย HTML

แน่นอนว่าสิ่งนี้สามารถลดลงได้หากคุณทราบประเภท Unicode ที่ส่งคืนใน JSON

ตัวอย่างเช่นรหัสของฉันได้รับลูกศรและ dingbat unicode จำนวนมาก ค่าเหล่านี้อยู่ระหว่าง 8448 ถึง 11263 ดังนั้นรหัสการผลิตของฉันจึงดูเหมือน:

$i=11263;
while($i>08448){
    ...etc...

คุณสามารถค้นหาบล็อกของ Unicode ตามประเภทที่นี่: http://unicode-table.com/en/ หากคุณรู้ว่าคุณกำลังแปลภาษาอาหรับหรือเทเลกูหรืออะไรก็ตามคุณสามารถแทนที่รหัสเหล่านั้นได้ไม่ใช่ทั้งหมด 65,000

คุณสามารถใช้ค้อนขนาดใหญ่เดียวกันนี้กับการเข้ารหัสอย่างง่าย:

 $str=str_replace("\u$hex",chr($i),$str);

1

นอกจากนี้ยังมีวิธีแก้ไข:
http://www.welefen.com/php-unicode-to-utf8.html

function entity2utf8onechar($unicode_c){
    $unicode_c_val = intval($unicode_c);
    $f=0x80; // 10000000
    $str = "";
    // U-00000000 - U-0000007F:   0xxxxxxx
    if($unicode_c_val <= 0x7F){         $str = chr($unicode_c_val);     }     //U-00000080 - U-000007FF:  110xxxxx 10xxxxxx
    else if($unicode_c_val >= 0x80 && $unicode_c_val <= 0x7FF){         $h=0xC0; // 11000000
        $c1 = $unicode_c_val >> 6 | $h;
        $c2 = ($unicode_c_val & 0x3F) | $f;
        $str = chr($c1).chr($c2);
    } else if($unicode_c_val >= 0x800 && $unicode_c_val <= 0xFFFF){         $h=0xE0; // 11100000
        $c1 = $unicode_c_val >> 12 | $h;
        $c2 = (($unicode_c_val & 0xFC0) >> 6) | $f;
        $c3 = ($unicode_c_val & 0x3F) | $f;
        $str=chr($c1).chr($c2).chr($c3);
    }
    //U-00010000 - U-001FFFFF:  11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
    else if($unicode_c_val >= 0x10000 && $unicode_c_val <= 0x1FFFFF){         $h=0xF0; // 11110000
        $c1 = $unicode_c_val >> 18 | $h;
        $c2 = (($unicode_c_val & 0x3F000) >>12) | $f;
        $c3 = (($unicode_c_val & 0xFC0) >>6) | $f;
        $c4 = ($unicode_c_val & 0x3F) | $f;
        $str = chr($c1).chr($c2).chr($c3).chr($c4);
    }
    //U-00200000 - U-03FFFFFF:  111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
    else if($unicode_c_val >= 0x200000 && $unicode_c_val <= 0x3FFFFFF){         $h=0xF8; // 11111000
        $c1 = $unicode_c_val >> 24 | $h;
        $c2 = (($unicode_c_val & 0xFC0000)>>18) | $f;
        $c3 = (($unicode_c_val & 0x3F000) >>12) | $f;
        $c4 = (($unicode_c_val & 0xFC0) >>6) | $f;
        $c5 = ($unicode_c_val & 0x3F) | $f;
        $str = chr($c1).chr($c2).chr($c3).chr($c4).chr($c5);
    }
    //U-04000000 - U-7FFFFFFF:  1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
    else if($unicode_c_val >= 0x4000000 && $unicode_c_val <= 0x7FFFFFFF){         $h=0xFC; // 11111100
        $c1 = $unicode_c_val >> 30 | $h;
        $c2 = (($unicode_c_val & 0x3F000000)>>24) | $f;
        $c3 = (($unicode_c_val & 0xFC0000)>>18) | $f;
        $c4 = (($unicode_c_val & 0x3F000) >>12) | $f;
        $c5 = (($unicode_c_val & 0xFC0) >>6) | $f;
        $c6 = ($unicode_c_val & 0x3F) | $f;
        $str = chr($c1).chr($c2).chr($c3).chr($c4).chr($c5).chr($c6);
    }
    return $str;
}
function entities2utf8($unicode_c){
    $unicode_c = preg_replace("/\&\#([\da-f]{5})\;/es", "entity2utf8onechar('\\1')", $unicode_c);
    return $unicode_c;
}

1

แก้ไขค่า json โดยเพิ่ม \ ก่อน u {xxx} ทั้งหมด + ""

  $item = preg_replace_callback('/"(.+?)":"(u.+?)",/', function ($matches) {
        $matches[2] = preg_replace('/(u)/', '\u', $matches[2]);
            $matches[2] = preg_replace('/(")/', '&quot;', $matches[2]); 
            $matches[2] = json_decode('"' . $matches[2] . '"'); 
            return '"' . $matches[1] . '":"' . $matches[2] . '",';
        }, $item);
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.