รวบรวมคอลัมน์หลายชุด


109

ฉันมีข้อมูลจากแบบสำรวจออนไลน์ที่ผู้ตอบตอบคำถาม 1-3 ครั้ง ซอฟแวร์การสำรวจ (Qualtrics) บันทึกข้อมูลนี้ในหลายคอลัมน์ที่เป็น Q3.2 ในการสำรวจจะมีคอลัมน์Q3.2.1., Q3.2.2.และQ3.2.3.:

df <- data.frame(
  id = 1:10,
  time = as.Date('2009-01-01') + 0:9,
  Q3.2.1. = rnorm(10, 0, 1),
  Q3.2.2. = rnorm(10, 0, 1),
  Q3.2.3. = rnorm(10, 0, 1),
  Q3.3.1. = rnorm(10, 0, 1),
  Q3.3.2. = rnorm(10, 0, 1),
  Q3.3.3. = rnorm(10, 0, 1)
)

# Sample data

   id       time    Q3.2.1.     Q3.2.2.    Q3.2.3.     Q3.3.1.    Q3.3.2.     Q3.3.3.
1   1 2009-01-01 -0.2059165 -0.29177677 -0.7107192  1.52718069 -0.4484351 -1.21550600
2   2 2009-01-02 -0.1981136 -1.19813815  1.1750200 -0.40380049 -1.8376094  1.03588482
3   3 2009-01-03  0.3514795 -0.27425539  1.1171712 -1.02641801 -2.0646661 -0.35353058
...

ฉันต้องการรวมคอลัมน์ QN.N * ทั้งหมดเป็นคอลัมน์ QN.N แต่ละคอลัมน์ที่เป็นระเบียบเรียบร้อยในที่สุดก็ลงเอยด้วยสิ่งนี้:

   id       time loop_number        Q3.2        Q3.3
1   1 2009-01-01           1 -0.20591649  1.52718069
2   2 2009-01-02           1 -0.19811357 -0.40380049
3   3 2009-01-03           1  0.35147949 -1.02641801
...
11  1 2009-01-01           2 -0.29177677  -0.4484351
12  2 2009-01-02           2 -1.19813815  -1.8376094
13  3 2009-01-03           2 -0.27425539  -2.0646661
...
21  1 2009-01-01           3 -0.71071921 -1.21550600
22  2 2009-01-02           3  1.17501999  1.03588482
23  3 2009-01-03           3  1.11717121 -0.35353058
...

tidyrห้องสมุดมีgather()ฟังก์ชั่นที่ใช้งานได้ดีสำหรับการรวมเป็นหนึ่งในชุดของคอลัมน์:

library(dplyr)
library(tidyr)
library(stringr)

df %>% gather(loop_number, Q3.2, starts_with("Q3.2")) %>% 
  mutate(loop_number = str_sub(loop_number,-2,-2)) %>%
  select(id, time, loop_number, Q3.2)


   id       time loop_number        Q3.2
1   1 2009-01-01           1 -0.20591649
2   2 2009-01-02           1 -0.19811357
3   3 2009-01-03           1  0.35147949
...
29  9 2009-01-09           3 -0.58581232
30 10 2009-01-10           3 -2.33393981

กรอบข้อมูลผลลัพธ์มี 30 แถวตามที่คาดไว้ (10 บุคคล 3 ลูปแต่ละอัน) อย่างไรก็ตามการรวบรวมคอลัมน์ชุดที่สองไม่ทำงานอย่างถูกต้องทำให้ทั้งสองคอลัมน์รวมกันได้สำเร็จQ3.2และQ3.3แต่ลงท้ายด้วย 90 แถวแทนที่จะเป็น 30 (ชุดค่าผสมทั้งหมดของ 10 บุคคล, 3 ลูปของ Q3.2 และ 3 ลูปของ Q3 .3; ชุดค่าผสมจะเพิ่มขึ้นอย่างมากสำหรับแต่ละกลุ่มคอลัมน์ในข้อมูลจริง):

df %>% gather(loop_number, Q3.2, starts_with("Q3.2")) %>% 
  gather(loop_number, Q3.3, starts_with("Q3.3")) %>%
  mutate(loop_number = str_sub(loop_number,-2,-2))


   id       time loop_number        Q3.2        Q3.3
1   1 2009-01-01           1 -0.20591649  1.52718069
2   2 2009-01-02           1 -0.19811357 -0.40380049
3   3 2009-01-03           1  0.35147949 -1.02641801
...
89  9 2009-01-09           3 -0.58581232 -0.13187024
90 10 2009-01-10           3 -2.33393981 -0.48502131

มีวิธีใช้การเรียกหลายรายการเพื่อgather()รวมคอลัมน์ย่อย ๆ เช่นนี้ในขณะที่รักษาจำนวนแถวที่ถูกต้องหรือไม่


เกิดอะไรขึ้นdf %>% gather(loop_number, Q3.2, starts_with("Q3."))
อเล็กซ์

นั่นทำให้ฉันรวมหนึ่งคอลัมน์ที่มี 60 แถว ฉันเดาว่าจะได้ผลถ้าฉันรวมการเรียกseperate()เพื่อแบ่งค่า Q3.3 (และอื่น ๆ ) เป็นคอลัมน์ของตัวเอง แต่ดูเหมือนว่าจะเป็นวิธีแก้ปัญหาแบบแฮ็กจริงๆ…
Andrew

ใช้spreadฉันกำลังแก้ไขปัญหาตอนนี้: p
Alex

ลองดูสิ! df %>% gather(question_number, Q3.2, starts_with("Q3.")) %>% mutate(loop_number = str_sub(question_number,-2,-2), question_number = str_sub(question_number,1,4)) %>% select(id, time, loop_number, question_number, Q3.2) %>% spread(key = question_number, value = Q3.2)
Alex

โอนั่นใช้ได้ดีกับทั้งสองตัวแปร ฉันสงสัยว่ามันสามารถปรับขนาดได้หรือไม่ - ในข้อมูลจริงของฉันฉันมี Q3.2-Q3.30 ดังนั้นจึงต้องมีการโทรหาspread()กันเป็นจำนวนมาก แม้ว่าการโทรหลายครั้งจะดูเหมือนหลีกเลี่ยงไม่ได้ไม่ว่าจะเป็นกลุ่มgenerate()ที่ทำงานหรือซ้อนกันspread()...
Andrew

คำตอบ:


147

วิธีนี้ดูเป็นธรรมชาติสำหรับฉัน:

df %>%
  gather(key, value, -id, -time) %>%
  extract(key, c("question", "loop_number"), "(Q.\\..)\\.(.)") %>%
  spread(question, value)

ครั้งแรกที่รวบรวมคอลัมน์คำถามทุกการใช้งานextract()ที่จะแยกออกเป็นquestionและloop_numberจากนั้นก็spread()กลับมาคำถามลงในคอลัมน์

#>    id       time loop_number         Q3.2        Q3.3
#> 1   1 2009-01-01           1  0.142259203 -0.35842736
#> 2   1 2009-01-01           2  0.061034802  0.79354061
#> 3   1 2009-01-01           3 -0.525686204 -0.67456611
#> 4   2 2009-01-02           1 -1.044461185 -1.19662936
#> 5   2 2009-01-02           2  0.393808163  0.42384717

5
สวัสดี. ฉันมีหลายคอลัมน์ที่มีชื่อลงท้ายด้วย 1 และ 2 เช่น age1, age2, weight1, weight2, blood1, blood2 .... ฉันจะใช้วิธีของคุณที่นี่ได้อย่างไร
กัน

4
ส่วนนี้หมายความว่าอย่างไร: "(Q. \\ .. ) \\. (.)" ฉันจะค้นหาอะไรเพื่อถอดรหัสสิ่งที่เกิดขึ้นที่นั่น?
ม็อบ

3
@mob นิพจน์ทั่วไป
hadley

1
@mob "(Q. \\ .. ) \\. (.)" เป็นนิพจน์ทั่วไปที่มีวงเล็บที่กำหนดกลุ่มของนิพจน์ทั่วไปที่จะแยกเป็น "คำถาม" และ "loop_number" โดยเฉพาะอย่างยิ่งในตัวอย่างนี้รายการในคีย์ที่มีนิพจน์ "Q. \\ .. " จะอยู่ในคอลัมน์ "คำถาม" (เช่น "Q3.2" และ "Q3.3") จากนั้นส่วนถัดไป จุดที่แสดงเป็น "." เข้าไปในคอลัมน์ "loop_number"
LC-datascientist

31

ซึ่งสามารถทำได้โดยใช้reshape. เป็นไปได้ด้วยdplyrแม้ว่า

  colnames(df) <- gsub("\\.(.{2})$", "_\\1", colnames(df))
  colnames(df)[2] <- "Date"
  res <- reshape(df, idvar=c("id", "Date"), varying=3:8, direction="long", sep="_")
  row.names(res) <- 1:nrow(res)

   head(res)
  #  id       Date time       Q3.2       Q3.3
  #1  1 2009-01-01    1  1.3709584  0.4554501
  #2  2 2009-01-02    1 -0.5646982  0.7048373
  #3  3 2009-01-03    1  0.3631284  1.0351035
  #4  4 2009-01-04    1  0.6328626 -0.6089264
  #5  5 2009-01-05    1  0.4042683  0.5049551
  #6  6 2009-01-06    1 -0.1061245 -1.7170087

หรือโดยใช้ dplyr

  library(tidyr)
  library(dplyr)
  colnames(df) <- gsub("\\.(.{2})$", "_\\1", colnames(df))

  df %>%
     gather(loop_number, "Q3", starts_with("Q3")) %>% 
     separate(loop_number,c("L1", "L2"), sep="_") %>% 
     spread(L1, Q3) %>%
     select(-L2) %>%
     head()
  #  id       time       Q3.2       Q3.3
  #1  1 2009-01-01  1.3709584  0.4554501
  #2  1 2009-01-01  1.3048697  0.2059986
  #3  1 2009-01-01 -0.3066386  0.3219253
  #4  2 2009-01-02 -0.5646982  0.7048373
  #5  2 2009-01-02  2.2866454 -0.3610573
  #6  2 2009-01-02 -1.7813084 -0.7838389

อัปเดต

ด้วยtidyr_0.8.3.9000เราสามารถใช้pivot_longerเพื่อปรับรูปร่างหลายคอลัมน์ (โดยใช้ชื่อคอลัมน์ที่เปลี่ยนแปลงจากgsubด้านบน)

library(dplyr)
library(tidyr)
df %>% 
    pivot_longer(cols = starts_with("Q3"), 
          names_to = c(".value", "Q3"), names_sep = "_") %>% 
    select(-Q3)
# A tibble: 30 x 4
#      id time         Q3.2    Q3.3
#   <int> <date>      <dbl>   <dbl>
# 1     1 2009-01-01  0.974  1.47  
# 2     1 2009-01-01 -0.849 -0.513 
# 3     1 2009-01-01  0.894  0.0442
# 4     2 2009-01-02  2.04  -0.553 
# 5     2 2009-01-02  0.694  0.0972
# 6     2 2009-01-02 -1.11   1.85  
# 7     3 2009-01-03  0.413  0.733 
# 8     3 2009-01-03 -0.896 -0.271 
#9     3 2009-01-03  0.509 -0.0512
#10     4 2009-01-04  1.81   0.668 
# … with 20 more rows

หมายเหตุ: ค่าจะแตกต่างกันเนื่องจากไม่มีการกำหนดค่าเริ่มต้นในการสร้างชุดข้อมูลอินพุต


โอ้โหมันทำงานได้อย่างสมบูรณ์แบบ tidyr เห็นได้ชัดว่าเป็นการทดแทน / อัพเกรดสำหรับการปรับรูปร่างใหม่ - ฉันสงสัยว่า @hadley รู้วิธีที่จะทำสิ่งเดียวกันนี้กับ dplyr หรือ tidyr ...
Andrew

นั่นคือเวทมนตร์ที่บริสุทธิ์ สิ่งเดียวที่ฉันเพิ่มคือmutate(loop_number = as.numeric(L2))ก่อนที่จะทิ้งL2และมันก็สมบูรณ์แบบ
Andrew

1
@ แอนดรูโดยส่วนตัวแล้วฉันชอบreshapeวิธีการสำหรับโค้ดขนาดกะทัดรัดแม้ว่าdplyrอาจจะเร็วกว่าสำหรับชุดข้อมูลขนาดใหญ่
akrun

2
ฉันไม่เคยเข้าใจreshape()ฟังก์ชั่นนี้มาก่อนดูวิธีแก้ปัญหาสำหรับสิ่งที่ฉันคิดว่าเป็นการนำไปใช้ที่เป็นระเบียบเรียบร้อยสำหรับฉัน
hadley

22

ด้วยการอัปเดตล่าสุดmelt.data.tableตอนนี้เราสามารถละลายหลายคอลัมน์ได้แล้ว ด้วยสิ่งนั้นเราสามารถทำได้:

require(data.table) ## 1.9.5
melt(setDT(df), id=1:2, measure=patterns("^Q3.2", "^Q3.3"), 
     value.name=c("Q3.2", "Q3.3"), variable.name="loop_number")
 #    id       time loop_number         Q3.2        Q3.3
 # 1:  1 2009-01-01           1 -0.433978480  0.41227209
 # 2:  2 2009-01-02           1 -0.567995351  0.30701144
 # 3:  3 2009-01-03           1 -0.092041353 -0.96024077
 # 4:  4 2009-01-04           1  1.137433487  0.60603396
 # 5:  5 2009-01-05           1 -1.071498263 -0.01655584
 # 6:  6 2009-01-06           1 -0.048376809  0.55889996
 # 7:  7 2009-01-07           1 -0.007312176  0.69872938

คุณจะได้รับรุ่นพัฒนาจากที่นี่


สวัสดี. ฉันมีหลายคอลัมน์ที่มีชื่อลงท้ายด้วย 1 และ 2 เช่น age1, age2, weight1, weight2, blood1, blood2 .... ฉันจะใช้วิธีของคุณที่นี่ได้อย่างไร
กัน

Skan ตรวจสอบบทความการก่อร่างใหม่ โชคดี!
อรุณ

ฉันทำไปแล้ว แต่ไม่รู้วิธีฝังนิพจน์ทั่วไปเพื่อแยกชื่อคอลัมน์และส่งต่อไปละลาย มีเพียงตัวอย่างเดียวที่มีรูปแบบและเรียบง่ายเกินไป ในกรณีของฉันฉันจะต้องรวมชื่อคอลัมน์จำนวนมากไว้ในรูปแบบ ()
skan

ลองนึกภาพคุณมีคอลัมน์เหล่านี้: paste0 (ตัวแทน (LETTERS, each = 3), 1: 3) และคุณต้องการรับตารางยาวที่กำหนดด้วยตัวอักษรและตัวเลข
กัน

นี่คือความกระชับและง่ายต่อการตีความมากที่สุด
Michael Bellhouse

10

ไม่เกี่ยวข้องกับ "tidyr" และ "dplyr" เลย แต่นี่เป็นอีกทางเลือกหนึ่งที่ควรพิจารณา: merged.stackจากแพ็กเกจ "Splitstackshape" ของฉัน V1.4.0 ขึ้นไป

library(splitstackshape)
merged.stack(df, id.vars = c("id", "time"), 
             var.stubs = c("Q3.2.", "Q3.3."),
             sep = "var.stubs")
#     id       time .time_1       Q3.2.       Q3.3.
#  1:  1 2009-01-01      1. -0.62645381  1.35867955
#  2:  1 2009-01-01      2.  1.51178117 -0.16452360
#  3:  1 2009-01-01      3.  0.91897737  0.39810588
#  4:  2 2009-01-02      1.  0.18364332 -0.10278773
#  5:  2 2009-01-02      2.  0.38984324 -0.25336168
#  6:  2 2009-01-02      3.  0.78213630 -0.61202639
#  7:  3 2009-01-03      1. -0.83562861  0.38767161
# <<:::SNIP:::>>
# 24:  8 2009-01-08      3. -1.47075238 -1.04413463
# 25:  9 2009-01-09      1.  0.57578135  1.10002537
# 26:  9 2009-01-09      2.  0.82122120 -0.11234621
# 27:  9 2009-01-09      3. -0.47815006  0.56971963
# 28: 10 2009-01-10      1. -0.30538839  0.76317575
# 29: 10 2009-01-10      2.  0.59390132  0.88110773
# 30: 10 2009-01-10      3.  0.41794156 -0.13505460
#     id       time .time_1       Q3.2.       Q3.3.

1
สวัสดี. ฉันมีหลายคอลัมน์ที่มีชื่อลงท้ายด้วย 1 และ 2 เช่น age1, age2, weight1, weight2, blood1, blood2 .... ฉันจะใช้วิธีของคุณที่นี่ได้อย่างไร
กัน

6

ในกรณีที่คุณเป็นเหมือนฉันและไม่สามารถหาวิธีใช้ "นิพจน์ทั่วไปกับกลุ่มการจับภาพ" สำหรับextractโค้ดต่อไปนี้จะจำลองextract(...)บรรทัดในคำตอบของ Hadleys:

df %>% 
    gather(question_number, value, starts_with("Q3.")) %>%
    mutate(loop_number = str_sub(question_number,-2,-2), question_number = str_sub(question_number,1,4)) %>%
    select(id, time, loop_number, question_number, value) %>% 
    spread(key = question_number, value = value)

ปัญหาที่นี่คือการรวบรวมครั้งแรกจะสร้างคอลัมน์หลักที่แท้จริงแล้วเป็นการรวมกันของสองคีย์ ฉันเลือกที่จะใช้mutateในโซลูชันดั้งเดิมของฉันในความคิดเห็นเพื่อแบ่งคอลัมน์นี้ออกเป็นสองคอลัมน์ที่มีข้อมูลที่เท่ากัน aloop_numberคอลัมน์และquestion_numberคอลัมน์ spreadจากนั้นสามารถใช้เพื่อแปลงข้อมูลรูปแบบยาวซึ่งเป็นคู่ค่าคีย์เป็น(question_number, value)ข้อมูลรูปแบบกว้าง

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.