สร้าง Pandas DataFrame จากสตริง


276

เพื่อทดสอบการใช้งานบางอย่างฉันต้องการสร้างDataFrameจากสตริง สมมติว่าข้อมูลทดสอบของฉันดูเหมือนว่า:

TESTDATA="""col1;col2;col3
1;4.4;99
2;4.5;200
3;4.7;65
4;3.2;140
"""

วิธีที่ง่ายที่สุดในการอ่านข้อมูลนั้นใน Pandas DataFrameคืออะไร?

คำตอบ:


497

วิธีง่ายๆในการทำเช่นนี้คือใช้StringIO.StringIO(python2)หรือio.StringIO(python3)และส่งผ่านไปยังpandas.read_csvฟังก์ชัน เช่น:

import sys
if sys.version_info[0] < 3: 
    from StringIO import StringIO
else:
    from io import StringIO

import pandas as pd

TESTDATA = StringIO("""col1;col2;col3
    1;4.4;99
    2;4.5;200
    3;4.7;65
    4;3.2;140
    """)

df = pd.read_csv(TESTDATA, sep=";")

7
Iff คุณต้องการรหัสที่เข้ากันได้กับ Python 2 และ 3 คุณสามารถเลือกใช้from pandas.compat import StringIOเช่นกันโดยสังเกตว่ามันเป็นคลาสเดียวกันกับที่มาพร้อมกับ Python
คิวเมนตัส

3
FYI - เป็นฟังก์ชั่นเทียบเท่าเพียงการตั้งชื่อที่ดีกว่าเล็กน้อย:pd.read_table() df = pd.read_table(TESTDATA, sep=";")
wkzhu

5
@AntonvBR สังเกตเห็นว่าสามารถpandas.compat.StringIOใช้ได้ ด้วยวิธีนี้เราไม่จำเป็นต้องนำเข้าStringIOแยกต่างหาก อย่างไรก็ตามpandas.compatแพคเกจนั้นได้รับการพิจารณาว่าเป็นส่วนตัวตามpandas.pydata.org/pandas-docs/stable/api.html?highlight=compatดังนั้นโปรดออกจากคำตอบในตอนนี้
Emil H

ถึงเวลาที่จะแยกแยะว่าการนำเข้าใด: เราควรใช้ pandas.compat.StringIO หรือ Python 2/3 StringIO หรือไม่
smci

หากคุณสร้าง TESTDATA ด้วยdf.to_csv(TESTDATA)ให้ใช้TESTDATA.seek(0)
user3226167

18

วิธีการแยก

data = input_string
df = pd.DataFrame([x.split(';') for x in data.split('\n')])
print(df)

2
หากคุณต้องการให้บรรทัดแรกใช้ชื่อคอลัมน์ให้เปลี่ยนบรรทัดที่ 2 เป็น:df = pd.DataFrame([x.split(';') for x in data.split('\n')[1:]], columns=[x for x in data.split('\n')[0].split(';')])
Mabyn

1
สิ่งนี้ผิดเนื่องจากในไฟล์ CSV อักขระขึ้นบรรทัดใหม่ (\ n) สามารถเป็นส่วนหนึ่งของฟิลด์ได้
Antonio Ercole De Luca

มันไม่ได้แข็งแกร่งมากและคนส่วนใหญ่จะดีขึ้นด้วยคำตอบที่ยอมรับ มีรายการบางส่วนของสิ่งต่าง ๆ ที่สามารถผิดกับสิ่งนี้ได้ที่thomasburette.com/blog/2014/05/25/…
DanB

10

ทางออกที่ง่ายและรวดเร็วสำหรับการทำงานแบบโต้ตอบคือการคัดลอกและวางข้อความโดยการโหลดข้อมูลจากคลิปบอร์ด

เลือกเนื้อหาของสตริงด้วยเมาส์ของคุณ:

คัดลอกข้อมูลสำหรับการวางในดาต้าดาต้าของ Pandas

ในการใช้งาน Python shell read_clipboard()

>>> pd.read_clipboard()
  col1;col2;col3
0       1;4.4;99
1      2;4.5;200
2       3;4.7;65
3      4;3.2;140

ใช้ตัวคั่นที่เหมาะสม:

>>> pd.read_clipboard(sep=';')
   col1  col2  col3
0     1   4.4    99
1     2   4.5   200
2     3   4.7    65
3     4   3.2   140

>>> df = pd.read_clipboard(sep=';') # save to dataframe

2
ไม่ดีสำหรับการทำซ้ำ แต่อย่างอื่นเป็นวิธีที่เรียบร้อยสวย!
Mabyn

5

CSV แบบความกว้างของตัวแปรดั้งเดิมไม่สามารถอ่านได้เพื่อจัดเก็บข้อมูลเป็นตัวแปรสตริง โดยเฉพาะอย่างยิ่งสำหรับใช้ใน.pyไฟล์ให้พิจารณาข้อมูลที่คั่นด้วยไพพ์แบบความกว้างคงที่แทน IDE และบรรณาธิการต่าง ๆ อาจมีปลั๊กอินสำหรับจัดรูปแบบข้อความที่คั่นด้วยไพพ์ลงในตารางที่เรียบร้อย

การใช้ read_csv

util/pandas.pyเก็บต่อไปนี้ในโมดูลยูทิลิตี้เช่น ตัวอย่างรวมอยู่ใน docstring ของฟังก์ชั่น

import io
import re

import pandas as pd


def read_psv(str_input: str, **kwargs) -> pd.DataFrame:
    """Read a Pandas object from a pipe-separated table contained within a string.

    Input example:
        | int_score | ext_score | eligible |
        |           | 701       | True     |
        | 221.3     | 0         | False    |
        |           | 576       | True     |
        | 300       | 600       | True     |

    The leading and trailing pipes are optional, but if one is present,
    so must be the other.

    `kwargs` are passed to `read_csv`. They must not include `sep`.

    In PyCharm, the "Pipe Table Formatter" plugin has a "Format" feature that can 
    be used to neatly format a table.

    Ref: https://stackoverflow.com/a/46471952/
    """

    substitutions = [
        ('^ *', ''),  # Remove leading spaces
        (' *$', ''),  # Remove trailing spaces
        (r' *\| *', '|'),  # Remove spaces between columns
    ]
    if all(line.lstrip().startswith('|') and line.rstrip().endswith('|') for line in str_input.strip().split('\n')):
        substitutions.extend([
            (r'^\|', ''),  # Remove redundant leading delimiter
            (r'\|$', ''),  # Remove redundant trailing delimiter
        ])
    for pattern, replacement in substitutions:
        str_input = re.sub(pattern, replacement, str_input, flags=re.MULTILINE)
    return pd.read_csv(io.StringIO(str_input), sep='|', **kwargs)

ทางเลือกที่ไม่ทำงาน

รหัสด้านล่างทำงานไม่ถูกต้องเนื่องจากจะเพิ่มคอลัมน์ว่างทั้งด้านซ้ายและด้านขวา

df = pd.read_csv(io.StringIO(df_str), sep=r'\s*\|\s*', engine='python')

ส่วนจริงแล้วread_fwfมันไม่ได้ใช้ kwargs ทางเลือกมากมายที่read_csvยอมรับและใช้งาน ดังนั้นจึงไม่ควรใช้เลยสำหรับข้อมูลที่คั่นด้วยไพพ์


1
ผมพบว่า (โดยการทดลองและข้อผิดพลาด) ที่read_fwfใช้เวลามากขึ้นของread_csvข้อโต้แย้งกว่าเป็นเอกสาร แต่มันเป็นความจริงที่บางส่วนไม่มีผล
gerrit

-4

วิธีที่ง่ายที่สุดคือการบันทึกลงในไฟล์ชั่วคราวแล้วอ่าน:

import pandas as pd

CSV_FILE_NAME = 'temp_file.csv'  # Consider creating temp file, look URL below
with open(CSV_FILE_NAME, 'w') as outfile:
    outfile.write(TESTDATA)
df = pd.read_csv(CSV_FILE_NAME, sep=';')

วิธีที่ถูกต้องในการสร้างไฟล์ temp: ฉันจะสร้างไฟล์ tmp ใน Python ได้อย่างไร


เกิดอะไรขึ้นถ้าไม่มีสิทธิ์ในการสร้างไฟล์
BingLi224

ในความคิดของฉันมันไม่ใช่กรณีที่ง่ายที่สุดอีกต่อไป โปรดทราบว่า "ง่ายที่สุด" มีการระบุไว้อย่างชัดเจนในคำถาม
QtRoS
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.