08_Pandas提取含有指定字符串的行(完全匹配,部分匹配)
以下内容,如何使用pandas提取含有指定字符串的行的方法进行解释说明。
- 行的提取(选择)方法
- 完全匹配
- ==
- 部分匹配
- str.contains():包含一个特定的字符串
- 参数na:缺少值NaN处理
- 参数case:大小写我的处理
- 参数regex:使用正则表达式模式
- str.endswith():以特定字符串结尾
- str.startswith():以特定的字符串开头
- str.match():匹配正则表达式模式
要提取部分匹配的行,可以使用pandas的(str.xxx())方法,根据指定条件提取的字符串方法。
这次以以下数据为例
import pandas as pd
df = pd.read_csv('./data/08/sample_pandas_normal.csv').head(3)
print(df)
# name age state point
# 0 Alice 24 NY 64
# 1 Bob 42 CA 92
# 2 Charlie 18 CA 70
行的提取(选择)方法
首先,展示如何从pandas.DataFrame中提取(选择)行以获得新的pandas.DataFrame。
使用布尔值的布尔列表(数组)或pandas.Series的话,只能提取(选择)True行。
mask = [True, False, True]
df_mask = df[mask]
print(df_mask)
# name age state point
# 0 Alice 24 NY 64
# 2 Charlie 18 CA 70
因此,对于具有字符串元素的列,是否能够获得根据条件的布尔列表就足够了。
完全匹配
==
如果元素与字符串完全匹配,则使用==获取为True的pandas.Series。
print(df['state'] == 'CA')
# 0 False
# 1 True
# 2 True
# Name: state, dtype: bool
print(df[df['state'] == 'CA'])
# name age state point
# 1 Bob 42 CA 92
# 2 Charlie 18 CA 70
部分匹配
str.contains():包含一个特定的字符串
pandas.Series字符串方法str.contains()允许获取包含特定字符串的pandas.Series.
print(df['name'].str.contains('li'))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
print(df[df['name'].str.contains('li')])
# name age state point
# 0 Alice 24 NY 64
# 2 Charlie 18 CA 70
请注意,默认情况下,第一个参数中指定的字符串将作为正则表达式模式进行处理,如下所述。
参数na:缺少值NaN处理
如果元素是缺失值NaN,则默认情况下它将返回NaN而不是True或False。因此,使用pandas.Series提取该行是错误的。
df_nan = df.copy()
df_nan.iloc[2, 0] = float('nan')
print(df_nan)
# name age state point
# 0 Alice 24 NY 64
# 1 Bob 42 CA 92
# 2 NaN 18 CA 70
print(df_nan['name'].str.contains('li'))
# 0 True
# 1 False
# 2 NaN
# Name: name, dtype: object
# print(df_nan[df_nan['name'].str.contains('li')])
# ValueError: cannot index with vector containing NA / NaN values
可以通过str.contains()的参数na来指定替换NaN结果的值。
print(df_nan['name'].str.contains('li', na=False))
# 0 True
# 1 False
# 2 False
# Name: name, dtype: bool
print(df_nan['name'].str.contains('li', na=True))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
用作条件时,如果na = True,则选择NaN的行,如果na = False,则不选择NaN的行。
参数case:大小写我的处理
默认情况下,区分大小写。如果参数case为False,则case被忽略。
print(df['name'].str.contains('LI'))
# 0 False
# 1 False
# 2 False
# Name: name, dtype: bool
print(df['name'].str.contains('LI', case=False))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
参数regex:使用正则表达式模式
使用str.contains()时要记住的一件事是,默认情况下,指定为第一个参数的字符串将作为正则表达式模式进行处理。
print(df['name'].str.contains('i.*e'))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
如果参数ragex为False,则确定是否包含第一个参数的字符串本身。
print(df['name'].str.contains('i.*e', regex=False))
# 0 False
# 1 False
# 2 False
# Name: name, dtype: bool
例如,如果要判断是否包含正则表达式的特殊字符,例如?,。,*,则需要设置regex = False。当然,可以指定一个正则表达式模式,以转义\?等特殊字符。
请注意,默认值可能会导致错误。
df_q = df.copy()
df_q.iloc[2, 0] += '?'
print(df_q)
# name age state point
# 0 Alice 24 NY 64
# 1 Bob 42 CA 92
# 2 Charlie? 18 CA 70
# print(df_q['name'].str.contains('?'))
# error: nothing to repeat at position 0
print(df_q['name'].str.contains('?', regex=False))
# 0 False
# 1 False
# 2 True
# Name: name, dtype: bool
print(df_q['name'].str.contains('\?'))
# 0 False
# 1 False
# 2 True
# Name: name, dtype: bool
str.contains()等同于re.search(),并且可以在flags参数中指定正则表达式标志。如稍后所述,还有对应于re.match()的str.match()。
请注意,下面要介绍的str.endswith()如果想要确定end ?,会更容易,如本例所示。
str.endswith():以特定字符串结尾
pandas.Series字符串方法str.endswith()可以获取以特定字符串结尾的pandas.Series。
print(df['name'].str.endswith('e'))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
print(df[df['name'].str.endswith('e')])
# name age state point
# 0 Alice 24 NY 64
# 2 Charlie 18 CA 70
str.endswith()也有一个参数na。如果要选择缺失值NaN的行,则设置na = True;如果不想选择,则将na = False设置。
没有参数case,因此它始终区分大小写。
另外,第一个参数的字符串在确定中照原样使用,而不作为正则表达式模式处理。
str.startswith():以特定的字符串开头
pandas.Series字符串方法str.startswith()可以获取以特定字符串开头的pandas.Series。
print(df['name'].str.startswith('B'))
# 0 False
# 1 True
# 2 False
# Name: name, dtype: bool
print(df[df['name'].str.startswith('B')])
# name age state point
# 1 Bob 42 CA 92
str.match():匹配正则表达式模式
pandas.Series字符串方法str.match()可以获取与正则表达式模式匹配的pandas.Series。
print(df['name'].str.match('.*i.*e'))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
print(df[df['name'].str.match('.*i.*e')])
# name age state point
# 0 Alice 24 NY 64
# 2 Charlie 18 CA 70
如上所述,str.match()对应于re.match(),并确定字符串的开头是否与模式匹配。如果不是一开始就为False。
print(df['name'].str.match('.*i'))
# 0 True
# 1 False
# 2 True
# Name: name, dtype: bool
print(df['name'].str.match('i.*e'))
# 0 False
# 1 False
# 2 False
# Name: name, dtype: bool
当需要确定是否包括与模式匹配的部分时,不仅在开始时,而且默认使用与上述re.search()等效的re.contains()(regex = True)。
str.match()与str.contains()可以以相同的方式指定参数na,case和flag。