1. Python數(shù)據(jù)分析實戰(zhàn)之分布分析

        共 3328字,需瀏覽 7分鐘

         ·

        2020-09-12 15:26


        ◆?◆?◆ ?◆?



        前言


        分布分析法,一般是根據(jù)分析目的,將數(shù)據(jù)進行分組,研究各組別分布規(guī)律的一種分析方法。數(shù)據(jù)分組方式有兩種:等距或不等距分組。

        分布分析在實際的數(shù)據(jù)分析實踐中應(yīng)用非常廣泛,常見的有用戶性別分布,用戶年齡分布,用戶消費分布等等。

        本文將進行如下知識點講解:

        1.數(shù)據(jù)類型的修改
        2.新字段生成方法
        3.數(shù)據(jù)有效性校驗
        4.性別與年齡分布


        分布分析


        1.導(dǎo)入相關(guān)庫包
        import pandas as pdimport matplotlib.pyplot as pltimport math
        2.數(shù)據(jù)處理
        >>> df = pd.read_csv('UserInfo.csv')>>> df.info()RangeIndex: 1000000 entries, 0 to 999999Data columns (total 4 columns):UserId        1000000 non-null int64CardId        1000000 non-null int64LoginTime     1000000 non-null objectDeviceType    1000000 non-null objectdtypes: int64(2), object(2)memory?usage:?30.5+?MB

        由于接下來我們需要做年齡分布分析,但是從源數(shù)據(jù)info()方法可知,并無年齡字段,需要自己生成。

        #?提取出生日期需要先把身份證號碼轉(zhuǎn)換成字符串>>>?df['CardId']?=?df['CardId'].astype('str')
        #?提取出生日期,并生成新字段>>> df['DateofBirth'] = df.CardId.apply(lambda x : x[6:10]+"-"+x[10:12]+"-"+x[12:14])
        #?提取性別,待觀察性別分布>>> df['Gender'] = df['CardId'].map(lambda x : 'Male' if int(x[-2]) % 2 else 'Female')
        >>> df.head()


        3.計算年齡

        由于數(shù)據(jù)來源于線下,并未進行數(shù)據(jù)有效性驗證,在進行年齡計算前,先針對數(shù)據(jù)進行識別,驗證。

        #?提取出生日期:月和日>>> df[['month','day']] = df['DateofBirth'].str.split('-',expand=True).loc[:,1:2]
        # 提取小月,查看是否有31號>>> df_small_month = df[df['month'].isin(['02','04','06','09','11'])]
        #?無效數(shù)據(jù),如圖所示>>> df_small_month[df_small_month['day']=='31']
        # 統(tǒng)統(tǒng)刪除,均為無效數(shù)據(jù)>>> df.drop(df_small_month[df_small_month['day']=='31'].index,inplace=True)
        #?同理,校驗2月>>> df_2 = df[df['month']=='02']
        #?2月份的校驗大家可以做的仔細點兒,先判斷是否潤年再進行刪減>>> df_2[df_2['day'].isin(['29','30','31'])]
        # 統(tǒng)統(tǒng)刪除>>> df.drop(df_2[df_2['day'].isin(['29','30','31'])].index,inplace=True)


        # 計算年齡# 方法一>>> df['Age'] = df['DateofBirth'].apply(lambda x : math.floor((pd.datetime.now() - pd.to_datetime(x)).days/365))
        # 方法二>>> df['DateofBirth'].apply(lambda x : pd.datetime.now().year - pd.to_datetime(x).year)


        4.年齡分布

        # 查看年齡區(qū)間,進行分區(qū)>>> df['Age'].max(),df['Age'].min()# (45, 18)
        >>> bins = [0,18,25,30,35,40,100]>>> labels = ['18歲及以下','19歲到25歲','26歲到30歲','31歲到35歲','36歲到40歲','41歲及以上']
        >>> df['年齡分層'] = pd.cut(df['Age'],bins, labels = labels)

        由于該數(shù)據(jù)記錄的是用戶登錄信息,所以必定有重復(fù)數(shù)據(jù)。而Python如此強大,一個nunique()方法就可以進行去重統(tǒng)計了。

        #?查看是否有重復(fù)值>>> df.duplicated('UserId').sum()????#47681
        #?數(shù)據(jù)總條目>>> df.count() #980954


        分組后用count()方法雖然也能夠計算分布情況,但是僅限于無重復(fù)數(shù)據(jù)的情況。而Python這么無敵,提供了nunique()方法可用于計算含重復(fù)值的情況

        >>> df.groupby('年齡分層')['UserId'].count()年齡分層18歲及以下      2526219歲到2525450226歲到3018175131歲到3518141736歲到4018158941歲及以上     156433Name:?UserId,?dtype:?int64
        #?通過求和,可知重復(fù)數(shù)據(jù)也被計算進去>>> df.groupby('年齡分層')['UserId'].count().sum()# 980954
        >>> df.groupby('年齡分層')['UserId'].nunique()年齡分層18歲及以下 2401419歲到2524219926歲到3017283231歲到3517260836歲到4017280441歲及以上 148816Name:?UserId,?dtype:?int64

        >>> df.groupby('年齡分層')['UserId'].nunique().sum()#?933273??=?980954(總)-47681(重復(fù))
        #?計算年齡分布>>> result = df.groupby('年齡分層')['UserId'].nunique()/df.groupby('年齡分層')['UserId'].nunique().sum()>>> result
        # 結(jié)果年齡分層18歲及以下 0.02573119歲到250.25951626歲到300.18518931歲到350.18494936歲到400.18515941歲及以上 0.159456Name:?UserId,?dtype:?float64

        #?格式化一下>>> result = round(result,4)*100>>> result.map("{:.2f}%".format)
        年齡分層18歲及以下 2.57%19歲到2525.95%26歲到3018.52%31歲到3518.49%36歲到4018.52%41歲及以上 15.95%Name:?UserId,?dtype:?object


        通過以上結(jié)果及分布圖可以知道,19到25歲年齡段的用戶占比最高,為26%。

        好了,就講解到這了~END!

        覺得不錯的,記得點在看,如果可以轉(zhuǎn)發(fā)一下朋友圈就更好了!


        繼續(xù)送書



        回復(fù):微信 獲取

        記得點在看~我是嚴(yán)小樣兒


        在看”的永遠18歲~
        瀏覽 63
        點贊
        評論
        收藏
        分享

        手機掃一掃分享

        分享
        舉報
        評論
        圖片
        表情
        推薦
        點贊
        評論
        收藏
        分享

        手機掃一掃分享

        分享
        舉報
          
          

            1. 乱伦一级黄片 | 免费在线观看小黄片 | 精品无码电影 | A黄色| 日本深爱亚洲开心网 |