首先导入数据,这里使用的是一次数据竞赛的 train_label 的数据,即房租的价格
数据可在百度网盘中下载
链接:/s/1_4GI4_N3zWZGO9LgFP7RKA 提取码:yk5F
import pandas as pdimport numpy as npfrom scipy import statsdata = pd.read_csv('train_data.csv')tradeMoney = data['tradeMoney']
tradeMoney_mean = np.mean(tradeMoney)tradeMoney_std = np.std(tradeMoney, ddof=1)print(tradeMoney_mean)print(tradeMoney_std)
将该总体近似看做正态分布,查看该总体的均值和总体的方差,输出:
8837.074227557916551428.6590976383
查看数据的描述信息:
tradeMoney.describe()
输出:
count 4.144000e+04mean8.837074e+03std5.514287e+05min0.000000e+0025%2.800000e+0350%4.000000e+0375%5.500000e+03max1.000000e+08Name: tradeMoney, dtype: float64
选取样本容量为100的一个样本:
tradeMoney_sam = tradeMoney.sample(100)tradeMoney_sam.describe()
查看该样本的描述信息:
count100.000000mean5026.100000std 3400.800231min 1190.00000025% 2882.50000050% 4250.00000075% 5975.000000max24500.000000Name: tradeMoney, dtype: float64
一个正态总体方差已知,均值的区间估计,使用的是正态分布
np.std
求得的均值是有偏的,这里我们需要的是无偏的均值,所以需要加上ddof=1
# 自定义函数实现正态分布下的置信区间,这里使用的是总体方差def norm_conf(data, std, confidence=0.95):sample_mean = np.mean(data) # 求样本均值sample_size = len(data)alpha = 1 - confidence # 显著性水平norm_score = stats.norm.isf(alpha / 2) # 查表得正态分布的分数ME = std / np.sqrt(sample_size) * norm_scorelower_limit = sample_mean - MEupper_limit = sample_mean + ME#print('(%.6f, %.6f)' % (lower_limit, upper_limit))return lower_limit, upper_limit
norm_conf(tradeMoney_sam, tradeMoney_std)
输出:
(-103051.931187, 113104.131187)
一个正态总体,方差未知,均值的区间估计,使用的是 t 分布
# 自定义函数实现t分布下的置信区间def ttest_conf(data, confidence=0.95):sample_mean = np.mean(data)sample_std = np.std(data,ddof=1) sample_size = len(data)alpha = 1 - confidencet_score = stats.t.isf(alpha / 2, df = (sample_size-1) )ME = t_score * sample_std / np.sqrt(sample_size)lower_limit = sample_mean - MEupper_limit = sample_mean + MEprint( '( %.6f, %.6f)' % (lower_limit, upper_limit))return lower_limit, upper_limit
ttest_conf(tradeMoney_sam)
输出:
( 4351.307453, 5700.892547)
下面验证该区间估计的准确度,以一个正态总体,方差已知,均值的区间估计为例:
# 重复抽取数据,验证一个正态总体,方差已知,均值的区间估计的准确度scale_means = []size = 0for _ in range(1000):tradeMoney_sample = tradeMoney.sample(100, replace=True)lower_limit_norm, upper_limit_norm = norm_conf(tradeMoney_sample, tradeMoney_std)if tradeMoney_mean >= lower_limit_norm and tradeMoney_mean <= upper_limit_norm:size += 1print('一个正态总体,方差已知,均值的区间估计的准确度为:', size / 1000)
输出:
一个正态总体,方差已知,均值的区间估计的准确度为: 0.992
上面都是自定义函数实现的区间估计,其实在scipy.stats
包中有包装好的函数供我们使用
一个正态总体方差已知,均值的区间估计,使用的是正态分布:
conf_intveral = scipy.stats.norm.interval(confidence, loc=sample_mean, scale=sample_std)
一个正态总体,方差未知,均值的区间估计,使用的是 t 分布:
conf_intveral = scipy.stats.t.interval(confidence,df = (sample_size-1) , loc=sample_mean, scale=sample_std)