目标：
- 机器学习
- Numpy
- Pandas
- Scikit-learn
- SciPy(数学库)
- TensorFlow
- Streamlit 做应用 App
- NLTK 和 Spacy（自然语言处理）
- 深度学习
- 数据处理分析
- 可视化
- 视觉
- Python 数学动画工具 manim
Matlibplot和Seaborn的区别：
- Matplotlib 最基础和最强大的绘图库，灵活性高，学习曲线大，高度定制。
- Seaborn 基于 Matplotlib 的统计绘图库，美观，快速并容易
二元高斯分布 (bivariate Gaussian distribution)
概率密度函数 (Probability Density Function, PDF)
几何 (geometry)
微积分 (calculus)
线性代数 (linear algebra)
线性回归 (linear regression)
主成分分析 (principal component analysis)
相关性系数 (Pearson Correlation Coefficient, PCC)
条件概率分布 (conditional probability distribution)
马氏距离 (Mahalanobis distance) 考虑了数据的分布形状
欧氏距离 (Eucliean distance)
平移 (translation)
旋转 (rotation)
缩放 (scaling)
特征值分解 (Eigen Value Decomposition, EVD)
多元高斯分布 (multi-variate Gaussian distribution)
高斯判别分析 (Gaussian discriminant analysis)
高斯朴素贝叶斯 (Gaussian Naive Bayes)
高斯过程 (Gaussian process)
高斯混合模型 (Gaussian mixture model)
斜率 (slope)
截距 (intercept)
最小二乘法 (Ordinary Least Square, OLS) 最小化观测数据与模型预测值之间的残差平方和
范数、超定方程组、伪逆、QR 分解、SVD 分解
频率学派推断 (Frequentist inference)
贝叶斯学派推断 (Bayesian inference)
二元线性回归 (bivariate linear regression)
多元线性回归 (multi-variate linear regression)
过拟合 (overfitting)果一个模型在训练数据表现很好，但是在新数据上表现糟糕。不断引入变量会导致模型过于复杂，从而引发过拟合问题
正则化 (regularization)
多项式回归 (polynomial regression)
逻辑回 归 (logistic regression)
有监督学习 (supervised learning)回归是有监督学习任务的一种
无 监督学习 (unsupervised learning)。
分类 (classification)
—主成分 分析 (Principal Component Analysis, PCA)，解释正交回归的最好办法是机器学习中的一种常用降维算法
LaTeX
正体 aA (regular)
粗体 Aa (bold)
斜体 Aa (italic)
粗体斜体 Aa (bold italic)
无衬线体 (sans-serif)、衬线体 (serif)、花体 (calligraphy)、上标 Aa (superscript)、下标 Aa (subscript)。
无衬线体是指在字母末端没有装饰性衬线:设计更加简洁，直接， 没有额外的装饰.为在低分辨率的显示条 件下，无衬线体更容易阅读。常用的无衬线体字体有 Arial、Roboto 等Roboto 是 Google 开源字体.适合做注释
最常见的衬线字 体莫过于 Times New Roman。鸢尾花书中大量使用 Times New Roman，特别是在公式中
等宽字体 (monospaced font, Mono)
常见的 Mono 字体为 Courier New
不间断连字符 (nonbreaking hyphen)、
− 减号 (minus sign)
、– 短破折号 (en dash)、
— 长破折号 (em dash)、
_ 下划线 (underscore)、
/ 前斜 线 (forward slash)、
\ 反斜线 (backward slash, backslash, reverse slash)、
| 竖 线 (vertical bar, pipe)
$$A_{m\times n} =
\begin{bmatrix}
a_{1,1} & a_{1,2} & \cdots & a_{1,n} \
a_{2,1} & a_{2,2} & \cdots & a_{2,n} \
\vdots & \vdots & \vdots & \vdots\
a_{3,1} & a_{3,2} & \cdots & a_{3,n} \
\end{bmatrix}$$
$$f_X(x) = {\frac {1}{\sigma{\sqrt {2\pi}}}}
\exp \left({-{\frac {1}{2}}}
\left({\frac {x-\mu}{\sigma}}\right)^{2}\right)
$$
$${AaBbCc}$$
$$\mathrm{AaBbCc}$$
$$\mathbf{AaBbCc}$$
$$\boldsymbol{AaBbCc}$$
$$\mathtt{AaBbCc}$$
$$\mathcal{AaBbCc}$$
$$\mathbb{AaBbCc}$$
$$\text{AaBbCc}$$
$$\mathrm{d}x$$
$$\operatorname{T}$$
$$x’$$
$$x^\prime$$
$$x’’$$
$$\overrightarrow{AB}$$
$$\underline{AB}$$
$$\hat{AB}$$
$$\bar{AB}$$
$$\dot{AB}$$
$$\tilde{AB}$$
$$x_i$$
$$x^i$$
$$\ddot{x}$$
$$x^*$$
$$x\dagger$$
$$x\ddagger$$
$${\color{red}x}$$
$$)$$
$$]$$
$${$$
$$\pm$$
$$<$$
$$\geq$$
$$\gg$$
$$=$$
$$\equiv$$
$$\approx$$
$$\propto$$
$$\partial$$
$$\perp$$
$$\supseteq$$
$$x^{2}-y^{2} = \left(x+y\right)\left(x-y\right)$$$
$a_{n}x^{n}+a_{n-1}x^{n-1}+\dotsb+a_{2}x^{2}+a_{1}x+a_{0}$
$\sum_{k=0}^{n}a_{k}^{k}$
$ ax^{2}+bx+c=0\ (a\neq 0) $
${\sqrt[{n}]{a^{m}}}=(a^{m})^{1/n}=a^{m/n}=(a^{1/n})^{m} = ({\sqrt[{n}]{a}})^{m}$
${\sqrt[{n}]{a^{m}}}=(a^{m})^{1/n}=a^{m/n}=(a^{1/n})^{m}=({\sqrt[ {n}]{a}})^{m}$
$\left({\sqrt {1-x^{2}}}\right)^{2}$
$\frac {1}{x+1}+{\frac {1}{x-1}}={\frac {2x}{x^{2}- 1}}$
$x_{1,2}={\frac {-b\pm {\sqrt {b^{2}-4ac}}}{2a}}$
$f(x)=ax^{2}+bx+c{\text{ with }}a,b,c\in \mathbb {R} ,\ a\neq 0$
$f(x_1, x_2) = x_1^2 + x_2^2 + 2x_1x_2$
$\log_{b}(xy)=\log_{b}x+\log_{b}y$
$\ln(xy)=\ln x+\ln y{\text{ for }} x>0 {\text{ and }} y>0$
$f(x)=a\exp \left(-{\frac {(xb)^{2}}{2c^{2}}}\right)$
$\sin ^{2}\theta +\cos ^{2}\theta =1$
$\sin 2\theta =2\sin \theta \cos \theta$
$\sin(\alpha \pm \beta )=\sin \alpha \cos \beta \pm \cos \alpha \sin \beta$
$\tan(\alpha \pm \beta )=\frac {\tan \alpha \pm \tan \beta }{1\mp \tan \alpha \tan \beta }$
$\exp(x)=\sum _{k=0}^{\infty }{\frac {x^{k}}{k!}}=1+x+{\frac {x^{2}}{2}}+{\frac {x^{3}}{6}}+{\frac {x^{4}}{24}}+\cdots $
$ \left(\sum {i=0}^{n}a{i}\right)\left(\sum {j=0}^{n}b{j}\right)=\sum {i=0}^{n}\sum {j=0}^{n}a{i}b{j}$
$\exp(x) =\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}$
$\frac {\mathrm{d}}{\mathrm{d}x} \exp(f(x)) =f’(x) \exp(f(x))$
$\int_{a}^{b}f(x) \mathrm {d} x$
$\int _{-\infty }^{\infty }\exp(- x^{2})\mathrm{d}x={\sqrt {\mathrm{\pi} }}$
$\int _{-\infty }^{\infty }\int _{- \infty }^{\infty } \exp \left({- \left(x^{2}+y^{2}\right)} \right) {\mathrm{d}x} {\mathrm{d}y} = \pi$
$\frac {\partial ^{2}f}{\partial x^{2}}=f’’_{xx}=\partial _{xx}f=\partial _{x}^{2}f$
${\frac {\partial ^{2}f}{\partial y \partial x}}={\frac {\partial }{\partial y}}\left({\frac {\partial f}{\partial x}}\right)=f’’_{xy}$
$\mathbf {a} = {\begin{bmatrix} a_{1} \ a_{2} \ a_{3} \end{bmatrix}} = [a_{1}\ a_{2}\ a_{3}]^{\operatorname {T} }$
$\left|\mathbf {a} \right|=\sqrt {a_{1}^{2}+a_{2}^{2}+a_{3}^{2}}$
$\mathbf {a} \cdot \mathbf {b} = a_{1}b_{1} + a_{2}b_{2} + a_{3}b_{3}$
$\mathbf {a} \cdot \mathbf {b} =\left|\mathbf {a} \right|\left|\mathbf {b} \right|\cos \theta $
$|\mathbf {x} |_{p}=\left(\sum {i=1}^{n}\left|x{i}\right|^{p}\right)^{1/p}$
$\mathbf {A} = {\begin{bmatrix} 1 & 2\ 3 & 4 \ 5 & 6 \end{bmatrix}}$
$\mathbf {A} ={\begin{bmatrix}a_{11}&a_{12}&\cdots &a_{1n}\a_{21}&a_{22}&\cdots &a_{2n}\\vdots &\vdots &\ddots &\vdots \a_{m1}&a_{m2}&\cdots &a_{mn}\end{bmatrix}}$
$\left(\mathbf {A} +\mathbf {B} \right)^{\operatorname {T} }=\mathbf {A} ^{\operatorname {T} }+\mathbf {B} ^{\operatorname {T} }$
$\left(\mathbf {AB} \right)^{\operatorname {T} }=\mathbf {B} ^{\operatorname {T} }\mathbf {A} ^{\operatorname {T} }$
$ \left(\mathbf {A} ^{\operatorname {T} }\right)^{-1}=\left(\mathbf {A} ^{- 1}\right)^{\operatorname {T} }$
$\mathbf {u} \otimes \mathbf {v} = \mathbf {u} \mathbf {v} ^ {\operatorname {T}} = {\begin{bmatrix}u_{1} \ u_{2} \ u_{3} \ u_{4} \end{bmatrix}} {\begin{bmatrix} v_{1}&v_{2}&v_{3} \end{bmatrix}} = {\begin{bmatrix} u_{1}v_{1} & u_{1}v_{2} & u_{1}v_{3} \ u_{2}v_{1} & u_{2}v_{2} & u_{2}v_{3} \ u_{3}v_{1} & u_{3}v_{2} & u_{3}v_{3} \ u_{4}v_{1} & u_{4}v_{2} & u_{4}v_{3} \end{bmatrix}}$
$\det {\begin{bmatrix} a & b \ c & d \end{bmatrix}} = ad-bc$
$\Pr(A\vert B)={\frac {\Pr(B\vert A)\Pr(A)}{\Pr(B)}}$
$ f_{X\vert Y=y}(x)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}$
$\operatorname {var} (X) = \operatorname {E} \left[X^{2}\right]-\operatorname {E} [X]^{2}$
$\operatorname {var} (aX+bY)=a^{2}\operatorname {var} (X) + b^{2}\operatorname {var} (Y) + 2ab \operatorname {cov} (X,Y)$
$\operatorname {E} [X]=\int {- \infty }^{\infty }xf{X}(x) \operatorname {d}x$
$ X\sim N(\mu ,\sigma ^{2})$
$\frac {\exp \left(-{\frac {1}{2}}\left({\mathbf {x} }-{\boldsymbol {\mu }}\right)^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}\left({\mathbf {x} }- {\boldsymbol {\mu }}\right)\right)}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}$
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
|
-------------
$\left({\sqrt {1-x^{2}}}\right)^{2}$
$\frac {1}{x+1}+{\frac {1}{x-1}}={\frac {2x}{x^{2}- 1}}$
$x_{1,2}={\frac {-b\pm {\sqrt {b^{2}-4ac}}}{2a}}$
$f(x)=ax^{2}+bx+c~~{\text{ with }}~~a,b,c\in \mathbb {R} ,\ a\neq 0$
$f(x_1, x_2) = x_1^2 + x_2^2 + 2x_1x_2$
$\log_{b}(xy)=\log_{b}x+\log_{b}y$
$\ln(xy)=\ln x+\ln y{\text{ for }} x>0 {\text{ and }} y>0$
$f(x)=a\exp \left(-{\frac {(xb)^{2}}{2c^{2}}}\right)$
$\sin ^{2}\theta +\cos ^{2}\theta =1$
$\sin 2\theta =2\sin \theta \cos \theta$
$\sin(\alpha \pm \beta )=\sin \alpha \cos \beta \pm \cos \alpha \sin \beta$
$\tan(\alpha \pm \beta )=\frac {\tan \alpha \pm \tan \beta }{1\mp \tan \alpha \tan \beta }$
$\exp(x)=\sum _{k=0}^{\infty }{\frac {x^{k}}{k!}}=1+x+{\frac {x^{2}}{2}}+{\frac {x^{3}}{6}}+{\frac {x^{4}}{24}}+\cdots $
$ \left(\sum _{i=0}^{n}a_{i}\right)\left(\sum _{j=0}^{n}b_{j}\right)=\sum _{i=0}^{n}\sum _{j=0}^{n}a_{i}b_{j}$
$\exp(x) =\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}$
$\frac {\mathrm{d}}{\mathrm{d}x} \exp(f(x)) =f'(x) \exp(f(x))$
$\int_{a}^{b}f(x) \mathrm {d} x$
$\int _{-\infty }^{\infty }\exp(- x^{2})\mathrm{d}x={\sqrt {\mathrm{\pi} }}$
$\int _{-\infty }^{\infty }\int _{- \infty }^{\infty } \exp \left({- \left(x^{2}+y^{2}\right)} \right) {\mathrm{d}x} {\mathrm{d}y} = \pi$
$\frac {\partial ^{2}f}{\partial x^{2}}=f''_{xx}=\partial _{xx}f=\partial _{x}^{2}f$
${\frac {\partial ^{2}f}{\partial y \partial x}}={\frac {\partial }{\partial y}}\left({\frac {\partial f}{\partial x}}\right)=f''_{xy}$
$\mathbf {a} = {\begin{bmatrix} a_{1} \\ a_{2} \\ a_{3} \end{bmatrix}} = [a_{1}\ a_{2}\ a_{3}]^{\operatorname {T} }$
$\left\|\mathbf {a} \right\|=\sqrt {a_{1}^{2}+a_{2}^{2}+a_{3}^{2}}$
$\mathbf {a} \cdot \mathbf {b} = a_{1}b_{1} + a_{2}b_{2} + a_{3}b_{3}$
$\mathbf {a} \cdot \mathbf {b} =\left\|\mathbf {a} \right\|\left\|\mathbf {b} \right\|\cos \theta $
$\|\mathbf {x} \|_{p}=\left(\sum _{i=1}^{n}\left|x_{i}\right|^{p}\right)^{1/p}$
$\mathbf {A} = {\begin{bmatrix} 1 & 2\\ 3 & 4 \\ 5 & 6 \end{bmatrix}}$
$\mathbf {A} ={\begin{bmatrix}a_{11}&a_{12}&\cdots &a_{1n}\\a_{21}&a_{22}&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{m1}&a_{m2}&\cdots &a_{mn}\end{bmatrix}}$
$\left(\mathbf {A} +\mathbf {B} \right)^{\operatorname {T} }=\mathbf {A} ^{\operatorname {T} }+\mathbf {B} ^{\operatorname {T} }$
$\left(\mathbf {AB} \right)^{\operatorname {T} }=\mathbf {B} ^{\operatorname {T} }\mathbf {A} ^{\operatorname {T} }$
$ \left(\mathbf {A} ^{\operatorname {T} }\right)^{-1}=\left(\mathbf {A} ^{- 1}\right)^{\operatorname {T} }$
$\mathbf {u} \otimes \mathbf {v} = \mathbf {u} \mathbf {v} ^ {\operatorname {T}} = {\begin{bmatrix}u_{1} \\ u_{2} \\ u_{3} \\ u_{4} \end{bmatrix}} {\begin{bmatrix} v_{1}&v_{2}&v_{3} \end{bmatrix}} = {\begin{bmatrix} u_{1}v_{1} & u_{1}v_{2} & u_{1}v_{3} \\ u_{2}v_{1} & u_{2}v_{2} & u_{2}v_{3} \\ u_{3}v_{1} & u_{3}v_{2} & u_{3}v_{3} \\ u_{4}v_{1} & u_{4}v_{2} & u_{4}v_{3} \end{bmatrix}}$
$\det {\begin{bmatrix} a & b \\ c & d \end{bmatrix}} = ad-bc$
$\Pr(A\vert B)={\frac {\Pr(B\vert A)\Pr(A)}{\Pr(B)}}$
$ f_{X\vert Y=y}(x)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}$
$\operatorname {var} (X) = \operatorname {E} \left[X^{2}\right]-\operatorname {E} [X]^{2}$
$\operatorname {var} (aX+bY)=a^{2}\operatorname {var} (X) + b^{2}\operatorname {var} (Y) + 2ab \operatorname {cov} (X,Y)$
$\operatorname {E} [X]=\int _{- \infty }^{\infty }xf_{X}(x) \operatorname {d}x$
$ X\sim N(\mu ,\sigma ^{2})$
$\frac {\exp \left(-{\frac {1}{2}}\left({\mathbf {x} }-{\boldsymbol {\mu }}\right)^{\mathrm {T} }{\boldsymbol {\Sigma }}^{-1}\left({\mathbf {x} }- {\boldsymbol {\mu }}\right)\right)}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}$
|
numpy科学计算。它提供了一个高性能的多维数组对象，以及用于操作这些数组的各种工具。NumPy 是许多高级数据分析和科学计算库的基础，包括 Pandas、SciPy、Matplotlib、scikit-learn、scikit-image 等，因为它提供了快速且高效的数组操作能力
plotly.express是 Plotly 库的一个高级接口，快速且简单的方式来创建各种交互式图表和数据可视化。它支持一系列图表类型，如线图、散点图、柱状图、箱型图、热力图、3D 图等。Plotly 生成的图表是交互式的，支持缩放、平移、悬浮提示等。简洁的 API，仍可以通过访问底层的 Plotly 图表对象来进行高度的自定义。
Matplotlib.pyplot
numpy.arange([start, ]stop, [step, ]dtype=None)
start：区间的起始值，默认为 0。stop：区间的终止值（不包括）。step：两个值之间的间隔，默认为 1。dtype：数组的数据类型，如果不指定，则由输入数据的类型决定。
numpy.linspace(start, stop, num=50, endpoint=True, retstep=False, dtype=None, axis=0)
start：序列的起始值。stop：序列的结束值。num：要生成的等间隔样本数量，默认是50。endpoint：布尔值，如果为True，则序列包含stop值；如果为False，则不包含结束值，默认是True。retstep：布尔值，如果为True，则返回样本和步长；如果为False，则只返回样本，默认是False。dtype：数组的类型。如果未指定，则推断出输出数组的数据类型。axis：在多维数组的哪个轴上创建值的间隔，0 表示第一个轴。
- 结束点：
np.arange 不包含结束值，而 np.linspace 默认包含结束值。
- 间隔：
np.arange 通过步长来控制间隔，np.linspace 通过指定数量来控制间隔。
- 用途：当你关心数组的“步长”时，
np.arange 更加有用；当你关心数组中要包含的元素数量时，np.linspace 更合适。
1
2
3
4
5
| np.arange(0, 10, 2)
> [0, 2, 4, 6, 8]
np.linspace(0, 10, 5)
> [0.0, 2.5, 5.0, 7.5, 10.0]
|
np.meshgrid用于生成两个（或更多）数组，其中一个数组是所有的 x 坐标，另一个数组是所有的 y 坐标。这些数组可以用来作为网格的基础，进而可以在整个网格上计算某个函数的值。绘制二维、三维图形和进行矩阵运算
plt.figure()创建一个新的图形或激活一个现有图形。这个函数是绘图过程的开始，提供了一个画布，之后可以在上面绘制各种图形（如线图、散点图、条形图等）和添加图形元素（如标题、标签和图例）。
figsize：一个元组，指定图形的宽度和高度，单位为英寸。dpi：图形的分辨率，以每英寸点数表示。facecolor：图形的背景颜色。edgecolor：图形边缘的颜色。
ax = fig.add_subplot(projection='3d') 这行代码的作用是在图形窗口中添加一个三维子图。这里，fig 是通过 plt.figure() 创建的图形对象，而 ax 是添加到图形中的子图（或称为轴域），它具有三维绘图的能力。让我们通过一个简单的例子来解释这个过程：
ax.plot_wireframe(xx1, xx2, ff, rstride=10, cstride=10)用于绘制三维线框图的方法。这个方法特别适用于展示三维曲面的结构，比如数学函数的图形或者三维数据的可视化。在这个上下文中，xx1、xx2 和 ff 分别代表了网格上的 X、Y 坐标和对应的 Z 值（或者说高度）。rstride 和 cstride 参数用来控制行和列的步进，决定了绘制线框时的密集程度。
fig = plt.figure()
ax = fig.add_subplot(projection=’3d’)
绘制二元函数网格曲面
ax.plot_wireframe(xx1, xx2, ff, rstride=10, cstride=10)
plt.show()
fig, ax = plt.subplots()
ax = sns.scatterplot(data=iris_df, x=”sepal_length”,
y=”sepal_width”, hue = “species”)
hue 用不同色调表达鸢尾花的类别
ax.set_xlabel(‘Sepal length (cm)’)
ax.set_ylabel(‘Sepal width (cm)’)
ax.set_xticks(np.arange(4, 8 + 1, step=1))
ax.set_yticks(np.arange(1, 5 + 1, step=1))
ax.axis(‘scaled’)
ax.grid(linestyle=’-.’, linewidth=0.25, color=[0.7,0.7,0.7])
ax.set_xbound(lower = 4, upper = 8)
ax.set_ybound(lower = 1, upper = 5)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
| import ploty.graph_objects as go
fig = go.Figure(data = [go.Surface(z=ff,x=x1_array,y = x2_array,colorscale='RdYlBu_r')])
fig.update_layout(autosize=False,
width=800, height=800,
margin=dict(l=65, r=50, b=65, t=90))
fig.show()
|
assert断言
boolean布尔值
lambda匿名
raise引发异常
tuple元组
yield产生
注释 (comment)
解释器 (interpreter)
# (hash, hashtag, hashmark)
‘’’或”””注释：多行
冒号 (colon)
分号 (semi-colon)
缩进 (indentation)
索引和切片：
1
2
3
4
| string_obj[start:end:step_size]
list_obj[start:end:step_size]
tuple_obj[start:end:step_size]
numpy_array[start:end:step_size]
|
字典键值对:
lambda 函数 :
1
| lambda variables: expression
|
定义类:
异常处理：
1
2
3
4
5
6
| try:
except SomeException:
finally:
|
上下文管理:
缩进 (indentation)
流程图 (flowchart)
实数轴 (number line)
箭头 (flowline, arrowhead)
科学 计数法 (scientific notation)
于遍历 (iterate)
可迭代对象 (iterator)
驼峰命名法 (camelCase)
下划线分隔法 (snake_case)
Pythonic
索引 (indexing)
切片 (slicing)
图例 (legend)
占位符 (placeholder)
是二进制 (binary numerical system
八进制 (octal numeral system) 和十六进制 (hexadecimal numeral system 或 hexadecimal 或 hex)
圆括号 (parentheses)
视图 (view)
位运算符 (bitwise operator)
math 库
等差数列 (arithmetic progression)
注释 (annotation)
示原始字符串 (raw string)
exp：画正弦曲线
上下限
x_start = 0 # 弧度值
x_end = 2*math.pi # 弧度值
步数/分辨率
step = (x_end - x_start) / (num - 1)
X轴坐标点
x_array = [x_start + i * step for i in range(num)]
等长全0列表，用于测试X
zero_array = [0 for i in range(num)]
可视化等差数列
plt.plot(x_array, zero_array, marker = ‘.’,
markersize = 8,
markerfacecolor=”w”,
markeredgecolor=’k’)
plt.text(x_start, 0, ‘0’)
plt.text(x_end, 0, r’$2\pi$’)
plt.axis(‘off’)
plt.show()
Y轴坐标点
y_array = [math.sin(x_idx) for x_idx in x_array]
可视化正弦函数
plt.plot(x_array, y_array, marker = ‘.’,
markersize = 8,
markerfacecolor=”w”,
markeredgecolor=’k’)
plt.text(x_start, -0.1, ‘0’)
plt.text(x_end, 0.1, r’$2\pi$’)
plt.axhline(y=0, color=’k’, linestyle=’–’, linewidth=0.25)
plt.axis(‘off’)
plt.show()
random 库和 statistics 库
提供了伪随机数生成器，通常用于模拟随机事件、生成 随机数据、进行随机采样等任务。
模拟了抛硬币的实验，并记录每次抛硬币后的结果，然后计算当前所有结果均值
反映了均值随时间的演化过程。随着抛硬币次数的增加，均值逐渐趋于 0.5，这是因为 硬币正反面出现的概率是相等的
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
|
num_flips = 1000
results = []
running_means = []
for _ in range(num_flips):
result_idx = random.randint(0, 1)
results.append(result_idx)
mean_idx = statistics.mean(results)
running_means.append(mean_idx)
visual_num = 100
plt.scatter(range(1, visual_num + 1), results[0:visual_num],
c=results[0:visual_num],marker="o", cmap = 'cool')
plt.plot(range(1, visual_num + 1), results[0:visual_num])
plt.xlabel("Number of coin flips")
plt.ylabel("Result")
plt.grid(True)
plt.show()
plt.plot(range(1, num_flips + 1), running_means)
plt.axhline(0.5, color = 'r')
plt.xlabel("Number of coin flips")
plt.ylabel("Running Mean")
plt.grid(True)
plt.ylim(0,1)
plt.show()
|
假设硬币不均匀，抛掷结果为 1 的概率为 0.6，为 0 的概率为 0.4
1
2
3
4
5
6
7
|
results = [random.choices([0, 1], [0.4, 0.6])[0]
for _ in range(num_flips)]
running_means = [statistics.mean(results[0:idx+1])
for idx in range(num_flips)]
|
直方图 (histogram)。
概率 (probability)
概率密度 (probability density 或 density)
混合两个一元高斯分布随机数:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
| random.seed(0)
mean1, std1, size1 = 0, 1, 300
data1 = [random.gauss(mean1, std1) for _ in range(size1)]
data1 = np.random.normal(mean1, std1, size1)
mixed_data = data1 + data2
mean_loc = statistics.mean(mixed_data)
std_loc = statistics.stdev(mixed_data)
plt.hist(mixed_data, bins=30, density=True, edgecolor='black',
alpha=0.7, color='blue', label='Mixed data')
plt.axvline(mean_loc, color = 'red', label='Mean')
plt.axvline(mean_loc + std_loc,
color = 'pink', label='Mean ± std')
plt.axvline(mean_loc - std_loc, color = 'pink')
plt.xlabel('Value')
plt.ylabel('Density')
plt.legend()
plt.title('Histogram of Mixed Data')
plt.grid(True)
plt.show()
|
线性回归：
1
2
3
4
5
6
7
8
9
10
11
12
13
|
num = 50
np.random.seed(0)
x_data = [random.uniform(0, 10) for _ in range(num)]
noise = [random.gauss(0,1) for _ in range(num)]
y_data = [0.5 * x_data[idx] + 1 + noise[idx]
for idx in range(num)]
|
1
2
3
4
5
6
7
| fig, ax = plt.subplots()
ax.scatter(x_data, y_data)
ax.set_xlabel('x'); ax.set_ylabel('y')
ax.set_aspect('equal', adjustable='box')
ax.set_xlim(0,10); ax.set_ylim(-2,8)
ax.grid()
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
| slope, intercept = statistics.linear_regression(x_data, y_data)
start, end, step = 0, 10, 0.5
x_array = []
x_i = start
while x_i <= end:
x_array.append(x_i)
x_i += step
y_array_predicted = [slope * x_i + intercept for x_i in x_array]
fig, ax = plt.subplots()
ax.scatter(x_data, y_data)
ax.plot(x_array, y_array_predicted, color = 'r')
ax.set_xlabel('x'); ax.set_ylabel('y')
ax.set_aspect('equal', adjustable='box')
ax.set_xlim(0,10); ax.set_ylim(-2,8)
ax.grid()
|
捕捉异常
1
2
3
4
5
| try:
x = 1 / 0
except ZeroDivisionError:
print("除数不能为零")
|
使用enumerate()
1
2
3
|
for index, fruit in enumerate(fruits,1):
print(index, fruit)
|
使用zip() 同步遍历多个对象
1
2
3
4
5
| names = ['Alice', 'Bob', 'Charlie']
scores = [80, 90, 75]
for name, score in zip(names, scores):
print(name, score)
|
映射 (mapping)
定义域 (domain)
单射 (injective)
非单射 (non-injective)
满射 (surjective)
非满射 (non-surjective)
双射 (bijective)
一元函数 (unary function)
二元函数 (binary function)
三元函数 (ternary function)
多元函数 (n-ary function)
使用 assert 语句：插入断言，检查条件
1
2
3
4
5
6
7
8
9
10
| assertion
def divide(a, b):
assert b != 0, "除数不能为零"
return a / b
result = divide(10, 0)
print(result)
|
成阶乘 (factorial)
位置参数 (positional arguments)
关键字参数 (keyword arguments)
按位置或关键字传递参数 (positional or keyword arguments)
一个星号 * 常用来拆包 (unpacking)。它的作用是将一个可迭代对象，比如列 表、元组等，中的元素分别传递给函数的位置参数。
Statsmodels:
最小二乘线性回归 (Ordinary Least Square Regression)
方差分析 (Analysis of Variance, ANOVA)
主成分分析 (Principal Component Analysis, PCA)。
时间序列分析 (Timeseries Analysis)，如 ARIMA 模型。
非参数方法 (Nonparametric Methods)，比如核密度估计 (Kernel Density Estimation, KDE)。
统计假设检验 (statistical hypothesis testing)。
分位图，又称 QQ 图 (Quantile-Quantile plot)
置信区间 (confidence interval)
置信水平 (confidence level)。
置信区间是一个范围，用于表示对一个未知参数的估计。一个 95% 的置信区间意味着我们有 95% 的置信度认为真实的参数值位于该区间内。
最小二乘线性回归:Ordinary Least Square, OLS linear regression
在最小二乘线性回归中，我们尝试找到一条直线，使得所有数据点到这条线的 距离之和最小。
这里的“距离”通常是指因变量与回归线预测值之间的差异，称为残差。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
| import numpy as np
import statsmodels.api as sm
import matplotlib.pyplot as plt
num = 50
np.random.seed(0)
x_data = np.random.uniform(0,10,num)
y_data = 0.5 * x_data + 1 + np.random.normal(0, 1, num)
data = np.column_stack([x_data,y_data])
X = sm.add_constant(x_data)
model = sm.OLS(y_data, X)
results = model.fit()
print(results.summary())
x_array = np.linspace(0,10,101)
predicted = results.params[1] * x_array + results.params[0]
fig, ax = plt.subplots()
ax.scatter(x_data, y_data)
ax.scatter(x_data, results.fittedvalues,
color = 'k', marker = 'x')
ax.plot(x_array, predicted,
color = 'r')
data_ = np.column_stack([x_data,results.fittedvalues])
ax.plot(([i for (i,j) in data_], [i for (i,j) in data]),
([j for (i,j) in data_], [j for (i,j) in data]),
c=[0.6,0.6,0.6], alpha = 0.5)
ax.set_xlabel('x'); ax.set_ylabel('y')
ax.set_aspect('equal', adjustable='box')
ax.set_xlim(0,10); ax.set_ylim(-2,8)
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
| OLS Regression Results
==============================================================================
Dep. Variable: y R-squared:决定系数 0.656
Model: OLS Adj. R-squared:调整后的决定系数 0.649
Method: Least Squares F-statistic: F 统计量 91.59
Date: Fri, 01 Mar 2024 Prob(F-statistic):F统计量的概率值1.05e-12
Time: 20:46:51 Log-Likelihood: 对数似然比 -67.046
No. Observations: 50 AIC: 赤池信息准则 138.1
Df Residuals: 残差自由度 48 BIC: 贝叶斯信息准则 141.9
Df Model: 模型自由度 1
Covariance Type: nonrobust
==============================================================================
coef std err t P>|t| [0.025 0.975]
------------------------------------------------------------------------------
const 0.9928 0.296 3.358 0.002 0.398 1.587
x1 0.4693 0.049 9.570 0.000 0.371 0.568
==============================================================================
Omnibus: 1.199 Durbin-Watson: 2.274
Prob(Omnibus): 0.549 Jarque-Bera (JB): 1.213
Skew: 0.283 Prob(JB): 0.545
Kurtosis: 2.487 Cond. No. 13.6
==============================================================================
Notes:
[1] Standard Errors assume that the covariance matrix of the errors is correctly specified.
|
OLS回归结果解释
- Dep. Variable (因变量):
y 表明模型预测的因变量是 y。
- R-squared (决定系数):
0.656 指模型解释了因变量变异的 65.6%。这是衡量模型拟合优度的一个关键指标。
- Adj. R-squared (调整后的决定系数):
0.649 考虑了模型中变量的数量，提供了另一个衡量拟合优度的指标。
- F-statistic (F 统计量):
91.59 表示模型整体的统计显著性。
- Prob (F-statistic) (F 统计量的概率值):
1.05e-12 显著小于0.05，意味着模型至少有一个预测变量对因变量有显著影响。
- Log-Likelihood (对数似然比):
-67.046 表示模型拟合的好坏，通常用于比较不同模型。
- AIC (赤池信息准则) 和 BIC (贝叶斯信息准则): 分别是
138.1 和 141.9，用于模型选择，数值越小表示模型越优。
- Df Residuals (残差自由度):
48 表示模型中残差的自由度。
- Df Model (模型自由度):
1 表示模型中变量的数量。
系数部分
- const:
0.9928 是截距项的估计值，标准误为 0.296，显著性水平 P>|t| 为 0.002，表示截距显著不为0。
- x1:
0.4693 是自变量 x1 的系数估计，标准误为 0.049，显著性水平 P>|t| 为 0.000，表示 x1 对 y 有显著的正向影响。
其他统计量
- Omnibus, Prob(Omnibus): 检验残差的正态性。
- Durbin-Watson:
2.274 检验残差的自相关性，接近2表示残差间无自相关。
- Jarque-Bera (JB), Prob(JB): 另一个检验残差正态性的统计量。
- Skew (偏度) 和 Kurtosis (峰度): 描述残差分布形态的统计量。
- Cond. No (条件数):
13.6 评估模型的多重共线性问题，较大的值可能表示存在共线性问题。
主成分分析 (principal component analysis, PCA)数据降维主成分分析将原始多维数据投影到一个新的正交坐标系，将原始数据中的最大方差 成分提取出来
- 标准化数据：首先，通常需要对原始数据进行标准化处理，确保每个维度的均值为0，方差为1。这是因为PCA对数据的尺度非常敏感。
- 计算协方差矩阵：接着，计算数据的协方差矩阵。协方差矩阵能够揭示数据各维度之间的相关性。
- 计算特征值和特征向量：然后，计算协方差矩阵的特征值和对应的特征向量。特征向量表示数据中方差最大的方向，而特征值表示这个方向的方差大小。
- 选择主成分：根据特征值的大小，选择前N个最大的特征值对应的特征向量作为主成分。这些主成分是新坐标系的基，它们捕获了数据中最重要的变异性。
- 转换到新坐标系：最后，将原始数据投影到这些主成分上，从而实现降维。
- 数据可视化：将高维数据降至2或3维，以便于可视化分析。
- 特征提取和数据压缩：在不损失太多信息的前提下，减少数据的维度，提高计算效率。
- 噪声过滤：去除数据中的噪声，保留最重要的信号。
- 预处理：在机器学习和模式识别任务中，作为数据预处理步骤，提高模型性能。
特征值揭示了矩阵的某些内在属性，如矩阵的行列式和迹（矩阵对角线元素之和）都可以通过特征值来计算。在数据分析中，通过分析数据矩阵的特征值，可以了解数据的主要变化维度和变化幅度。
协方差矩阵（Covariance matrix）是一个表示变量间协方差的方阵，用于衡量变量间的线性相关性。在协方差矩阵中，对角线上的元素代表了每个变量的方差，而非对角线上的元素代表了两个变量间的协方差。
如果我们有一个数据集，其中包含多个变量，协方差矩阵就能帮助我们理解不同变量之间的关系。正的协方差值意味着变量间正相关，负的协方差值意味着变量间负相关，而接近零的协方差值则表示变量间没有线性关系。
假设原矩阵 �X 是一个数据集，其中每一行代表一个观测，每一列代表一个变量。协方差矩阵是通过原矩阵 �X 计算得到的，反映了 �X 中列（变量）之间的线性关系。协方差矩阵是对原始数据矩阵的一种总结和抽象，它捕获了数据的内在结构。
在主成分分析（PCA）中，协方差矩阵的特征值和特征向量扮演了核心角色。特征向量代表了数据变化的方向，而特征值的大小则代表了在这些方向上变化的幅度。通过分析协方差矩阵的特征值和特征向量，我们可以识别出数据中最重要的变化模式。
特征值 描述了特征向量的伸缩程度。在数据分析中，一个大的特征值意味着其对应的特征向量方向上数据的变异性大，即这个方向上数据有更多的信息量。
