Statistics

-Python- サポートベクターマシン

サポートベクターマシンの実装例を以下の示します. import numpy as np from operator import itemgetter class SVC: def fit(self, X, y, selections=None): a = np.zeros(X.shape[0]) ay = 0 ayx = np.zeros(X.shape[1]) yx = y.reshape(-1, 1)*X indices…

-Python- ロジスティック回帰

二値分類に使われるアルゴリズムであるロジスティック回帰のプログラム例を以下に示します. import numpy as np from scipy import linalg THRESHMIN = 1e-10 def sigmoid(x): return 1 / (1 + np.exp(-x)) class LogisticRegression: def __init__(self, t…

-Python- リッジ回帰

線形回帰で最小化する目的関数に,パラメータの大きさの項を足して回帰を行うのがリッジ回帰です.リッジ回帰では以下の関数を最小化するようなwを決定します. この計算を実装し,可視化するスクリプトは以下のようになります. # Import Module import num…

UCI Machine Learning Datasets を使った回帰

UCI Machine Learning Datasetsの中のWine quality(ワインについて測定された数値とその品質(1 - 5))*を使って測定値から品質を予測するモデルを作ってみます. # Import Module import numpy as np from scipy import linalg # Definition of Class cla…

-Python- SciPy 正規分布,確率密度関数

SciPyには正規分布の確率密度関数を計算する関数である scipy.stats.norm.pdf があります.これを使って正規分布のグラフを描画するスクリプトを以下に示します. import numpy as np import matplotlib.pyplot as plt from scipy.stats import norm x = np.…

-Python- 回帰

最初に以下のようなデータがあるとします. x = [1, 2, 3, 6, 7] y = [1, 3, 3, 5, 4] これらの原点を通る直線(y = ax)で近似するスクリプト例を示します. # Import Module import numpy as np import matplotlib.pyplot as plt # Definition of Function…

-Python- 平均,標準偏差,共分散,相関係数

気象庁のホームページからダウンロードできる2011年4月の富山の最高気温を用いて計算を行ってみます.以下に平均値と標準偏差を計算するスクリプト例を示します. # Import Module import numpy as np # Data x = np.array([19.7, 10.8, 10.9, 10.5, 13.7, 1…