【E資格まとめ】教師なし学習

import numpy as np
import matplotlib.pyplot as plt

def init_centroid(X, n_data, k):
    # 各データ点の中からクラスタの重心となる点をk個ランダムに選択
    idx = np.random.permutation(n_data)[:k]
    centroids = X[idx]
    return centroids


def compute_distances(X, k, n_data, centroids):
    distances = np.zeros((n_data, k))
    for idx_centroids in range(k):
        dist = np.sqrt(np.sum((X - centroids[idx_centroids]) ** 2, axis=1))
        distances[:, idx_centroids] = dist
    return distances


def k_means(k, X, max_iter=300):
    """
    X.shape = (データ数, 次元数)
    k = クラスタ数
    """
    n_data, n_features = X.shape

    # 重心の初期値
    centroids = init_centroid(X, n_data, k)

    # 新しいクラスタを格納するための配列
    new_cluster = np.zeros(n_data)

    # 各データの所属クラスタを保存する配列
    cluster = np.zeros(n_data)

    for epoch in range(max_iter):
        # 各データ点と重心との距離を計算
        distances = compute_distances(X, k, n_data, centroids)

        # 新たな所属クラスタを計算
        new_cluster = np.argmin(distances, axis=1)

        # すべてのクラスタに対して重心を再計算
        for idx_centroids in range(k):
            centroids[idx_centroids] = X[new_cluster == idx_centroids].mean(axis=0)

        # クラスタによるグループ分けに変化がなかったら終了
        if (new_cluster == cluster).all():
            break

        cluster = new_cluster

    return cluster

# データ数と特徴量の数を指定
n_data = 100
n_features = 2

# ランダムな値でデータを生成
X = np.random.rand(n_data, n_features)

# クラスタ数を指定
k = 3

# k-meansアルゴリズムを実行
cluster = k_means(k, X)

# クラスタリング結果をプロット
for i in range(k):
    plt.scatter(X[cluster == i, 0], X[cluster == i, 1])

plt.show()

# 必要なライブラリをインポートします。numpyは数値計算、matplotlib.pyplotはグラフ描画のためです。
import numpy as np
import matplotlib.pyplot as plt

# データとセントロイド間の距離を計算する関数を定義します。
def compute_distances(X, k, n_data, centroids):
    # 各データポイントと各セントロイド間の距離を格納するための配列を初期化します。
    distances = np.zeros((n_data, k))
    # 各セントロイドについて距離を計算します。
    for idx_centroids in range(k):
        # データとセントロイドの距離（ユークリッド距離）を計算します。
        dist = np.sqrt(np.sum((X - centroids[idx_centroids]) ** 2, axis=1))
        # 計算した距離を距離配列に保存します。
        distances[:, idx_centroids] = dist
    return distances

# 初期のセントロイドをランダムに選択する関数を定義します。
def init_centroid(X, n_data, k):
    # データのインデックスからランダムに1つ選び、最初のセントロイドとします。
    idx = np.random.choice(n_data, 1)
    centroids = X[idx]
    # 残りのセントロイドを選択します。
    for i in range(k - 1):
        # 既に選ばれたセントロイドとデータ点の距離を計算します。
        distances = compute_distances(X, len(centroids), n_data, centroids)
        # 各データ点について、最も近いセントロイドまでの距離を計算します。
        closest_dist_sq = np.min(distances ** 2, axis=1)
        # 距離の合計を計算します。
        weights = closest_dist_sq.sum()
        # ランダムな値を生成し、その値に応じたデータ点を新たなセントロイドとして選択します。
        rand_vals = np.random.random_sample() * weights
        candidate_ids = np.searchsorted(np.cumsum(closest_dist_sq), rand_vals)
        centroids = np.vstack([centroids, X[candidate_ids]])
    return centroids

# データポイントと特徴量の数を設定します。
n_data = 100
n_features = 2
# セントロイドの数（クラスタの数）を設定します。
k = 3

# データをランダムに生成します。
X = np.random.rand(n_data, n_features)
# 初期のセントロイドを選択します。
centroids = init_centroid(X, n_data, k)

# データポイントを散布図にプロットします。
plt.scatter(X[:, 0], X[:, 1])
# セントロイドを赤色でプロットします。
plt.scatter(centroids[:, 0], centroids[:, 1], c='red')
# グラフのタイトルを設定します。
plt.title('Data Points and Initial Centroids')
# 凡例を追加します。
plt.legend()
# グラフを表示します。
plt.show()

import numpy as np  # NumPy ライブラリを読み込む。科学計算を行うためのライブラリ。

# PCA (主成分分析)を行う関数
def pca(X, n_components=2):
    X = X - X.mean(axis=0)  # データから平均を引いてデータを正規化する
    cov = np.cov(X, rowvar=False)  # データの共分散行列を計算する
    l, v = np.linalg.eig(cov)  # 共分散行列の固有値と固有ベクトルを計算する
    l_index = np.argsort(l)[::-1]  # 固有値を大きい順に並べ替え、そのインデックスを取得する
    v_ = v[:,l_index]  # 固有ベクトルを固有値の大きい順に並べ替える
    components = v_[:,:n_components]  # 最も大きいn個の固有ベクトル（主成分）を取得する
    T = np.dot(X, components)  # 元のデータを主成分に射影する
    return T  # 射影されたデータを返す

# ランダムなデータセットの生成
np.random.seed(0)  # 乱数のシードを設定する。これにより、同じ結果を再現できる。
X = np.random.rand(10, 5)  # 10x5の行列の各要素を0～1の間のランダムな数値で埋める

# 入力データの表示
print("Input Data:")  # "Input Data:"と表示する
print(X)  # 入力データを表示する

# PCA の実行
result = pca(X, n_components=2)  # pca関数を使って、2つの主成分を持つデータに変換する

# 結果の表示
print("\nOutput Data:")  # "\nOutput Data:"と表示する。"\n"は改行を意味する。
print(result)  # 主成分分析の結果を表示する

import numpy as np

# PCA 関数
def pca(X, n_components=2):
    X = X - X.mean(axis=0)
    cov = np.cov(X, rowvar=False)
    l, v = np.linalg.eig(cov)
    l_index = np.argsort(l)[::-1]
    v_ = v[:,l_index]
    components = v_[:,:n_components]
…
# PCA の実行
result = pca(X, n_components=2)

# 結果の表示
print("\nOutput Data:")
print(result)

Input Data:
[[0.5488135  0.71518937 0.60276338 0.54488318 0.4236548 ]
 [0.64589411 0.43758721 0.891773   0.96366276 0.38344152]
 [0.79172504 0.52889492 0.56804456 0.92559664 0.07103606]
 [0.0871293  0.0202184  0.83261985 0.77815675 0.87001215]
 [0.97861834 0.79915856 0.46147936 0.78052918 0.11827443]
 [0.63992102 0.14335329 0.94466892 0.52184832 0.41466194]
 [0.26455561 0.77423369 0.45615033 0.56843395 0.0187898 ]
 [0.6176355  0.61209572 0.616934   0.94374808 0.6818203 ]
 [0.3595079  0.43703195 0.6976312  0.06022547 0.66676672]
 [0.67063787 0.21038256 0.1289263  0.31542835 0.36371077]]

Output Data:
[[-0.09150808  0.10412935]
 [-0.03471536 -0.41757135]
 [-0.42427325 -0.19299645]
 [ 0.76549898 -0.26305905]
 [-0.62059276 -0.02702175]
 [ 0.26488503 -0.09145729]
 [-0.27959735  0.24832636]
 [-0.01023595 -0.29202606]
 [ 0.4358998   0.43832102]
 [-0.00536107  0.49335522]]