ガウスカーネルモデルに対するl2-正則化を用いた最小二乗回帰を実装する． 正則化パラメータとガウス幅を交差確認法によって決定する．（実装）

ガウスカーネルモデルに対し，L1正則化学習を実装しスパースな解を得る． スパース回帰は解析的な解が求まらないため，交互方向乗数法による反復式で解を求める．

二乗ヒンジ損失に基づく適応正則化分類を線形モデル

に対して適用する．（実装）

ガウスカーネルモデルに対してラプラス正則化最小二乗分類を実装する．

によってパラメータを決める．（実装）

データのなす領域に沿った識別面が得られている．

線形モデルに対してクラス比重み付き最小二乗法を実装する．訓練データとテストデータでクラスを構成する点の比率が異なるデータを用いた．（実装）

左が訓練データ，右がテストデータ．

重みなしのときはテストデータが正しく分類できていなかったが，重み付き最小二乗法によって，テストデータも正しく分類する識別面が得られていることが確認できる．

類似度行列を

として実装した．（実装）

データのクラスタ構造を保持したまま射影することができている．

教師あり次元削減のひとつであるフィッシャー判別分析を実装する，異なるクラスの標本を分けるように次元削減を行うために，クラス内散布を小さく，クラス間分布を大きくするように次元削減を行う．（実装）

クラス1, 2 を分けるように射影できていることがわかる．

データの分布が曲がっているときは，線形次元削減ではうまく構造を抽出できない．そこで， データを特徴空間に非線形変換し，その特徴空間上で線形次元削減を行う．ここでは，局所性保存射影をカーネル化したラプラス固有写像を実装する．（実装）

類似度行列には最近傍類似度

元の三次元データが持つ構造を残したまま，二次元のデータに次元削減できている． また，類似度行列がスパースであるため，効率的に固有値問題を解くことができた．