機械学習を用いたクラ​ス分けをする際に、各​クラスに重みづけする​ことは可能ですか？

例えば、ある複数の予測因子をもとに、A, B, Cに分類するといった問題があるとき、ふつうは全てのクラスまんべんなく正答率をあげるよう学習すると思うのですが、Cのものは確実にCに分類したい　といった重みを変更して学習するといったことはできないのでしょうか？

Answer 1

[michio]

学習を行う関数実行時にコスト行列（ 'Cost' オプション）を使う方法がまず有効かと思います。

例下記ページで 'Cost' の項を確認してみてください。

• k近傍法：https://jp.mathworks.com/help/stats/fitcknn.html
• サポートベクターマシン：https://jp.mathworks.com/help/stats/fitcsvm.html

Webセミナーで解説した部分がありますので参考にしてみてください。

MATLABを使った予知保全・故障予測（39:30辺りから）

k近傍法で具体的にどんな計算が行われているかについては、以下も参考になるかもしれません。

最近傍法では誤判別の​コストをオプションで​指定できますが、実際​はどのような計算が行​われていますか？

[Sho Nitta]

ご回答ありがとうございます。

SVMやｋ近傍だけでなく、決定木などでもCost オプションなどを使うことはできますか？

[michio]

決定木：https://jp.mathworks.com/help/stats/fitctree.html

にも Cost オプションございます。

[Sho Nitta]

'Cost', [0 1 1 ; 1 0 1; 1 1 0] でコストを定義すると思うのですが、数字の意味がよくわかりません（1以上の値も指定できるようですが）

また、アンサンブル学習 fitcensembleにもcostが存在しますが、使い方は同じでしょうか？

[michio]

アンサンブル学習でも使い方は同じです。

Cost の数値がどんな影響を与えるかはアルゴリズム次第なので一概には言えないのですが、定性的には「大きな数値を与えればその誤判別が下がる」ような学習結果となるイメージです。（ビデオで説明されているまんま、、ですね、すいません。）

最近傍法であれば：

最近傍法では誤判別の​コストをオプションで​指定できますが、実際​はどのような計算が行​われていますか？

サポートベクターマシンであれば以下が参考になるかもしれません。

fitcsvm や svmtrain でソフトマージンのボックス制約 C はどのように設定されますか？