「ヶ」というのは、

以下のとおりだそうです。本来はカタカナじゃないのか。。。

このような簡略化は他にもあって「箇」の字の左上の部分を取り出して「ヶ」という字にした例などがあります。
どうしたわけかＪＩＳでは、この字は片仮名の最後に入っています。

引用 >> 言語工学研究所の社長ブログ >> 異字体（３） http://blog.ruigo.jp/kokublog/177