2016-04-09から1日間の記事一覧
FP16は何に有効なのかというと,「8bitでは精度不足。しかし32bitでは品質過剰」というような,多様な計測デジタルデータの表現だ。具体的な例としてはハイダイナミックレンジ対応画像におけるピクセルデータや,各種センサーからの取得データなどが挙げられ…
FP16は何に有効なのかというと,「8bitでは精度不足。しかし32bitでは品質過剰」というような,多様な計測デジタルデータの表現だ。具体的な例としてはハイダイナミックレンジ対応画像におけるピクセルデータや,各種センサーからの取得データなどが挙げられ…