pytorchで定義されたモデルをonnx, tflite形式へと変換し推論の実行時間を計測した。 pytorch->onnx->tensorflow->tfliteへの変換は以下の変換処理をまとめたライブラリを利用。 また、モデルのconvertする際には量子化等は適用しておらず、fp32のまま推論。…

key, valueを保持する構造体を作って、sort interfaceを満たすように Len(), Swap(), Less()メソッドを実装してあげる。 これはstackoverflowに載っていた。 // A data structure to hold key/value pairs type Pair struct { Key string Value int } // A s…

MLOpsに興味があったので参加してみた。今回初参加。 mlops.connpass.com 下記は参加したときのメモ。メモなので正確性はないです。 Data CentricなMLOps概論 Data-centriはAndrew先生が提唱し始めた。今回はAndrew先生の提唱している内容を中心に話す。 Mod…

onnxruntimeではどんなグラフ最適化がされているか観てみる。 概要はonnxrutimeのドキュメントにまとまっている。 Graph Optimization Levels ここをみてみるとグラフ最適化は以下の３つのレベルに分けられるとある。 Basic 冗長なノードや計算を削除する操…

たまによく起こる Ubuntuでイヤホンを抜き差ししていると、たまにイヤホンを認識しなくなる。 Outputdeviceにイヤホンのインターフェースが表示されなくなる。 これの対処法。 pulseaudio pulseAudioで以下のようにHD Audio Controllerの設定をする。 pulsea…

下書きにあって公開されてなかったから、とりあえず公開しておく。 CPUコアの設定 全CPUのonline化 ８コア搭載されているが、デフォルトだと4コアしかonlineになっていなかった. ➜ ~ sudo /usr/bin/jetson_clocks --show SOC family:tegra194 Machine:Jetson…

短くてもいいから、気軽にブログ書くようにしていかないとやらないと気づいた。きれいに書くことより、とりあえず書く。 最近のobject detectionですごいモデルって何なのか調べていたら出会った。 code with paperのobject detection on COCOを見てみると下…