プログラマのつれづれなるままにプログラマのつれづれなるままに音宮志久が思ったことなどをネタにします。プログラムネタ・数学ネタがメインです。Alpha)を公開してからちょうど一年後となるのが明日(11/4)なのですが、その手前で更新しました。表から見える項目はほとんど変わっていません。裏でDirect3D9を使った描画の時にPixelShaderを使って共三次内挿法による三次補間とLanczos-3に基づいた補間処理を行うようにしたものです。どちらかというとPixelShaderのデバッグ的な意味合いが強い更新です。次のADVシステムで使う予定の補間処理が正しく動作するかを確認するためのものです。Lanczos-3の処理にちょっと手間取りましたが・・・。よくないShaderのコンパイルに関する話題。PixelShaderなどで超越関数(sinとかね)を使ったものをHLSLでコンパイルすると、ちょっと変な現象が起こります。結果はどちらもほとんど同じなのですが、たとえばこのように書いたとします。1.0);意図していることはわかると思います。これをコンパイルするとかなり大きな差になります。Aパターンの場合は素直にsincosを使うようにコンパイルするのですが、Bパターンの場合は近似式を使って無理矢理計算しようとします。いうか、どうやら超越関数を各要素にすべて行うパターンの場合、ほとんどの場合、近似式計算を行うように変換されるようです。そのために、AパターンとBパターンで演算スロット量にかなり大きな差がでます。(Aパターンのスロットがかなり使用されている)近似を使っている分、Bパターンの方が微妙なのですが・・・。コメントをキャンセルメールアドレスが公開されることはありません。気になるプログラムネタや数学ネタがあったら書き込みたいのだが残業が長すぎて眠気が全くとれず体調があまりよくない。過労などでぶっ倒れるかもしれない。あと、さすがに独り身が寂しいのでなんとかしたいと考えてはいるのだが...。アクセスカウンタアクセス数:スポンサーリンクモバイルバージョンに。