ailia SDK 1.2.12をリリース

クロスプラットフォームで利用できるGPU対応の高速AI推論フレームワークであるailia SDKのバージョン1.2.12のご紹介です。ailia SDKについてはこちらをご覧ください

ailia SDK 1.2.12の新機能は下記となります。

複合アクティベーションの専用処理によるYOLO等の高速化

YOLOXおよびYOLOv5で使用されるSiLUや、YOLOv4で使用されるMishなどの、複合アクティベーションの専用処理による高速化を行いました。対象となるプラットフォームはcuDNNとCPU (SIMD)です。

また、cuDNNにおいては、Resize (Nearest)とTransposeのCUDAで動作する範囲を拡張することで、CPUとGPU間の転送を削減しています。

これらの改良により、cuDNNを使用するJetson NXで、YOLOX tinyが33%、YOLOXが18%、YOLOv5が25%、YOLOv4が15%高速化します。また、SIMDを使用するIntel CPUでは、YOLOX tinyが20%、YOLOXが19%、YOLOv5が23%、YOLOv4が18%高速化します。

グラフの実行順ソートによるモデル読み込みの高速化

グラフのロード時にノードを実行順にソートする機能を追加し、モデル読み込みの高速化を行いました。これにより、グラフ探索が高速化され、Deticなどの巨大なモデルの読み込みが、30%程度高速化します。

新たなレイヤーの対応

CompressおよびDetレイヤーに対応しました。また、CumSumレイヤーの5次元以上の入出力に対応しました。

FP16の重みを持つONNXへの対応

FP16の重みを持つONNXに対応しました。

ailia SDK 1.2.12で新たに対応するモデル

ailia SDK 1.2.12で新たに対応するモデルとなります。

SberSwap：リアルタイムの顔置き換えモデル

ailia-models/generative_adversarial_networks/sber-swap at master · ailia-ai/ailia-modelsSource image Target image (Image from https://github.com/ai-forever/sber-swap/tree/main/examples/images) Automatically…github.com

SwinIR：Transformerベースの超解像モデル

ailia-models/super_resolution/swinir at master · ailia-ai/ailia-modelsIn case of classical model. (Image from https://github.com/JingyunLiang/SwinIR/tree/main/testsets) In case of classical…github.com

DabDetr：Transformerベースの物体検出モデル

出典：https://github.com/IDEA-opensource/DAB-DETR

ailia-models/object_detection/dab-detr at master · ailia-ai/ailia-modelsAilia input shape: (1, 3, 800, 1199) Automatically downloads the onnx and prototxt files on the first run. It is…github.com

サンプルの拡充

Experimentalとして提供しているailia.audioのUnityおよびC++のサンプルを追加しました。Unityからailia.audioを使用して音声の分類を行うことが可能です。

GitHub - ailia-ai/ailia-audio-samples: ailia.audio samples of unityUse ailia.audio to perform MelSpectrum conversion of the input audio. Then classify the sound categories with the crnn…github.com

ailia SDKの評価版のダウンロード

ailia SDK 1.2.12の評価版は下記のURLからダウンロード可能です。

ailia Inc.アイリア株式会社のコーポレートサイトです。あらゆるデバイスにAI が載る未来。そのような未来が来ることを我々は信じています。その未来に向けて我々は高速なSDK を開発し、最新のAI モデルを常に研究し続けます。ax 株式会社は最新のAI…ailia.ai

アイリア株式会社はAIを実用化する会社として、クロスプラットフォームでGPUを使用した高速な推論を行うことができるailia SDKを開発しています。アイリア株式会社ではコンサルティングからモデル作成、SDKの提供、AIを利用したアプリ・システム開発、サポートまで、 AIに関するトータルソリューションを提供していますのでお気軽にお問い合わせください。