googleのdiffusiongemma
まだLMstudioでは動かせないのですが最近単なる新しいモデルのではなくQATもMTPもそうですが最近は単に性能=正答率重視でなく処理速度やモデルサイズなども考慮するようになってきましたね。
まあどれもモデルファイルサイズが小さくなったり処理時間が早くなるなどメリットはあるのでいい方向に進んでいるかなと。
まだLMstudioでは動かせないのですが最近単なる新しいモデルのではなくQATもMTPもそうですが最近は単に性能=正答率重視でなく処理速度やモデルサイズなども考慮するようになってきましたね。
まあどれもモデルファイルサイズが小さくなったり処理時間が早くなるなどメリットはあるのでいい方向に進んでいるかなと。