何が起きたか
複数のオープンモデルを進化的アルゴリズムで組み合わせる手法を発表した。日本語LLMの EvoLLM-JP、視覚言語モデルの EvoVLM-JP、画像生成の EvoSDXL-JP を公開した。
2024年3月のほかの動き
2024年3月のまとめ
GrokモデルGrok-1.5 を発表
推論力を高め、コンテキスト長を128,000トークンに広げたモデル。MATH 50.6%、GSM8K 90%、HumanEval 74.1% の成績が示された。
Adobe Firefly企業Firefly Services とカスタムモデル
Adobe Summit で、企業向けの Firefly Services と Custom Models が発表された。Firefly Services は20以上の生成系 API やツールを提供する。Custom Models は10〜20枚ほどの自社素材でモデルを調整できる。
Sunoモデルv3 を公開
1回の生成で2分の曲を作れるモデル。音質、ジャンルの幅、指示への追従性を改善した。全ユーザーが利用でき、生成物の識別用に透かし技術も導入した。
Microsoft Copilot企業Suleyman が Microsoft AI を率いる
DeepMind と Inflection の共同創業者 Mustafa Suleyman が、新設の Microsoft AI のトップに就いた。Copilot、Bing、Edge のチームは同部門の下に入った。OpenAI との提携は続くとした。
- Grokモデル
Grok-1 の重みを公開
314Bパラメータの Mixture-of-Experts モデル Grok-1 の重みとアーキテクチャを Apache 2.0 ライセンスで公開した。2023年10月に完了した事前学習のベースモデルで、対話向けの微調整は行われていない。
DevinモデルDevin を発表、AIソフトウェアエンジニア
Cognition が自律型のAIソフトウェアエンジニア Devin を発表した。SWE-bench で課題の13.86%をエンドツーエンドで解決したとしている。当時は早期アクセスで、待機リストを受け付けていた。