このセクションでは、デプロイされたシステムにおけるコスト効率の良いモデル昇格に焦点を当てた、新しい実用的なインスタンス増分学習(IIL)問題設定を定義します。このセクションでは、デプロイされたシステムにおけるコスト効率の良いモデル昇格に焦点を当てた、新しい実用的なインスタンス増分学習(IIL)問題設定を定義します。

新規IIL設定:新しいデータのみでデプロイされたモデルを強化

2025/11/05 23:00
4 分で読めます
本コンテンツに関するご意見・ご感想は、crypto.news@mexc.comまでご連絡ください。

概要と1 はじめに

  1. 関連研究

  2. 問題設定

  3. 方法論

    4.1. 決定境界を考慮した蒸留

    4.2. 知識の統合

  4. 実験結果と5.1. 実験セットアップ

    5.2. 最先端手法との比較

    5.3. アブレーション研究

  5. 結論と今後の課題および参考文献

    \

補足資料

  1. IILにおけるKCEMAメカニズムの理論的分析の詳細
  2. アルゴリズム概要
  3. データセットの詳細
  4. 実装の詳細
  5. ダスト処理された入力画像の可視化
  6. その他の実験結果

3. 問題設定

提案されたIIL設定の図解は図1に示されています。見てわかるように、データはデータストリームにおいて継続的かつ予測不可能に生成されます。一般的な実際のアプリケーションでは、人々はまず十分なデータを収集し、展開のための強力なモデルM0を訓練する傾向があります。モデルがどれほど強力であっても、分布外のデータに遭遇して失敗することは避けられません。これらの失敗したケースや他の低スコアの新しい観測値は、時々モデルを訓練するために注釈が付けられます。毎回蓄積されたすべてのデータでモデルを再訓練することは、時間とリソースのコストが高くなります。したがって、新しいIILは、毎回新しいデータのみを使用して既存のモデルを強化することを目指しています。

\

\ 図2. 決定境界(DB):(a) 古いデータと新しいデータからそれぞれ学習したDB。古いDBに関して、新しいデータは内部サンプルと外部サンプルに分類できる。(b) 古いデータと新しいデータを共同で訓練することによる理想的なDB。(c) ワンホットラベルを使用して新しいデータでモデルを微調整するとCFに苦しむ。(d) プロトタイプ例示でディスティレーションを学習すると、これらの例示に過剰適合しDBが崩壊する。(e) 決定境界を考慮した蒸留(DBD)を使用して達成されたDB。

\

:::info 著者:

(1) Qiang Nie, 香港科技大学(広州);

(2) Weifu Fu, テンセントYoutuラボ;

(3) Yuhuan Lin, テンセントYoutuラボ;

(4) Jialin Li, テンセントYoutuラボ;

(5) Yifeng Zhou, テンセントYoutuラボ;

(6) Yong Liu, テンセントYoutuラボ;

(7) Qiang Nie, 香港科技大学(広州);

(8) Chengjie Wang, テンセントYoutuラボ.

:::


:::info この論文はarxivで入手可能であり、CC BY-NC-ND 4.0 Deed(帰属-非営利-改変禁止 4.0 国際)ライセンスの下で提供されています。

:::

\

免責事項:このサイトに転載されている記事は、公開プラットフォームから引用されており、情報提供のみを目的としています。MEXCの見解を必ずしも反映するものではありません。すべての権利は原著者に帰属します。コンテンツが第三者の権利を侵害していると思われる場合は、削除を依頼するために crypto.news@mexc.com までご連絡ください。MEXCは、コンテンツの正確性、完全性、適時性について一切保証せず、提供された情報に基づいて行われたいかなる行動についても責任を負いません。本コンテンツは、財務、法律、その他の専門的なアドバイスを構成するものではなく、MEXCによる推奨または支持と見なされるべきではありません。

USD1ジェネシス:手数料0 + 12%のAPR

USD1ジェネシス:手数料0 + 12%のAPRUSD1ジェネシス:手数料0 + 12%のAPR

新規ユーザー限定:最大600%のAPRでステーキング。期間限定!