DNN生成コンテンツのための不可視で頑丈な保護方法

深層神経ネットワーク生成コンテンツの不可視かつロバストな保護方法 学術的背景 近年、深層学習モデルが工学アプリケーションで革命的な発展と広範な応用を見せており、ChatGPTやDALL⋅E 2のような現象的なアプリケーションが次々と登場し、人々の日常生活に深い影響を与えています。同時に、人々はオープンソースの深層学習技術を利用して、画像スタイル転移や画像のカートゥーン化などの様々なコンテンツを作成できます。これらの技術はAI生成コンテンツ(AIGC)と呼ばれています。こうした背景の中で、AIGCを基にした商業アプリケーション(例えば、美图、Prisma、Adobe Lightroomなど)の著作権保護が急務かつ避けられないものとなりました。しかし、多くのAIGC関連技術がオープンソースである...

m𝟐ixkg:知識グラフにおけるより難しいネガティブサンプルのミキシング

学術報告 背景紹介 知識グラフ(Knowledge Graph, KG)は、エンティティと関係の情報を記録する構造化データで、質疑応答システム、情報検索、機械読解などの分野で広く利用されています。知識グラフ埋め込み(Knowledge Graph Embedding, KGE)技術は、グラフ内のエンティティと関係を低次元の密なベクトル空間にマッピングすることで、関連アプリケーションの性能を大幅に向上させます。しかし、KGEモデルのトレーニングにおいて、高品質な負のサンプル(negative samples)を生成する方法が極めて重要です。 現在主流のKGEモデルは、負のサンプル生成において多数の課題に直面しています。いくつかのモデルは均等分布やベルヌーイ分布などの単純な静的分布を使用しており...

データフリー知識蒸留における自適応的なサンプル間関係の探求

近年来、プライバシー保護や大規模データ転送などのアプリケーションシナリオにおいて、データの不可アクセス性に対する厳しい課題が浮き彫りになっているため、研究者たちはデータフリー知識蒸留(Data-Free Knowledge Distillation、以下DFKD)という方法を提唱し、これらの問題を解決しようとしている。知識蒸留(Knowledge Distillation、以下KD)は、深層事前学習モデル(教師モデル)から知識を学習させることで軽量モデル(学生モデル)を訓練する手法である。しかし、従来の知識蒸留法は使用可能な訓練データを必要とし、これはプライバシー保護や大規模データ転送のシナリオでは現実的ではない。本論文では、新しいDFKD手法であるAdaptive Data-Free Kn...

ロジスティック分布を用いたベルマン誤差のモデリングと強化学習への応用

論文の背景と研究目的 強化学習(Reinforcement Learning, RL)は近年、人工知能分野で非常に活発かつ変革的な分野となっており、その目的はエージェントと環境との相互作用を通じて累積報酬を最大化する能力を実現することです。しかし、実際にRLを応用する際にはベルマン誤差(Bellman Error)の最適化という課題が直面しています。この誤差は深層Q学習などの関連アルゴリズムで特に重要で、従来の方法は主に平均二乗ベルマン誤差(Mean-Squared Bellman Error, MSELoss)を標準の損失関数として使用しています。ただし、ベルマン誤差が正規分布に従うという仮定は、RL応用における複雑な特性を過度に単純化している可能性があります。したがって、本論文はRL訓練...

構造強化型原型整列による教師なしクロスドメインノード分類

構造強化の原型アライメントによる教師なしドメイン適応ノード分類 序論 現代情報技術の発展に伴い、グラフニューラルネットワーク(Graph Neural Networks、GNNs)は複雑なネットワークのノード分類タスクにおいて顕著な成功を収めています。しかし、その一つの大きな課題は大量の高品質なラベルデータを必要とすることです。これはグラフ構造データに対して取得コストが高く、時間もかかります。したがって、豊富なラベルがあるグラフ(ソースドメイン)から知識を完全にラベルのないグラフ(ターゲットドメイン)に移す方法が重要な問題となっています。 研究背景と目的 著者のチームは浙江大学計算機科学学院、浙江省サービスロボット重点実験室、およびシンガポール国立大学計算機科学学院から来ています。彼らは構造...

二段階のカテゴリ整合に基づく教師なしドメイン適応セグメンテーションアルゴリズム

二段階のカテゴリ整合に基づく教師なしドメイン適応セグメンテーションアルゴリズム

语義セグメンテーションは画像内の各ピクセルに対してクラスラベルを予測することを目的としており(Liu et al., 2021; Wang et al., 2021)、シーンの理解、医療画像解析、自動運転、地理情報システム、拡張現実などに広く応用されています(Strudel et al., 2021; Sun et al., 2023)。深層神経ネットワークの発展により、セグメンテーションタスクの性能が大幅に向上しましたが(Chen et al., 2014; Guan et al., 2021; Zhao et al., 2017)、これらの進歩はモデルの訓練に大量のピクセルレベルのアノテーションデータを必要とし、これらのデータの取得は現実の場面では高コストです(Jiang et al.,...