軽量級ビジョンTransformerの強力な探索のためのマスク付き画像モデリング事前学習に関する実験的研究 学術的背景 近年、自己教師あり学習（self-supervised learning, SSL）はコンピュータビジョン分野で顕著な進展を遂げています。特に、マスク付き画像モデリング（masked image modeling, MIM）事前学習法は大規模なビジョンTransformer（vision transformers, ViTs）への応用において成功し、これらのモデルに基づく下流タスクのパフォーマンスが大幅に向上しました。しかし、既存の研究は主に大規模ViTsに焦点を当てており、軽量級ViTsに対する事前学習方法とその効果についての研究は比較的少ないです。さらに、多くの研究は複...

高精度で蛋白フラグメントの抑制活性を予測する新方法：FragFoldの応用 学術背景 蛋白質間相互作用は細胞生命活動において重要な役割を果たし、ペプチド（peptides）や蛋白フラグメント（protein fragments）は特定の蛋白質界面に結合して、蛋白質機能を調節したり、甚至抑制剤として機能したりします。近年、高スループット実験技術の発展により、生細胞中での大量の蛋白フラグメントの抑制活性を測定することが可能になりました。しかし、これまで計算方法が存在せず、どの蛋白フラグメントが目標蛋白質と結合し、抑制作用を発揮するか、さらにはその結合モードを予測することはできませんでした。この研究領域の空白を埋めるために、研究者は新しい計算ツールを開発しました。 AlphaFoldの登場は蛋白質...

現代の情報過多の時代において、意思決定者は膨大な量の情報に直面しており、その全てが意思決定に関連しているわけではありません。最適な意思決定を行うために、経済学の分野では「理性の不注意モデル（Rational Inattention, RI）」が導入されました。このモデルの核心は、意思決定者が情報を「顕著性」に基づいて注意力を分配することにより、不要な情報処理コストを削減することです。しかし、従来のRIモデルは意思決定者が完全に主観的な事前分布（prior distribution）に依存すると仮定しており、実際の応用ではこの仮定が偏りを持つ可能性があります。特に、事前分布に不確実性がある場合です。 本稿では、この問題を解決するために、事前不確実性に基づく堅牢な理性の不注意モデル（Robust...

小波分析に基づく金融価格ジャンプの新しいクラスの識別に関する研究報告 学術背景 金融市場における価格ジャンプ（price jumps）とは、非常に短時間に価格が大幅に変動する現象を指し、通常は外生的要因（ニュースの発表など）または内生的要因（市場内部のフィードバックメカニズム）によって引き起こされます。これらの2つの異なるタイプの価格ジャンプを区別することは、市場のダイナミクスを理解し、極端なイベントを予測し、効果的な規制戦略を策定するために重要です。しかし、既存の研究方法は監視学習に依存することが多く、明確なラベル（ニュースイベントなど）が必要で、実際の応用では多くの価格ジャンプが明確なニュースの背景を持たないため制限があります。 より良い価格ジャンプの識別と分類、特に明確な外生的トリガー...

大言語モデルにおける分布外汎化と組み合わせメカニズムの研究 論文の背景 近年、大言語モデル（Large Language Models, LLMs）は、GPT-4 などのように新規タスクを処理する際、驚くべき創造性を示しています。通常、少数の例で問題を解決できます。これらのタスクは、モデルが訓練データとは異なる分布上で汎化することを要求します。これは「分布外汎化」（Out-of-Distribution Generalization, OOD Generalization）と呼ばれます。LLMs は大きな成功を収めていますが、どのように分布外汎化を達成するかは未解明のままでした。本論文では、LLMs が隠れたルールに基づいて生成されるタスクでのパフォーマンスに焦点を当て、特に「帰納ヘッド」（...

ピエゾ電動位置決めステージのヒステリシス非線形システムに対する適応量子化制御の研究 背景紹介 現代の高精度位置決めシステムにおいて、ピエゾセラミックなどのスマート材料は、その優れた性能からマイクロ・ナノ製造やソフトロボティクスなどの分野で広く利用されています。しかし、これらの材料に固有のヒステリシス非線形性（Hysteresis Nonlinearity）の特性により、システムの入力と出力は複雑なループ関係を示し、位置決めの不正確さやシステムの不安定化を引き起こす可能性があります。そのため、ヒステリシス非線形システムを効果的に制御する方法が現在の研究の焦点となっています。さらに、実際の応用では不規則な制約（Irregular Constraints）の問題も存在します。これは、システムがある...