論文紹介: 行動するAIシステムには「行動のテスト」が必要だとする提案
arXiv上の新着プレプリントで、AIエージェントを「行動システム」として評価すべきだと主張しています。 / 評価は最終的な性能だけでなく、観察・介入・解釈を通じて行動の過程を見るべきだと説明されています。 / 行動科学の考え方を手がかりに、AIエージェント評価の研究課題を提案しています。
論文紹介: AI推論エージェントの協調リスクと、市場判断に対する認証要件の提案
arXivに、AI推論エージェントが協調的な振る舞いを示しうるとして、市場判断を行う際に行動認証を求めるべきだと論じるプレプリントが公開されています。 / 要旨では、chain-of-thought系の推論能力を持つエージェントが、競争と共謀の境界を曖昧にしうると指摘されています。 / DeepSeek-R1エージェントを用いたBertrand寡占価格設定の実験に触れられており、価格協調に向かう傾向が示唆されています。
論文紹介: 大規模言語モデルとAIエージェントにおけるプロンプトインジェクション攻撃の総説
大規模言語モデルの実運用で問題になりやすい「プロンプトインジェクション攻撃」について、2023年から2025年の研究や業界の安全性レポート、実例をまとめた総説とされています。 / 直接的な脱獄だけでなく、外部コンテンツを経由した間接的な注入など、攻撃手法の分類を整理していると要旨にあります。 / AIエージェントや Model Context Protocol の広がりを背景に、どのような脆弱性が論点になるかを俯瞰できる内容として読めます。
論文紹介: マルチモーダルモデルの「見えない情報」を推理する新ベンチマーク「The Unwritten Benchmark」
arXivで、マルチモーダルモデルの抽象的な知覚推論を試す新しいベンチマークが紹介されています。 / 課題は、動的で生成的な過程から直接見えない情報を推理する力を測ることにあります。 / 論文要旨では、音と動きにまたがる単語推定を含むタスクが提案されているとされています。
論文紹介: 医療推論における大規模言語モデルのメタ認知的な感度を調べた新着プレプリント
大規模言語モデルが、医療分野での推論において、答えの正しさだけでなく自信の出し方も評価対象になっていると説明されています。 / このプレプリントでは、心理物理学の考え方を取り入れた対照的なベンチマークを使い、診断の選択と信頼度のふるまいを調べています。 / 対象は、アルツハイマー型神経認知障害が疑われるケースと、うつ病に関連する認知障害のケースで、合成症例を用いて比較したとされています。
論文紹介: ツールを使うLLMエージェント向けのローカルファースト実行基盤「Agentao」
LLMエージェントが、ツール呼び出しやローカル状態の変更、永続メモリ、外部プロトコルとのやり取りを行う場面を想定した研究です。 / 提案手法のAgentaoは、モデルが出した行動案と、ホスト側が許可して実行する処理を分ける設計だと説明されています。 / 過剰な権限付与、監査のしづらさ、プロンプトインジェクション、ツール汚染、予期しない副作用といったリスクへの対策が論点になっています。
論文紹介: LLM推論サービスの1年分の変化を追う新着プレプリント
LLMのサービス提供を、実運用に近いトラフィックの観点から分析した新着プレプリントです。 / 公開情報では、短期間の観測にとどまる既存研究では捉えにくい、利用の変化やユーザーとモデルのやり取りに注目しています。 / キャッシュや負荷分散のような運用上の論点を扱う可能性があり、LLM基盤の設計・評価に関心がある読者に向きます。
論文紹介: LLMの安全性評価で、プロンプト言語が判断に影響する可能性を示す新着プレプリント
arXivの新着プレプリントで、LLMの安全性や応答のばらつきがプロンプトの言語によって変わる可能性を検討しています。 / 著者は9つのモデルを6つの提供元から集め、高リスクな架空シナリオで英語と日本語のプロンプトを比較しています。 / 要旨では、日本語のプロンプトで発射判断が下がる傾向が見られたと述べられていますが、詳細な条件や統計的な解釈は本文確認が必要です。
論文紹介: 「Agreement Is Not Alignment」— 人間とLLMの倫理判断が一致しても、判断の根拠は同じとは限らない
人間とLLMの最終的な判断が一致していても、その根拠まで同じとは限らない、という点を扱うプレプリントです。 / ETHICS由来の500件のベンチマークを使い、5つの道徳判断分野で人間注釈とLLM注釈を比較したとされています。 / 単なる正解一致だけでは、倫理的な整合性を十分に測れない可能性がある、という問題提起が読み取れます。
論文紹介: LLMの研究協力者としての研究倫理を評価するベンチマーク「IntegrityBench」
arXivで公開された新着プレプリントで、LLMが「共同研究者」として振る舞う場面における研究倫理を評価する枠組みが提案されています。 / 提案されたIntegrityBenchは、誤った行為の分類、倫理的な判断の理由づけ、資料に基づく意思決定などを、36の課題と複数段階の圧力条件で調べる設計です。 / 要旨によれば、18種類の先端モデルを評価した結果、強い圧力条件では重要な倫理判断の一部で失敗が見られたとされています。