OpenAI、10代の発達に関するAI研究を支援する500万ドルの助成金プログラムを発表
OpenAIが、生成AIが10代の発達、ウェルビーイング、安全性に与える影響を調べる独立研究を対象に、総額500万ドルの助成金プログラムを案内しています。 / 対象は、若年層と生成AIの関係を実証的に調べる研究で、応募を受け付ける形式とされています。 / 現時点で読み取れる範囲では、製品機能の発表ではなく、研究支援の取り組みとして位置づけられています。
論文紹介: テスト時にLLMの説明の忠実性を改善する「除去ベース」の方法
LLMが答えと説明を同時に返す場面で、説明が実際の判断理由を十分に表していない問題を扱っています。 / 原文の要旨では、説明の不忠実さを「不完全さ」と「非妥当性」の2つの側面に分けて考えています。 / テスト時に適用する「除去ベース」のアプローチで、説明の忠実性を改善することを目指す内容です。
NVIDIAとCrowdStrike、エージェント型サイバーセキュリティの取り組みを発表
NVIDIAの公式ブログで、CrowdStrikeとの協業によりエージェント型サイバーセキュリティの新しい取り組みが紹介されています。 / CrowdStrike SafeMindは、防御向けモデルとエージェント型の仕組みを組み合わせ、攻撃と防御が繰り返し改善される構想として説明されています。 / あわせて、CrowdStrike Falcon IQやGuardian AI safety solutionの拡張も発表されたとされています。
論文紹介: Harbor AdaptersとHarbor-Indexが示す大規模エージェント評価の基盤整備
arXivの新着プレプリントで、エージェント向けベンチマークをまとめて扱う評価基盤「Harbor Adapters」が提案されています。 / 80件超のベンチマークを、任意のエージェントを評価できる形に移すためのアダプターを整備したとされています。 / 8つのモデルを54件のベンチマークで大規模に評価したことが要旨で示されています。
OpenAIのJakub Pachocki氏、AIの整合性確保と国際的な安全対策の必要性を論じる
Jakub Pachocki氏が、能力の高まるAIをどう整合させるかという課題について考えを述べています。 / より強い安全対策が必要であり、国際的な協調も重要だとしています。 / 公開情報からは、具体的な技術手法や新製品の発表というより、安全性に関する見解の共有とみられます。
論文紹介: BenchMIRTはLLMベンチマークが何を測っているのかを検討する
Hugging Face Blogで、BenchMIRTという枠組みを紹介する記事が公開されています。 / LLMのベンチマークが、実際には何を評価しているのかを問い直す内容とみられます。 / 公開情報からは詳細な手法や結果は確認できないため、紹介時は原文の要旨に沿って慎重に扱うのがよさそうです。
OpenAI、Playcoのゲーム試作事例を公開 GPT-6 Astraで手作業修正を半減と報告
OpenAIの公開情報で、PlaycoがGPT-6 Astraを使ってゲーム試作を進めた事例が紹介されています。 / 1つの“グレーボックス”基盤から、3つのテーマの試作案を作れたとされています。 / 従来のモデルと比べて、手作業の修正が50%少なかったと報告されています。
OpenAI、GPT-6 Astra の安全性概要を公開
OpenAI が GPT-6 Astra に関する安全性の概要を公開しています。 / 公開情報では、GPT-6 Astra は広く展開されているモデルの中で最も高い能力を持つと説明されています。 / また、Preparedness Framework におけるサイバーセキュリティ能力で「Critical」レベルに初めて到達したモデルだとされています。
論文紹介: LLM搭載のAI授業支援で、学習者ごとの個別最適化を促すプロンプト設計の枠組み
arXivで公開された新着プレプリントで、LLM/RAGを使うAI授業支援システムの個別化に関する研究です。 / 提案は、学習者の自己評価、抽象化の好み、説明の詳しさ、知覚の傾向、情報処理スタイル、習熟度など、6つの観点で応答を調整する枠組みと説明されています。 / 対象は、汎用のAI Teaching Assistantを教育分野や科目をまたいで使いやすくすることだとされています。
論文紹介: 分散LLMエージェントのメモリ整合性を検証するPlanFence
arXivの新着プレプリントとして、分散したLLMエージェント群における「最新の事実は見えているのに、古い計画のまま動いてしまう」問題を扱っています。 / 要旨では、計画が参照した記録を明示し、その記録だけを検証する依存範囲限定の検証手法「PlanFence」が提案されています。 / 複数エージェントが分担して動く仕組みで、共有メモリの新しさだけでは安全性や妥当性を保証できない、という論点が示されています。