論文紹介: ProgPrompt: 大規模言語モデルを使ったロボットのタスク計画生成
arXiv掲載のプレプリントで、ロボットが環境に応じて行動計画を立てる方法を扱っています。 / LLMに自由文をそのまま出させるのではなく、実行可能な行動や物体を“プログラム風”に指定するプロンプト構造を提案しています。 / VirtualHomeの家庭内タスクで成功率向上を示し、実機のロボットアームにも適用したとされています。
論文紹介: 大規模言語モデルの外挿を促す、理由生成とマークアップトークンの併用
arXivのプレプリントとして公開された、系列が学習例より長い場合の外挿に関する論文です。 / 要旨では、モデルの構造や学習手順を変えなくても、段階的な理由付けの生成とマークアップトークンの導入を組み合わせることで外挿が可能になると説明されています。 / 長い系列では位置把握が難しくなるため、明示的な位置・カウントの記号を与えることが有効だとされています。
論文紹介: 言語フィードバックを使ってロボット計画を行う「Inner Monologue」
arXiv上のプレプリントで、LLMをロボットの計画や操作にどう使うかを扱っています。 / 環境からの自然言語フィードバックを取り入れることで、LLMが「内なる独り言」のように状況を整理しながら計画できる可能性を示しています。 / 成功判定、場面説明、人とのやりとりなど、複数のフィードバック源を比較しています。
論文紹介: LLMの計画能力を評価するための拡張可能なベンチマーク「PlanBench」
arXivのプレプリントとして、LLMの計画生成と「変化についての推論」を評価するためのベンチマーク「PlanBench」が提案されています。 / 日常的な常識問題だけでは、LLMが本当に計画しているのか、それとも広い知識を検索しているだけなのか判別しにくい、という問題意識が示されています。 / PlanBenchは、自動計画分野、特にInternational Planning Competitionで使われるようなドメインに基づき、拡張しやすい形で設計されているとされています。
論文紹介: 言語だけで思考はどこまで表せるか 分布型LLMの頑健性を比べ、記号的推論を組み合わせる試み
arXivのプレプリントとして公開された、ヒトと大規模言語モデル（LLM）の「アウト・オブ・ディストリビューション」推論を比べる研究です。 / 計画立案と説明生成の2領域で、人とLLMを比較する新しいベンチマークを提案しています。 / 結果として、提示された条件や問題が学習分布から外れると、人のほうがLLMより頑健だったと報告されています。
論文紹介: 物質設計向けの確率的生成モデル「Crystal Transformer」
arXivのプレプリントとして公開された、無機材料の生成設計と調整設計を扱う論文です。 / ブランクフィリング型の言語モデル発想を取り入れ、材料の“文法”を学ぶことで、構成の生成や解釈性、データ効率の向上を目指しています。 / 摘要では、化学的に妥当な組成の生成について、電荷中性や電気陰性度のバランスに関する指標がベースラインより高かったとされています。
論文紹介: Graph Neural Network Enhanced Language Models for Efficient Multilingual Text Classification
災害時のSNS投稿を多言語で分類する手法を扱った、arXiv掲載のプレプリントです。 / グラフニューラルネットワークとTransformer系の言語モデルを組み合わせ、少ないラベルデータでも動く多言語分類を目指しています。 / 英語だけでなく、複数言語・単言語・クロスリンガルの条件で評価し、Weighted F1で既存手法を上回ったと要約されています。
論文紹介: 大規模言語モデルは逆アセンブル・逆コンパイル後のコード解析を助けられるか
arXiv掲載のプレプリントで、Large Language Model（例: Codex）がリバースエンジニアリングに役立つかを検証しています。 / コードの目的、機能、重要な変数名や値を当てるよう促す手法と、正誤クイズ形式の評価枠組みを用いています。 / 136,260問の設問に対して72,754問を正解したと報告されています。
論文紹介: Chain-of-Thought Prompting が大規模言語モデルの推論を引き出すとする研究
arXiv上のプレプリントとして公開された、Chain-of-Thought Prompting に関する論文です。 / 要旨では、途中の思考手順を示すことで、大規模言語モデルの複雑な推論能力が向上すると説明されています。 / 算術、常識推論、記号推論など複数の課題で性能向上が報告されています。
論文紹介: 大規模言語モデルは自然言語のモデルではない？ 「corpus model」という見方を提案した論文
arXivのプレプリントとして公開された、自然言語処理と機械学習にまたがる論考です。 / 著者は、言語モデルという呼び方は誤解を招く可能性があり、より実態に近い表現として「corpus model」を提案しています。 / コード生成などの例を手がかりに、ニューラルモデルが記号的な構造を扱えることは、言語や認知が非記号的だと断定する根拠にはならないと論じています。