Yuya Fujiwara

Yuya Fujiwara

記事一覧

Prover-Verifier ゲームによる言語モデル出力の可読性向上

原論文: https://cdn.openai.com/prover-verifier-games-improve-legibility-of-llm-outputs/legibility.pdf Claude: https://claude.site/artifacts/1fb7c1fe-2d0c-45de-

Yuya Fujiwara
2か月前
2

計算のある生命: 単純な相互作用から整形された自己複製プログラムが出現する仕組み

原論文: [2406.19108] Computational Life: How Well-formed, Self-replicating Programs Emerge from Simple Interaction (arxiv.org) Claude Artifact: https://claud

Yuya Fujiwara
2か月前
3

人間のような無限コンテキストLLMのためのエピソード記憶

原論文: 2407.09450 (arxiv.org) Claude Artifact 概要大規模言語モデル(LLM)は優れた能力を示していますが、長文脈の処理には課題があります。本研究では、人間の脳のエ…

Yuya Fujiwara
2か月前
1

STaR: 自己教師あり推論器(フルバージョン)

原論文: 2203.14465 (arxiv.org)推論による推論の自己学習 Eric Zelikman1, Yuhuai Wu12, Jesse Mu1, Noah D. Goodman1 1スタンフォード大学コンピュータサイエンス学科…

Yuya Fujiwara
2か月前
2

STaR: 自己教示型推論器 - 推論による推論のブートストラップ

要旨STaRは段階的な「思考の連鎖」根拠生成を通じて、複雑な推論タスクのパフォーマンスを向上させる新しい手法です。 下記の論文をまとめてみました。 2203.14465 (arxiv.…

Yuya Fujiwara
2か月前
1

Monte Carlo Tree Search Self-Improvement (MCTSr) Algorithm: 革新的な数学的推論の最前線

はじめに数学オリンピックの問題を解くことができる人工知能を想像してみてください。これは単なる空想ではありません。Monte Carlo Tree Search Self-Improvement (MCTSr)…

Yuya Fujiwara
3か月前
3
人間のような無限コンテキストLLMのためのエピソード記憶

人間のような無限コンテキストLLMのためのエピソード記憶

原論文: 2407.09450 (arxiv.org)

Claude Artifact

概要大規模言語モデル(LLM)は優れた能力を示していますが、長文脈の処理には課題があります。本研究では、人間の脳のエピソード記憶と事象認知の主要な側面をLLMに統合した「EM-LLM」という新しいアプローチを提案しています。これにより、計算効率を維持しながら実質的に無限の長さのコンテキストを効果的に処理でき

もっとみる
STaR: 自己教師あり推論器(フルバージョン)

STaR: 自己教師あり推論器(フルバージョン)

原論文: 2203.14465 (arxiv.org)推論による推論の自己学習

Eric Zelikman1, Yuhuai Wu12, Jesse Mu1, Noah D. Goodman1
1スタンフォード大学コンピュータサイエンス学科
2Google Research
{ezelikman, yuhuai, muj, ngoodman}@stanford.edu

概要数学や常識的な質問応

もっとみる
STaR: 自己教示型推論器 - 推論による推論のブートストラップ

STaR: 自己教示型推論器 - 推論による推論のブートストラップ

要旨STaRは段階的な「思考の連鎖」根拠生成を通じて、複雑な推論タスクのパフォーマンスを向上させる新しい手法です。
下記の論文をまとめてみました。
2203.14465 (arxiv.org)

STaRの主要プロセス少数ショットプロンプトで根拠生成

誤答の場合、正解を与えて再度根拠生成(合理化)

正解を導いた根拠でファインチューニング

反復

合理化とは合理化は、モデルが正しく回答できなか

もっとみる
Monte Carlo Tree Search Self-Improvement (MCTSr) Algorithm: 革新的な数学的推論の最前線

Monte Carlo Tree Search Self-Improvement (MCTSr) Algorithm: 革新的な数学的推論の最前線

はじめに数学オリンピックの問題を解くことができる人工知能を想像してみてください。これは単なる空想ではありません。Monte Carlo Tree Search Self-Improvement (MCTSr) アルゴリズムの登場により、この夢が現実になりつつあります。本記事では、この画期的なアルゴリズムが人工知能の世界にもたらす変革について深く掘り下げていきます。

MCTSrの本質:LLMとMC

もっとみる