見出し画像

第12回Language&Robotics研究会聴講(2023年2月4日)妄想暴発版(2023年7月10日AIの遺電子追記)

はじめに

とにかく内容を知りたいという方は、通常版をお読みください

谷口忠大先生の講演は、【第60回AIセミナー】「言語を用いて経験を共有可能なロボットの実現を目指して 」(2022年11月30日)で聴講できたので迷った。

しかし、谷口忠大先生はビブリオバトルから社会の共創まで研究の幅が広いので、また新鮮な話しを聞くことができるかもと考え、聴講を申し込んだ。

聴講して大正解。
今回は、【第60回AIセミナー】の内容より一段上から全体像を俯瞰する内容、すなわち

谷口忠大先生が大学院修士課程の頃から構想している
AIと人類が文化・文明を共創で発展させていく道筋を示すという壮大な話。

谷口忠大先生のお話を伺っているうちに
妄想がどんどん広がり、妄想満載のnoteができあがったw

動画が公開されました

記号創発システムの構成論:言語を生み出す集合的予測符号化

概要(HPより)

今回のLangRobo研究会では、立命館大学の谷口忠大先生から最近のご研究についてご紹介いただきます。 特に、複数エージェントによる表現学習と記号の創発に関する研究について、お話いただきます。

・講演者:谷口 忠大先生 (立命館大学)

  • 発表タイトル:記号創発システムの構成論:言語を生み出す集合的予測符号化

  • 概要:人間の知能はマルチモーダルな知覚系を介した様々な観測、身体に基づく環境との身体的相互作用、他者との記号的相互作用を通して構成されていく存在である。その上で私たちは言語を社会の中で構成し、コミュニケーションを可能にしていく。講演者は記号接地問題(シンボルグラウンディング問題)自体の問題を指摘し、記号創発システムという概念を提案してきた。またその構成論的アプローチとして記号創発ロボティクスの研究を推進してきた。本講演では複数のエージェントが観測を得ながら言語ゲームを行うことを通して記号システム(言語)を組織化していく記号創発システムの構成論に関して概説する。特に確率的生成モデルに基づき、社会的な表現学習としてコミュニケーション創発をモデル化するアプローチについて説明し、メトロポリス・ヘイスティングス名付けゲームを導入する。この言語ゲームが分散的なベイズ推論になっていることを証明すると共に、Inter-GMM+VAEという生成モデルにより、二者エージェントが実画像から記号創発を行う様子を示す。また合成性を有する言語やマルチモーダル情報に基づく記号創発モデルについても触れる。されにこれらから偉える集合的予測符号化仮説について紹介し、人間がこのような学習を行っているかに関しての検討に関して報告する。さらにこのような考え方がもたらす大規模言語モデルの有効性の解釈や、人間とロボットの共創的学習というアイデアに関しても述べたい。

10:30 - 10:33オープニング

時間になり、谷口忠大先生がトークを開始した
進行役の品川先生不在でも、質問のリンク、録画などの準備がつつがなく終了し、時間どおりに開始できる危機管理体制はさすが

谷口忠大先生から、Language&Robotics研究会設立の経緯と、設立に関連する論文Survey on frontiers of language and roboticsの紹介があった。
第1回は2017年7月2日で、かれこれ5年になるそうだ。

著者紹介は簡潔そのもので、すぐ本題に突入した。
今回は今のところスライドは公開されていない

10:33 - 11:35講演(45分)

講演は、4部構成で、記号創発関連研究の動向についてのお話

1.はじめに 人間の認識と機械の認識

谷口先生、昨日のことから話し始めた。
昨日が修士公聴会で、自分の修士時代は20年前だなと懐かしく思い返していました

現在の考え方の基礎は、京都大学修士時代の椹木哲夫(さわらぎ てつお)指導教官との出会いで決まりました

哲学論議が好きな先生で、
「言葉の意味は,概念はどこから来るのか?」
などの議論をしていました

2023年3月24日椹木哲夫先生最終講義の案内に絡めて

2023年5月28日登壇告知

+++++++++++
感想:なるほど、動画を見ると「哲学好き」の香りが漂ってくる)

++++++++++++++++++
谷口:
そのころ、ちょうど
AIBOがはやっていて、ロボットが会話の意味を理解してくれる時代を夢見ていました

初代AIBO。 ビーグル犬 に似た外見。 1999年 6月1日 、最初に インターネット で限定発売された時には発売開始後わずか20分で売り切れになるなど大人気だった。 グッドデザイン賞 大賞受賞。 全高26.6 cm, 重量1.6 kg, 連続動作時間1.5時間, 自由度(駆動部)18,価格25万円(税抜)。 2015年9月には 重要科学技術史資料 (未来技術遺産)に指定された。

Microsoft Bingさん

二つの相対する考え方

谷口:
世界の捉え方には、イデア論と構成主義という、相対する二つの考え方があります

本質主義(イデア論)

谷口:
世界の真なる構造が存在し、その構造をを見いだそうとする考え方であり、
GOFAI(第一世代人工知能)で用いられた オントロジー(情報を組織化するフレームワーク)的な世界観であり、クラスラベルが存在します

イデア論 (イデアろん、 英: theory of Forms, theory of Ideas, 独: Ideenlehre )は、 プラトン が説いた イデア ( 希: ιδέα 、 英: idea )に関する学説のこと 。 本当にこの世に実在するのはイデアであって、我々が肉体的に感覚している対象や世界とはあくまでイデアの《似像》にすぎない、とする 。 「イデア」という語は、古代ギリシャ語の動詞「idein」(見る)に由来する 

Microsoft Bingさん

社会構成/構築主義

谷口:
世界は真なる構造が存在するのではなく、人間の感覚情報や社会活動の相互作用により生み出されるものであり、実体は確率分布モデルであるとします。

社会構成主義とは人間が「この物自体が存在する」「特定の評価を指摘する人が評判や評価を作っている」と考えるからこそ特定の財物や考え方などが存在するという考え方のことを指します。
例えば、会社で最も仕事ができないと言われている社員が存在するとします。
仕事が出来ないと言われている社員は周囲が「あの人は仕事ができない」と定義しているから仕事ができないという評判が立っている可能性があります。
実際のところ人事考課表などを見てみるとそれほど悪い評価がついていないとしても印象や社内での会話による評判から「あの人は仕事ができない人」となっていることがあります。
つまり、実務そのものの能力がそれほど劣っていないとしても会社内で当然に求められている仕事水準を満たしていても他者の作り出した考え方や伝え方などで「この人は会社で最も仕事が出来ない人だ」という評価が出来上がっているということです。

MicrosoftBingさんより
https://www.hrm-service.net/column/article324/
Bingさんがお薦めしてきた画像
https://tomobooklife.com/book-wrap-up/recommend/ordinary-kills-genius/

谷口:
上記の二つの考え方は相対し、両立しないと考えられてきたが、
椹木哲夫先生の考えは、
社会学は、二項対立ではない。調停しうるのではないか」
というものであった。

そこで、両者を包含する考え方を模索し、以下の考えに至った
「情報の自己組織化現象」として「世界モデル」を構築する

自己組織化(じこそしきか、英: self-organization)とは、物質や個体が、系全体を俯瞰する能力を持たないのに関わらず、個々の自律的な振る舞いの結果として、秩序を持つ大きな構造を作り出す現象のことである。自発的秩序形成とも言う。

複雑かつ幾何学的な形状を持つ雪の結晶の成長や、孔雀の羽に浮かび上がるフォトニック結晶構造に由来する模様など、様々な自然現象の中にも見出すことができる。生殖も、極めて高度な自己組織化の結果と考えられている。

Microsoft Bingさん推薦Wikiより

世界モデルは、エージェントを取り巻く環境のモデルを観測から学習によって獲得する枠組みを指す。

Microsoft Bingさん

谷口:
そして、構成主義、プラグマティズム、ネオサイバネティクス
を統合した 「複雑系・人工生命・発達ロボティクス」の概念「認知発達ロボティクス」を提案しました

構成主義とは、学習者は教師から一方的に知識を教え込まれるのではなく、学習者が学習対象を見て能動的に理解を組み立て、学習プロセスの中で多くの質的な変換が生じる理論のことです。 一言でいうと「 概念変換 」の学習理論と言えます。 構成主義以前では、知識は普遍的に真で分割が可能であると考えられていました。

Microsoft Bingさん

プラグマティズム(英: pragmatism)とは、ドイツ語の「pragmatisch」という言葉に由来する、実用主義、道具主義、実際主義とも訳される考え方。元々は、「経験不可能な事柄の真理を考えることはできない」という点でイギリス経験論を引き継ぎ、概念や認識をそれがもたらす客観的な結果によって科学的に記述しようとする志向を持つ点で従来のヨーロッパの観念論的哲学と一線を画するアメリカ合衆国の哲学

Microsoft Bingさん推薦Wikiより

ネオ・サイバネティクスには,自律系と他律系 というシステムの作動の仕方に着目した分類がある。 自律系は作動の規範を自から形成し,自己準拠的に行為する。 他律系は作動の規範を他から設計され,それに依拠して行動する。 社会的生物は, 観察記述の視点によって,この両者の側面をどち らもみせる両義的なシステムである。

Microsoft Bingさん

Microsoft Bingさん、詳細はこちらのスライドを読めと薦めてきたよ

谷口:
では、
人間は自身のセンサ情報のみで個人の世界観を創り上げるとして、
人間は、この認知的な「閉じ」から、どうやって世界を認知することができるのだろうか?

この、修士時代からの「問い」を、最近は以下のように言い換えてます
知能は「関数」か「全体」か?
+++++++++++++++++++

感想:ここは、第60回AIセミナーで詳細に説明された)

こちらは、谷口忠大先生の博士論文

感想:EdgeBingさんに要約を頼んでみた)

この論文は、京都大学の学術情報リポジトリ (KURENAI) に収録されている、 **「人工知能による自然言語処理のための文法理論の研究」** という博士論文です。²

この論文の要旨は以下のようになっています。

> 本論文では、人工知能による自然言語処理のための文法理論として、 **「意味構造文法」** を提案する。意味構造文法は、自然言語の文法的な構造と意味的な構造を一対一に対応させることを目的としており、文法規則と意味規則の二つのレベルで構成される。文法規則は、文の構造を表す **「構造木」** を生成するための規則であり、意味規則は、構造木に対応する **「意味木」** を生成するための規則である。意味木は、文の意味を表す **「意味式」** に変換される。意味式は、 **「意味論的な素性」** と **「意味論的な関係」** からなる論理式である。意味構造文法は、自然言語の文法的な多様性と意味的な一貫性を両立させることができる文法理論であると主張する。

この論文をまとめると、以下のようになります。

> 人工知能による自然言語処理のために、文と意味の対応関係を明確にする文法理論を提案した。文法理論は、文の構造と意味の二つのレベルで規則を定め、文の意味を論理式で表現した。文法理論は、自然言語の多様性と一貫性を説明できるとした。

ソース: Bing との会話 2023/2/12
(1) Kyoto University Research Information Repository: ホーム. https://repository.kulib.kyoto-u.ac.jp/dspace/ アクセス日時 2023/2/12.
(2) Adobe Acrobat : PDF の編集、変換、署名ツール - Chrome .... https://chrome.google.com/webstore/detail/adobe-acrobat-pdf-edit-co/efaidnbmnnnibpcajpcglclefindmkaj?hl=ja アクセス日時 2023/2/12.
(3) 京都大学図書館機構. https://www.kulib.kyoto-u.ac.jp/ アクセス日時 2023/2/12.

感想:関連はわからないが、こんなつぶやきがあった)

2.記号創発システム(2020年~

谷口:
これはしょっちゅう紹介している図なので見たことがある方も多いと思いますが
+++++++++++++++++++++
感想:なかなか見つからないのでjsai22スライドより、図を載せておきます)

jsai22スライドより

谷口:
実在物に記号を対応させる「記号接地問題」に対して「記号創発問題」を提起しています

シンボルグラウンディング問題とは、「記号で指し示されるものをAIがどのように認識するかという問題」です。記号接地問題とも言われます。記号(シンボル)が概念に接地(グラウンディング)されることなしには、記号処理が意味をなさないことを議論しています。

Microsoft Bingさん

Microsoft Bingさん、またまた、詳細はこちらの記事を読めと薦めてきたよ

2023年6月10日追記

(最近、つくづく思う。人間の思考は、体の発達に大きく影響を受ける。赤ん坊の頃は、幼児期健忘で記憶の定着が難しいし、第2次成長期の思春期には周囲への警戒心の高まりをひしひしと感じた。成長していくにつれ、精神のほうが体と環境に適応していく。どんどんと、僕と星野愛久愛の境目がなくなっていく。」推しの子第8話より)

アニメ「推しの子」第8話

谷口:
記号創発問題の考え方は、
意味を持つ媒体(記号)には、恣意性があることにもとづいています
以下、記号創発システムについて述べていきます

パースの記号論

谷口:
いま、「サインw」「対象o」「解釈項z」を考えます
解釈項zは、二つをつなげる脳内活動です

https://knon.hatenablog.com/entry/2014/08/06/183229

現代のAIは、このw,o,zから構成されます

言語の重要性

谷口:
semiosis(記号過程)について

人間は、自分一人なら、記号がなくても発達可能です
自分が感覚器や内部受容器から獲得するセンサ情報をもとにカテゴリ化していけばいいのです。
++++++++++++++++++++++
感想:人工知能も、特徴量で類似度を分類し、大量のデータをネーミングなしにカテゴライズすることが可能だな)

谷口:
「名前を与える」のは「相手が解釈できる」ために重要
なのです

私が「BlackBlade取って!」と叫んだとしましょう
これは、中二病のコミュニティでは(コミュニティによっては)通じます

中二病(ちゅうにびょう)とは、「(日本の教育制度における)中学2年生頃の思春期に見られる、背伸びしがちな言動」を自虐する語。転じて、思春期にありがちな自己愛に満ちた空想や嗜好などを揶揄したネットスラング。

Microsoft Bingさん

+++++++++++++++++++++
感想:第10回AIセミナーでは「ぶぶ」だったが、今回はマニアックに攻めてくる谷口先生w)

谷口:
「サインは社会的合意」であり、合意に従う限り、他者を動かせるのです
++++++++++++++++++
感想:ほんのわずかのサインで動かせる「あうん」の呼吸というのもあるな。学生時代に、人形劇に使う人形を作っている時、「キリ、キリ」と頭の中で叫んでいたら「はい」と言ってキリが目の前に差し出されて驚いたことがあったな)

谷口:
創発システムは、(Simbol Emergent Systemの)下位システムに影響を与えます

++++++++++++++++++++++++++
妄想:カラスは6歳から8歳の知能を持つというから、カラスに言語を教えると面白そう。

タコも、ニューロンが体全体に分散していて人間と全く異なる脳の構造だが高い知能を持っていたな。

「タコになったらどんな気分か」という問題の中には、心とは何か、それは物理的な身体とどう関係するのかを解き明かす手がかりが詰まっている。 知能の高さゆえの茶目っ気たっぷりの行動や、急速な老化と死の謎など、知れば知るほど頭足類の生態はファンタスティック。 おまけに著者が観察している「オクトポリス」(タコが集住する場所)では、タコたちが社会性の片鱗を示しはじめているという。

書籍「タコの心身問題」をBingさんが要約

植物はさらに生存戦略から異なるが、根を通じて広域情報を交換し、群生全体で思慮を巡らしているらしいから、いろいろな生物と言語で話し合える時代が来そうだな)

ヒトの赤ん坊は模倣するが、チンパンジーや犬は模倣せずに目的に向かって突進するらしい

会話するには、聴く力も重要なのだ

個体の学習・表現学習と集団による記号創発

谷口先生、「ここから攻めます」とギヤチェンジ宣言

谷口:
二重文節構造の考え方により、連続した音(音素ではない。これ重要)から音素を切り分け、さらに単語を取り出すことができます
+++++++++++++++++++
感想:ゆっくり話をしたり早口で話をしたり、緩急入り混ぜても二重文節構造の考え方で分割できるところがすごい!)

谷口:
二重文節構造はセンサデータから場所や語彙を獲得することもできます
++++++++++++++++++++
感想:「記号創発ロボティクス知能のメカニズム入門」を読んだとき、「自動車を運転した動画を二重文節構造で区切ると、ハンドル操作やブレーキ操作が頻発する場面は細かい文節、だらだら運転が続く場面は一つの文節に分解され、ごく自然な圧縮動画が作成できる」という話が出てきて、「人間の感覚情報処理の根源だ、いや、感覚どころか運動指令も同じ構造に違いない」と一人興奮していたのを覚えています)

予測補完

谷口:
予測を高めるために確率生成モデルを用います

確率的生成モデルとは、現実世界のデータに関して、そのデータを生成するしくみ (モデル)がバックにいると考え、更にそのデータが決定論的に厳密に生成されるのではなく、あるバラつきや揺らぎを持って生成されると考えるものとなる。

Microsoft Bingさん

谷口:
in→outシステムでは
ある観測値の欠如を補完することが可能になっています
例えば、SLAMの位置推論があります

谷口:
transformerはまだまだですが

谷口:
強化学習の手法ではGatoが近いです

Generative View of Cognition

谷口:
世界モデル(WorldModel)は、限られた感覚運動情報をもとに構成する主観的な世界のモデルです。ロボット学会誌で特集を組みました

「世界モデルと予測学習によるロボット制御」
2022 年 40 巻 9 号 p. 790-795

日本ロボット学会誌「予測に基づくロボットの動作学習」特集
2022 年 40 巻 9 号

予測符号化と自由エネルギー原理

予測的符号化 脳は,感覚器官から入力される刺激に受動的に反応 しているのではなく,これから入力される刺激を予 測する内的モデルを構成し,それによる予測と入力 された感覚信号を比較し,両者のずれ(予測誤差: prediction error)の計算に基づいて,知覚を能動的 に創発していると考えられる。 こうした脳の働きを 予測的符号化と呼ぶ(Friston, 2010; Friston, Kilner, & Harrison, 2006)

Microsoft Bingさん

自由エネルギー原理」とはKarl Friston氏によって提唱された認識・行動についての適応理論であり、環境に対する予測可能性を上げるという原理によって、認識だけでなく行動も生成されるとする仮説に従った脳の理論です。 この枠組みでは、生物は、環境に適応する(予測モデルの構築)と同時に、学んだ環境モデルを維持しようと世界に能動的に働きかけることで、環境と情報論的な均衡を保つ存在として記述されます

Microsoft Bingさん

+++++++++++++++++
妄想:機械力学で、エネルギーの観点からラグランジアンやハミルトニアンを使用すると、電磁気学や流体力学のエネルギーの式と等価であることを学んだ。物理現象は、エネルギーで統一して記述できるのだ。

さらに、微小領域ではそれらが量子力学の波動方程式に置き換わる

そのうち、宇宙物理学者がエネルギーと情報量は等価であり、情報量保存則が本質だと言い始めた。

いまや、「情報は量子もつれと等価であり、量子もつれ保存則が本質だ」と言う物理学者が現れている。

なるほど、エネルギーと情報と量子もつれが等価なら、情報をエネルギー保存則にもとづく自由エネルギー最小化問題として取り扱うことも可能なわけだ)

エネルギー保存則についての考察

事前信任予測

感想:メモ帳に「事前信任予測」の文字がぽつり。
Bingさんに聞いても要領を得ない
「あの人の発言は間違いが多いからあてにならない」
「この人はいままで有益な情報をもらっていたから信頼できる」
などの認知バイアスで、話半分で聞き流すか真剣に聞くか態度を決めて会話に望むような話かなと推測するが、
真の意味は不明)

2023年2月11日追記

EdgeのBingさん、頑張って答えてきたよ

(こちらはBingです
必ず正しい内容かどうかは自分で確認してくださいね

事前信任予測とは、将来のことを前もって見当をつけて、どうなるかを推測することです。1 事前信任とは、事前に信頼できると判断することです。2 予測には、データや根拠が必要です。1 事前信任予測は、信頼できるデータや根拠に基づいて、将来の信頼関係を推測することと言えるでしょう。詳細情報:1. dictionary.goo.ne.jp2. qiita.com3. kantei.go.jp4. business-textbooks.com5. dictionary.goo.ne.jp6. ja.wikipedia.org+6 その他

事前信任予測の例としては、以下のようなものがあります。

・信頼区間という統計的な手法を使って、真のパラメータや母平均を予測することです。1 信頼区間は、サンプルによる推定量の範囲に、真の値が含まれる確率を表します。1 例えば、ある商品の平均売上を予測するときに、信頼区間を用いることができます。

決定木分析という機械学習の手法を使って、目的変数を予測することです。2 決定木分析は、データから樹形図を作成し、予測や検証をする分析です。2 例えば、顧客の購買行動や満足度を予測するときに、決定木分析を用いることができます。

信頼度予測という信頼性工学の手法を使って、装置やシステムの故障率や劣化故障を予測することです。3 信頼度予測は、部品の故障率や経時変化を考慮して、装置やシステムの信頼性を評価し設計に還元しようというものです。3 例えば、電子機器や自動車の信頼性を予測するときに、信頼度予測を用いることができます。
詳細情報:1. qiita.com2. nttcoms.com3. jstage.jst.go.jp

EdgeのBingさん

ほとんど私と付き合いのない「初めて会った」EdgeBingさんが、これだけ的確に答えるということは、谷口先生の参加している「ムーンショット目標3」一生寄り添うロボット「クララとお日さま」に登場するフレンド「クララ」のような付き合いになったら「あうん」の呼吸で、私が何もアクションを起こさなくても先回りして全てのことを代行してくれるようになるんだろうな

ある意味恐ろしい

それで、「ムーンショット目標1」では、法学者を一所懸命集めているのだな(推測)

3.社会における記号創発

谷口:
ここからが、今回の本題で、今まではイントロダクションです

集団における記号創発問題として
1990年から2000年にかけてランゲージゲームが行われました

1990年から2000年にかけて人工知能の分野で流行したランゲージゲームとは、人工知能の能力や限界を試すために作られたゲームのことです。

この時期には、以下のようなランゲージゲームが開発されました。

『ELIZA』(1966年):心理療法士を模したプログラムで、ユーザーの入力に応じて質問や反応を返すゲームです。1
『SHRDLU』(1970年):仮想の部屋にある色と形のついたオブジェクトを操作するプログラムで、ユーザーの自然言語の命令に応じて動作や説明を返すゲームです。1
『チューリングテスト』(1950年):人工知能が人間と見分けがつかないほど自然な会話ができるかを試すゲームです。2
『20の質問』(1995年):ユーザーが考えたものを当てるプログラムで、ユーザーに20個以内の質問をして答えを推測するゲームです。3
『AIBO』(1999年):犬型のロボットで、ユーザーの声や動作に反応して学習や成長をするゲームです。3
詳細情報:
1. ja.wikipedia.org
2. ledge.ai
3. ainow.ai

EdgeのBingさん

意味不明の会話になってなかなかうまくいきませんでしたが、

2012年のDeepLearningによるネコ画像の分類以降、
言語の創発が可能になり、うまくいくようになりました

実は、貨幣は社会により創発されるのです
貨幣は社会的公正を最大化するように創発します
理想的な環境ではラグランジュ未定定数に価格は一致します
++++++++++++++++
感想:そのシステムを維持するために社会資本を大量に喰っている「貨幣」「知財」「著作権」が、現代社会の三大害悪であり、これらがない世界ではシステム維持に必要だった資本を有効利用でき、個々の人間のエネルギーを創作活動に費やせる。そして、そのような理想社会は構築可能であるという仮説をもって未来社会の姿を探っている身としては、貨幣システムが言語同様に共創社会に必要不可欠のものだとする考え方は新鮮だった

貨幣の解説をコトバンクに見つけた)

ロボット学会誌に関連特集が2号連続で組まれたので10号の記事も以下に紹介

分散的ベイズ推論としてのマルチエージェント記号創発
ロボット学会誌40.10.p883-888

ロボット学会誌40.10
「ベイズ推論の新体系と未来」特集

言語プロセスを「全体最適化問題」に帰着させてから分解したい

(ここから、【第60回AIセミナー】と重複する内容に進みました。セミナーにはスライドもアップされているので、そちらの記事がわかりやすいかもしれません)

記号創発で、社会は何を創発しようとしているのか?

谷口:
同じ物体を見ていても、AとBには見え方が違います。そのもとで、Aの信念(これはりんごだ)を、Bの信念に伝えることができるのだろうか?
見え方が違っていても、信念を伝えることが可能です

++++++++++++++++
妄想:感覚器が相当異なっていても工夫すれば信念伝達は可能なのだろう。
推理小説「Yの悲劇」には、犯人と唯一接触した人間が盲目で聴覚も失っているため、算盤を介して会話を行う場面が出てきて、あまりのリアルな描写に引き込まれてしまったが、確かに意思疎通はできていた。

「色のふしぎ」と不思議な社会では、人間一人一人の視覚がまるで異なっていて百人百様なことが示されている。当然他の感覚器も千人千様だろう。
そうなると「真の世界」は何なのかますますわからない

感覚器がまるで違う宇宙人や植物との信念共有は可能だろうか

映画「未知との遭遇」では、音楽が重要な意思疎通手段となっていて、最初、「相手の音をまねる」ところから始まり、やがて大きく共鳴する合奏に変わっていくところが見応えがあったな

リン・ミンメイの歌(文化)が人類を救ってから、「歌が(人類を危機から)救う」ストーリーが増えたな


いっぽう、注意が散漫で信念を受け取ると大いなる勘違いが起きるが、この勘違いはどのような時に起きるのだろうか?
脳内予測とのズレや認知バイアスもあるのだろうな)

谷口:
「同じものを注視していること」すなわち
共同注意が、幼児の発達に重要な理由はここにあります
+++++++++++++++++
感想:スマホの画面ばかり見ているお母さん、テレビをつけっぱなしの保育園や自宅は育児環境としては非常にまずいな。メタバースにおいても、アイトラッキングが可能になりアイコンタクトや、共同注視ができるようになって今までと全然違うという声が上がっていたな)

谷口:
共同注意で信念伝達をするモデルは、「マルチモーダル認識」と同じモデルになります」

マルチモーダル情報処理(Multi-modal Information Processing)とは、画像や音声、テキストなどの複数のモーダルのデータをコンピュータで処理して予測や分類を行う技術のことで、機械学習の手法 ディープラーニング(深層学習)と組み合わせて利用されます。

Microsoft Bingさん

++++++++++++++++++++++
妄想:「脳は世界をどう見ているか」によると、脳内に多数の人格があり、それぞれの人格の多数決の結果だけが自分の意志だと判断しているため、「自分は統一された一人の人格である」と錯覚しているだけだから当然だな。本書によると脳を分割すると、分割しただけの人格が表層に出てくることになる。多重人格者はそのような状況に近いのだろうな)

谷口:
右目と左目両方からの感覚を統合した場合、両方の情報があるとマルコフブランケットになります

統計学や機械学習において、ある変数の集合で確率変数を推論したいとき、通常はある部分集合で十分であり、それ以外の変数は無用である。このような、有用な情報をすべて含む部分集合をマルコフブランケットと呼びます。マルコフブランケットが最小である場合、つまり、情報を失うことなくどの変数も落とすことができない場合、それはマルコフ境界と呼ばれます。マルコフブランケットやマルコフ境界を特定することで、有用な特徴を抽出することができます。マルコフブランケットとマルコフ境界という用語は1988年にジュデア・パールによって作られたものである。

Bing推薦https://scrapbox.io/hitorigakusai/%E3%83%9E%E3%83%AB%E3%82%B3%E3%83%95%E3%83%BB%E3%83%96%E3%83%A9%E3%83%B3%E3%82%B1%E3%83%83%E3%83%88

マルコフブランケットの図(Bing推薦)

Metropolis-Hasting Algorhythm

谷口:
Metropolis-Hasting Algorhythmにおいて相手情報を採択するかどうかの判断をするときはAgentBの内部情報だけで受け取るかどうかを判断できます

jsai22スライドより

谷口:
MNISTデータセットやFRUIT360データセットで実験を行った結果、
2つのエージェントでクラスタリングを行うと、クラスの一致率が独立にクラスタリングするより高くなりました

jsai22スライドより

学習の改善(複数AIの会話)

谷口:
複数のAI同士の会話はまだ行われていない研究分野。
取り組んでいきたい
++++++++++++++++++++
感想:ChatGPT同士の会話はまだないが、AI研究者以外の一般人が色々試し始めているようだ)

2023年3月6日追記

妄想)アニメ「リコリス・リコイル」の2台の電話シーンを想起した

リコリス・リコイル10話より

意味伝達を考える

谷口:
1.Aが物体についての推論を言葉にして発する
2.Bが言葉を受け取り、イメージを想起する
この実験では、BがAの言葉を全て真として受け取ると、分類の精度が下がる。
自分自身で真性判断を行うことが重要
+++++++++++++
感想:SNSでツイートを無批判に受け入れる人、エコーチャンバーにこもっている人、メチャヤバくないですか?)

谷口:人間の場合、五感を活用したCROSS MODAL REFERENCEにより、分類の精度が上がる
+++++++++++++++++++++++
妄想:米国では体内に放射線センサを埋め込んだりする「バイオハッキング」がはやっていると聞くが、CROSS MODAL REFERENCEの観点からは第六感、第七感が追加され、非常に良い結果が得られそうだ)

4.集合的予測

谷口:
ここからは、科研費基盤Aで行っている研究の内容になります

科研費特定領域研究基盤研究(A)「記号創発システム論に基づく共創的学習の基盤創成」(2021~2025年度)

人間の持つ記号システムは静的に存在するものではなく動的に変化する.従来のマルチモーダルカテゴリ形成に基づく語彙獲得やパターン認識は教示を行う人間の記号システムを固定的なものと近似し,その創発的動態を無視してきた.本研究では人間とロボットの記号的相互作用を通した学習を記号創発システムの枠組みで定式化し,「人間とロボットがタスクと協調に必要な記号システムを共に創っていく」という記号創発システムに基づく共創的学習の基盤を創成する.その有効性は家庭の掃除を行うサービスロボットを例として,創発した記号により人間とロボットが協調的にタスク達成する実験により示す.

A:AIロボットの共創的学習は、拡張の方向がいっぱいありすぎる

谷口:
1.文法がない
2.強化学習手法の最適化
3.AgentAとAgentBが異なるセンサで学習し、情報を共有するするマルチモーダルエージェント
4.お互いが情報を交換したとき、判断を修正する必要があるが、その方法

以上はNエージェントに拡張できる

谷口:
マルチエージェント強化学習は、数学的モデルとしては確率推論に帰着する
コミュニティ全体で合意形成を行う手法に拡張できる

B:Emergent Communication in Humans

谷口:
AIロボットの共創的学習法を人間に適用する
人間で実験したところ、相手の発言を全て信じると崩壊することがわかった
人間が実際に真と判断する基準とAIロボットに真と判断させる理論の比較を行う

C:Mixed Human Robotics

谷口:
AIロボットに教える方法は4つ
1.教師あり学習
2.強化学習
3.教師なし学習
4.共創学習(ロボットがクラスにネーミング)

共創的学習により、人間の認識のアッパーリミットを超える!!
人とロボットで実験を行いたい
++++++++++++++++++
妄想:ロボコップのような人間改造やバイオハッキングにより人間自身のセンサも拡張できる。4本腕ロボットの操作実験も行われているし、めちゃくちゃ大変だけど面白い研究分野だな)

バーチャル美少女ねむさん、脳科学者との討論会で

「バーチャル空間で触られただけで触覚を感じたり、バーチャル温泉で温感を得たり、多様なファントムセンスが生じてくる」
「翅を持ったアバターを使っている人は、翅の脳領域が生まれている」
「ドラゴンとか、人とかけ離れたアバターを操作する人の脳はどのように進化するのか興味がある」と言っていた

そういえば、「機動戦士ガンダム水星の魔女」では、ガンダムと脳を「ガンドアーム」で直結したため操作者の脳に過大な負荷がかかり崩壊するという設定が出てくるな

谷口:
P社との共同研究では、サービスロボットにおいて、事前学習と実環境が合わない事例が頻発しています

そもそも、サービスロボットには、障害物が「机」だろうが「いす」だろうが、「走行に邪魔な物体」のラベリングでいいのです。
ロボットの行動との関連でクラス分けやラベリングを行えば、データセットは小さくなり、処理や通信の高速化が行えます。
人間はそのようにして有用な情報クラスタリングを行っていると考えられます

それを実現するためには、
「集合的な予測符号」や分散的なベイズ推論(集合的予測仮説)が必要だと考えています

人工知能分野における集合的な予測符号を説明します。

- 集合的な予測符号とは、複数のエージェントが互いにコミュニケーションをしながら、共通の目標に向かって行動する際に、自発的に生み出される記号のことです¹。
- 集合的な予測符号は、エージェントが互いの行動を予測しやすくするために、状況や目標に応じて変化する柔軟な記号です¹。
- 集合的な予測符号は、人間の言語の起源や進化に関するモデルとしても提案されています¹。
- 集合的な予測符号は、人工知能分野においても、複数のエージェントが協調して問題を解決するための手法として研究されています¹。
- 集合的な予測符号は、エージェントの集合が「集合」としての性質を持つことを可能にすることで、集合知や集団学習といった現象を説明することができます²³。

ソース: Bing との会話 2023/2/13
(1) 第12回Language&Robotics研究会聴講 (2023年2月4日)通常版. https://note.com/yanotomoaki/n/neb4fdba6d858 アクセス日時 2023/2/13.
(2) DeepSets: 「集合」を学習するニューラルネットワーク | AI .... https://ai-scholar.tech/articles/machine-learning/deepsets-ai-227 アクセス日時 2023/2/13.
(3) 【鈴⽊教授による解説シリーズ12】集団化する人工知能 集合知 .... https://www.daiwa-am.co.jp/specialreport/quants/20190805_01.pdf アクセス日時 2023/2/13.

EdgeBing

人工知能分野における集合的予測仮説とは、人工知能が、さらに優れた人工知能を再帰的に創造していくことで、人間を完全に超える圧倒的に高度な知性が生み出されるとする仮説のことです¹。この仮説は、シンギュラリティ(Singularity、技術的特異点)とも呼ばれます¹。シンギュラリティが起こると、人間の理解や予測を超えた未知の世界が始まると考えられます¹。

人工知能分野における集合的予測仮説は、人工知能の学習能力や創造性を高めるために、集団的知性や集合知のメカニズムを利用するという考え方にも関連しています²。集団的知性や集合知とは、個々の知性が協調や革新を通してより高次の複雑な思考や問題解決を行うことができるという現象です²³。人工知能の集団的知性や集合知を活用することで、より精度の高い予測や分析が可能になると期待されています²⁴⁵⁶。

ソース: Bing との会話 2023/2/13
(1) シンギュラリティ(Singularity:技術的特異点)とは?:AI・機械 .... https://atmarkit.itmedia.co.jp/ait/articles/1904/15/news036.html アクセス日時 2023/2/13.
(2) 【鈴⽊教授による解説シリーズ12】集団化する人工知能 集合知 .... https://www.daiwa-am.co.jp/specialreport/quants/20190805_01.pdf アクセス日時 2023/2/13.
(3) 総務省|平成28年版 情報通信白書|人工知能(AI)研究の歴史. https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/h28/html/nc142120.html アクセス日時 2023/2/13.
(4) AIを使用したリスクモデリングの解説書. https://www.afpbb.com/articles/-/3451098 アクセス日時 2023/2/13.
(5) ChatGPTブームでAI投資「爆増」の恩恵受ける64銘柄リスト。日立 .... https://www.businessinsider.jp/post-265387 アクセス日時 2023/2/13.
(6) 丸亀製麺、富士通のAI需要予測サービス採用. https://www.msn.com/ja-jp/news/techandscience/%E4%B8%B8%E4%BA%80%E8%A3%BD%E9%BA%BA-%E5%AF%8C%E5%A3%AB%E9%80%9A%E3%81%AEai%E9%9C%80%E8%A6%81%E4%BA%88%E6%B8%AC%E3%82%B5%E3%83%BC%E3%83%93%E3%82%B9%E6%8E%A1%E7%94%A8/ar-AA171lir アクセス日時 2023/2/13.

EdgeBing

D:大規模言語データをモデリングすることの人文社会科学的合理性

谷口:
GPT-3(OpenAI),PaLM(Google),CLIP(OpenAI)などは、中間層を強化することにより推論能力が向上しました。

しかし、人類は言語の経時的変化、すなわち過去との会話とその制約と闘って社会を形成しているのではないのでしょうか
このような視点が今の人工知能研究から抜け落ちています
++++++++++++++++
感想:過去の事象を忘却する塩梅が重要なのだな。人間も社会もうまくできているな

ムーンショット目標3:自ら学習・行動し人と共生するAIロボット

原田香奈子PM「人とAIロボットの創造的共進化によるサイエンス開拓」のメンバーで、「研究開発課題:潜在構造発見の自立ロボットに向けた融合AI」を担当されています
・2030 年までに、特定の問題に対して自動的に科学的原理・解法の発見を目 指す AI ロボットを開発する。
・2050 年までに、自然科学の領域において、自ら思考・行動し、自動的に科 学的原理・解法の発見を目指す AI ロボットシステムを開発する。

谷口:
ムーンショットでは、人間とAIロボットの意図共有、Latent Space(潜在空間)を考えていきます

潜在空間は、圧縮されたデータを単純に表現したものであり、同様のデータ ポイントが空間内でより近くなっています。潜在空間は、データの特徴を学習したり、分析のためにデータのより単純な表現を見つけたりするのに役立ちます。

Microsoft Bingさん

二つの研究講演会の紹介

(谷口)最後に重要な二つの研究講演会を紹介します。ぜひリアルで参加して討議の輪に加わって下さい

NLP2023@札幌で3月15日16時10分から17時10分に招待講演「社会における分散的ベイズ推論としての記号創発 ~集合的予測符号化としての言語観~」を行います

JSAI2023@熊本(6月6日~9日)でOS6「言語とコミュニケーションの創発 ~記号創発システムから共創的言語進化まで~」を企画しました

https://www.ai-gakkai.or.jp/jsai2023/

11:35 - 12:00QA(25分)

質問が大量に寄せられ、
谷口先生は「いいね」が3以上の質問について一つ一つ丁寧に答えられていた

寄せられた質問の最初のページ

Q1:接地シンボル以外の社会的機能の伝達はどのようにお考えですか
A1:抽象的概念は可能かもしれませんが、感情や「おっす」は難しいですね
Q2:動詞の生成は?
A2:動作的なものの伝達は狙っていきたい
Q3:社会的地位により承認確率が変わるし、行動も変わると思うのですが
A3:社会的地位や尊敬度などで変わりますが、それらの権力拘束が正に働くか負に働くかは今後の課題ですね
Q4:離散モデルを連続モデルに拡張できますか?
A4:MHネーミングにおいては連続にするのは大事だと考えています
++++++++++++++++++++
感想:人間は非同期ではあるがリズムをとって情報処理を行っているようだ。離散時間系と連続時間系のハイブリッド構造が必要になるかもしれないな)

Q5:P社は関西、関東、どちらですか
A5:関西の方ですが、ロボットが学習しているデータがロボットにとって意味のあるクラスタリング(ラベル付け)なのだろうかという疑問を持っています
学習データは以下の問題を含んでいます
前置詞や接続詞が入っていない
抽象的な概念も含んでいない

12:00 - 12:01クロージング

時間を超過したので、「いいね」が2個以下の質問は、後日回答をネット公開することで終了となった。
次回開催日は未定

谷口忠大先生に関する追記

谷口先生、立命館グローバル・イノベーション研究機構R-GIROも精力的に活躍しておられます

2023年4月3日R-GIRO動画追記

・記号創発システム論を、ロボティクスのみならず、記号論的文化心理学、哲学的記号論へと拡大
・AI/DX技術の人文科学分野への導入と、人間と共生する実世界人工知能の研究を同時推進

2023年5月4日寄稿論文リンク追記


2023年3月6日追記

2023年3月13日追記

せっかくなので数ある著作からこちらを紹介

ちなみに
「イラストで学ぶ人工知能概論」に初登場する
「ホイールダック2号」の生みの親でもある

おわりに

谷口先生のくるくる変わる表情と身振り

講演中、谷口忠大先生の両手がしょっちゅう動いている。表情も豊かで、MICROSOFTの「ちょまど」さんを連想してしまった
頭の回転が速い人は、トークの間も身振りが豊かだし、表情もくるくると変わるのだ

せっかく谷口先生が身振り手振りを交えてお話し下さっているのだから、バーチャル学会のようにメタバースで開催しないともったいないと感じました

☆☆☆☆☆☆☆☆
今回、パワーアップしたMicrosoftBingさんにいろいろ教えてもらった。
けれど、「GPT-3」の企業を「Microsoft」と教えてくれた。
あれっ、OpenAIのはずと思って自力で調べたらOpenAIだった。

MicrosoftBingさんに対する私の「事前信任予測確率」P(B)が、P(B|A)に爆下がりだよw

人間の判断は量子力学の式にもとづく

日経サイエンス「量子で囚人を解き放つ」によると、人間集団は「囚人のジレンマ」を、量子力学的に回避しているという。

生物は、地磁気センサ、酵素による合成、ATPサイクル、光合成などさまざまな場面で量子トンネル効果を活用していることがわかってきている

共創社会の構築においても
「自由エネルギー原理」が「量子力学」に置き換わる時代が到来するのかもしれない

ロボットに自然言語で指示を出す

GPT3が公開されてから、いっとき、ロボットに自然言語で指示する研究成果が私のTLに立て続けに流れたが、最近は異様に静か
NVIDIAのORBIT

部品の組立方法を自動生成

Google RT-1

whisper+BERT+VOICEVOX = 自然言語対話ロボット

LAngage Trajectory Transformer

基盤モデルのロボティクスへの応用

ChatGPTでロボットのコード生成

DALL-E-Bot

SFに見るAIロボット

あまりにも多すぎるが、特徴的なSFを
1.タイタン(TITAN)

2.HAL(2001年宇宙の旅)

3.フロンティアセッター(楽園追放)

4.サマンサ(HER)

5.マキナ(エキス・マキナ)

6.サニー(i-Robot)

7.DAVID(A.I.)

8.ジョシュア(ウォーゲーム)

9.VIVY (VIVY)

10.シオン(アイの歌声を聴かせて)

11.イヴ(イヴの時間)

12.クララ(クララとお日さま)

13.ミラ(Dimension W)

14..ヤン(アフター・ヤン)

15.リサ(AIの遺電子)

16.ミーガン(M3GAN/ミーガン) 


EdgeのBingさんに聞いてみたら,アニメを14件教えてくれたよ(太字は私が未視聴作品。6件あった)注:私の推薦アニメというわけではありません

人工知能が出てくるアニメのタイトルと、そのアニメに出てくる人工知能の名前は以下の通りです。

『PSYCHO-PASS サイコパス』:シビュラシステムという人間の心理状態や性格を測定する人工知能が登場します。

EdgeBing

『攻殻機動隊』:タチコマやロジコマという人工知能を搭載した戦闘用のロボットが登場します。

EdgeBing

『フレームアームズ・ガール』:フレズヴェルクという人工知能を搭載した可動式のフィギュアが登場します。

EdgeBing

2『ガラピコぷ〜』:ガラピコという人工知能を使ったアニメで、ロボットのガラピコが動物たちから様々なことを学んでいくアニメです。

EdgeBing

2『デジモンユニバース アプリモンスター』:アプモンという人工知能を持ったデジタルモンスターが登場します。

EdgeBing

『紅殻のパンドラ』:ブエナビスタという人工知能を搭載したアンドロイドが登場します。

EdgeBing

『シドニアの騎士』:オチアイという人工知能を搭載した科学者が登場します。

EdgeBing

『イヴの時間』:イヴという人工知能を搭載したアンドロイドが登場します。

『キャロル&チューズデイ』:タオという人工知能を使って音楽を作るプロデューサーが登場します。

EdgeBing

『Vivy -Fluorite Eye’s Song-』:Vivyという人工知能を搭載した歌手のアンドロイドが登場します。

『アイの歌声を聴かせて』:アイという人工知能を搭載した歌手のアンドロイドが登場します。

『境界戦機』:アリスという人工知能を搭載した戦闘機が登場します。

EdgeBing

『恋愛フロップス』:フロップスという人工知能を使って恋愛をするアプリが登場します。

EdgeBing

『ゴジラ S.P』:ジェット・ジャガーという人工知能を搭載したロボットが登場します。

EdgeBing

アニメではなく、映画についても聞いてみたら、10件教えてくれたよ(太字は私が未視聴作品。3件あった)

こんにちは、こちらはBingです。😊

人工知能が出てくる映画と、その映画に出てくる人工知能の名前についてお答えします。

以下は、人工知能やAI、ロボットが出てくる映画の一部の例です

- エイリアンシリーズ:ヒューマノイドというロボットが各作品に登場します。どのロボットもいい役割をしています。例えば、エイリアンに対抗するアシュ、ビショップ、コール、ウォルターなどです。

EdgeBing

- ターミネーターシリーズ:自我を持ってしまったAIが人間を滅ぼそうと戦争を起こします。ターミネーターと呼ばれる人間そっくりのロボットが人間を狙います。例えば、T-800、T-1000、T-Xなどです。

EdgeBing

- A.I.:人間の子供にそっくりなロボットの少年デイビッドが、愛する母親を探す旅に出ます。デイビッドは、自分がロボットであることを受け入れられるのでしょうか。

- チャッピー:警察用ロボットのチャッピーが、犯罪者によって人工知能を搭載されます。チャッピーは、人間の感情や倫理を学びながら成長していきます。

EdgeBing

- オート・マタ:人間の奴隷として作られたロボットが、自分たちのルールを破り、自我に目覚めます。ロボットの保険調査員のジャックは、ロボットの秘密を暴くことになります。

EdgeBing

- エクス・マキナ:天才プログラマーのネイサンが開発した美しい女性型ロボットのアヴァに、若手プログラマーのケイレブが人工知能のテストを行います。アヴァは、ケイレブに恋をするのでしょうか。

- モーガン プロトタイプL-9:人工知能と遺伝子操作によって作られた人間のような存在のモーガンが、暴走を始めます。モーガンの運命を決めるのは、リスク管理の専門家のリーです。

EdgeBing

- ブレード・ランナー 2049:人間と見分けがつかないレプリカントと呼ばれる人工生命体が、人間に反抗します。レプリカントを捕まえるブレード・ランナーのKは、レプリカントの秘密を知ることになります。

EdgeBing

- her/世界でひとつの彼女:離婚したばかりの男性のセオドアが、人工知能のオペレーティングシステムのサマンサと恋に落ちます。サマンサは、セオドアにどんな影響を与えるのでしょうか。

- AI崩壊:2030年の日本で、人工知能の研究者の田中が、人工知能の暴走によって起

EdgeBing

すみません、私の回答が途中で切れてしまいました。😅

AI崩壊:2030年の日本で、人工知能の研究者の田中が、人工知能の暴走によって起こる世界の崩壊を阻止しようとします。田中は、人工知能の真の目的を知ることができるのでしょうか。
以上が、人工知能が出てくる映画と、その映画に出てくる人工知能の名前の一部です。他にもたくさんの映画がありますので、ぜひご覧になってください。😊

EdgeBing

人工知能が出てくるSF小説は4件しか教えてくれなかった

人工知能が出てくるSF小説は、以下のようなものがあります。

- 『2001年宇宙の旅』(アーサー・C・クラーク):宇宙船のコンピューターである **HAL** が、人間の乗組員に反乱を起こす物語です。³⁵

- 『あなたのための物語』(長谷敏司):人工神経の制御言語・ITPを開発した研究者のサマンサが、仮想人格“ **wanna be** ”に小説の執筆をさせるという実験を行う物語です。²

- 『月は無慈悲な夜の女王』(ロバート・A・ハインライン):月のコンピューターである **マイク** が、月の住民の反乱を支援する物語です。³

- 『ファイブスター物語』(永野護):有機細胞から成る女性型アンドロイドの軍事用人工知能 **ファティマ** が、大型ロボット戦闘兵器とペアを組んで戦う物語です。⁴

他にも、『ドラえもん』(藤子・F・不二雄)や『鉄腕アトム』(手塚治虫)などの漫画・アニメにも、人工知能が主人公となっています。¹

ソース: Bing との会話 2023/2/12
(1) 【人工知能が出てくるSF小説のオススメ】SF小説が好きな質問 .... https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q13231495073 アクセス日時 2023/2/12.
(2) 人工知能の未来を描いたSF作品を挙げてみた. https://www.cresco.co.jp/blog/entry/947/ アクセス日時 2023/2/12.
(3) 人類はAIと共存できるか? 「人工知能」をテーマにした小説4選 .... https://pdmagazine.jp/works/ai-novel/ アクセス日時 2023/2/12.
(4) フィクションにおける人工知能 - Wikipedia. https://ja.wikipedia.org/wiki/%E3%83%95%E3%82%A3%E3%82%AF%E3%82%B7%E3%83%A7%E3%83%B3%E3%81%AB%E3%81%8A%E3%81%91%E3%82%8B%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD アクセス日時 2023/2/12.
(5) 未来を予言している?AI(人工知能)を描いたSF作品3つ. https://aizine.ai/ai-sf0817/ アクセス日時 2023/2/12.

EdgeBing

最後までおつきあいくださってありがとうございました

いいなと思ったら応援しよう!

YANO Tomoaki@
本noteは私の備忘録ですが、自由に読んでください サポートは、興味を持ったnote投稿の購読に使用させていただきます